resilient software design patterns - oio · 2020-06-08 · 1 orientation in objects gmbh weinheimer...

1

Orientation in Objects GmbH

Weinheimer Str. 6868309 Mannheim

[email protected]:

Resilient Software Design Patterns

19.1

Resilient Software Design Patterns© Orientation in Objects GmbH

Ihr Sprecher

2

Thorsten Maier

Trainer, Berater, Entwickler

SchwerpunkteArchitektur

ProzesseQualitätssicherung

2

Resilient Software Design Patterns© Orientation in Objects GmbH 3

Resilient Software?


Resilient Software?

Widerstandsfähig

gegen Fehler

3


Warum?


Warum?

… weil jeder Ausfall viel Geld kostet

und viele User verärgert

4


Warum?

… weil jeder Ausfall viel Geld kostet

und viele User verärgert


Was ist daran neu?

5


Was ist daran neu?

…mehr User

…mehr Daten

…schnellere Anpassungen


��ü�� = M��

M�� + M��R

MTTF = Mean Time To Failure

MTTR = Mean Time To Recovery

6


Traditioneller Stabilisierungsansatz

��ü�� = M��

M�� + M��R

∞


Der „resilient“ Ansatz

��ü�� = M��

M�� + M��R

0

7


2 Millionen Google-Server

Unrealistische Annahme

MTTF = 30 Jahre

~ alle 8 Minuten fällt ein Server aus


Typical first year for a new cluster (~2400 server)

~0.5 overheating (power down most machines in <5 mins)

~1 PDU failure (~500-1000 machines suddenly disappear)

~1 rack-move (~500-1000 machines powered down)

~1 network rewiring (rolling ~5% of machines down over 2-day span)

~20 rack failures (40-80 machines instantly disappear)

~8 network maintenances (4 might cause ~30-minute random connectivity losses)

~3 router failures (have to immediately pull traffic for an hour)

~1000 individual machine failures

...

http://www.odbms.org/download/dean-keynote-ladis2009.pdf

8


Things will crash.

Deal with it!

Resilient Software Design


Wie machen wir eine Software „resilient“?

9



Redundanz



Redundanz

Isolation

10



Redundanz

Isolation

Lose Kopplung



Redundanz

Isolation

Lose Kopplung

Fallback

11



Redundanz

Isolation

Lose Kopplung

Fallback


ISOLATION

12



13


BULKHEADS


Bulkheads im Kleinen:

Methodenaufrufe

14


Mögliche Probleme?

public int fakultaet(int n) {

return (n == 0) ? 1 : n * fakultaet(n - 1);

}


Schon besser…


if (n < 0) {

throw new IllegalArgumentException("n zu klein");

}


}

15


…


if (n < 0) {

throw new IllegalArgumentException("n zu klein");

}

if (n > 12) {

throw new IllegalArgumentException("n zu groß");

}


}


Validierung der AufrufparameterDatentypen korrekt?

Wertebereiche eingehalten?

Vorbedingungen erfüllt?

!= null

Kreditkartennummer valide

…

„Freundliche“ RückgabewerteNiemals „null“ zurückliefern

Datenmengen beschränken

…

16


Bulkheads im Großen:

Software-Bausteine


3 Bausteine

17


Anwendung mit 3 Bausteinen

33


Deployment auf einem Server


18



Baustein wird 4 mal benötigt



Nachteile

wird nur 2 mal benötigt

Änderung an erfordert Reploy von


19


Unabhängige ArtefakteAnwendung mit 3 Bausteinen



Unabhängige Artefakte

Flexible Skalierung auf 3 Server



https://martinfowler.com/articles/microservices.html

20


Unabhängige ArtefakteVorteile

Isolierte Entwicklung

Isolierte Fehler

Isoliertes Deployment

…




Unabhängige ArtefakteNachteil

Kommunikation über

Prozess- und Netzwerkgrenzen

Verteilte Datenverarbeitung



21


8 Irrtümer der verteilten Datenverarbeitung

Netzwerk ist ausfallsicher

Latenzzeit = 0

Datendurchsatz ∞

Netzwerk ist sicher

Netzwerktopologie ist stabil

1 Netzwerkadministrator

Kosten des Datentransports = 0

Netzwerk ist homogen

Bill Joy, Tom Lyon, L Peter Deutsch und James Gosling

…


In Kürze:

Zuverlässigkeit und Konsistenz

existieren nicht mehr

22


Verhalten und Standorte der

Komponenten unseres Systems

verändern sich ständig


Komponenten liefern

unzuverlässige Daten oder

verschwinden völlig

23


Ok, wir brauchen ISOLATION

Aber wie kommen die Teile

wieder zusammen?


LOSE KOPPLUNG

24


LOSE KOPPLUNG

asynchron synchron


Asynchrone KommunikationEntkoppelt Sender und Empfänger

Verhindert Fehlerketten

Sender muss nicht warten

25


Barista

49

Kunde BecherwarteschlangeKassierer

Ausgabe

http://www.enterpriseintegrationpatterns.com/ramblings/18_starbucks.html

„Starbucks Does Not Use Two-Phase Commit”


Weiche zeitliche Anforderungen

Strict Consistency

Eventual Consistency (engl. „letztendlich“ nicht „eventuell“)

türschloss = geschlossen

letzte_reise = 523km

26


EmpfängerSender

tuerschloss=offentoggleTuerschloss()

Nicht idempotent

Exactly Once-Kommunikation

notwendig


EmpfängerSender

Idempotent!

At Least Once-Kommunikation

möglich

schliesseTuerschloss() tuerschloss=offen

27


??


Barista

54

Kassierer coffeeOrderQueue

JmsTemplate jmsTemplate = context.getBean(JmsTemplate.class);

jmsTemplate.convertAndSend("coffeeOrderQueue", new CoffeeOrder("Thorsten", "Cappuccino"));

@Component

public class Barista {

@JmsListener(destination = "coffeeOrderQueue")

public void receiveMessage(CoffeeOrder coffeeOrder) {

System.out.println("Received <" + coffeeOrder + ">");

}

}

28


LOSE KOPPLUNG

asynchron synchron


?

Mit wem kann / soll ich kommunizieren?

nicht

erreichbar

Startet

gerade

29


?

nicht

erreichbar

Startet

gerade

Als Architekt lassen sich alle Probleme mit

„Boxes and Lines“ lösen


Verzeichnis-dienst

1. registrieren

2. Dienst finden

3. Dienst nutzen

z.B.:

Netflix Eureka

Apache ZooKeeper

Cloud Foundry Discovery

Hashicorp Consul

…

30


Verzeichnis-dienst

1. registrieren

2. Dienst finden

3. Dienst nutzen

Als Entwickler brauchen wir etwas mehr


Eureka

1. registrieren

2. Dienst finden

3. Dienst nutzen

@SpringBootApplication

@EnableEurekaServer

public class Application {public static void main(String[] args) {

// ...}

}

31


Eureka

1. registrieren

2. Dienst finden

3. Dienst nutzen


@EnableEurekaServer

public class Application {public static void main(String[] args) {

// ...}

}


Eureka?

Weitere

Instanz

32


AlgorithmenSimple Round Robin

Zone Aware Round Robin

Random

Weighted Response Time

Resiliente Lösung:

Clientseitiges

Load-Balancing


@RibbonClient(name = "blauerService")

@RestController

public class Application {

@LoadBalanced

@Bean

RestTemplate restTemplate() {

return new RestTemplate();

}

@RequestMapping("/")

public String serviceCall() {

return restTemplate().getForObject("http://blauerService/", String.class);

}

}

Resiliente Lösung:

Clientseitiges

Load-Balancing

33


Security?


Security!

34


„Soll ich mich etwa

2x einloggen?“


„Meine Session

wird geteilt “

ExternalSession Store

35


Netter Nebeneffekt:

Anwendung wird zustandslos!

ExternalSession Store


Redis

@EnableRedisHttpSession

public class SpringSessionConfig {

@Bean

public JedisConnectionFactory connectionFactory() {

return new JedisConnectionFactory();

}

}

36


?


API Gateway …/blauerKreis/orders…/gruenerStern/customers

37


Zuul

@EnableZuulProxy

@EnableDiscoveryClient


public class ZuulProxy {

public static void main(String[] args) {

SpringApplication.run(ZuulProxy.class, args);

}

}


FALLBACK

38


Verzeichnis-dienst

1. registrieren

2. Dienst finden

3. Dienst nutzen

zur Erinnerung


Instanz fällt kurz

NACH der Auswahl aus

39


Circuit Breaker


Circuit Breaker

40


Circuit Breaker

errorCount = 3


Hystrix

@HystrixCommand(fallbackMethod = "fallback")

public String readString() {

return remoteServiceCall();

}

public String fallback() {

return "Fallback result";

}

41


Eureka

registrieren

Alternative

findenHystrix


ZENTRALE DIENSTE

42


db.url= green.dbserver.de

db.url= blue.dbserver.de

db.url= yellow.dbserver.de

db.url= green.dbserver.de

Wo liegt unsere

Konfiguration?


CentralConfiguration

43


Spring CloudConfig


@EnableConfigServer

public class ConfigServerApplication {public static void main(String[] args) {

SpringApplication.run(ConfigServerApplication.class, args);

}

}


Spring CloudConfig


@EnableConfigServer

public class ConfigServerApplication {public static void main(String[] args) {

SpringApplication.run(ConfigServerApplication.class, args);

}

}

@Value("${db.url}")

private String url;

44


Resilient Software Design

Patterns?!


Circuit Breaker

Bulkheads

Discovery Service

Location Transparency

Stateless

Microservice

External Session Store

Parameter Checking

Eventual Consistency

Async Communication

Exactly Once- und At Least Once-

Kommunikation

Idempotenz

API Gateway

Central Configuration

45



[email protected]

??

? ?

????

Fragen ?



[email protected]

Vielen Dank für Ihre Aufmerksamkeit!

resilient software design patterns - oio · 2020-06-08 · 1 orientation in objects gmbh weinheimer...

Documents