optimisation multi-critère : approche par …...plan de la présentation optimisation...

Optimisation Optimisation multimulti--critèrecritère : : approche par approche par métaheuristiquesmétaheuristiques

Clarisse DHAENENS, El-Ghazali TALBIEquipe OPAC (Optimisation PArallèle Coopérative)

Laboratoire d’Informatique Fondamentale de LilleUniversité de Lille 1, France

http://www.lifl.fr/~dhaenens

Optimisation Optimisation multimulti--critèrecritère

§ Nombreux secteurs de l’industrie concernés (Télécommunications, Transport, Environnement, Mécanique, Aéronautique, ...).

§ Racines dans le 19ième siècle dans les travaux en économie de Edgeworth et Pareto (Sciences de l’ingénieur, Management).

§ Optimisation multi-critère linéaire ou non-linéaire en variables continues [Steuer 86, White 90].

Optimisation combinatoire multi-critère.

Plan de la présentationPlan de la présentation§ Optimisation multi-critère (multi-objectif) :

Ø Définitions

Ø Problèmes

§ Algorithmes d’optimisation

Ø Classification

Ø Présentation des métaheuristiques

§ Classification des méthodes de résolution

§ Evaluation des performances et paysages

§ Exemple d’application

§ Conclusions & axes de recherche future

Plan de la présentationPlan de la présentation§ Optimisation multi-critère (multi-objectif) :

Ø Définitions

Ø Problèmes

§ Algorithmes d’optimisation

Ø Classification

Ø Présentation des métaheuristiques

§ Classification des méthodes de résolution

§ Evaluation des performances et paysages

§ Exemple d’application

§ Conclusions & axes de recherche future

{ ( ) xcf j

m

j

i

jixMax ∑

=

=1

)(

( ) Cxni ∈= ,,...,1

WxC xw j

m

jj <= ∑

=1

{ } mjx j ,..,1,1,0 =∀∈

{1 si l’élément j est dans le sac

0 sinonxj=

Sac à dos multi-critère [Teghem et al. 97]

PMO académiquesPMO académiques

§ Ordonnancement [Sayin et al. 99]

§ Cheminement [Warburton 87], Arbre recouvrant [Zhou et Gen 99]

§ Voyageur de commerce [Serafini 92], Affectation [Teghem 95]

§ Routage de véhicules [Park et Koelling 89], ...

: poids de l’élément j

: utilité de l’élément j / critère i

w j

ci

j

PMO industrielsPMO industriels

Design de réseaux de radiocommunications mobiles[P. Reininger et A. Caminada, CNET]

§ Télécommunications : Design d ’antennes [Sandlin et al. 97], affectation de fréquences [Dahl et al. 95], ...

§ Aéronautique : ailes d ’avions [Obayashi 98], moteurs [Fujita 98], ...

§ Environnement : gestion de la qualité de l ’air [Loughlin 98], distribution de l ’eau, …

§ Transport : tracé autoroutier, gestion de containers [Tamaki 96], …

§ Finances, Productique, Robotique, ...

Objectifs et/ou contraintes :Ø Min (Nombre de sites candidats utilisés)Ø Min (Interférences)Ø Min (Overhead)Ø Max (Trafic)Ø Couverture, Handover, Connectivité, ...

{(PMO)( ))(),...,(),()(min

21xxxxF fff

n=

Cx ∈s.c.

Optimisation Optimisation multimulti--objectifobjectif

Espace de décision

Espace objectif ou espace des critères : Y=F(C)

2≥n

Variables de décision ( )xxx kx ,...,, 21=

C

x1

x2

f2

f1

f3

F

• Dominance (minimisation)

• Pareto optimalité

y domine z ssi

Une solution

y

z

Solution Pareto optimale(efficace, noninférieure, non dominée)

Solution réalisable dominée

)()(/]..1[)()(],..1[ zfyfnketzfyfnikkii

<∈∃≤∈∀

Cx ∈*

tel que x domine x*

est Pareto optimale ssi il n’existe pas de solution

Cx ∈

PO : ensemble exact des solutions Pareto optimales

DéfinitionsDéfinitions

2f

1f

DéfinitionsDéfinitions

Ø Solutions supportées et non supportées

Ø Vecteur idéal y* et vecteur de référence z*

Ø Pareto localement optimale

f 1

f 2

f 1

f 2

f 1

f 2

5

9

4

8

1

67

310

2

voisinage

1, 8, 9 : Pareto optimale4, 10 : Pareto localement optimale

Solution Pareto supportéeSolution Pareto non supportée

Enveloppe convexe

Voisinage N : opérateur de recherche locale

( ))(min/ ** xfyy ii =

)(: CVCN →

*y

Difficultés des PMODifficultés des PMO

§ Définition de l’optimalité : relation d’ordre partiel, choix final dépend du décideur, environnement dynamique, …

§ Nombre de solutions Pareto croît en fonction de la taille des problèmes et le nombre de critères utilisés.

§ Pour les PMO non convexes, les solutions Pareto sont localisées dans les frontières et à l ’intérieur de l ’enveloppe convexe de C.

Caractérisation du paysage de la frontière Pareto

PaysagesPaysages

§ Convexité de PO (supportées et non supportées)

§ Multi-modalité (Rugosité, Locale Pareto)

§ Déception (Attracteurs déceptifs)

§ Optimum isolé (Espace plat)

§ Discontinuité

§ Distribution non uniforme

Coopération Coopération solveursolveur--décideurdécideur

• A priori :

• A posteriori :

• Interactive :

a priori

Connaissances Décideur Préférences Solveur Résultats

Connaissances acquises

Recherche

Recherche Préférences

Recherche Préférences

(fonction d’utilité)

Cardinalité de l’ensemble PO réduite.

Connaissances a priori du problème.

Préférences

Aspect aide à la décision n’est pas adressé.

Plan de la présentationPlan de la présentation§ Optimisation multi-critère (multi-objectif) :

Ø Définitions

Ø Problèmes

§ Algorithmes d’optimisation

Ø Classification

Ø Présentation des métaheuristiques

§ Classification des méthodes de résolution

§ Evaluation des performances et paysages

§ Exemple d’application

§ Conclusions & axes de recherche future

Algorithmes d’optimisationAlgorithmes d’optimisation

Métaheuristiques :• solution unique : recuit simulé, recherche tabou, ...• population : algorithmes génétiques, recherche dispersée,

colonies de fourmis, ...

Branchand bound

Programmationdynamique

A*

Algorithmes exacts

Heuristiquesspécifiques

Recuitsimulé

Algorithmesgénétiques

Recherchetabou

Métaheuristiques

Heuristiques

Algorithmes de résolution

Algorithmes exacts : problèmes bi-critères de petites tailles

PO* : Approximation de PO

[Stewart 91][Carraway 90][Ulungu 95]

Méthodes heuristiquesMéthodes heuristiques

Problème de minimisation

ØMéthode de descente• Vers un meilleur voisin

ØRecherche Tabou• Vers un meilleur voisin mais,• Possibilité de dégrader solution• Impossibilité de retourner vers

solutions récemment visitées(évite de cycler)

• Paramètres : fonction objectif, voisinage,description mouvement Tabou, longueur liste Tabou

Méthodes heuristiquesMéthodes heuristiques

ØRecuit simulé• Basé sur analogie avec recuit

des matériaux• Vers un meilleur voisin mais,• Possibilité de dégrader solution• En fonction d’une température :

Au plus la recherche avance, au moins la dégradation est acceptée.

• Paramètres : fonction objectif, voisinage,Temp initiale, fonction de diminution Temp, longueur palier de Temp,…

Méthodes heuristiquesMéthodes heuristiques

ØAlgorithmes évolutionnaires• A base de population• Héritage de patrimoine génétique• Les mieux adaptés survivent• Amélioration globale• Paramètres : fonction objectif,

taille de la population,opérateurs,sélection des parents,remplacement, …

Algorithme génétique Algorithme génétique -- SchémaSchéma

Croisements

Mutation

Sélection Reproduction

Remplacement

Maj archives

Elitisme

MécanismePareto

Plan de la présentationPlan de la présentation§ Optimisation multi-critère (multi-objectif) :

Ø Définitions

Ø Problèmes

§ Algorithmes d’optimisation

Ø Classification

Ø Présentation des métaheuristiques

§ Classification des méthodes de résolution multicrière

§ Evaluation des performances et paysages

§ Exemple d’application

§ Conclusions & axes de recherche future

Classification des méthodesClassification des méthodes

§ Transformation de PMO en uni-objectifØMéthode d’agrégation

ØMéthode ε-contrainteØProgrammation par but

§ Approches non ParetoTraitent séparément les différents objectifs

§ Approches ParetoUtilisent la notion de dominance

Méthodes d’agrégationMéthodes d’agrégation

( )λPMO

)()(min1

xxF fi

n

i i∑ == λ{ Cx ∈s.c.

f 1

f 2

f 1

f 2

nii ,..,1,0 =≥λ 11

=∑=

n

iiλ

Complexité = problème combinatoire sous-jacent.Ex : Polynomial = flot, cheminement, … NP-complet = routage, affectation, ...

Domaine réalisable

Frontière Pareto convexe

Optimiser F

Hyperplan

Frontière Pareto concave

y

z

MétaheuristiquesMétaheuristiques

§ Algorithmes génétiques [Hajela et Lin 92]

Ø Codage d’un individu = Solution + F(x)Ø But = Générer une variété de solutions Pareto

§ Recuit simulé [Serafini 92]

Ø Fonction d’acceptation

§ Recherche tabou [Dahl et al. 95]

Ø Poids = priorité de l’objectif

§ Métaheuristiques hybrides [Talbi 98]

Ø Algorithme glouton + Recuit simulé [Tuyttens 98]

Ø Algorithme génétique (Recherche locale) [Ishibuchi et Murata 98]

• Sélection avec des poids différents• Recherche locale sur l’individu produit (même poids)

( )( ) ( )( )

=

∑ =−

ep T

yx

xy

n

i iii ffT ,1

1

minλ

Méthode Méthode εε --contraintecontrainte

))(( εkPMO)(min xf

k{ Cx ∈s.c.

kjnjx jjf ≠=≤ ,,..1,)( ε ( )εεεε nk ,...,,..., 11 +=

f2

f1

F(C)

F’(C)

Solution optimale§ Variation de ε

§ F(C) = espace objectif PMO§ F’(C) = espace objectif du

problème transforméε 2

ε 22

1min

≤f

f{

MétaheuristiquesMétaheuristiques

§ Algorithmes génétiquesØ Individu = ε [Loughlin 98]

§ Recherche tabou [Hertz et al. 94]

Ø Suite de sous-problèmesØ Ordre de prioritéØ Seuil (f’) = Optimum (f*)

+ Détérioration acceptée

§ Métaheuristiques hybrides [Quagliarella et al. 97]

Ø Algorithme génétique + Recherche locale

( ) ( )( )1.1 minmax

min −−−

+=k

ii

εεεε

( )PMO q{ ( )( )

Cx

qrxcs

x

ffff

rr

qq

∈

−=≤

=

′ 1,..,1,..

min*

k : taille de la population

Programmation par butProgrammation par but

))(( εkPMOCx ∈s.c.

−∑

=z jxf j

n

j)(min

1{Z : Vecteur idéal ou de référence

f1

f2

z

F(C)

f *

1

f *

2

MétaheuristiquesMétaheuristiques

§ Algorithmes génétiquesØ Fonction min-max, AG parallèle avec différents poids [Coello 98]

Ø Règles floues dans l’évaluation de F [Reardon 98]

§ Recuit simulé [Serafini 92]

Ø Fonction d’acceptationØ Itération =

§ Recherche tabou [Gandibleux 96]

Ø Meilleur voisin = Meilleur compromis non tabou

Ø Compromis = Norme de Tchebycheff par rapport au vecteur idéal

Ø Mémorisation des M meilleures solutions

( )( )( ) ( )( )( )

=

−−−

ep T

yx

xy

zfzf iiiiiiii

T ,1maxmax

min)(λλ

]05.0,05.0[ +−±= λλ ii

Lp

Analyse critiqueAnalyse critique

§ Espace de recherche ≠ Problème initial. Le problème perd ses éventuelles propriétés.

§ Une exécution produit une seule solution.

§ Connaissances a priori (détermination des paramètres).

§ Sensibles au paysage de la frontière Pareto (convexité, discontinuité, …), et à différents paramètres (poids, contraintes, buts, …).

§ Objectifs bruités ou données incertaines.

§ Coût associé aux algorithmes (exécution multiple).

Approches non ParetoApproches non Pareto

§ Sélection parallèle (VEGA) [Schaffer 85]

§ Sélection lexicographique (ordre de priorité)Ø Algorithmes génétiques [Fourman 85]

Ø Stratégies évolutionistes [Kursawe 91]

§ Reproduction multi-sexuelle [Lis et Eiben 96]

Ø Plusieurs classes. Une classe = Un objectifØ Reproduction (crossover) sur plusieurs individus

Traitent séparément les différents objectifs non commensurables.

Génération t

Population

sous-population 1

sous-population n

Génération t+1

Population

Objectif 1

Objectif n

SélectionReproduction

CrossoverMutation

Tendance à ignorer les solutions compromis

• Utilisent la notion de dominance dans la sélection des solutions.

• Capables de générer des solutions Pareto dans les portions concaves.

f 1

f 2

Domaine réalisable

Frontière Pareto

Convergence : Méthodes de ranking (ordre entre individus)

f 1

f 2

Domaine réalisable

Diversification : Maintientde la diversité

Objectifs

Solution trouvée

Approches ParetoApproches Pareto

Méthodes de Méthodes de rankingranking

f 1

f 2

A(1)

B(1)

C(1)

E(1)

H(3)F(2)

D(1)

G(2)

f 1

f 2

A(1)

B(1)

C(1)

E(1)

H(6)F(3)

D(1)

G(2)

NSGA NDS

§ NSGA [Srinivas et Deb 95]

Ø Rang Individus non dominés = 1. Pop=Pop-Individus non dominés

§ NDS [Fonseca et Fleming 95]

Ø Rang Individu = nombre de solutions le dominant+1

§ WAR [Bentley 97], …Ø Rang Individu = moyenne des rangs / objectifs

SélectionSélection

f 1

f 2

A

B

Ensemble de comparaison

§ Rang [Baker 85]

§ Tournoi [Horn et al. 97]

§ Autres : Roulette biaisée, etc ;

)1(2)1(

−−+−+

=NN

NS RRp nnn

= Probabilité de sélection

S = Pression de sélection

∑−

=

++=1

1

21n

iiii rrR

= Nombre d’individus de rang i

pn

ri

Maintient de la diversitéMaintient de la diversité

§ Exécutions itératives indépendantes

§ Niching séquentielØ Exécution itérative avec pénalisation des optima déjà trouvés

§ Niching parallèle (sharing, crowding)Ø Une seule exécution

Optimisation multi-modale : Localiser tous les optima d’un problème

Dérive génétique

x

F(x)

Fonction de partage (Fonction de partage (sharingsharing))

( )( )( )

=

−

0,

,1α

σ sh

yxdist

yxdistshSi shyxdist σ<),(

Sinon

)()(

)('xmxf

xf =Dégrade le coût d’un individu / nombre d’individus similaires

Compteur de niche ( )∑∈

=.

),()(Popy

yxdistshxm

§ Espace objectif et/ou Espace de décision (x,y) ?

§ Métrique utilisée (dist) ?

§ Taille des niches ?)(σ sh

sh

distσ sh

1

ClassificationClassification

Préférences

Branchand bound

Programmationdynamique

A*

Algorithmes exacts

Heuristiquesspécifiques

Recuitsimulé

Algorithmesgénétiques

Recherchetabou

Métaheuristiques

Heuristiques

Algorithmes de résolution

Sélectionparallèle

Sélectionlexicographique

Approchesnon-Pareto

Approchesde résolution

Méthodes d'optimisation multi-objectif

A priori Interactive A posteriori

Approche à basede transformation

Agrégation ε-contrainteProgrammation

par but

Titre du

diagramme

ApprochesPareto

Techniques avancéesTechniques avancées

§ Modèles parallèles(Algorithmes génétiques)Ø Accélération de la recherche

Ø Amélioration des résultats (coopération)

• Modèle insulaire• Modèle cellulaire

§ Restriction de voisinage

AG AG AG

Utilisateur

Ensemble PO*

Contraintes, poids, ...

Meilleures solutions

Recuit, Tabou

GA

GA

GAGA

GA

GA GA

GA

f1 f2 fn

Techniques avancéesTechniques avancées

§ HybridationØ Algorithme Génétique + Recherche Locale

§ Elitisme (archive PO*) [Zitzler et Thiele 98]

§ Clustering de l’ensemble PO* [Roseman et Gero 85]

Populationcourante

PO*

Sélection)1(2)1(

−−+−+−=

NNNS

NAN RRp nn

n

A : Nombre d’individus sélectionnés à partir de PO*

Plan de la présentationPlan de la présentation§ Optimisation multi-critère (multi-objectif) :

Ø Définitions

Ø Problèmes

Ø Paysage

§ Algorithmes d’optimisation

Ø Classification

Ø Présentation des métaheuristiques

§ Classification des méthodes de résolution

§ Evaluation des performances

§ Exemple d’application

§ Conclusions & axes de recherche future

• Ensemble PO connu- Efficacité Absolue

- Distance (PO*, PO)

- Uniformité

Evaluation des performancesEvaluation des performances

∑=

−=n

ijii yxyxd ff

1

)()(),( λ

( ) *,),(min)*,( POxyxdyPOd ∈=

Proportion des solutions Pareto dans PO*

Plus mauvaise distance

Distance moyenne

POPOPO

AE∩

=*

( ) POyyPOdWD ∈= ,)*,(max

PO

yPOdMD POy∑ ∈=

)*,(

MDWD

DIV =

[Teghem et al.]

Evaluation des performancesEvaluation des performances• Ensemble PO inconnu

Efficacité relative (A, B) : Nombre de solutions de A dominées par dessolutions de B

f1

f2

f1

f2f1

f2

f1

f2

+

+

+

+

+

+AB +

+

+

++

+

+ +

++

+

+

+

+

A faiblement meilleur que B A fortement meilleur que B

B totalement meilleur que A A et B incomparables

BA ≠ABAND =)( U φ≠− )( BANDB U

ABAND =)( U

BBAND =)( U

φ=)( BANDA UI

Evaluation des performancesEvaluation des performances

ØContribution: Apport de chaque heuristique dans la construction de PO*.

Cont(O,X)=0,7Cont(X,O)=0,3

C=4W1=4 - N1=1W2=0 - N2=1

2211

1121

2)/(

NWNWCNWC

POPOCont++++

++=

Evaluation des performancesEvaluation des performances

§ S metric [Zitzler99]: Évaluation de l’aire de dominance des fronts.

Zref

Plan de la présentationPlan de la présentation§ Optimisation multi-critère (multi-objectif) :

Ø Définitions

Ø Problèmes

§ Algorithmes d’optimisation

Ø Classification

Ø Présentation des métaheuristiques

§ Classification des méthodes de résolution

§ Evaluation des performances et paysages

§ Exemple d’application

§ Conclusions & axes de recherche future

FlowshopFlowshop de permutation de permutation bicritèrebicritère

• N jobs à ordonnancer sur M machines.• Flow Shop de permutation.• Critères :

• Cmax:Date de fin d’ordonnancement.• T:Somme des retards.

• Problème d’ordonnancement de type F/perm, di/(Cmax,T) [Graham79].

M1

M2

M3

Travaux précédentsTravaux précédents

§ Première étude: comparaison de différentes techniques de sélection et diversification [Mabed00]ØApproche pareto.ØSélection élitiste avec ranking NSGA.ØDiversification par sharing combiné (espace objectif

et décisionnel).ØHybridé avec une recherche locale.

§ RésultatsØBons résultats sur petit problèmes ØManque de robustesse ØParamétrage

§ AG hybride adaptatif [Basseur02]ØDiversification adaptative.ØMutation adaptative.ØHybridation par une recherche mimétique sur le

front.

§ Résultats:ØBons résultats dans l’ensemble.ØMutation adaptative à améliorer.ØBonne robustesse.ØExploration insuffisante.

Travaux précédentsTravaux précédents

Mutation adaptativeMutation adaptative

§ AG hybride adaptatif :

ØA chaque mutation Mi, on associe une probabilité de sélection P(Mi) ajustable durant l’algorithme [Wang 00]

ØDeux phases principales pour la mise en œuvre:• Choix de l’opérateur à appliquer (en fonction des P(Mi))• Mise à jour des probabilités de sélection des différents

opérateurs (en fonction des progrès réalisés)

L’algorithme L’algorithme

Computation of PO* and the population

Crossover

Mutation 1

Mutation n

Mutation selection

Elitist selection into the population

Start

Create initial population

Set new PMi

End of GA

…

0

1

1/2

1/2

Ajustement des P(Mi)Ajustement des P(Mi)

0 si I domine IMi

1 si I est dominé par IMi

1/2 sinon=)( iNMπ

Ajustement des P(Mi) adapté aux problèmes multi-critères:

iN

iN

MM

Miogress ∑=)(

)(Prπ

( ) δδ +×−×=∑ =

nMjogress

MiogressMiP n

j

1)(Pr

)(Pr)(1

Résultats Résultats –– exemple 20jx10mexemple 20jx10m

Résultats Résultats –– exemple 50jx20mexemple 50jx20m

Plan de la présentationPlan de la présentation§ Optimisation multi-critère (multi-objectif) :

Ø Définitions

Ø Problèmes

§ Algorithmes d’optimisation

Ø Classification

Ø Présentation des métaheuristiques

§ Classification des méthodes de résolution

§ Evaluation des performances et paysages

§ Exemple d’application

§ Conclusions & axes de recherche future

ConclusionsConclusions

§ Axe de recherche primordial pour les scientifiques et les ingénieurs (problèmes réels, questions ouvertes).

§ Métaheuristiques à base de populations.

§ Un algorithme génétique générique pour les PMO (C++).

§ Application académique : flow-shop bi-objectif(comparaison d’algorithmes).

§ Application réelle : Positionnement de sites (modèle et jeu de test, codage, opérateurs, paysage du problème).

PerspectivesPerspectives

§ Hybridation AG et recherche localeØ Algorithmes complémentaires (Exploration / Exploitation)

§ Modèles parallèles

§ Elaboration de benchmarks (jeux de test) Ø Différents paysages

§ Evaluation de performances et comparaisonØ Métriques (Extensibilité, …)

§ Approche interactive (aide à la décision)Ø Apprentissage basé sur les paysages