introduccion a la computaci´ on...
TRANSCRIPT
Introduccion a la Computacion Evolutiva
Carlos A. Coello Coello
Evolutionary Computation Group (EVOCINV)Departamento de Computacion
Av. IPN No. 2508, Col. San Pedro ZacatencoMexico, D.F. 07360, MEXICO
Clase 6
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Tecnicas de Seleccion
Muestreo DeterminısticoEvidentemente, este algoritmo reduce el proceso de seleccion a unaasignacion determinista basada en los valores esperados de cada individuo.
La complejidad del algoritmo es O(n) para la asignacion determinista y esO(n log n) para el ordenamiento.
En la practica, el metodo se comporta de manera similar al sobranteestocastico.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Aditamentos a los Mecanismos de Seleccion
Escalamiento Sigma
Es una tecnica ideada para mapear la aptitud original de unindividuo con su valor esperado, de manera que el algoritmogenetico sea menos susceptible a la convergencia prematura.
La idea fundamental de esta tecnica es mantener mas omenos constante la presion de seleccion a lo largo de todo elproceso evolutivo.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Aditamentos a los Mecanismos de Seleccion
Escalamiento Sigma
Usando esta tecnica, el valor esperado de un individuo esta enfuncion de su aptitud, la media de la poblacion y la desviacionestandar de la poblacion:
Valesp(i , t) =
{1 + f (i)−f (t)
2σ(t) si σ(t) 6= 01.0 si σ(t) = 0
(1)
donde:
σ(t) =
√n∑
f (t)2 − (∑
f (t))2
n2 (2)
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Aditamentos a los Mecanismos de Seleccion
Escalamiento Sigma
Al inicio de la ejecucion del algoritmo genetico, se tendra unvalor elevado de la desviacion estandar, lo cual impedira quelos mejores individuos obtengan una probabilidad muy alta deser selecccionados.
Hacia el final del proceso evolutivo, la desviacion estandar seramas baja y los individuos mas aptos podran multiplicarse masfacilmente.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Aditamentos a los Mecanismos de Seleccion
Seleccion por JerarquıasPropuesta por Baker [1985] para evitar la convergenciaprematura.
No requiere escalamiento de los valores de aptitud.
Torna muy lenta la convergencia del algoritmo genetico, por loque se recomienda usarse solo en presencia de una presionmuy elevada de seleccion.
James Edward Baker, “Adaptive Selection Methods forGenetic Algorithms”, in John J. Grefenstette (Editor),Proceedings of the First International Conference on GeneticAlgorithms, pp. 101–111, Lawrence Erlbaum Associates,Hillsdale, New Jersey, USA, 1985.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Aditamentos a los Mecanismos de Seleccion
Seleccion por Jerarquıas (Algoritmo)1 Ordenar (o jerarquizar) la poblacion con base en su
aptitud, de 1 a N (donde 1 representa al menos apto).2 Elegir Max (1 ≤ Max ≤ 2)
3 Calcular Min = 2−Max
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Aditamentos a los Mecanismos de Seleccion
Seleccion por Jerarquıas
El valor esperado de cada individuo sera:
Valesp(i , t) = Min + (Max −Min)jerarquia(i , t)− 1
N − 1(3)
Usar seleccion proporcional aplicando los valores esperadosobtenidos.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Aditamentos a los Mecanismos de Seleccion
Seleccion por Jerarquıas
Es util cuando la funcion tiene ruido (por ejemplo, cuando hayuna variable aleatoria).
Existen otros metodos de asignacion de jerarquıas ademas dellineal (p.ej. exponencial).
Su complejidad es O(n log n)+ tiempo de seleccion.
Diluye la presion de seleccion, por lo que causa convergencialenta.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Aditamentos a los Mecanismos de Seleccion
Seleccion de BoltzmannEste esquema de seleccion se basa en el recocido simulado(simulated annealing).
La idea fundamental es usar una funcion de variacion de la“temperatura” para controlar la presion de seleccion.
Al inicio del proceso evolutivo, se usa un valor alto para latemperatura. Esto hace que la presion de seleccion sea baja.
Conforme transcurre el proceso evolutivo, la temperatura vadisminuyendo, lo cual incrementa la presion de seleccion.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Aditamentos a los Mecanismos de Seleccion
Seleccion de BoltzmannTıpicamente, se usa la siguiente expresion para calcular elvalor esperado de un individuo:
Valesp(i , t) =ef (i)/T
〈ef (i)/T 〉t
donde: T es la temperatura y 〈 〉t denota el promedio de lapoblacion en la generacion t .
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Aditamentos a los Mecanismos de Seleccion
Seleccion de BoltzmannSe ha utilizado mas para optimizacion multimodal ymultiobjetivo (para la formacion de nichos).Existen pruebas (matematicas de convergencia de latecnica hacia el optimo global.Tiene el inconveniente de requerir la definicion de unafuncion de variacion de temperatura.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Seleccion Mediante Torneo
Los metodos de seleccion proporcional requieren de 2 pasospor generacion del algoritmo genetico:
1. Calcular la aptitud media (y, la desviacion estandar si seusa escalamiento sigma).
2. Calcular el valor esperado de cada individuo.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Seleccion Mediante Torneo
El uso de jerarquıas requiere que se ordene toda la poblacion(una operacion cuyo costo puede volverse significativo enpoblaciones grandes).
La seleccion mediante torneo es similar al uso de jerarquıas enterminos de la presion de seleccion, pero escomputacionalmente mas eficiente y mas facil de paralelizarse.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Seleccion Mediante Torneo
Esta tecnica fue propuesta por Wetzel [1983].
La idea basica del metodo es seleccionar con base encomparaciones directas de los individuos.
Existen 2 versiones de esta tecnica de seleccion:1. Determinıstica2. Probabilıstica
A. Wetzel, “Evaluation of the effectiveness of geneticalgorithms in combinatorial optimization”, PhD thesis,University of Pittsburgh, Pittsburgh, Philadelphia, USA, 1983.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Seleccion Mediante Torneo
Algoritmo (version determinıstica)1 Barajar los individuos de la poblacion.2 Escoger un numero P de individuos que participaran en el
torneo (tıpicamente 2).3 Compararlos con base en su aptitud.4 El ganador del “torneo” es el individuo mas apto.5 Se debe barajar la poblacion un total de P veces para
seleccionar N padres.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Seleccion Mediante Torneo
Algoritmo (version probabilıstica)
La version probabilıstica es identica a la determinıstica,excepto por el paso en el que se escoge al ganador.
En este caso, en vez de seleccionar siempre al individuo conaptitud mas alta, se aplica flip(p) y si el resultado es cierto, seselecciona al mas apto. De lo contrario, se selecciona almenos apto.
La probabilidad p permanece fija durante todo el procesoevolutivo y se escoge de manera que:
0.5 ≤ p ≤ 1
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Seleccion Mediante Torneo
AnalisisLa version determinıstica garantiza que el mejor individuo seraseleccionado P veces.
Cada competencia requiere la seleccion aleatoria de unnumero constante de individuos de la poblacion.
La comparacion entre estos individuos puede realizarse entiempo constante y se requieren n competencias de este tipopara completar una generacion. Por tanto, el algoritmo es O(n).
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Seleccion Mediante Torneo
AnalisisTecnica eficiente y facil de implementar.
No requiere escalamiento de la funcion de aptitud (usacomparaciones directas).
Puede introducir una presion de seleccion muy alta porque alos individuos menos aptos no se les da oportunidad desobrevivir.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Seleccion Mediante Torneo
AnalisisSi se usa ttorneo = 1, se produce una caminata aleatoriacon una presion de seleccion muy baja.Si se usa ttorneo =∞ , la seleccion se vuelvecompletamente determinıstica.Si se usa ttorneo ≥ 10, la seleccion se considera dura.Si se usa 2 ≤ ttorneo ≤ 5, la seleccion se considera blanda.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Seleccion de Estado Uniforme
Fue propuesta por Whitley [1989].
Se usa en los algoritmos geneticos no generacionales, en loscuales solo uno o unos cuantos individuos son reemplazadosen cada generacion (los menos aptos).
Esta tecnica suele usarse cuando se evolucionan sistemasbasados en reglas (p.ej., sistemas de clasificadores) en los queel aprendizaje es incremental.
Darrell Whitley, “The GENITOR Algorithm and SelectionPressure: Why Rank-Based Allocation of ReproductiveTrials is Best”, in J. David Schaffer (Editor), Proceedings of theThird International Conference on Genetic Algorithms, pp.116–121, Morgan Kaufmann Publishers, San Mateo, California,USA, 1989.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Seleccion de Estado Uniforme
Esta tecnica es util cuando los miembros de la poblacionresuelven colectivamente (y no de manera individual) unproblema.
Asimismo, los algoritmos geneticos no generacionales se usancuando es importante “recordar” lo que se ha aprendido antes.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Seleccion de Estado Uniforme
Algoritmo1 Seleccionar de G (poblacion original) R individuos
(1 ≤ R ≤ M) de entre los mas aptos. Normalmente,R = 1, o R = 2.
2 Efectuar cruza y mutacion a los R individuosseleccionados. Llamaremos H a sus hijos.
3 Elegir al mejor individuo en H (o a los S mejores).4 Reemplazar los S peores individuos de G por los S
mejores individuos de H.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Seleccion de Estado Uniforme
AnalisisEs una tecnica especializada de seleccion.
Su complejidad (en la variante incluida en GENITOR) esO(n log n).
Los algoritmos geneticos no generacionales no son muycomunes en aplicaciones de optimizacion, aunque sı puedenutilizarse en ese dominio.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Seleccion Mas (+)
Es tambien posible en un algoritmo genetico usar unaseleccion mas (+) como en las estrategias evolutivas. Estaseleccion consiste en unir la poblacion de padres con la dehijos y seleccionar la mejor mitad de ellos.
Este tipo de seleccion resulta particularmente util para resolverproblemas de optimizacion global.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Brecha Generacional
Muy ligada a la seleccion de estado uniforme se encuentra elconcepto de brecha generacional (generation gap).
Es importante reconocer en primer termino que laspoblaciones pueden ser “no traslapables” (nonoverlapping) o“traslapables” (overlapping).
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Brecha Generacional
Una poblacion no traslapable es aquella en la que los padresnunca compiten contra sus hijos. Es decir, toda la poblacion depadres es siempre reemplazada por la poblacion de hijos.
En una poblacion traslapable, los padres compiten contra sushijos.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Brecha Generacional
Se denomina brecha generacional a la cantidad de traslapeexistente entre padres e hijos. Una brecha generacionalgrande implica poco (o ningun) traslape poblacional.
Historicamente, la programacion evolutiva y las estrategiasevolutivas han usado poblaciones traslapables, mientras quelos algoritmos geneticos han usado poblaciones notraslapables.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Brecha Generacional
De Jong [1975] parece haber sido el primero en estudiaralgoritmos geneticos con poblaciones traslapables.
De Jong sugirio que las ventajas de las poblacionestraslapables se diluıan debido a los efectos negativos deldesvıo genetico.
Mas tarde, Grefenstette [1986] confirmarıa que una brechageneracional mayor parecıa mejorar el desempeno delalgoritmo genetico.
John J. Grefenstette, “Optimization of Control Parametersfor Genetic Algorithms”, IEEE Transactions on Systems, Man,and Cybernetics, pp. 122–128, Vol. SMC-16, No. 1,January/February 1986.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Brecha Generacional
Los primeros experimentos con los sistemas de clasificadores,confirmarıan, sin embargo, un comportamiento exactamenteopuesto [Holland & Reitman, 1978].
En los sistemas de clasificadores, el desempeno del algoritmogenetico parecıa degradarse conforme se aumentaba labrecha generacional.
Algunos investigadores atribuyen los resultados de De Jong yGrefenstette al uso de poblaciones pequenas.
John H. Holland and Judith H. Reitman, “Cognitive systemsbased in adaptive algorithms”, in D.A. Waterman and F.Hayes-Roth (Editors), Patter-Directed Inference Systems, pp.313–329, Academic Press, New York, USA, 1978.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Brecha Generacional
Los algoritmos geneticos tradicionales siguen usando, sinembargo, poblaciones no traslapables.
Los algoritmos geneticos de estado uniforme son aquellos enlos que la poblacion es traslapable.
Normalmente, solo uno o dos hijos se producen en cadaiteracion de un algoritmo genetico de estado uniforme.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Otras Tecnicas de Seleccion
DisruptivaJerarquıas no linealesCompetitiva
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Seleccion Disruptiva
Propuesta por Kuo y Hwang [1993] para normalizar aptitudescon respecto a un cierto valor moderado (en vez de usarvalores extremos).
Suele usarse: f ′i (x) = |fi(x)− ¯f (t)| Valespi =f ′i (x)
¯f ′(t), donde ( ¯f (t))
se refiere a la aptitud media de la poblacion.
Ting Kuo and Shu-Yuen Hwang, “A Genetic Algorithm withDisruptive Selection”, in Stephanie Forrest (Editor),Proceedings of the Fifth International Conference on GeneticAlgorithms, pp. 65–69, Morgan Kaufmann Publishers, SanMateo, California, USA, July 1993.
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos
Seleccion Disruptiva
Motivacion: distribuir mas los esfuerzos de la busqueda hacialas soluciones extremadamente buenas y extremadamentemalas.
Los individuos cercanos a la media son desechados.
La utilidad de este metodo es altamente dependiente en laaplicacion.
Suele usarse con funciones de aptitud dinamicas (aquellasdonde la posicion del optimo cambia en el tiempo).
Carlos A. Coello Coello Introduccion a los Algoritmos Geneticos