Reynoso - Algoritmo genetico

0

No comments posted yet

Comments

Slide 1

Algoritmo genético Carlos Reynoso UNIVERSIDAD DE BUENOS AIRES billyreyno@hotmail.com http://carlosreynoso.com.ar

Slide 2

Referencias Reynoso – “Diseño de artes visuales y sonoras con metaheurísticas evolucionarias” Juan Romero y Penousal Machado, The art of artificial evolution (2008)

Slide 3

Referencias

Slide 4

Objetivos Introducir algunas manifestaciones y herramientas de la teoría de la complejidad y el caos Pensamiento profundamente contrario al sentido común Éste opera casi siempre en forma proporcional o lineal El todo es diferente a la suma de las partes Caso del agua... Emergencia – Tampoco una noción oscurantista La complejidad surge a partir de elementos muy simples Nada que ver con el azar, ni (necesariamente) con la numerosidad

Slide 5

Complejidad organizada Complejidad no es el paradigma de la complejidad de Edgar Morin No es numerosidad ni indeterminación No es reduccionismo biológico ni constructivismo radical (autopoiesis) No es termodinámica (Prigogine) No es mecánica cuántica (p. ej. ecuación de Schrödinger) No es teoría de catástrofes (René Thom)

Slide 6

Agenda Tipos de problemas Tipos de algoritmos naturales Aplicaciones en ciencias sociales, arte, diseño y estética Herramientas Glosario Referencias

Slide 7

Tipos de problemas La teoría de la complejidad computacional se refiere a los recursos de computación requeridos para resolver un problema Los recursos son tiempo (cantidad de pasos) y espacio (cantidad de memoria) El modelo de computadora presume que es determinista y secuencial (incluso si es una computadora paralela)

Slide 8

Tipos de problemas En esta teoría, la clase P consiste en todos los problemas de decisión que se pueden resolver en una máquina secuencial determinista en tiempo polinómico en relación con el tamaño del input. La clase NP consiste en los problemas de decisión cuyas soluciones se pueden verificar, o cuya solución puede encontrarse en tiempo polinómico en una máquina no determinista El problema abierto más grande en esta ciencia concierne a la relación entre ambas clases: ¿Es P igual a no P?)

Slide 9

Tipos de problemas Los problemas NP completos son los más duros en NP porque son los que más probablemente no estén en P. Los problemas NP duros (NP-hard) son los problemas en los que cualquier problema en NP se pueden transformar en tiempo polinómico Los problemas NP-completos son los problemas NP-duros que están en NP. Por ejemplo, el problema del vendedor viajero (TSP) es NP completo

Slide 10

Tipos de problemas Hay un premio de 1 millón de dólares para resolver si P=NP o no Hay, por supuesto, problemas que se sabe no están en P: EXP TIME complete – Requieren tiempo exponencial Problemas más que exponencial Indecidibles (como el problema de la detención)

Slide 11

TSP 1/2 Dado un número de ciudades: ¿Cuál es el camino más corto que pasa (al menos) una vez por cada una y retorna a la ciudad de origen? El requerimiento de volver a la ciudad inicial no cambia la complejidad computacional El requerimiento de pasar una vez por cada ciudad no hace que deje de ser NP-duro Dado un grafo pesado ¿Cuál es el camino hamiltoniano con menos peso? TSP es una piedra de toque para muchas heurísticas (búsqueda tabú, AG, ST, colonia de hormigas, etc) Créase o no, es de importancia práctica

Slide 12

TSP 2/2 En el problema del vendedor viajero para diez ciudades, por ejemplo, las rutas posibles son ½ (9!) = ½ (9 x 8 x 7 x 6 x 5 x 4 x 3 x 2 x 1) = 181440 Una computadora que realice mil cálculos por segundo encontrará todas las rutas en unos tres minutos por el método de exhaución. Pero si las ciudades son veinte el número de caminos posibles se eleva a alrededor de 6,08 x 1016 o sea 60.800.000.000.000.000. La misma máquina tardaría entonces unos dos millones de años en consumar la operación.

Slide 13

Aclaración Las metaheurísticas evolutivas son alternativas a las únicas otras formas posibles de búsqueda: Búsqueda mecánica (caso por caso) Búsqueda aleatoria (al azar) [Forma débil: búsqueda estocástica] Técnicamente no hay azar Hasta 1998 se consideraba que lo había a nivel cuántico. Dürr, Nonn y Rempe refutaron esa concepción, que se remonta a Bohr-Heisenberg. Véase James Kennedy, Russel Eberhart – Swarm intelligence

Slide 14

Modalidades algorítmicas

Slide 15

Clases de algoritmos evolutivos Pregunta: ¿Cuántas clases de estos algoritmos o metaheurísticas existen? Respuesta: Cuantas clases se quiera. Teorema de Cantor. Hay más clases de cosas que cosas, aún si las cosas son infinitas. Las clases se generan arbitrariamente. Ej: Hay dos clases de personas en el mundo. Los que creen que hay dos clases de personas y los demás.

Slide 16

Modalidades Nombre global: Computación evolutiva 1. Algoritmo genético (John Holland) Representaciones lineales (binarias) 2. Estrategia evolutiva (Rechenberg-Schwefel) Rasgos: conductas – Representaciones reales lineales Operadores: mutaciones gaussianas, combinaciones de vectores de progenitores 3. Programación genética (John Koza) Representaciones arboladas recursivas, LISP 4. Memética (Richard Dawkins, Daniel Dennett) Memes No crossover, mutación al azar

Slide 17

Otras heurísticas de optimización Human based genetic algorithm (HBGA) Funciones de inicialización, selección, cruza y mutación delegadas a humanos Búsqueda adaptativa CHC Aprendizaje incremental basado en población Estrategia evolutiva asistida por modelos Evolución gramatical Hill-climbing (escalamiento de colinas) Búsqueda Montecarlo Simulación de templado 

Slide 18

Simulación de templado Una solución que aumenta el fitness se acepta siempre Una que no lo aumenta se acepta dependiendo de una función de temperatura dsecreciente Se busca la menor energía en vez de la mejor adecuación Genera una sola función mutada

Slide 19

Problema (de optimización) Búsqueda de la mejor solución (óptima) entre un número de alternativas (espacio de búsqueda). La medida de calidad que identifica la mejor solución es una función que puede ser multidimensional o incluso desconocida a priori. Las soluciones que producen ese valor de destino (target value) se llaman óptimos globales. Una función de destino es multimodal cuando hay varios óptimos locales o globales. No hay garantía que un algoritmo evolutivo encuentre soluciones globales óptimas, pero a menudo son capaces de encontrar soluciones suficientemente buenas en poco tiempo.

Slide 20

Algoritmos evolutivos Se pueden aplicar a problemas en los que las estrategias clásicas fallan. La función de destino puede ser ruidosa, no lineal, no diferenciable, discontinua, multimodal, de alta dimensionalidad y puede estar sujeta a múltiples clases de restricciones. Regla general: Cuando el espacio de búsqueda tiene un solo óptimo global, el Hill Climber o la simulación de templado pueden ser tan eficientes como los algoritmos evolutivos

Slide 21

Espacio de fases

Slide 22

Búsqueda Montecarlo t = 0; result = initNewSolution(); evaluate(result); while isNotTerminated() do a = initNewSolution(); evaluate(a); if a.isBetterThan(result) then result = a; end t = t +1; end

Slide 23

Hill-climber t = 0; result = initNewSolution(); evaluate(result); while isNotTerminated() do a = clone(result); mutate(a); evaluate(a); if a.isBetterThan(result) then result = a; end t = t + 1; end

Slide 24

Simulación de templado Se permite degradación temporaria de la calidad de la solución Se utiliza un parámetro de control T, que se va disminuyendo durante el proceso Al principio hay más tolerancia, para que pruebe varios “valles” T es el plan de templado (Annealing schedule) El proceso acepta soluciones cada vez peores El objetivo es escapar de los óptimos locales

Slide 25

Simulación de templado t = 0; T = 1.0; result = initNewSolution(); evaluate(result); while isNotTerminated() do a = result.clone(); mutate(a); evaluate(a); if RNG.flipCoin(eFitness/ Tt ) then result = a; end T = T; t = t + 1; end

Slide 26

Programación genética John Koza Arboles Lisp en lugar de strings

Slide 27

Programación genética Apta para transformaciones e inducción de gramática

Slide 28

Algoritmo genético John Holland, 1960s “Los organismos vivientes son consumados resolvedores de problemas” Adaptation in natural and artificial systems, 1975

Slide 30

Algoritmo genético Población de soluciones Serie de caracteres (cromosomas) Carácter (gen, rasgo) Reproducción sexual y cross-over Mutación Ciclo: 1. Generar población 2. Evaluar adecuación 3. Los mejores se reproducen, los peores se extinguen 4. Aplicar mutaciones 5. Actualizar población 6. Volver a 2

Slide 31

Cross-over La riqueza no está en el azar, sino en la diversidad Ejemplo: Match – William Langdon, UCL ALGORITMOGENETICOENBOGOTA 2725 =608.266.787.713.358.000.000.000.000.000.000.000 1017 = 100,000,000,000,000,000 BOGOTA.TXT c:\fractal\match\bogota.txt

Slide 32

GA Viewer

Slide 34

Inicialización A menudo la población inicial es al azar para garantizar diversidad Es un factor importante A veces se suele generar una “buena” población basándose en conocimiento específico de dominio

Slide 35

Evaluación y constraints Evaluación rigurosa o laxa [lazy] Restricción legal: Sólo pueden generarse individuos legales.Esto puede reducir el ulterior rango de opciones Mecanismo de reparación Los individuos anómalos se reparan antes de la evaluación de la aptitud Penalidad Se reduce la aptitud proporcionalmente. Se pueden alcanzar todas las regiones del espacio de búsqueda pero no hay garantía que se alcance la solución óptima Castigo letal

Slide 36

Métodos de selección Proporcional a la aptitud, determinista No siempre es la mejor. Puede haber convergencia hacia una solución errónea Métodos de ruleta o estocásticos Selección por concurso (tournament) Se selecciona un grupo al azar y se determinan en él los mejores valores de adecuación. Los mejores individuos se seleccionan determinista o estocásticamente Hasta que se alcanza cierto número Selección de Boltzmann Utiliza principios de presión termodinámica basados en simulación de templado Selección por rango Tiempo de vida variable

Slide 37

Métodos de crossover Crossover de un punto, definido o al azar Crossover multipunto Crossover por promedios de una población x, definida o al azar Crossover uniforme: para cada posición se elige al azar el valor de qué progenitor utilizar

Slide 38

Métodos de reemplazo AG generacional – Cada generación se reemplaza por nuevos individuos, a menudo usando elitismo (los mejores sobreviven), definiendo un valor de elitismo determinado. Esto garantiza una mejora monotónica de adecuación AG de estado estable. Se agrega un solo individuo por reemplazo AG de salto generacional. Intermedio. Un parámetro define la proporción de población a reemplazar

Slide 39

Aplicaciones

Slide 40

Aplicaciones Robert Reynolds (Kent Flannery, John Holland) Modelos de conducta, toma de decisiones de cazadores-recolectores en Oaxaca Algoritmo cultural: Consiste en Un espacio de población Un espacio de creencias culturales Nivel individual Nivel ontológico – Almacén de las experiencias acumuladas Un protocolo de interacción que vincula a ambos

Slide 41

Robert Reynolds Voto y promoción Conocimiento situacional y normativo AC se utiliza en computación como algoritmo de optimización

Slide 42

Redes sociales Mursel Tasgin, Haluk Bingol (İstanbul, 2005) GACD: Detección de comunidades en redes sociales complejas Performance comparable a Girvan-Newman, Radicchi, Reinhard-Bornholdt o Wu-Huberman Funciona mucho mejor en redes inmensas

Slide 43

Redes sociales Floortje Alkemade, Carolina Castaldi (Utrecht y Groningen, 2005) Difusión de novedades en redes sociales – Planificación de programas de marketing orientado – Alternativa a modelos epidemiológicos (Sperber) Linton Freeman (UC at Irvine) Identificación de grupos en redes Bruce Edmonds (U. Manchester) Aplicación de AG a la simulación social (JASSS)

Slide 44

Arqueología Dimitros Kontogiorgos, Alexandros Leontitsis Estimación del peso de microartefactos por minimización con AG (2005) Journal of Archaeological Science, 32(8) Aplicación a artefactos neolíticos del sitio de Paliambela, Aretusa, norte de Grecia

Slide 45

Arqueología Luciano Silva, Olga Bellón, Paulo Gotardo (Paraná), Kim Boyer (Ohio) Obtención de imágenes arqueológicas tridimensionales a partir de 2D con AG 2003 Conference on Computer Vision and Pattern Recognition A diferencia de ICP (iteración de punto más cercano) el AG no converge en mínimos subóptimos y no requiere pre-alineamiento Combinan AG con otras técnicas, como hill climbing o simulación de templado

Slide 46

Bill Sellers Primatólogo computacional Evolución de costo metabólico de homínidos fósiles Evolución de escenarios de predadores-presas Simulación de locomoción Generación de imágenes modélicas de soluciones de máxima performance

Slide 48

Bill Sellers

Slide 49

Bill Sellers

Slide 50

Locomoción Groucho

Slide 51

Reconstrucción de Lucy Robin Crompton, Univ Liverpool (2005) Lucy (Australopithecus afarensis) – Estructura corporal muy distinta a H. sapiens Estrategia de ingeniería reversa: Qué clase de locomoción ciertas partes del cuerpo están mejor diseñadas para sostener Modelos de los pies + AG para desarrollar movimiento óptimo Los movimientos desarrollados (similares a los nuestros) coinciden con las huellas fósiles de Laetoli

Slide 52

Reynoso - Jezierski Resolvedor de problemas arqueológicos mediante AG – CAA Visby, 2001

Slide 53

Melero, Torres, León Universidad de Granada, 2003 Reconstrucción interactiva de vasijas ibéricas* *Cita Reynoso-Jezierski 2001

Slide 54

Clasificación automática Chaouki Maiza, Véronique Gaildrat, 2005* SIAMA: Sistema de imaginería y análisis de mobiliario arqueológico Programa CLAPS – Búsqueda de posición de fragmento en la vasija Sitios galo-romanos de La Graufesenque y Montans 40 mil fragmentos digitalizados *Cita Reynoso-Jezierski 2001

Slide 55

Aplicaciones Al Biles – GenJam

Slide 56

Al Biles – GenJam Identificación del “cuello de botella de la adaptación” Las versiones tardías de GenJam no utilizan este principio en absoluto Biles considera que sigue siendo un AG Repertorio de +250 piezas Indistinguible de un quinteto real

Slide 58

Sistema IndagoSonus Andrew Gartland Jones*, Peter Copley, U. Sussex, 2003 Analogía con modelo LEGO – Implementa un modelo interactivo * Fallecido intempestivamente en 2004

Slide 59

Aplicaciones Eduardo Reck Miranda Universidad de Plymouth, UK – Editor del Leonardo Music Journal (MIT) Estudio de los componentes cognitivos que rigen la comunicación sonora Síntesis con autómatas celulares y AG

Slide 60

Otros diseños Peter Bentley Creación en artes visuales y música AG + redes neuronales Idem Cardalda & Johnson EvoWorkshops: EvoMUSART Modelos de Agentes + AG (NetLogo) Simulaciones visuales complejas Video de locomoción humana ABM Music

Slide 61

ACCAD – Diseño evolucionario interactivo

Slide 62

Diseño evolucionario interactivo Andreas Lund

Slide 63

Arquitectura evolucionaria John Gero y Vladimir Kazakov Paul Coates Martin Hemberg Genr8, HELMS (Hemberg Extended Map L-Systems) (MIT) John Frazer Ref. en Mundos virtuales habitados - Iliana Hernández García, p.58 Documentos en DVD Autómatas celulares, sistemas-L, caos determinista, algoritmo genético, redes neuronales 

Slide 64

John Frazer Disponible en http://carlosreynoso.com.ar Ver página de Novedades

Slide 66

Ichiro Nagasaka

Slide 67

Martin Hemberg Artículo en libro de Romero y Penousal Machado

Slide 68

Karl Sims – Arte genético

Slide 69

Karl Sims – Arte genético

Slide 70

Karl Sims Evolved virtual creatures (1994)

Slide 71

Günther Bachelier © Günther Bachelier – Trance-Art, http://www.vi-anec.de/Trance-Art/Trance-Art.html

Slide 72

Jonathan McCabe © Jonathan McCabe, 2006, http://www.jonathanmccabe.com/The_Front/A.jpg

Slide 73

John McCormack © Jon McCormack, http://evonet.lri.fr/evoweb/images/evoart/jon-mccormack/big-flower.jpg

Slide 74

Tatsuo Unemi Tatsuo Unemi, diciembre de 2000 javascript:OpenImageWin('001204')

Slide 75

Thomas Jourdan, Scott Draves ©Thomas Jourdan – Kandid.org – © Scott Draves, www.electricsheep.org

Slide 76

William Latham

Slide 77

Programas EA Visualizer Kandid Genetic Algorithm Viewer JavaEvA Match Simulated Annealing (Varios)

Slide 78

EA Visualizer

Slide 79

Kandid

Slide 80

Genetic Art Mattias Fagerlund (probar God’s hand)

Slide 81

Java EvA

Slide 82

Glosario Efecto Baldwin – El aprendizaje individual permite que un organismo explote variaciones genéticas que sólo parcialmente determinan una estructura fisiológica. En consecuencia, la habilidad para aprender puede guiar los procesos evolutivos “premiando” el éxito genético parcial. Con el tiempo, habilidades que requerían aprendizaje son reemplazadas por la dotación genética correspondiente.

Slide 83

Conclusiones Conjunto de técnicas independientes de objeto Mejor comprensión de problemas, búsqueda, adaptación, aprendizaje, cambio Cualquiera sea el marco teórico y el objeto Crear algoritmos y estructuras mucho más complejos de lo que es posible por métodos analíticos

Slide 84

¿Preguntas? Billyreyno@hotmail.com

Summary: algoritmo genetico, metaheuristica, simulacion de templado

Tags: algoritmo genetico metaheuristicas simulacion templado

URL: