Particle Swarm Optimization (PSO)

Transcrição

1 Partcle Swarm Optmzaton (PSO) Fabrco Breve 03/05/2017 Fabrco Breve 1

2 Partcle Swarm Optmzaton Otmzação por Enxame de Partículas Proposta em 1995 por: James Kennedy: pscólogo socal Russ Eberhart: engenhero elétrco Surgu a partr de expermentos que modelavam o comportamento de enxames Vsto em váras espéces de pássaros e de pexes Objetvo ncal era estudar o comportamento socal e cogntvo de anmas 03/05/2017 Fabrco Breve 2

3 Partcle Swarm Optmzaton Motvação: Crar uma smulação do comportamento socal População de ndvíduos capazes de nteragr Com o ambente Uns com os outros Partcularmente com um conjunto de vznhos 03/05/2017 Fabrco Breve 3

4 Partcle Swarm Optmzaton Prncípo de Adaptação Cultural Cada ndvíduo: Tem sua própra experênca e sabe quão boa ela é Tem algum conhecmento de como os ndvíduos de sua vznhança tem se desempenhado Corresponde a: Aprendzado ndvdual Transmssão cultural ou socal 03/05/2017 Fabrco Breve 4

5 Partcle Swarm Optmzaton Probabldade de um ndvíduo tomar uma decsão depende de: Quanto sucesso ele teve com essa decsão no passado Influêncas socas Algortmo PSO Indvíduos são nfluencados pelo sucesso de sua vznhança socal 03/05/2017 Fabrco Breve 5

6 Partcle Swarm Optmzaton Prncípos de adaptação cultural: Avalação Capacdade de um ndvíduo sentr o ambente e quantfcar um grau de quão bom ele é em relação a algum parâmetro ou tarefa Comparação Pessoas usam outros como padrões para se avalar, o que serve como motvação para aprender e mudar Imtação Compreende tomar a perspectva de outra pessoa, não apenas mtando um comportamento, mas também entendendo seus propóstos 03/05/2017 Fabrco Breve 6

7 Partcle Swarm Optmzaton Prncpo Básco Comportamento é governado por regras semelhantes em todas as socedades Compartlhamento de nformação entre os ndvíduos pode oferecer alguma vantagem PSO Indvíduos aprendem com sua própra experênca e com a experênca dos outros Se avalam e se comparam aos seus vznhos e mtam apenas os vznhos superores a eles própros 03/05/2017 Fabrco Breve 7

8 Partcle Swarm Optmzaton Tem sdo aplcado com sucesso a város problemas de busca e otmzação Engenhara Computação Procedmento de otmzação numérca Busca num espaço l-dmensonal de valores reas Reveja sldes de computação evolutva sobre busca no espaço de possíves soluções 03/05/2017 Fabrco Breve 8

9 Partcle Swarm Optmzaton Város modelos de movmento de organsmos em bandos e cardumes foram nvestgados Reynolds estudou coreografa dos bandos de pássaros Heppner procurou as regras que possbltam vôo sncronzado de grandes bandos de pássaros, mesmo com: Pássaros mudando de dreção subtamente Pássaros se espalhando e re-agrupando 03/05/2017 Fabrco Breve 9

10 Bando de Pássaros A lção dos gansos Estudo dos motvos que levam os gansos a voarem em forma de V levaram a 5 descobertas Lessons from the Geese by Robert McNesh 03/05/2017 Fabrco Breve 10

11 Bando de Pássaros Descoberta 1 À medda em que cada pássaro bate suas asas, ele cra sustentação para a ave segunte Voando em formação V, o grupo consegue voar pelo menos 71% a mas do que se cada pássaro voasse soladamente 03/05/2017 Fabrco Breve 11

12 Bando de Pássaros Descoberta 2 Sempre que um ganso sa fora da formação V, ele sente uma forte resstênca ao tentar voar soznho Volta rapdamente à formação anteror Por se benefcar do poder de sustentação do(s) pássaro(s) medatamente à sua frente 03/05/2017 Fabrco Breve 12

13 Bando de Pássaros Descoberta 3 Quando o ganso líder se cansa, ele va para o fundo do V Enquanto um outro ganso assume a lderança 03/05/2017 Fabrco Breve 13

14 Bando de Pássaros Descoberta 4 Os gansos de trás grasnam para encorajar os da frente e manter o rtmo e a velocdade 03/05/2017 Fabrco Breve 14

15 Bando de Pássaros Descoberta 5 Quando um ganso adoece ou se fere e dexa o grupo, dos outros gansos saem da formação e acompanham o ganso doente até que a dfculdade seja superada Mas tarde, os três juntos rencam a jornada ou se unem a uma outra formação, até reencontrarem o antgo grupo 03/05/2017 Fabrco Breve 15

16 Bando de Pássaros Cada pássaro segue regras smples Separação Evtar colsão com outros pássaros do bando Alnhamento Voar no mesmo sentdo dos demas pássaros do bando Coesão Voar em dreção à posção méda do bando 03/05/2017 Fabrco Breve 16

17 Partcle Swarm Optmzaton De acordo com E. O. Wlson (sóco-bólogo): Pelo menos em teora, membros ndvduas de um cardume podem se benefcar das descobertas e experêncas anterores de outros membros do cardume na busca por almentos Essa vantagem pode se tornar decsva, compensando as desvantagens da competção por almentos Compartlhamento de nformação dentro de uma espéce gera uma vantagem evolutva Hpótese fundamental para o desenvolvmento do PSO 03/05/2017 Fabrco Breve 17

18 Partcle Swarm Optmzaton Pexes e pássaros ajustam seu movmento físco para: Evtar predadores Procurar por almento e companhero(a) Otmzar parâmetros ambentas Temperatura 03/05/2017 Fabrco Breve 18

19 Partcle Swarm Optmzaton Baseado em modelos desenvolvdos pelo bólogo Frank Heppner Exbe os mesmos comportamentos para bandos de pássaros encontrados em outros modelos Apresenta uma característca adconal: Os pássaros são atraídos para uma área de abrgo (polero) 03/05/2017 Fabrco Breve 19

20 Partcle Swarm Optmzaton Supor um grupo de pássaros procurando por um abrgo Procura ocorre de forma aleatóra Exste apenas um abrgo Nenhum pássaro sabe onde está o abrgo Mas todos sabem, a cada nstante de tempo, quão longe estão do abrgo Qual a melhor estratéga para encontrar o abrgo? 03/05/2017 Fabrco Breve 20

21 Partcle Swarm Optmzaton Possível estratéga: Segur o pássaro que está mas próxmo do abrgo Estratéga usada pelo PSO 03/05/2017 Fabrco Breve 21

22 Partcle Swarm Optmzaton Nas smulações realzadas Cada solução = um pássaro voando no espaço de busca Os pássaros ncalmente voavam ao acaso Sem um destno defndo Espontaneamente, os pássaros formavam bandos Até um dos pássaros sobrevoar um abrgo (ou uma fonte de almentos) Se o desejo de pousar tvesse um valor maor que o desejo de permanecer voando (valores programados), o pássaro dexava o bando e pousava 03/05/2017 Fabrco Breve 22

23 Partcle Swarm Optmzaton Nas smulações realzadas (cont.) Pássaros usavam regras smples para defnr sua dreção e velocdade Cada pássaro tentava: Fcar no meo dos pássaros mas próxmos Evtar coldr com esses pássaros Como resultado Quando um pássaro saa do bando para r ao abrgo, pássaros próxmos acompanhavam o movmento Cada vez mas pássaros descam no abrgo Até que o bando ntero tvesse descdo 03/05/2017 Fabrco Breve 23

24 Partcle Swarm Optmzaton Encontrar um abrgo é análogo a encontrar uma solução no unverso de possíves soluções Manera como o pássaro que encontrou o abrgo ldera seus vznhos em dreção a ele aumenta a chance desses também encontrarem o abrgo Encontra eco na defnção sóco-cogntva de mente Que a mente, e portanto a ntelgênca, é socal 03/05/2017 Fabrco Breve 24

25 Partcle Swarm Optmzaton Partículas podem voar sobre o espaço de soluções e pousar na melhor solução Como evtar que as partículas pousem em qualquer solução? E não apenas na melhor? Prncípo mportante da vsão sóco-cogntva: Indvíduos aprendem a partr do sucesso de seus vznhos Como mplementar este prncípo em um algortmo? 03/05/2017 Fabrco Breve 25

26 Partículas Não têm ntelgênca Voam através das coordenadas de um espaço n-dmensonal Quando se movem, mandam suas coordenadas para uma função de aptdão Mede aptdão da partícula Relaconada ao problema nvestgado 03/05/2017 Fabrco Breve 26

27 Partículas Partículas lembram de: Suas coordenadas atuas Sua velocdade atual Quão rápdo está se movendo ao longo das dmensões do espaço de soluções Seu melhor valor de aptdão até então recebdo Coordenadas de onde fo calculado seu melhor valor de aptdão 03/05/2017 Fabrco Breve 27

28 Partículas Além dsso, cada partícula tem acesso às seguntes nformações: Melhor posção encontrada até o momento por uma partícula em sua vznhança No espaço de soluções Aptdão desta solução 03/05/2017 Fabrco Breve 28

29 Partículas A cada teração, cada partícula tem seus parâmetros atualzados usando: Melhor solução obtda até o momento pela partícula Melhor solução obtda até o momento por qualquer partícula da sua vznhança 03/05/2017 Fabrco Breve 29

30 Vznhança Não está relaconada à proxmdade físca dos ndvíduos no espaço de soluções Vznhanças são defndas antes das partículas ncarem a caça Buscas dentro de uma vznhança podem ocorrer em áreas dstntas do espaço de soluções 03/05/2017 Fabrco Breve 30

31 Vznhança Quem são os vznhos de uma partícula? Sucesso dos vznhos rá nfluencar sucesso da partícula Veremos algumas alternatvas... 03/05/2017 Fabrco Breve 31

32 Vznhança Global Tratar todas as partículas como vznhos Aparentemente boa Mas reduz chance de convergênca para solução ótma em város problemas Uso de vznhanças menores, com sobreposção tem sdo mas efetvo 03/05/2017 Fabrco Breve 32

33 Vznhança Local Supor 7 partículas: a, b, c, d, e, f e g Usar as vznhanças: gab, abc, bcd, cde, efg e fga Esta topologa atrasa convergênca e permte maor exploração do espaço de busca Partícula a é vznha de g e de b Se b ou g encontrarem uma solução melhor que a, a será nfluencada por este decsão g e b, por sua vez, têm suas própras vznhanças e serão nfluencadas por elas f g e a d b c 03/05/2017 Fabrco Breve 33

34 Vznhança Global X Local 03/05/2017 Fabrco Breve 34

35 Algortmo PSO Atualzação de velocdade onde v x é a velocdade da partícula é a posção da partícula t é o tempo p p g 1 2 AC é a melhor posção encontrada até o momento pela partícula é a melhor posção encontrada até o momento pela vznhança de é um vetor de números aleatóros em uma dstrbução unforme entre 0 e AC é um vetor de números aleatóros em uma dstrbução unforme entre 0 e AC 1 e AC Kennedy defne : AC 1 v 2 AC são constantes deaceleração. Geralmente 2 t v t p x t 4,1 (normalmente AC 1 p x t AC 2 AC 2,05) 1 AC 2 g /05/2017 Fabrco Breve 35

36 Algortmo PSO Novos vetores de números aleatóros devem ser gerados em cada teração Multplcação de elemento por elemento v t v t p x t p x t g A notação x também é usada Proporconal à dstânca entre a melhor posção encontrada pela partícula e a posção atual Proporconal à dstânca entre a melhor posção encontrada pela vznhança e a posção atual Inérca Comportamento Cogntvo Comportamento Socal 03/05/2017 Fabrco Breve 36

37 Algortmo PSO Atualzação de posção x t 1 x t v t 1 onde v t é o tempo x é a velocdade da partícula é a posção da partícula (calculada noslde anteror) 03/05/2017 Fabrco Breve 37

38 Trenamento Permte a propagação lenta para o ótmo global por meo de todas as vznhanças Durante a propagação Partículas das vznhanças anda não afetadas contnuarão sua busca no espaço de soluções Segundo o camnho que elas julgam melhor Aumenta as chances de encontrar uma nova solução global melhor, próxma a elas ou entre elas Se exstr 03/05/2017 Fabrco Breve 38

39 Aptdão Avalação da função de aptdão Partícula não precsa saber qual é o seu valor de aptdão Precsa apenas saber quão boa é sua aptdão em relação ao ótmo Valor do ótmo é defndo pelo projetsta Valor de aptdão é usado para comparar aptdão de duas partículas quasquer Para defnr melhor posção das partículas e das vznhanças 03/05/2017 Fabrco Breve 39

40 Lmtar movmentação das partículas Para lmtar a mudança de posção das partículas é possível estabelecer lmtes: Se v v então v v Se v d d v max mn então v d d v max mn v d é a dmensão d do vetor v 03/05/2017 Fabrco Breve 41

41 Algortmo procedmento [X] = PS(max_t,AC 1,AC 2,V max,v mn ) ncalzar X // normalmente x,, é ncalzado aleatoramente ncalzar V // aleatoramente, v [v mn, v max ] t 1; enquanto t < max_t faça para de 1 até N faça // para cada partícula se g(x ) > g(p ) então p = x // melhor desempenho ndvdual fm-se g = // arbtráro para j = índce dos vznhos // para todos os vznhos se g(p j ) > g(p g ) então g = j // índce do melhor vznho fm-se fm-para v v + φ 1 (p x ) + φ2 (p g x ) v [v mn,v max ] x x + v fm-para t t + 1 fm-enquanto fm-procedmento g() é a função de aptdão g é o índce do melhor vznho p é o melhor desempenho da partícula p g é o melhor desempenho do melhor vznho de 03/05/2017 Fabrco Breve 42

42 Parâmetros Tamanho do enxame X = {x 1,, x N } Quantdade de partículas Normalmente entre 10 e 50 N [10,50] Dmensão do espaço de busca L Número de parâmetros lvres do problema Escolha de representação Números reas Escolha da função de aptdão Depende do problema 03/05/2017 Fabrco Breve 43

43 Exemplo Problema: encontrar valor de x que mnmza f(x) = x 2, x [ 7, +7] População ncal aleatóra População de tamanho 4 Função de aptdão f(x) Melhor aptdão = posção de x que gera melhor f(x) 1 = 2 = 2,05 v max = 2 v mn = 2 Vznhança local crcular: X 1 : X 4 e X 3 X 2 : X 1 e X 3 X 3 : X 2 e X 4 X 4 : X 3 e X 1 X 4 X 1 X 3 X 2 03/05/2017 Fabrco Breve 44

44 Exemplo x 1 = 2 x 2 = 3 x 3 = 4 x 4 = 2 Aptdão g(x 1 ) = 4 g(x 2 ) = 9 g(x 3 ) = 16 g(x 4 ) = 4 v 1 = 1 v 2 = 2 v 3 = 2 v 4 = 1 Melhores posções p 1 = 2 p 2 = 3 p 3 = 4 p 4 = 2 p GERAL = 2 03/05/2017 Fabrco Breve 45

45 Exemplo Passo 1 v x t 1 v t p x t p x t 1 2 t 1 x t v t 1 v 1 = 1 + 1, ,8 (2 2) = 1 x 1 = = 3 v 2 = 2 + 0, ,9 (2 3) = 3,9 = 2 x 2 = 3 2 = 1 v 3 = 2 + 1,3 ( 4 ( 4)) + 0,2 ( 2 ( 4)) = 2,4 = 2 x 3 = = 2 v 4 = 1 + 0,6 ( 2 ( 2)) + 1,1 (2 ( 2)) = 3,4 = 2 x 4 = = 0 g Aptdão g(x 1 ) = 9 g(x 2 ) = 1 g(x 3 ) = 4 g(x 4 ) = 0 Melhores Posções p 1 = 2 p 2 = 1 p 3 = 2 p 4 = 0 p GERAL = 0 03/05/2017 Fabrco Breve 46

46 Exemplo Passo 2 v x t 1 v t p x t p x t 1 2 t 1 x t v t 1 v 1 = 1 + 2,0 (2 3) + 1,0 (0 3) = 4 = 2,0 x 1 = 3 2 = 1 v 2 = 2 + 1,6 (1 1) + 0,3 (2 1) = 1,7 x 2 = 1 1,7 = 0,7 v 3 = 2 + 0, ,9 (0 ( 2)) = 5,8 = 2,0 x 3 = = 0 v 4 = 2 + 1, ,0 (0 0) = 2 x 4 = = 2 g Aptdão g(x 1 ) = 1 g(x 2 ) = 0,5 g(x 3 ) = 0 g(x 4 ) = 4 Melhores Posções p 1 = 1 p 2 = 0,7 p 3 = 0 p 4 = 0 p GERAL = 0 03/05/2017 Fabrco Breve 47

47 Exemplo Passo 3 v x t 1 v t p x t p x t 1 2 t 1 x t v t 1 v 1 = 2 + 1, ,1 (0 1) = 2,1 = 2,0 x 1 = 1 2 = 1 v 2 = 1,7 + 1,7 ( 0,7 ( 0,7)) + 1,9 (0 ( 0,7)) = 0,4 x 2 = 0,7 0,4 = 1,1 v 3 = 2 + 1,4 (0 0) + 1,6 (0 0) = 2 x 3 = = 2 v 4 = 2 + 1, 5 (0 2) + 0,8 (0 2) = 2,6 = 2,0 x 4 = 2 2 = 0 g Aptdão g(x 1 ) = 1 g(x 2 ) = 1,2 g(x 3 ) = 4 g(x 4 ) = 0 Melhores Posções p 1 = 1 p 2 = 0,7 p 3 = 0 p 4 = 0 p GERAL = 0 03/05/2017 Fabrco Breve 48

48 Espaço de Soluções Número de dmensões = número de parâmetros lvres do problema Varáves de valores desconhecdos Exemplo: x 2 3y + 7 Tem 2 dmensões (x, y) Localzação da partícula no espaço de soluções é defndo por 2 coordenadas 03/05/2017 Fabrco Breve 49

49 Espaço de Soluções Exemplo: 4x 3 3y 2 + 4(w z) 2 Tem 4 dmensões (x, y, z e w) Localzação da partícula no espaço de soluções é defndo por 4 coordenadas PSO não tem dfculdades para trabalhar com 4 ou mas dmensões Otmzação de uma Rede Neural com 50 pesos tera 50 dmensões 03/05/2017 Fabrco Breve 50

50 Exercíco Seja a função f(x, y, z) = 3x 2 5y + 2z 3 4 Encontrar valores de x, y e z que fazem com que f(x, y, z) = 0 Partícula a Coordenadas: 2,1,1 Partícula b Coordenadas: 3, 7, 2 03/05/2017 Fabrco Breve 51

51 Exploração X Explotação É necessáro um balanço entre exploração e explotação Exploração: Procurar por uma boa solução no espaço de busca, vstando pontos desconhecdos Pouca exploração: algortmo converge para a prmera boa solução encontrada Explotação: Extrar o máxmo de nformação das soluções encontradas e usá-las para obter as próxmas soluções Pouca explotação: algortmo nunca converge 03/05/2017 Fabrco Breve 52

52 Socabldade X Indvdualdade Balanço exploração X explotação pode ser vsto como de outra forma: Socabldade X Indvdualdade Indvíduos devem ter ndvdualdade Pássaros não querem chocar-se com outro(s) Também devem ser socáves Saber onde estão as boas soluções encontradas por outros, podendo aprender com eles 03/05/2017 Fabrco Breve 53

53 Modfcações do PSO Peso de nérca w v t w. v t p x t w tem um valor ncal que pode ser reduzdo durante o processo de adaptação Pode ser consderado uma temperatura Va resfrando durante o processo p x t Da mesma forma que no Smulated Annealng (Recozmento Smulado) g 03/05/2017 Fabrco Breve 54

54 v Modfcações do PSO Coefcente de constrção t v t p x t com 0,729 p x t g Modfcação conhecda hoje como o PSO padrão 03/05/2017 Fabrco Breve 55

55 PSO X AGs Smlardades Metaheurístcas baseadas em populações Incalzadas com uma população aleatóra de ndvíduos Utlzam função de aptdão para avalar cada ndvíduo Buscam por ótmo global em váras gerações Crtéro de parada Não garantem sucesso 03/05/2017 Fabrco Breve 56

56 PSO Vôo no espaço de busca Velocdade nterna, memóra Mas fácl de mplementar Menos parâmetros para ajustar Apenas melhor ndvíduo (da vznhança) transmte nformações Utlza valores reas (padrão) AG Operadores genétcos Seleção, Crossover, etc... Mas dfícl de mplementar Mas parâmetros para ajustar Cromossomos compartlham nformações Utlza valores bnáros (padrão) PSO X AGs: dferenças 03/05/2017 Fabrco Breve 57

57 PSO: Resumo Baseado em comportamento socal Algortmo muto smples Poucas lnhas de códgo Além de rápdo, utlza pouca memóra Utlza operadores matemátcos smples Tem obtdo bons resultados em váras aplcações 03/05/2017 Fabrco Breve 58

58 PSO: Aplcações Otmzação de parâmetros de Redes Neuras Rede neural para análse de tremores humanos Mal de Parknson, etc. Rede neural para estmatva de estado da carga de bateras Otmzação de parâmetros em máqunas ndustras Otmzação de mstura de ngredentes Controle de tensão e energa reatva Otmzação de parâmetros de transformadores, etc. Composção de músca 03/05/2017 Fabrco Breve 59

59 Referêncas Bblográfcas CASTRO, Leandro Nunes. Fundamentals of Natural Computng: Basc Concepts, Algorthms, And Applcatons. CRC Press, CARVALHO, André Ponce de Leon F. de. Notas de Aula, BROWNLEE, Jason. Clever Algorthms: Nature-Inspred Programmng Recpes. Jason Brownlee, BONABEAU, Erc; DORIGO, Marco; THERAULAZ, Guy. Swarm Intellgence: From Natural to Artfcal Systems. Oxford Unversty Press, DORIGO, Marco; STÜTZLE, Thomas. Ant Colony Optmzaton. Bradford Books, BREVE, Fabrco; ZHAO, Lang; QUILES, Marcos G.; PEDRYCZ, Wtold; LIU, Jmmng. Partcle competton and cooperaton n networks for sem-supervsed learnng. Knowledge and Data Engneerng, IEEE Transactons on, BREVE, Fabrco Aparecdo. Aprendzado de Máquna em Redes Complexas. 165 págnas. Tese. São Carlos: Unversdade de São Paulo, /05/