Sistemas Híbridos. 1 Sistemas híbridos sob o ponto de vista de sistemas dinâmicos

Transcrição

1 Sistemas Híbridos 1 Sistemas híbridos sob o ponto de vista de sistemas dinâmicos existe uma definição formal para sistemas híbridos em teoria de sistemas dinâmicos, atribuída a sistemas que apresentam simultaneamente comportamentos dinâmicos de tempo contínuo e de tempo discreto. esta definição não está diretamente relacionada (embora também se aplique) aos tipos de sistemas que estamos interessados em estudar, e que também recebem a denominação de sistemas híbridos. a definição a seguir é apresentada com o objetivo único de permitir uma comparação com o enfoque geralmente adotado na área de inteligência computacional, a ser formalizado na próxima seção. um sistema híbrido contém dois tipos distintos de componentes: Tópico 10 Sistemas Híbridos 1 1. uma coleção de sistemas dinâmicos, cada um representando um modo do sistema; 2. um autômato ou sistema baseado em regras responsável pelo chaveamento entre os sistemas dinâmicos. sistemas dinâmicos: cada um representa, a seu tempo, o comportamento de tempo contínuo do sistema híbrido. Pode ser descrito por um conjunto de equações diferenciais não-lineares de uma dada dimensão, com parâmetros de controle. componente discreto: é representado pelo autômato ou sistema baseado em regras que chaveia para o próximo modo do sistema com base nas regras de transição e no modo atual do sistema. 2 Sistemas híbridos sob o ponto de vista de inteligência computacional os sistemas híbridos de interesse para a área de inteligência computacional são aqueles caracterizados pela agregação (combinação, fusão e transformação) de Tópico 10 Sistemas Híbridos 2

2 sub-sistemas previamente dotados de uma identidade individual e que apresentam características não-coincidentes (complementares, ortogonais) entre si. esta agregação deve ser tal que o potencial do sistema híbrido seja maior que a simples soma dos potenciais isolados de cada sub-sistema constituinte. como apenas recentemente a comunidade científica passou a buscar uma formalização adequada para sistemas híbridos, justamente por perceber o seu potencial e a viabilidade de implementá-los, não se pode ainda anunciar a existência de uma teoria de sistemas híbridos. mais uma vez a comunidade científica se depara com a possibilidade concreta de sintetizar soluções alternativas para os mais variados tipos de problemas, sem no entanto ser capaz de analisar devidamente os processos de obtenção e as estruturas resultantes. Tópico 10 Sistemas Híbridos Objetivos e motivação a automatização e a robustez dos processos de geração de solução para problemas de engenharia, constituem objetivos centrais de pesquisa na área de inteligência computacional. uma vez que os sistemas híbridos podem fornecem uma estrutura básica e uma metodologia para a análise e síntese de sistemas autônomos inteligentes, eles representam candidatos promissores para atender aos objetivos mencionados acima. são duas as motivações básicas geralmente empregadas para justificar o estudo de sistemas híbridos: 1. não existe uma única ferramenta que seja ótima para todos os problemas (múltiplas ferramentas + múltiplos problemas) (WOLPERT & MACREADY, 1997); Tópico 10 Sistemas Híbridos 4

3 2. a busca de ferramentas dedicadas para a solução de um dado problema pode ser um processo mais custoso do que a obtenção da solução pela agregação de múltiplas ferramentas não-dedicadas. estratégia: aplicar múltiplas ferramentas na busca de solução para cada problema. caução: disponibilidade de recursos computacionais. propriedades: 1. estrutura modular; 2. dividir para conquistar; 3. múltiplos modelos mais simples em lugar de um modelo mais complexo. ferramentas de solução como agentes autônomos adaptativos aprendizado e adaptação Tópico 10 Sistemas Híbridos 5 3 Especialista e especialização um especialista é aquele que adquiriu habilidades especiais ou conhecimento de um assunto específico através de treinamento profissional ou experiência prática. quando um especialista exibe suas habilidades em público, seu comportamento aparenta ser tão natural que geralmente se atribui a estas pessoas certos talentos especiais, não apresentados pelos demais simples mortais. embora se admita que algum esforço seja necessário, as pessoas em geral subestimam a importância dos processos de treinamento e condicionamento para se atingir a condição de especialista, mesmo para aqueles que efetivamente detêm algum talento especial. quando se recorre a testes psicométricos para avaliar as potencialidades supostamente superiores de um especialista, seja em termos de velocidade de raciocínio, memória ou inteligência, percebe-se que a superioridade é sempre Tópico 10 Sistemas Híbridos 6

4 restrita ao domínio de especialização, não sendo generalizável a outros contextos (DJAKOW et al., 1927; DOLL & MAYR, 1987; TAYLOR, 1975). ERICSSON & LEHMANN (1996) concluíram que: medidas de capacidades básicas genéricas não permitem predizer sucesso em algum domínio específico; o desempenho superior de um especialista é invariavelmente restrito a um domínio específico, e sua transferência para outros domínios é surpreendentemente limitada; as diferenças sistemáticas entre especialistas e indivíduos menos proficientes quase sempre refletem atributos adquiridos pelos especialistas durante períodos prolongados de preparação e treinamento. em sua influente teoria da especialização, CHASE & SIMON (1973) e SIMON & CHASE (1973) propõem que especialistas adquirem e representam um grande número de padrões mais complexos, além de organizarem e usarem este conjunto Tópico 10 Sistemas Híbridos 7 estendido de padrões para tomar decisões mais refinadas (quando comparadas às adotadas por não-especialistas) frente a cada situação. assim, o desempenho de um especialista pode ser visto como um caso extremo de aquisição de habilidades (PROCTOR & DUTTA, 1995; RICHMAN et al., 1996; VANLEHN, 1996), ou seja, como o resultado final de um processo gradual e prolongado de assimilação de habilidades restritas a um domínio. esta é uma visão muito adequada para a implementação de sistemas especialistas em computador (HOFFMAN, 1992). muitos avanços obtidos quanto à forma de representação de conhecimento e modo de agir de um especialista derivam da análise dos textos gerados quando um especialista é instruído a pensar em voz alta enquanto executa ações representativas em seu domínio de especialidade (CHI et al., 1988; ERICSSON & SMITH, 1991; STARKES & ALLARD, 1993). Tópico 10 Sistemas Híbridos 8

5 ficou evidente que, no caso de problemas altamente desafiadores, um especialista não realiza apenas extração automática de padrões e associação direta com decisões a serem tomadas. Em vez disso, ele seleciona informações relevantes e as codifica em representações especiais, gerando um tipo de memória de trabalho, que será posteriormente explorada na definição de planos, avaliações e raciocínios acerca de possibilidades de atuação (ERICSSON & LEHMANN, 1996). logo, a diferença entre um especialista e um não-especialista não está simplesmente na quantidade e qualidade da informação acumulada de forma incremental e prolongada, mas na forma e na dinâmica de organização e uso do conhecimento (CHI et al., 1982). as conseqüências são as seguintes (ERICSSON & KINTSCH, 1995): recuperação rápida e confiável de informação relevante; disponibilidade de memórias de médio e longo prazo, o que expande enormemente a quantidade de informação de acesso imediato; Tópico 10 Sistemas Híbridos 9 maior capacidade de adaptação a novas circunstâncias e maior eficácia na antecipação de eventos futuros. estas mesmas habilidades podem ser usadas também para auto-avaliação, com o propósito de aperfeiçoar o desempenho a partir de novas formas de treinamento e assimilação de conhecimento (ERICSSON, 1996; GLASER, 1996). 4 Comitê de máquinas abordagem baseada no princípio dividir para conquistar. um especialista aqui refere-se a uma técnica computacional desenvolvida especificamente para tratar (produzir a solução de) uma determinada classe de problemas, apresentando desempenho garantido para o domínio de aplicação. em termos computacionais, este princípio se manifesta da seguinte forma: uma tarefa computacionalmente complexa é resolvida pela sua divisão em um número de tarefas computacionalmente mais simples, seguida pela combinação (outros mecanismos podem existir) das soluções obtidas para cada tarefa mais simples. Tópico 10 Sistemas Híbridos 10

6 quando se faz uso de um especialista para cada tarefa mais simples, a combinação deles é denominada de comitê de máquinas (committee machines). O que se busca é obter um desempenho supostamente superior àquele que poderia ser obtido por qualquer um dos especialistas agindo sozinho. existem duas categorias de comitês de máquinas: 1) de estrutura estática: a resposta dos vários especialistas são combinadas sem levar em conta os sinais de entrada. Esta categoria inclui os seguintes métodos: ensemble: a saída resulta de uma combinação linear fixa das saídas produzidas pelos especialistas, os quais são expostos às mesmas informações disponíveis para se resolver o problema; boosting: existem mecanismos estatísticos para expor cada especialista a aspectos distintos do problema, e a saída resulta de uma combinação linear fixa das saídas produzidas pelos especialistas Tópico 10 Sistemas Híbridos 11 2) de estrutura dinâmica: a resposta dos vários especialistas são combinadas levando-se em conta os sinais de entrada. Esta categoria inclui os seguintes métodos: mixture of experts: as saídas produzidas pelos especialistas são combinadas de forma não-linear, através de um único mecanismo de chaveamento, responsável pelo comportamento instantâneo do sistema; hierarchical mixture of experts: as saídas produzidas pelos especialistas são combinadas de forma não-linear, através de vários mecanismos de chaveamento arranjados de modo hierárquico. Neste caso, cada especialista pode ser, na verdade, uma mixture of experts. 5 Classes de sistemas híbridos em inteligência computacional inteligência computacional: redes neurais artificiais, sistemas baseados em lógica nebulosa, computação evolutiva e agentes inteligentes. Tópico 10 Sistemas Híbridos 12

7 sistemas inteligentes: IA clássica + inteligência computacional é possível distinguir 4 tipos de sistemas híbridos em inteligência computacional, resultantes da aplicação dos seguintes procedimentos: 1. fusão; 2. transformação; 3. combinação; 4. associação. IA simbólica sistemas fuzzy redes neurais computação evolutiva agentes inteligentes fusão combinação transformação associação Tópico 10 Sistemas Híbridos 13 exemplos de fusão: redes neuro-fuzzy; uso de conceitos de agentes na definição de arquiteturas de redes neurais artificiais. exemplos de combinação: computação evolutiva para otimizar parâmetros de redes neurais, sistemas fuzzy, ou sistemas neuro-fuzzy; redes neurais para definição de funções de fitness em computação evolutiva. exemplos de transformação: extração de regras de uma rede neural; rede neural treinada para reproduzir o comportamento de inferência de uma base de regras. a associação seria uma espécie de comitê de máquinas. basicamente, todos os sistemas híbridos, em maior ou menor grau, buscam objetivos locais ou globais, coordenam ações, compartilham conhecimento e resolvem conflitos durante a interação caracterizada por etapas de cooperação e competição. Tópico 10 Sistemas Híbridos 14

8 6 Estrutura geral do processo de agrupamento de soluções por competição (ensembles) Decisão Confiança Processo de Meta-aprendizado (Agrupamento) Processo de Aprendizado 1 Processo de Aprendizado N Informação disponível (dados / sensores / extração de conhecimento) Tópico 10 Sistemas Híbridos 15 7 Questões fundamentais 1. projetar o processo de meta-aprendizado ou agrupamento; 2. selecionar os processos de aprendizado (especialistas, classificadores,...) 3. determinar os conjuntos de treinamento (os mesmos? decomposição automática?); 4. estimar ganhos esperados ao utilizar um processo de solução híbrido em lugar de uma única solução (proporcional à ausência de correlação); 5. estabelecer condições para permitir a aplicação de soluções híbridas a problemas não-estacionários; 6. desenvolver técnicas eficientes para aquisição de conhecimento e inicialização dos processos de solução em casos em que existe um conhecimento inicial prévio; 7. definir medidas de confiabilidade. Tópico 10 Sistemas Híbridos 16

9 8 Referências bibliográficas Especialistas e especialização CHASE, W. G. & H. A. SIMON (1973). The mind s eye in chess. In W. G. Chase, Ed., Visual Information Processing. New York: Academic Press, pp CHI, M. T. H., R. GLASER & M. J. FARR, Eds. (1988). The Nature of Expertise. Hillsdale, NJ: Erlbaum. CHI, M. T. H., R. GLASER & E. REES (1982). Expertise in problem solving. In R. S. Sternberg, Ed., Advances in the Psychology of Human Intelligence, vol. 1. Hillsdale, NJ: Erlbaum, pp DJAKOW, I. N., N. W. PETROWSKI & P. RUDIK (1927). Psychologie des Schachspiels [Psychology of Chess]. Berlin: Walter de Gruyter. DOLL, J. & U. MAYR (1987). Intelligenz und Schachleistung eine Untersuchung an Schachexperten. [Intelligence and achievement in chess a study of chess masters]. Psychologische Beitrge 29: ERICSSON, K. A. (1996). The acquisition of expert performance: an introduction to some of the issues. In K. A. Ericsson, Ed., The Road to Excellence: The Acquisition of Expert Performance in the Arts and Sciences, Sports, and Games. Mahwah, NJ: Erlbaum, pp ERICSSON, K. A. & W. KINTSCH (1995). Long-term working memory. Psychological Review 102: ERICSSON, K. A. & A. C. LEHMANN (1996). Expert and exceptional performance: evidence on maximal adaptations on task constraints. Annual Review of Psychology 47: Tópico 10 Sistemas Híbridos 17 ERICSSON, K. A. & J. SMITH, Eds. (1991). Toward a General Theory of Expertise: Prospects and Limits. Cambridge, England: Cambridge University Press. GLASER, R. (1996). Changing the agency for learning: acquiring expert performance. In K. A. Ericsson, Ed., The Road to Excel-lence: The Acquisition of Expert Performance in the Arts and Sciences, Sports, and Games. Mahwah, NJ: Erlbaum, pp HOFFMAN, R. R., Ed. (1992). The Psychology of Expertise: Cognitive Research and Empirical AI. New York: Springer. PROCTOR, R. W. & A. DUTTA (1995). Skill Acquisition and Human Performance. Thousand Oaks, CA: Sage. RICHMAN, H. B., F. GOBET, J. J. STASZEWSKI & H. A. SIMON (1996). Perceptual and memory processes in the acquisition of expert performance: the EPAM model. In K. A. Ericsson, Ed., The Road to Excellence: The Acquisition of Expert Performance in the Arts and Sciences, Sports, and Games. Mahwah, NJ: Erlbaum, pp SIMON, H. A. & W. G. CHASE (1973). Skill in chess. American Scientist 61: STARKES, J. L. & F. ALLARD, Eds. (1993). Cognitive Issues in Motor Expertise. Amsterdam: North Holland. TAYLOR, I. A. (1975). A retrospective view of creativity investigation. In I. A. Taylor and J. W. Getzels, Eds., Perspectives in Creativity. Chicago: Aldine. pp VANLEHN, K. (1996). Cognitive skill acquisition. Annual Review of Psychology 47: Tópico 10 Sistemas Híbridos 18

10 Ensembles GHOSH, J. (1997) Network Ensembles and Hybrid Systems. Tutorial at the IEEE International Conference on Neural Networks. HASHEM, S. (1997). Optimal linear combinations of neural networks. Neural Networks, vol. 10, pp NAFTALY, U., N. INTRATOR & D. HORN (1997). Optimal ensemble averaging of neural networks. Network, vol. 8, pp PERRONE, M.P. (1993). Improving regression estimation: Averaging methods for variance reduction with extensions to general convex measure optimization. Ph.D. Thesis, Brown University, Rhode Island. WOLPERT, D.H. (1992). Stacked generalization. Neural Networks, vol. 5, pp Boosting DRUCKER, H., C. CORTES, L.D. JACKEL & Y. LECUN (1994). Boosting and other ensemble methods. Neural Computation, vol. 6, pp FREUND, Y. (1995). Boosting and weak learning algorithm by majority. Information Computation, vol. 121, pp SCHAPIRE, R.E. (1990). The strength of weak learnability. Machine Learning, vol. 5, pp Tópico 10 Sistemas Híbridos 19 Mixture of experts JACOBS, R.A., M.I. JORDAN, S.J. NOWLAN & G.E. HINTON (1991). Adaptive mixtures of local experts. Neural Computation, vol. 3, no. 1, pp WATERHOUSE, S.R. (1997) Classification and Regression using Mixtures of Experts. Ph.D. Thesis, University of Cambridge. Hierarchical Mixture of experts HAYKIN, S. (1999). Neural Networks: A Comprehensive Foundation. 2nd edition, Prentice-Hall. No Free Lunch WOLPERT, D.H. & MACREADY, W.G. (1997) No Free Lunch Theorems for Optimization. IEEE Transactions on Evolutionary Computation, vol. 1, pp Tópico 10 Sistemas Híbridos 20