REDES NEURIS RTIFIIIS urso de Informática Semestre 2001/2 Professor Responsável: Prof. Dr. Fernando Osório E-Mail: osorio@exatas.unisinos.br Web: http://www.inf.unisinos.br/~osorio/neural.html TEMS DE ESTUDO: Hybrid Machine Learning Tools / Sistemas Híbridos Inteligentes onceitos básicos: Inteligência e prendizado Soluções Híbridas Representação de onhecimentos: Métodos Simbólicos e Métodos onexionistas - prendizado de Máquinas Sistemas Híbridos Inteligentes Sistemas Híbridos Neuro-Simbólicos SYNHESYS KNN INSS Discussão final ibliografia e Material omplementar 1
Inteligência: do Humano ao rtificial REPRODUZIR INTELIGÊNI HUMN - O que é Inteligência? - O que é um ser Inteligente? Inteligência: do Natural ao rtificial REPRODUZIR INTELIGÊNI HUMN - O que é Inteligência? - O que é um ser Inteligente? * ssociação de idéias e conceitos * oncluir coisas * apacidade de aprendizado * cúmulo de conhecimentos * Raciocínio: lógico, abstrato, dedução, analogia, indução, inferência, síntese, análise * Uso prático de experiências e conhecimentos passados * Tomada de decisões * riar coisas novas (criatividade) * Saber o que eu sei (saber explicar) * Interação * omunicação 2
Inteligência rtificial: onceitos ásicos REPRODUZIR INTELIGÊNI HUMN - onceito de Inteligência: PIDDE DE RESOLVER PROLEMS PIDDE DE PRENDER PIDDE DE SE DPTR / MELHORR - Realizar tividades Inteligentes - Sistemas Inteligentes: * Sistemas Especialistas * Sistemas de poio ao Diagnóstico e a Decisão * Reprodução de atividades típicas dos seres humanos: Fala, udição, Visão, Deslocamento, Manipulação de Objetos, etc. * Jogos: jogo da velha, xadrez, jogos de ação Sistemas Híbridos - Uma nova abordagem * aracterísticas / Propriedades: - Explorar a complementaridade dos módulos - Divisão de tarefas / Especialização - Modularidade = Múltiplas inteligências - Diversificação dos conhecimentos: Representação dos conhecimentos Novas fontes de conhecimentos Principal exemplo: SER HUMNO 3
Inteligência rtificial: Soluções Híbridas Inteligência Humana Inteligência rtificial prendizado Humano prendizado de Máquinas Métodos de Raciocínio e quisição de onhecimentos Múltiplos Sistemas Híbridos * Sistemas Especialistas de 1a. Geração: - quisição manual de conhecimentos - Problemas: ase de onhecimentos (regras e fatos) * Sistemas Especialistas de 2a. Geração: - quisição automática de conhecimentos - Integração de diferentes métodos da I.. Sistemas Híbridos Inteligência rtificial: Soluções Híbridas Inteligência Humana Inteligência rtificial prendizado Humano prendizado de Máquinas Métodos de Raciocínio e quisição de onhecimentos Múltiplos Sistemas Híbridos Sistemas Inteligentes Híbridos Projeto de Pesquisa HMLT - Hybrid Machine Learning Tools Ferramentas Híbridas de prendizado para o Máquinas oordenador... Prof. Fernando Osório olsistas de Iniciação ientífica... arla Medeiros arros (ex-bolsista) João Ricardo de ittencourt Menezes Rafael Guterres Jeffman Mestrando... Farlei Heinen (PIP/ 2000) ooperação: Laboratoire LEINIZ - Grenoble, França 4
Inteligência rtificial: prendizado de Máquinas Inteligência rtificial Sistemas Inteligentes prendizado de Máquinas Representação de onhecimentos Sistemas Especialistas KS, robótica, visão artificial,... R, ILP, indução de árvores de decisão, redes neurais algoritmos genéticos,... Métodos Simbólicos Métodos baseados em: Redes Neurais rtificiais Regras Fuzzy Regras ayesianas (probab.) Métodos Simbólicos: quisição de onhecimentos ase de onhecimentos (regras + fatos) onversão para um formato de representação interno quisição Explicitação utomática onhecimentos sobre uma área de aplicação: onhecimentos do especialista Teorias sobre o domínio de aplicação Resultados de experiências praticas (casos conhecidos) 5
Métodos Simbólicos: Representação de onhecimentos * Sistemas baseados em conhecimentos: KS - Knowledge ase Systems, Expert Systems (Frames e Redes Semânticas) Rule asedsystems, Production Rule Systems * Sistemas baseados em regras de lógica difusa ou nebulosa Fuzzy Expert Systems * Sistemas baseados em probabilidades Redes ayesianas * Sistemas baseados em casos ou exemplos R - ase ased Reasoning * Árvores de decisão IDT - Inductive Decision Trees * lgoritmos Genéticos G - Genetic lgorithms Sistemas Especialistas baseados em onhecimento Simbólico Dado um problema: ssume-se usualmente => onhecimento é ompleto e orreto Métodos Simbólicos: Representação de onhecimentos onhecimentos Teóricos XOR = ( Or ) nd Not ( nd ) ou XOR = ( nd Not ( ) ) Or ( Not ( ) nd ) onhecimentos Empíricos XOR 0 0 0 0 1 1 1 0 1 1 1 0 6
Métodos Simbólicos: Representação de onhecimentos onhecimentos Teóricos / Simbólicos Se existem 2 casas na horizontal, vertical ou diagonal com uma marca do jogador oponente e a terceira casa está livre Então jogar nesta casa! onhecimentos Empíricos / Dados X2 X O1 O3 X4 O5 Métodos de prendizado de Máquinas prendizado por analogia / por instâncias Sistemas baseados em casos R - ase ased Reasoning prendizado por Indução Indução de Árvores de Decisão ID3, 4.5, N2 - Induction of Decision Trees ILP - Inductive Logic Programming (Prolog) prendizado por evolução/seleção lgoritmos Genéticos G e GP - Genetic lgorithms / Genetic Programming prendizado por reforço (reinforcement learning) prendizado ayesianno (probabilista) prendizado Neural MLP ack-propagation - rtificial Neural Networks 7
SE DE DDOS SORE O PROLEM NÚMERO ÉU TEMPERTUR HUMIDDE VENTO LSSE 1 ensolarado elevada alta não N 2 ensolarado elevada alta sim N 3 coberto elevada alta não P 4 chuvoso média alta não P 5 chuvoso baixa normal não P 6 chuvoso baixa normal sim N 7 coberto baixa normal sim P 8 ensolarado média alta não N 9 ensolarado baixa normal não P 10 chuvoso média normal não P 11 ensolarado média normal sim P 12 coberto média alta sim P 13 coberto elevada normal não P 14 chuvoso média alta sim N Tabela onjunto de dados de aprendizado : ondições meteorológicas N = Negativo (tempo ruim) P = Positivo (tempo bom) SIMÓLIO P=2 N=3 Ensolarado HUMIDDE ÉU oberto P=9 N=5 huvoso VENTO P=3 N=2 Normal lta Verdadeiro P Falso P=4 Questão (corte) aso Positivo (P) aso Negativo (N) P P=2 N N=3 N N=2 P P=3 lasse (folha) IF ( ( ÉU=Ensolarado and HUMIDDE=Normal ) or ( ÉU=oberto ) or ( ÉU=huvoso and VENTO=Falso) ) Then lasse = P RVORE DE DEISÃO 8
Métodos Simbólicos: Árvores de Decisão 20 18 16 14 12 10 8 Y ção3 ção2 ção3 Entradas: X = [0..30] Y = [0..20] Saídas (ções): ção1, ção2, ção3 Árvore de Decisão: Sim Y<=10 Não 6 4 ção1 ção1 Sim X<=10 Não 2 ção3... 3 6 9 12 15 18 21 24 27 30 X prendizado de Máquinas: lgoritmos Genéticos Reprodução Seleção Natural (Fitness) ombinação (rossover) Mutação População Original 9
prendizado de Máquinas: lgoritmos Genéticos XOR :- XOR :- XOR 0 0 0 0 1 1 1 0 1 1 1 0 XOR : = ( or ) nd Not ( nd ) Reprodução ombinação Mutação Ok? lgumas gerações depois... XOR :- XOR :- or XOR :- and XOR :- Not () XOR :- Not () XOR :- or XOR :- Not() XOR :- Not () Seleção: Melhor Fitness Métodos Simbólicos: Vantagens e Desvantagens + onhecimento representado por regras (ou outra estrutura similar) que podem ser facilmente interpretadas e analisadas; + Permite a explicação do processo que levou a uma determinada resposta; + Fácil inserção de novos conhecimentos obtidos à partir do especialista ou através de métodos automáticos de aquisição de conhecimentos; - Necessidade de se trabalhar com conhecimentos completos e exatos sobre um determinado problema; - Dificuldade de explicitar todos os conhecimentos relativos ao problema através de regras simbólicas; - Dificuldade para tratar informações imprecisas ou aproximadas, e valores numéricos (dados quantitativos). 10
I.. - Métodos onexionistas: onceitos ásicos Redes Neurais rtificiais: Neurônio... Modelo Simulado Modelo SIMPLIFIDO aracterísticas ásicas: daptação prendizado utômato Representação de onhecimentos: aseada em onexões X 1 X 2 X N... Entradas (Dendritos) NEURL... W 1 W 2 W N Pesos Sinápticos (Efeito de inibição ou de excitação sobre a ativação dos sinais de entrada) N Net = Σ Wi.Xi + iais i tivação (onsidera o conjunto total das entradas e dos seus pesos associados) Fct (Net) Função de tivação (Regulagem da saída da rede) Saída (xônio: onexões com as Sinapses de outras unidades) 11
Métodos onexionistas: Representação de onhecimentos Reta, Plano ou Hiper-plano de separação das classes -1 lasse : X*W1+Y*W2 < 0 Entrada Y +1-1 X 1 Y 1 P(X 1,Y 1 ) - lasse - lasse P(X 1,Y 1 ) = lasse lasse : X*W1+Y*W2 > 0 Entrada X +1 Entradas: X, Y Reta: X*W1+Y*W2=0 Métodos onexionistas: Representação de onhecimentos Y Redes à base de Protótipos : Entradas - X,Y Saída - lasses (, ou ) Y 2 Y 1 Y 3 : Exemplos da classe : Exemplos da classe : Exemplos da classe X 1,Y 1 - Protótipo da classe X 2,Y 2 - Protótipo da classe X 3,Y 3 - Protótipo da classe Protótipos: * entro de Gravidade * Raio de influência (x,y) Teste de similaridade: * Distância Euclidiana X 1 X 2 X 3 X 12
Saída Saídas amada Oculta amadas Ocultas Entradas (a) Rede de três camadas (b) Rede com atalhos (c) Rede com múltiplas camadas tv = Σ W 1 +W 2 +W 3 W 3 W 1 W2 X Redes (d) Rede recorrente (e) Rede de ordem superior Neurais Erro na Saída da Rede PRENDIZDO: GENERLIZÇÃO prendizado: Parada tardia Dados de Teste Dados de prendizado Número de Épocas Erro na Saída da Rede Parada usando a Validação ruzada (ponto ótimo de generalização) Dados de Teste Dados de prendizado Número de Épocas 13
Métodos onexionistas: Vantagens e Desvantagens + quisição automática de conhecimentos empíricos à partir de uma base de exemplos de aprendizado referente a um problema; + Manipulação de dados quantitativos, aproximados e mesmo incorretos com uma degradação gradual das respostas; + Grande poder de representação de conhecimentos através da criação de relações ponderadas entre as entradas do sistema; - Dificuldade de configuração das redes em relação à sua estrutura inicial e também no que se refere aos parâmetros dos algoritmos de aprendizado; - Dificuldade de explicitar os conhecimentos adquiridos pela rede através de uma linguagem compreensível para um ser humano; - Dificuldade de convergência (bloqueios) e instabilidade, inerentes aos algoritmos de otimização empregados; - Lentidão do processo de aprendizado / adaptação. Sistemas Híbridos Inteligentes * onceitos ásicos: - omplementaridade - Divisão de tarefas / Especialização - Modularidade - Diversificação: Representação de onhecimentos Fontes de quisição de onhecimentos Exemplo: SER HUMNO 14
Sistemas Híbridos Inteligentes * ombinar as diferentes técnicas: - Árvores de Decisão - lgoritmos Genéticos - Redes Neurais rtificiais - S (ase ased Reasoning = Raciocínio baseado em asos) - RS (Rule ased Systems = Sistemas baseados em Regras) - Regras Nebulosas (Fuzzy Rules) - Sistemas Probabilistas (ayesian)... * Exemplos: Neuro+IDT, Neuro+Fuzzy, Neuro+R, Neuro+G, RS+R, G+RS,... Sistemas Híbridos Inteligentes: Integração * Módulos ásicos: - Métodos Simbólicos: R, KS, IDT, G, Fuzzy,... - Métodos onexionistas: Redes Neurais * Tipos de Integração: - Simbólico-Difuso - Simbólico-Genético - Neuro-Genético - Neuro-R - Neuro-Simbólicos Neuro-Fuzzy Neuro- IDT Neuro-KS 15
Sistemas Híbridos Neuro-Simbólicos S.H.N.S. Sistemas Híbridos Neuro-Simbólicos onexionista Puro Puramente onexionista = Módulo onexionista «simbólico» Módulo Simbólico + Módulo onexionista Puramente Simbólico = Módulo Simbólico «estendido» Simbólico Puro Sistemas Híbridos Método Unificado Método Híbrido Método Unificado Híbrido no sentido amplo Híbrido no sentido restrito Híbrido no sentido amplo 16
X Y X X Y mbiente / Usuário (a) Processamento em adeia mbiente / Usuário (b) Sub-Processamento X Y M MS mbiente / Usuário SHNS (c) Meta-Processamento mbiente / Usuário (d) o-processamento M: Módulo onexionista - MS: Módulo Simbólico X,Y: M ou MS - X diferente de Y quisição de onhecimentos onhecimentos Teóricos "Regras" quisição de onhecimentos "Exemplos" onhecimentos Empíricos 17
quisição de onhecimentos onhecimentos Teóricos "Regras" Módulo Simbólico MS quisição de onhecimentos "Exemplos" onhecimentos Empíricos Módulo M onexionista quisição de onhecimentos onhecimentos Teóricos "Regras" Módulo Simbólico MS quisição de onhecimentos "Exemplos" onhecimentos Empíricos Módulo M onexionista 18
quisição de onhecimentos Sistema Híbrido Neuro-Simbólico onhecimentos Teóricos "Regras" Módulo Simbólico MS quisição de onhecimentos "Exemplos" onhecimentos Empíricos Transferência de onhecimentos Módulo M onexionista Sistemas Híbridos Neuro-Simbólicos 1. SYNHESYS -. Giacometti Symbolic and NEural Hybrid Expert SYstem Shell Rede incremental baseada em protótipos - RN2 Módulo simbólico de inferência com «Forward/ackward haining» 2. KNN - G. Towell Knowledge ased rtificial Neural Networks Rede do tipo MLP com uso do algoritmo ack-propagation ompilação de regras em uma RN, aprendizado e extração de regras 3. INSS - F. Osório Incremental Neuro-Symbolic System Rede incremental do tipo MLP com uso do algoritmo ascade-orrelation ompilação de regras, aprendizado, extração e validação 19
Sistema SYNHESYS Situação Expert Módulo Simbólico Transferência de onhecimentos Módulo onexionista Decisão Gestionário de interações Decisão Expert Sistema SYNHESYS Y Entradas - X,Y Saída - lasse (, ou ) Y 2 Y 1 Y 3 : Exemplos da classe : Exemplos da classe : Exemplos da classe X 1,Y 1 - Protótipo da classe X 2,Y 2 - Protótipo da classe X 3,Y 3 - Protótipo da classe Protótipos: * entro de Gravidade (x,y) * Raio de influência (rx,ry) Teste de similaridade: * Distância Euclidiana X X 1 X 2 X 3 Protótipos: Hiper-elipsoides / Hiper-Esferas 20
Sistema SYNHESYS 20 18 16 14 12 10 8 6 4 2 Y ção3 ção2 ção1 3 6 9 12 15 18 21 24 27 30 Protótipos: Hiper-retângulos ção3 Entradas: X = [0..30] Y = [0..20] Saídas (ções): ção1, ção2, ção3 Regras: R1: Se Y in [0..10] então Y_Fraco R2: Se Y in [10..20] então Y_Forte R3: Se X in [0..10] então X_Fraco R4: Se X in [10..20] então X_Médio R5: Se X in [20..30] então X_Forte R6: Se Y_Fraco então ção1 R7: Se Y_Forte e X_Fraco então ção3 R8: Se Y_Forte e X_Forte então ção3 R9: Se Y in [14..20] e X_Médio então ção2 X Ds : Decisão do Módulo Simbólico Dc : Decisão do Módulo onexionista Dsc : Decisão Simboli-onexionista pagar ou adicionar uma regra S I T U Ç Ã O Sem Resposta Módulo onexionista Forward haining Módulo Simbólico ackward haining Dc Ds Dc=Ds Dc Ds Dsc Ds/Dc D E I S Ã O E X P E R T Synhesys prendizado / daptação (Pode usar Ds) 21
Sistemas Híbridos Neuro-Symbólicos 1. SYNHESYS -. Giacometti Symbolic and NEural Hybrid Expert SYstem Shell Rede incremental baseada em protótipos - RN2 Módulo simbólico de inferência com «Forward/ackward haining» 2. KNN - G. Towell Knowledge ased rtificial Neural Networks Rede do tipo MLP com uso do algoritmo ack-propagation ompilação de regras em uma RN, aprendizado e extração de regras 3. INSS - F. Osório Incremental Neuro-Symbolic System Rede incremental do tipo MLP com uso do algoritmo ascade-orrelation ompilação de regras, aprendizado, extração e validação Sistema KNN onhecimentos simbólicos iniciais Rede Neural inicial Rede Neural após o aprendizado onhecimentos simbólicos refinados ompilação de regras dentro de uma rede prendizado onexionista Extração de regras à partir de uma rede 22
Sistema KNN ase de onhecimentos Simbólicos onclusões Finais Rede Neural rtificial Unidades de Saída onclusões Intermediárias amada Oculta Fatos de ase (Premissas) Unidades de Entrada KNN - Regras e Redes onhecimentos Teóricos XOR = ( Or ) nd Not ( nd ) ou XOR = ( nd Not ( ) ) Or ( Not ( ) nd ) onhecimentos Empíricos XOR 0 0 0 0 1 1 1 0 1 1 1 0 Sistema KNN onhecimentos sobre um domínio de aplicação KNN - quisição de onhecimentos 23
Sistema KNN Operador E - onjunção: X :-,, Not(), Not(D). W > 0 P = 2 X ias: (-P+0.5)*W Operador OU - Disjunção: X :-. X :-. X :-. X :- D. W > 0 X ias: -0.5*W W W -W -W W W W W D D KNN - ompilação de Regras Sistema KNN RN : Multi-Layer Perceptron (MLP) - lgoritmo utilizado : ack-propagation Medida do Erro onfiguração Inicial Minimização do Erro: álculo baseado no gradiente da curva de erro Mudanças na onfiguração dos Pesos Sinápticos onfiguração Final (após adaptação) Mínimos Locais Mínimo Global KNN - prendizado 24
lgoritmo SUSET Sistema KNN X ias: θ = -5.0 X :=,,. X :=,, not(d). X :=,, not(d). X :=,, not(d). +3.0 +3.0 +3.0-3.0 D IF ( and and ) or ( and and Not(D)) or ( and and Not(D)) or ( and and Not(D)) THEN X KNN - Extração de Regras Sistema KNN Pontos fracos do Sistema KNN lgoritmo de aprendizado pouco eficiente (ack-propagation) Redes Neurais estáticas ases de conhecimentos (regras e exemplos) com problemas significativos de incompletitude ou de incorreção Mudança do significado das unidades inseridas na rede neural Processo de extração de regras muito pesado (complexo) Extração de regras : implica na análise de todas as unidades da rede Utiliza unicamente regras simbólicas muito simples (compilação e extração) Regras de produção IF/THEN - Representação de conhecimentos pobre Dificuldade para trabalhar com atributos quantitativos (variáveis contínuas) 25
Sistemas Híbridos Neuro-Symbólicos 1. SYNHESYS -. Giacometti Symbolic and NEural Hybrid Expert SYstem Shell Rede incremental baseada em protótipos - RN2 Módulo simbólico de inferência com «Forward/ackward haining» 2. KNN - G. Towell Knowledge ased rtificial Neural Networks Rede do tipo MLP com uso do algoritmo ack-propagation ompilação de regras em uma RN, aprendizado e extração de regras 3. INSS - F. Osório Incremental Neuro-Symbolic System Rede incremental do tipo MLP com uso do algoritmo ascade-orrelation ompilação de regras, aprendizado, extração e validação Sistema INSS onhecimentos Teóricos onhecimentos Empíricos quisição de onhecimentos (Expert / Engenheiro de onhecimentos) Regras Módulo de Validação Exemplos MS Módulo Simbólico Inserção de Regras Extração de Regras M Módulo onexionista [RN] Transfêrencia de onhecimentos INSS - Incremental Neuro-Symbolic System 26
Sistema INSS Regras Simbólicas lips MÓDULO SIMÓLIO onversor Regras > Rede Neuomp Rede Inicial Sistema INSS Regras Simbólicas lips MÓDULO SIMÓLIO MÓDULO ONEXIONIST NeuSim onversor Regras > Rede Neuomp Rede Inicial Rede Refinada Exemplos 27
Sistema INSS Regras Simbólicas lips MÓDULO SIMÓLIO MÓDULO ONEXIONIST NeuSim onversor Regras > Rede Neuomp Rede Inicial Rede Refinada Regras Refinadas onversor Rede > Regras Extract Exemplos Sistema INSS Regras Simbólicas lips MÓDULO SIMÓLIO MÓDULO ONEXIONIST NeuSim Exemplos onversor Regras > Rédes Neuomp Rede Inicial Rede Refinada Regras Refinadas onversor Redes > Regras Extract M Ó D U L O D E V L I D Ç Ã O 28
Sistema INSS Regras Simbólicas lips MÓDULO SIMÓLIO MÓDULO ONEXIONIST NeuSim Exemplos onversor Regras > Rede Neuomp Rede Inicial Rede Refinada Regras Refinadas onversor Rede > Regras Extract M Ó D U L O D E V L I D Ç Ã O INSS : ompilação de Regras $Features: :binary; :binary. $End_Feat. $Rules: _OR_ <- ; _OR_ <- ; _ND_ <-,; XOR <- _OR_, _ND_(false). $End_rules. $End. %% %% Exclusive Or - Lógica ooleana %% Xor = ( Or ) nd Not( nd ) %% _OR_ XOR Wij / ias _ND_ 29
INSS: ompilação de Regras Regras de ordem 0 + Valor de Saída Valor de Entrada (Trait) Valor de Entrada (Trait) Greater_Than (Variável, Valor) In_Range (Variável, Min, Max) Greater_Than (Variável, Variável) Equal (Variável, Valor) Less_Than (Variável, Valor) Equal (Variável, Variável) Less_Than (Variável, Variável) INSS : Rede Neural Incremental lgoritmo ascade-orrelation (asor) 30
INSS e Rule_Out : Extração de Regras lgoritmo de extração de regras : SUSET [Towell] RULE_OUT: * Extrair os novos conhecimentos adquiridos * Extrair as regras mais importantes - Seleção das unidades (neurônios) para a extração - Seleção das conexões para a extração * Em estudo : regras de ordem 0 + (Fuzzy) X Vantagens: * Extração incremental de conhecimentos * Validação dos conhecimentos adquiridos INSS : Validação dos onhecimentos onhecimentos Teóricos R1 : If ( Or ) Then XOR=1 R2 : If Not ( nd ) Then XOR=1 R3 : If ( nd ) Then XOR=0 R4 : If Not () nd Not ( ) Then XOR=0 onhecimentos Empíricos Ex. XOR E1 0 0 0 E2 0 1 1 E3 1 0 1 E4 1 1 1 (! ) Validação Incoerência entre R3 (Saída=0) e E4 (Saída=1) Não existem regras que satisfaçam E4 31
Sistema INSS Pontos fortes do Sistema INSS lgoritmo de aprendizado com um ótimo desempenho (ascade-orrelation) Rede Neural do tipo incremental Permite o uso de conhecimentos (regras e exemplos) incompletos ou incoerentes Não modifica o significado das unidades inseridas na rede Processo incremental de extração de regras Extração de regras: análise parcial da rede (+ eficaz) Utiliza regras simbólicas de ordem 0 e 0 + (compilação) Trabalha com atributos quantitativos (variáveis contínuas) e qualitativos (variáveis discretas) prendizado de Máquinas onstrutivo Sistema INSS : plicações Problemas rtificiais de lassificação (Monk s Problems - S. Thrun) juda ao Diagnóstico Médico - omas Tóxicas (Projeto Esprit MIX) Robótica utônoma (Robô móvel Khepera) Problema da alança (alance Scale Problem - T. Shultz) 32
onsiderações Finais onhecimentos : regras / exemplos - incompletos / incoerentes lgoritmos de aprendizado eficientes Redes Neurais do tipo incremental / Redes Recorrentes ompilação e extração de regras de alto nível tributos quantitativos e qualitativos Validação dos conhecimentos adquiridos Evolução dos conhecimentos de forma continuada umento do poder de representação de conhecimentos Integração de múltiplos módulos: R, Fuzzy, G,... Sistema Híbrido Neuro-Simbólicos Hybrid Machine Learning Tools TEMS DE PESQUIS SORE SISTEMS HÍRIDOS * LIVROS: Obra clássica: ;^) OSORIO, F. S. INSS: Un Système Hybride Neuro-Symbolique pour l pprentissage utomatique onstructif. Thèse de Doctorat - INPG, IMG. Grenoble. 1998. Nikolopulos, hris. Expert Systems - Introduction to 1st and 2nd Generation and Hybrid Knowledge ased Systems. Marcel Deker, 1997. Kandel, & Langholtz, G. Hybrid rchitectures for Intelligent Systems. R Press, oca Raton, Florida, 1992. Sun, Ron & lexandre, Frederic. onnectionist Symbolic Integration: From Unified to Hybrid pproaches. Lawrence-Erlbaum ssociates, 1997. Ian loete, Jacek Zurada. Knowledge ased Neuroomputing. MIT press, 2000. * PESQUISDORES: Ron Sun, V. Honavar, Medsker, Jude Shavlik, Geoffrey Towell, Dean Pomerleau, J. Fletcher Minski, LiMin Fu, Gallant, Hayes-Roth, Kasabov, Nauck, R. ndrews, Frasconi, Gori. F. Rocha, Ricardo Machado Melanie Hilario, hristian Pellegrini, Yanick Lallement, Fréderic lexandre F. Osório,. my, D. Memmi,. Orsier, M. Malek,. Giacometti / Projeto Europeu MIX Laboratoire Leibniz - Equipe Réseaux - http://www-leibniz.imag.fr/reseux/ * INTERNET: ENI 99 Lista de ibliografias http://www.inf.unisinos.br/~osorio/enia99/ http://www.inf.unisinos.br/~osorio/hybrid-refs.html 33