Redes Neurais. Métodos Híbridos de Aprendizagem A rede KBANN. Métodos híbridos de aprendizagem. Prof. Paulo Martins Engel

Transcrição

1 Métodos híbridos de aprendizagem Redes Neurais Métodos Híbridos de prendizagem rede KBNN Métodos híbridos de aprendizagem utilizam tanto conhecimento teórico de um domínio, como um conjunto de exemplos previamente classificados, para construir um classificador. O intuito é usar uma fonte de informação para completar a informação fnte da outra fonte. Com isso, um sistema híbrido de aprendizagem deve aprender mais efetivamente que sistemas que usam apenas uma das fontes de informação. rede KBNN (Knowledge-Based rtificial Neural Network) é um sistema híbrido construído sobre técnicas de aprendizagem conexionista (neuro-bólico). Ela mapeia uma teoria do domínio, correspondente a um problema específico, representada em lógica proposicional, numa rede neural. rede refina então o conhecimento teórico usando backpropagation. É possível ainda se extrair o conhecimento final aprendido. 2 Desafios de sistemas neuro-bólicos O problema da extração do conhecimento Os principais desafios dos sistemas neuro-bólicos estão relacionados com: Como codificar entradas da rede correspondentes a valores categóricos? Como inserir uma teoria do domínio numa rede neural? Como adaptar os algoritmos de ajuste de pesos para aprender eficientemente conhecimento bólico? Como extrair conhecimento de uma rede neural treinada? Uma RN aprende a realizar um mapeamento de entrada-saída desejado, ajustando os seus parâmetros de modo a manter o erro de mapeamento o menor possível. maioria dos algoritmos de treinamento de RN ajusta os pesos sinápticos de forma contínua, de modo a minimizar uma função de custo. Como conseqüência, mesmo se a RN manipular informação booleana, as operações individuais dos neurônios correspondem a uma lógica de limiar multivalorada, sendo difícil de se reconhecer as operações lógicas a partir da sua estrutura treinada. Em aplicações como a mineração de dados, o foco de interesse está concentrado justamente na representação lógica do conhecimento aprendido numa RN. Neste caso, é necessário modificar a estrutura da rede ou de seus componentes, de modo a ser possível a extração bólica do conhecimento aprendido. 3 4

2 tributos com valores categóricos funcionalidade da camada de entrada de neurônios sensoriais de uma rede MLP foi especificada para produzir na saída de cada nó fonte, valores ordenados dentro de um intervalo apropriado para as operações dos neurônios computacionais das demais camadas. Esta abordagem pressupõe que os valores físicos de entrada sejam contínuos, e expressa o grau de ilaridade entre dois valores físicos através da diferença entre os valores ordenados de saída do nó fonte. s, para valores izados no intervalo [-1, 1], 0.8 e 0.9 são valores ilares mas diferentes, por exemplo, do par de valores 0.2 e 0.3. Por outro lado, atributos categóricos têm valores que por definição são ortogonais entre si, e por isso a camada de entrada de uma RN deve tratá-los de forma distinta em relação aos atributos de valores contínuos. representação destes valores deve refletir o máximo possível que eles possuem ilaridade. tributos categóricos aparecem freqüentemente em tarefas de mineração de dados, correspondendo por exemplo a: códigos de produtos, gênero sexual, estado civil, etc. 5 Exemplo de classificação O arquivo de treinamento contém 14 casos, onde há 4 atributos categóricos, e duas classes. Este exemplo corresponde aos casos em que uma pessoa joga ou tênis, em função das condições atmosféricas. Tempo nublado nublado nublado nublado Temperatura Umidade Ventoso Joga 6 Representação de propriedades por predicados Uma abordagem bastante apropriada para a representação de atributos categóricos é através de predicados. Um predicado é uma função booleana que age sobre um conjunto de elementos, produzindo um valor do conjunto {0, 1} que expressa o grau de satisfação de um determinado elemento a uma propriedade específica do predicado. Um predicado do tipo masculino(x), onde x pertence a uma determinada população, p. ex., produz o valor 1 para todo o indivíduo masculino e 0 para todo indivíduo feminino. Um predicado separa o universo de elementos em dois conjuntos, correspondendo àqueles que satisfazem o predicado, e aqueles que o satisfazem. O grau de satisfação de um predicado pode ser considerado contínuo, através da abordagem da lógica difusa (fuzzy). Neste caso, predicados do tipo ventoso(x) ou (x), poderiam ser satisfeitos parcialmente, indicando p. ex., a intensidade do vento ou do sol, respectivamente. Numa rede neural para o processamento de informação categórica, um neurônio de entrada pode implementar a funcionalidade de um determinado predicado que expressa um valor de um atributo. No caso de atributos binários, como Ventoso, um único neurônio implementa a funcionalidade desejada. No caso de atributos como Tempo com múltiplos valores (, nublado, ), cada valor deve ser implementado por um neurônio que representa o predicado correspondente àquele valor. extensão da lógica booleana para a lógica difusa (LD) pode ser feita facilmente utilizando o conceito de função de pertinência da LD. x 1 1 x 2 2 nublado x 3 3 x 4 4 x 5 5 x 6 6 Tempo Temperatura Umidade x 7 7 x 8 8 x 9 9 Ventoso 7 8

3 Extraindo conhecimento de RNs Representação de Conhecimento em RNs Em aplicações relacionadas com mineração de dados (Data Mining) o foco central é entender o conhecimento contido em grandes coleções de dados. Freqüentemente, atingir este objetivo envolve aplicar métodos de aprendizagem de máquina, para construir modelos dos dados, por indução. s RN fornecem algoritmos poderosos para aprendizagem de máquina, mas geram modelos dos dados de entrada, que são bastante difíceis de serem compreendidos diretamente. Para superar estas dificuldades, foram propostos algoritmos para extração de conhecimento de RNs treinadas. Foram também propostas arquiteturas mais adequadas para representação de conhecimento em RNs. 9 s RNs constróem modelos de uma coleção de dados por indução. No aprendizado supervisionado, o objetivo é induzir um mapeamento entrada-saída (ô = F(x) ), a partir de exemplos x, o. Uma hipótese relacionada ao modelo construído por uma RN é definida por: (a) topologia da rede. (b) s funções de transferência usadas nas unidades ocultas e de saída. (c) Os parâmetros de valor real associados às conexões da rede (pesos). Estas hipóteses são difíceis de se compreender por várias razões: (1) Codificação do mapeamento entrada-saída por um número muito grande de parâmetros reais. (2) Em redes multicamadas é possível determinar isoladamente o efeito de uma característica sobre um valor alvo pois este efeito pode ser mediado pelos valores de outras características. (3) s unidades ocultas são representações distribuídas de características derivadas, compreendidas diretamente a partir do domínio do problema. 10 Métodos de Extração de Conhecimento em RNs Exemplo de tarefa de extração de regra Uma abordagem para compreender uma hipótese representada por uma RN treinada é traduzir a hipótese numa linguagem mais compreensível. Os métodos de extração de conhecimento diferem em vários aspectos: Linguagem da representação: regras de inferência conjuntiva (Se-Então), regras m-de-n, regras fuzzy, árvores de decisão, autômatos finitos. Estratégia de extração: Como o método explora o espaço de descrições candidatas e em que nível ele descreve o comportamento da rede métodos globais: extraem regras que descrevem o comportamento da rede como um todo. s classes de saída são caracterizadas diretamente em termos das entradas. métodos locais: extraem o comportamento das unidades individuais (ocultas) da rede. s regras das unidades individuais são combinadas num conjunto de regras que descreve o comportamento da rede como um todo. Restrições: restrições sobre a arquitetura e treinamento que o método de extração impõe à rede. Limita os modelos de rede para as quais o método é aplicável. Considere uma rede booleana ples de uma camada com 5 entradas e 1 saída x 1 x 2 x 3 x 4 x 5 O valor para uma característica booleana de entrada é representado por uma ativação de valor 0, e o valor é representado por uma ativação de 1. P. ex.: se x i = então a i = 1. ssume-se função de limiar na saída: a y = y θ = se i w i a i θ > 0 0 caso contrário Regras extraídas: y x 1 x 2 x 3 y x 1 x 2 x 5 y x 1 x 3 x

4 Métodos de extração baseados em busca Uma rede as, com classes de saída discretas e características de entrada com valores discretos, pode ser descrita exatamente por um conjunto finito de regras bólicas se-então. s regras bólicas extraídas especificam condições que devem ser satisfeitas pelas características de entrada para produzir um estado de saída específico. Um método de extração baseado em busca explora o espaço de regras candidatas e testa cada candidata contra a rede, para ver se é uma regra válida. Especifica-se uma árvore de busca, no espaço de busca, onde cada nó corresponde a um antecedente de uma regra possível e os vértices indicam as relações de especialização (na direção descendente) entre nós. O conjunto de regras extraídas deve representar as regras gerais máximas ; se um literal for retirado, então a regra descreve corretamente o comportamento da rede. Exemplo de espaço de busca figura representa o espaço de busca para um problema com três características booleanas. O nó no topo do grafo representa a regra mais geral (i.e., todas as instâncias pertencem à classe y) e os nós na base da árvore representam as regras mais específicas, que cobrem apenas uma instância cada. x 1 x 1 x 2 x 2 x3 x 3 x 1 x 2 x 1 x 2 x 2 x 3 x 2 x 3 y 13 x 1 x 2 x x 3 x x 1 x 2 x 3 1 x 2 x 1 x 2 x rede KBNN Proposta de aprendizado da rede KBNN - Knowledge-based artificial neural networks, G. Towell e J. Shavlik (1993). Objetivo Construir um sistema híbrido baseado em RN, para tarefas de classificação, combinando conhecimento bólico aproximado do domínio com conhecimento extraído de exemplos Condições iniciais Uma lista de características usadas para descrever exemplos (variáveis de entrada) Uma teoria do domínio aproximadamente correta, descrevendo o problema a ser resolvido Um conjunto de treinamento Procedimento Inserir a teoria do domínio numa rede neural Treinar a rede usando exemplos classificados (Opcionalmente) Extrair uma teoria refinada do domínio Estrutura de aprendizado da KBNN Informação Simbólica Inicial Inserir Rede Neural Inicial Exemplos Refinar Informação Simbólica Final Extrair Rede Neural Final 15 16

5 bordagem Neural KBNN utiliza redes neurais multicamadas conectadas adiante, treinadas pelo algoritmo Backpropagation. função de ativação é a função logística. Com isso, para um neurônio i, podemos escrever: net i = j {unidades conectadas} 1 a i = 1 + exp( (neti θ i )) w ji. a j Onde net i é a soma ponderada das entradas do neurônio i, w ji é o peso sináptico na conexão entre os neurônio i e j, a j é a ativação do neurônio j, e θ i é o limiar do neurônio i. Inserindo conhecimento na KBNN tradução de bases de conhecimento para redes neurais segue a seguinte correspondência: Conclusões finais Unidades de saída Fatos fundamentais Unidades de entrada Conclusões intermediárias Unidades ocultas Dependências Conexões ponderadas O conhecimento deve ser expresso em regras aproximadamente corretas, na forma de cláusulas de Horn. Restrições: s regras devem ser proposicionais. rede trata variáveis do cálculo de predicados. s regras devem ser acíclicas Transformação de regra para rede transformação de um conjunto de regras para uma rede KBNN ocorre em 7 passos: 1. Reescrita. Este primeiro passo transforma o conjunto de regras num formato que explicita a sua estrutura hierárquica e permite a sua tradução diretamente como uma rede neural. Reescrever as regras de forma que as disjunções sejam expressas como um conjunto de regras, cada uma com apenas um antecedente. Se houver mais de uma regra para um conseqüente (disjunção), então cada regra para este conseqüente deve ser reescrita como duas regras. Uma dessas regras tem o conseqüente original e um único antecedente, correspondente a um novo termo gerado neste processo. outra regra tem como conseqüente este novo termo gerado e como antecedente os antecedentes da regra original. :- *. :- B, C, D. * :- B, C, D. :- D, E, F, G. :- **. ** :- D, E, F, G Mapeamento: Usando a tabela de correspondências entre base de conhecimento e rede neural, criar uma rede com uma correspondência de um para um com os elementos do conjunto de regras. :- B, Z. B :- C, D. B :- E, F, G. Z :- Y, X. Y :- S, T. Passo 1 B B* B** :- B, Z. B :- B*. B :- B**. B* :- C, D. B** :- E, F, G. Z :- Y, X. Y :- S, T. C D E F G S T X Y Z Passo 2 20

6 Os pesos e os níveis de limiar são especificados de forma que as unidades tenham ativação significativa ( 1) apenas quando a dedução correspondente for possível com o conhecimento do domínio. Caso contrário, a unidade deve estar inativa. Todos os pesos correspondentes a antecedentes positivos (diretos) são fixos em. Os pesos correspondentes a antecedentes negados são fixos em, e o limiar da unidade do conseqüente da regra é feito igual a (P 1/2). P é o número de antecedentes positivos numa regra. s, a soma ponderada das entradas menos o limiar só pode ser maior que zero se nenhum antecedente negado for e se todos os antecedentes positivos forem s. Neste caso a função logística será 1. :- B, C, D, E. Especificação dos pesos θ = 5/2 B C D E Especificação dos pesos para regras disjuntivas Se houver um conseqüente que pode ser deduzido de duas regras, se pode ligar diretamente todos os antecedentes ao mesmo conseqüente pois é possível se encontrar um limiar que possa evitar as combinações de antecedentes indesejados. solução é a reescrita das regras especificada no passo 1. s, a unidade que codifica o conseqüente duplicado recebe um limiar fixo θ = /2. :- B, C. :- D, E. :- B, C. :- D, E.? :- *. :- ** * :- B, C. ** :- D, E. θ =? B C D E θ = 3/2 * θ = /2 ** θ = 3/2 B C D E Numeração. Cada unidade representando um conseqüente na rede deve ser numerada segundo o seu nível hierárquico, a partir do nível mais baixo, dição de unidades ocultas. Opcionalmente, pode-se adicionar unidades ocultas para dar à rede KBNN a capacidade de aprender características especificadas no conjunto de regras inicial, mas que tenham sido sugeridas por um especialista. 5. dição de unidades de entrada. rede é expandida com características de entrada referenciadas nas regras, mas que são consideradas relevantes por um especialista. 6. dição de arcos. Deve-se adicionar arcos com peso zero ligando todas as unidades de um nível n a todas unidades do nível n Inserir perturbação. Deve-se adicionar um número aleatório pequeno a todos os pesos da rede. Esta perturbação é muito pequena para afetar o comportamento da rede antes do treinamento, mas é suficiente para evitar problemas causados por etria. Exemplo de tradução de regras para uma rede neural :- B, Z. B :- C, D. B :- E, F, G. Z :- Y, X. Y :- S, T. Passo 1 :- B, Z. B :- B*. B :- B**. B* :- C, D. B** :- E, F, G. Z :- Y, X. Y :- S, T. Passo 2 C D E F G S T X B B* B** C D E F G S T X Y Passos 3, 4, 5, 6 Z 23 24

7 Refinamento da KBNN KBNN é treinada pelo algoritmo Backpropagation. Entretanto, como a rede começa com saídas binárias (0 ou 1), o algoritmo produz variações muito pequenas, mesmo se a resposta de uma unidade de saída for incorreta. solução é usar a entropia cruzada ao invés do erro quadrado, como função de custo a ser minimizada pelo algoritmo. n E = [(1 d i ) log 2 ( 1 a i ) + d i log 2 (a i )]. i = 1 Onde, a i é a ativação da unidade de saída i, d i é a ativação desejada para a unidade i e n é o número de unidades de saída. função entropia cruzada interpreta o sinal de treinamento e as saídas da rede como probabilidades e o algoritmo minimiza a diferença entre estas probabilidades. i pj tualização dos pesos da camada de saída pela EC valor desejado: d i w o ij i a i Parcela do neurônio i na entropia de saída: E i = [(1 d i ).log 2 (1 a i ) + d i.log 2 (a i )] Correção do peso w o ij do neurônio i da camada de saída por Backpropagation: w o ij = w o ij(t+1) w o ij(t) = η( E) E w o ij E a i net i w o ij = E a i a i net i net i w o ij a i = (d i a i ) net i ln2 = i pj w o ij = η (d i a i ) ln2 i pj Preservação do conhecimento inicial Para manter os pesos iniciais constantes durante o treinamento, com a finalidade de preservar o conhecimento inicial do domínio, foi introduzido um termo de regularização, que penaliza a rede para o caso de mudança dos pesos iniciais. regularizador = λ ( i in_i ) 2 i 1 + ( i in_i ) 2 Reconhecimento de promotores (seqüências de DN) Promotores são seqüências curtas de DN que precedem o início dos genes. O objetivo é identificar a posição inicial de genes em longas seqüências caracterizadas de DN. s características de entrada para o reconhecimento de promotores são uma seqüência de 57 nucleotídeos de DN. Nucleotídeos são representados como um caracter do conjunto {, G, C, T}. numeração das posições dos nucleotídeos é relativa a um ponto de referência fixo, biologicamente significativo. Pode-se estabelecer um conjunto de regras posicionais para identificar um promotor. O termo λ controla o compromisso entre a habilidade da rede em aprender o conjunto de treinamento e a distância das regras iniciais. O principal efeito do termo de regularização é aumentar a compreensibilidade das redes KBNN treinadas G G T G C C Número de Localização Seqüência p1 CC. p2 G*. Ponto de referência 27 28

8 Exemplo de reconhecimento de promotores Os promotores podem ser detectados por experimentos biológicos; sua localização corresponde ao lugar onde uma proteína específica se liga na seqüência do DN. Para um tipo de organismo unicelular (E. coli.), o ponto de referência está localizado a sete nucleotídeos a partir da direita da seqüência de 57 posições. s, os exemplos positivos contêm os primeiros sete nucleotídeos do gene transcrito. Pode-se especificar um conjunto inicial de regras, a partir da literatura, que identificam dois lugares nos quais a seqüência de DN deve se ligar à proteína. Menos 35 rquitetura resultante do exemplo Promotor Contato Menos 10 Conformação promotor :- contato, conformação. contato :- menos-35, menos-10. menos-35 CTTGC. menos-35 TTGC. menos-35 TTG*C. menos-35 TTGC. menos-10 T**T. menos-10 T***T. menos-10 TTT. menos-10 TTT. conformação **. conformação ***. conformação ****T. conformação C*TT*C. conformação T***T***T. conformação T******T*TG. conformação G***T*C. conformação T. conformação conformação GCGCC*CC