1. Introdução As origens da RNA O nosso cérebro Plasticidade e modulação sináptica... 5

Transcrição

1 Sumário 1. Introdução As origens da RNA O nosso cérebro Plasticidade e modulação sináptica As redes neurais artificiais Estrutura da RNA Modelos de RNAs Aprendizado em RNAs Reconhecimento e classificação de padrões Classificadores elementares Conclusão

2 1. Introdução As redes neurais artificiais (RNAs) são sistemas que procuram simular o comportamento do sistema nervoso biológico. É uma linha de desenvolvimento da inteligência artificial que vem ganhando cada vez mais força, sendo empregada com sucesso em inúmeros casos. Neste trabalho procuramos explorar, por meio de diversas pesquisas, as redes neurais artificiais operando com reconhecimento de padrões e demonstrar seu funcionamento. 2

3 2. As origens da RNA A inteligência artificial foi um assunto recorrente a partir dos anos 50, principalmente com os trabalhos publicados pelo matemático e cientista britânico Alan Turing. Em seu artigo, Turing mencionava que uma máquina poderia ser considerada inteligente caso pudesse simular o comportamento humano tão bem que um possível interlocutor não saberia diferenciar a máquina de um homem. O tema do trabalho era Máquinas podem pensar?. Alguns estudiosos tentaram responder a esse questionamento. A partir daí foram muitos os esforços no sentido de atingir o nível de inteligência proposto por Turing. O termo inteligência artificial foi empregado pela primeira vez em 1956 numa conferência em Darthmouth College, que reuniu grandes nomes das maiores universidades e laboratórios da época. Nesse panorama, basicamente duas correntes surgiram: a simbolista e a conexionista. A corrente simbolista procura obter resultados inteligentes baseados principalmente nas interações da máquina com o meio. O ramo simbolista desenvolveu-se abordando as bases de conhecimento e alcançou sucesso com os sistemas especialistas. A corrente conexionista leva em conta principalmente a arquitetura do sistema. Segundo ela, para que a máquina apresente um comportamento similar ao humano é necessário que seja similar à nossa construção biológica, em especial no que diz respeito ao processamento de dados, ou seja, a parte neurológica. Nesse contexto surgiu o conceito de redes neurais artificiais. O primeiro neurônio artificial é um pouco anterior a isso. Em 1943 o psiquiatra e neuroanatomista americano Warren McCulloch e o matemático Walter Pitts apresentaram o que foi considerado o primeiro modelo matemático para um neurônio. McCulloch e Pitts também publicaram em seu estudo um modelo de redes neurais, ou seja, fizeram a descrição lógica e matemática de como o neurônio criado deveria ser interligado a outros. 3

4 No final dos anos 50 e início dos anos 60 surgiram os primeiros neurocomputadores: Perceptron I de Rosemblatt (1957) e Adaline de Windrow (1962). Rosemblatt também desenvolveu um algoritmo para o ajuste dos pesos das redes neurais. Inicialmente a corrente conexionista encontrou mais dificuldades no seu desenvolvimento em virtude das limitações tecnológicas do momento. Mas com o advento de novas tecnologias as redes neurais artificiais tornaram-se mais possíveis e, hoje em dia estão envolvidas na grande maioria das pesquisas que tratam de inteligência artificial. 4

5 3. O nosso cérebro O cérebro humano é composto de bilhões de pequenas células polarizadas, denominadas neurônios que comunicam-se por meio de sinapses elétricas e químicas. Os neurônios possuem um axônio e vários dendritos, por meio dessas estruturas é efetuada a comunicação. O axônio emite um impulso elétrico que pode ser recebido pelo dendrito de outro neurônio. O potencial elétrico é formado pela diferença de concentração de potássio dentro das células e sódio em seu exterior. Quando está em repouso o potencial da célula é de -70mV. Ao receber um impulso nervoso esse potencial se altera e, se atingir a tensão de limiar de -50mV os canais que ligam o interior ao exterior da célula abrem-se, permitindo a entrada do sódio. O potencial da célula torna-se positivo e produz um impulso elétrico. O impulso nervoso é propagado pelo axônio até as conexões sinápticas e pode originar um impulso nervoso. O impulso enviado pode ser inibitório ou excitatório. O neurônio que receber o impulso passa pelo mesmo processo e, de acordo com os potenciais inibitórios e excitatórios pode ou não ter seu potencial de ação atingido. O processo se repete assim por diante Plasticidade e modulação sináptica Os neurônios possuem como característica a plasticidade, ou seja, têm a capacidade de se modificar estruturalmente, de acordo com os estímulos. Ao receber determinado estímulo, a célula pode criar novos dendritos ou extinguir os já existentes, os dendritos podem ser alongados ou encolhidos, por fim, uma célula pode ser totalmente suprimida ou regenerada. Essas modificações podem ser rápidas, lentas ou permanentes. Esse conjunto de alterações físicas é denominado modulação sináptica, pois a forma do neurônio influi diretamente na ocorrência das sinapses. É por meio da modulação 5

6 sináptica, portanto, que dá-se a formação de memórias e é estabelecido o aprendizado. Esse conceito foi proposto pela primeira vez pelo biólogo canadense Donald Hebb em Hebb acreditava que quando uma interação entre o axônio de uma célula e o dendrito de outra ocorre repetidas vezes, há uma alteração física ou metabólica nas mesmas de forma a aumentar a eficiência deste processo. O enunciado ficou conhecido como Lei de Hebb e serviu de base para muitos cientistas envolvidos com RNA que tentavam reproduzir o aprendizado humano nas redes artificiais. 6

7 4. As redes neurais artificiais Como já foi dito anteriormente, as redes neurais artificiais, conhecidas como RNAs têm por objetivo simular o comportamento do sistema nervoso biológico. Para atingir resultados coerentes com realidade, procura imitar o funcionamento de sua estrutura. As redes neurais artificiais são, portanto, um conjunto de métodos matemáticos e computacionais e técnicas de circuitos interagindo para alcançar esses objetivos Estrutura da RNA Uma RNA basicamente é formada pelos neurônios de entrada, neurônios de saída, pesos, bias e função de ativação. Os neurônios de entrada são aqueles que recebem os sinais, analogamente aos neurônios responsáveis pelos órgãos sensoriais do sistema biológico. Figura 1 - Neurônio natural e artificial Cada entrada é associada a um peso. O peso corresponde às sinapses e, assim como na sinapse natural, o peso pode ser excitatório ou inibitório. No somador, os sinais são multiplicados pelos seus pesos, ou seja as parcelas efetivas dos sinais são somados. No somador ainda pode haver um 7

8 bias, agindo como um segundo peso que pode aumentar ou diminuir o sinal que vai para a função de ativação. A função de ativação é o último estágio antes da saída e garante a não linearidade da mesma. A célula não transmite a informação à outra a menos que seu potencial de ativação alcance o valor pré-estabelecido pela função de ativação conhecido como limiar de ativação. Corresponde a tensão de limiar do neurônio natural. Alguns exemplos são a função degrau (Heavyside / hard limiter) que assume apenas valores 0 e1 (em alguns casos -1 e 1); função sigmoid (logística) que assume valores entre 0 e 1; função tangente hiperbólica (análoga a função logística, mas que assume valores entre -1 e 1) Figura 2 - Funções de ativação Por último vem a saída, totalmente dependente da função de ativação, análoga aos motoneurônios, responsáveis pela excitação muscular Modelos de RNAs Ao longo do tempo algumas arquiteturas de RNAs diferentes foram desenvolvidas. Como o modelo Perceptron, o modelo multicamadas e o modelo de Hopfield. As diferentes estruturas basicamente se encaixam em dois grupos: feedforward e feedback. No modelo feedback as saídas são ligadas as entradas e no modelo feedforward não. O modelo Perceptron é o mais simples, exatamente como descrito anteriormente no tópico acerca da estrutura das RNAs. Apresenta, porém, o 8

9 problema da incapacidade de separar funções não-linearmente separáveis. O primeiro neurônio separa o conjunto em dois quadrantes, o segundo separa cada um dos dois em outros dois e assim por diante. Mas no caso de um conjunto estar contido dentro de outro ou se cruzarem o Perceptron não apresenta resposta satisfatória. No caso das redes neurais de múltiplas camadas, (multicamadas ou Perceptron Multi) entre a entrada e a saída estão as camadas intermediárias (ou ocultas), que não recebem ou enviam estímulos, mas desempenham processamento interno dentro da rede. Na arquitetura mais comum uma camada só possui conexão com as camadas imediatamente anterior e seguinte. Neste modelo as funções não-linearmente separáveis podem ser separadas. O modelo de Hopfield é baseado em recorrência (feedback), ou seja, as saídas são interligadas às entradas. O neurônio segue exatamente o mesmo padrão do modelo multicamadas o diferencial é a realimentação. Figura 3 - Multicamadas e Hopfield 4.3. Aprendizado em RNAs Toda RNA passa por uma fase de aprendizado ou treinamento. O aprendizado da rede neural artificial dá-se com o ajuste dos pesos para obter a resposta esperada, de forma análoga à modulação sináptica. De acordo com a resposta do ambiente o aprendizado pode ser classificado em supervisionado, não-supervisionado e por reforço. De acordo com as regras de aprendizagem pode ser classificado em correção de erros, baseado em memória, hebbiano, e competitivo. 9

10 No aprendizado supervisionado, um tutor (agente externo), é utilizado para impor padrões conhecidos às entradas do sistema, dessa forma sabe-se qual é será a saída desejada. A saída obtida é utilizada para o cálculo do erro, que é a diferença entre a esperada e a produzida, tal erro é analisado e utilizado para efetuar pequenas correções aos pesos. Com a apresentação sequencial do mesmo padrão na entrada, é possível minimizar o erro até um nível aceitável, em que o sistema atinge um estado estável. No aprendizado por reforço não existe um padrão preferencial de saída, assim como no aprendizado não-supervisionado, mas existe um crítico (ou juiz) que se assemelha ao tutor. O aprendizado por reforço é baseado na tentativa e erro. Quando uma entrada é apresentada verifica-se a saída e o crítico é responsável por dar um reforço positivo ou negativo para a mesma. Dessa forma, a rede procura obter o máximo de sinais positivos de reforço. No caso do aprendizado não-supervisionado não existe uma saída totalmente conhecida. Observa-se primordialmente a entrada e a própria rede é responsável por reconhecer suas regularidades. No ajuste por correção de erros os pesos são corrigidos de acordo com uma equação durante as interações com o sistema. Quanto ao ajuste dos pesos no processo de aprendizagem, normalmente pode ocorrer de duas formas: padrão e Batch. No modo padrão a cada ciclo de entrada e saída diversos pesos são corrigidos para se adequar à saída desejada. No modo Batch, a cada ciclo somente um peso é alterado e observa-se a nova saída resultante. Existem dois tipos de aprendizado baseado em memória: o auto associativo e o heteroassociativo. No autoassociativo uma série de padrões de entrada é armazenada na rede. Quando um novo padrão é apresentado, a rede busca na memória o padrão armazenado que melhor combina com o novo. No heteroassociativo uma série de pares de padrões é armazenada na rede. Ao apresentar um novo padrão a rede procura o par adequado. O aprendizado hebbiano tem origem na Lei de Hebb. Quando dois neurônios estão sincronizados, um para enviar e outro para receber a 10

11 informação a força da sinapse é aumentada. O ajuste dos pesos dá-se com base nesse conceito. No aprendizado competitivo os neurônios são agrupados em unidades e as unidades competem entre si para responder a entrada. As unidades são diferenciadas pelos pesos associados a elas. As unidades especializam-se para atender a um determinado tipo de entrada, assim é possível reconhecer características e regularidades do sistema. 11

12 5. Reconhecimento e classificação de padrões O reconhecimento de padrões está presente no cotidiano de todo ser humano. Somo capazes de reconhecer e identificar imagens, sons, cheiros, texturas e gostos, padrões lógicos ou temporais, etc. Na verdade o reconhecimento de padrões é uma ferramenta de sobrevivência e está inserido na maioria dos animais. Três formas são mais utilizadas no reconhecimento de padrões: estatístico, estrutural e neural. No reconhecimento estatístico de padrões, os padrões são transformados em vetores e cálculos próprios da estatística são aplicados a eles, para que seja feita a separação em classes. No método estrutural os padrões são transformados em símbolos e são classificados por casamento ou equivalência desses símbolos. O método neural utiliza redes neurais para separar determinados padrões de entrada em classes específicas. O reconhecimento de padrões no aprendizado supervisionado é feito por meio da classificação das entradas em uma saída determinada de acordo com a indicação do tutor externo. No aprendizado não-supervisionado é realizado um agrupamento das entradas de acordo com a percepção do próprio sistema. A aprendizagem baseada em memória é muito utilizada para o reconhecimento de padrões em redes neurais. Normalmente algumas etapas são cumpridas para que se reconheça um padrão. A primeira delas é perceber a variedade de classes existentes. A segunda é perceber os elementos que fazem parte de cada uma dessas classes. Esses elementos possuem uma série de atributos, de forma que um padrão normalmente não é constituído de uma característica única, mas sim de uma associação de múltiplas características. A separação dos elementos de acordo com seus atributos em determinadas classes é armazenada na memória. A separação dos padrões dá-se por meios de regras. Essas regras podem ser extraídas dos elementos das classes já existentes ou podem ser criadas com o intuito de classificar de acordo com o desejado. 12

13 Figura 4 - Atributos e classes Cada elemento pode ser representado por uma matriz de atributos, onde cada atributo figura como um número adotado de acordo com uma escala comum. Alguns métodos são aplicados para se determinar a proximidade entre dois elementos. Dentre eles, dois dos mais conhecidos são: cálculo da distância quarteirão e cálculo da distância euclidiana. O cálculo da distância quarteirão é o somatório dos módulos das diferenças entre os atributos dos elementos correspondentes das matrizes. Assim: Dq = X1 Y1 + X2 Y2 + X3 Y Xn Yn O cálculo da distância euclidiana é a raiz quadrada do somatório dos quadrados das diferenças entre os atributos dos elementos correspondentes das matrizes. Logo De = [(X1 Y1)² + ( X2 Y2)² + (X3 Y3)² (Xn Yn)² 5.1. Classificadores elementares Dois tipos de classificadores elementares são mais comuns, são eles regra do vizinho mais próximo (nearest neighbour) e regras dos k vizinhos mais próximos. De acordo com a regra do vizinho mais próximo, quando deseja-se classificar um novo elemento é feito o cálculo da distância desse objeto em relação ao demais. A menor distância encontrada é chamada Xnear e designa-se ao novo elemento a mesma classe de Xnear. 13

14 A regra dos k vizinhos mais próximos é uma variante da primeira. Nela a rede identifica um número k de possíveis vizinhos. E a classe para a qual o novo elemento é direcionado é aquela em que for identificado o maior número de vizinhos. Essa técnica é também chamada, voto da maioria. Será descrito como exemplo o reconhecimento de caracteres. O caractere que se deseja reconhecer é apresentado às entradas distribuídas da rede; existem vários grupos de neurônios, cada um responsável pelo reconhecimento de um tipo de caractere. O grupo de neurônios correspondentes ao caractere da entrada deve fornecer saída igual a 1. Todos os demais devem fornecer saída igual a 0. Ou seja, no exemplo de reconhecimento de caracteres a rede possui vários elementos ativos na entrada, mas a saída é localizada. 14

15 6. Exemplos e aplicações O reconhecimento de padrões tem sido muito demandado nas novas tecnologias que surgem. Está inserido em diversas linhas de pesquisa. Na área da medicina o reconhecimento de padrões de imagens é empregado em radiografias e ressonâncias magnéticas, e outros exames que envolvem análise de imagens para identificar, por exemplo, células cancerígenas ou padrões de atividade cerebral. Na área de segurança o reconhecimento de imagens pode ser utilizado para o monitoramento remoto de objetos e pessoas por meio de câmeras; reconhecimento de íris, digitais e assinatura; identificação de alvos. Na geologia o reconhecimento de imagens é utilizado na identificação e caracterização da composição de solos, inclusive é ferramenta de auxílio a busca de petróleo. Na área de controle de tráfego aéreo, terrestre ou marítimo o reconhecimento de padrões pode ser utilizado na análise de informações obtidas a partir de radares. Em algumas rodovias há o sistema de reconhecimento de placas LPR (license plate recognition), que é capaz de identificar a área da imagem em que a placa está contida e reconhecer os caracteres na placa. Na robótica o reconhecimento de imagens e de sons pode ser utilizado para simular visão e audição humanas. Além disso, o reconhecimento de padrões de linguísticos é utilizado na simulação de linguagem natural. Existem linhas de pesquisa no sentido de implementar redes neurais artificiais para classificação de documentos. A rede seria responsável por identificar os padrões de referências utilizadas nos arquivos para categorizá-los em classes comuns. 15

16 O OCR (optical character recognition) é um exemplo bastante conhecido de reconhecimento de padrões, por meio desta ferramenta é possível manipular informações de caracteres obtidos através de imagens. Adam Project é uma linha de pesquisa da Microsoft que trabalha o reconhecimento de imagens. Atualmente vem sendo treinado para o reconhecimento de cães. É capaz de identificar se um determinado objeto é um cão ou não e indicar sua espécie e subespécie. O objetivo da empresa é que futuramente Adam possa ser treinado para reconhecer doenças de pele e alimentos de uma refeição bem como calcular seu valor nutricional. PhotoMath é um aplicativo desenvolvido para Windows Phone. Ao direcionar a câmera do smartphone para uma equação o aplicativo reconhecea e apresenta em poucos segundos uma solução. Myscript calculator é outro aplicativo do gênero matemático. Ao escrever na tela do smartphone o aplicativo reconhece os números e as operações, ainda que com uma grafia fora dos padrões, e apresenta a solução rapidamente. O FireFly é um aplicativo para Fire Phone. Com esta ferramenta, ao apontar a câmera do aparelho para qualquer objeto, o FireFly o reconhece e realiza a busca automática do mesmo no site da Amazon, mostrando rapidamente os resultados encontrados na página da loja. Assistentes virtuais como a Cortana da Microsoft, a Siri da Apple e o Google Now da Google utilizam reconhecimento de voz para realizar as funções solicitadas pelo usuário. 16

17 7. Conclusão As redes neurais artificiais buscam simular a inteligência natural não apenas em relação ao resultado obtido, mas também na forma pela qual se atinge esse objetivo. Assim, os sistemas de RNA buscam compreender e reproduzir o comportamento dos neurônios e suas sinapses, células responsáveis pelo gerenciamento de todo o organismo biológico. Contudo esta não é uma tarefa fácil, devido à alta complexidade com a qual o sistema nervoso natural trabalha. São bilhões de neurônios e incontáveis conexões acontecendo continuamente. Além disso, as células biológicas podem organizar-se em camadas funcionais, otimizando os processos. Muitos avanços já foram possíveis em virtude das descobertas na área de RNA, mas muito ainda há que se melhorar. Alguns sistemas de informação já empregam essas técnicas, mas por esse motivo tornam-se muito pesados em relação aos demais e em algumas situações até inviáveis. Tudo indica que as redes neurais artificiais são o futuro de toda a tecnologia voltada à área de inteligência artificial por essa razão são consideradas em inúmeras linhas de pesquisa. Isso se deve principalmente ao fato de que a RNA é dotada da capacidade de aprendizado, o que a difere de todos os sistemas considerados inteligentes já propostos. 17