Zé Carioca LES Finalista da Competição Agent Reputation Trust (ART) Testbed

Transcrição

1 Zé Carioca LES Finalista da Competição Agent Reputation Trust (ART) Testbed Andrew Diniz da Costa 1, Fábio A. Soares 1, Sérgio C. Azevedo 1, Carlos J. P. Lucena 1, Viviane T. Silva 2 1 Departamento de Informática Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio) Rio de Janeiro - RJ Brasil 2 Departamento de Sistemas Informáticos y Computación Universidad Complutense de Madrid (UCM) Madrid, Espanha. {acosta,sazevedo,lucena}@inf.puc-rio.br, fabiodeazevedo@gmail.com, viviane@fdi.ucm.es Abstract. Nowadays there are many situations where knowing the truth about those that are negotiating becomes very important. Aiming to stimulate the creation and comparison of techniques that allow to define and to use reputations in Multi-Agent Systems, the competition Agent Reputation Trust (ART) Testbed pertaining to the Autonomous Agents and Multi-Agent Systems (AAMAS) conference was created. Thus, software s agents were developed to participate, such as the Ze Carioca LES agent, finalist in This paper aims to demonstrate the strategies that have been used by the agent and to offer a general vision of the domain of the competition. Resumo. Hoje em dia existem diversas situações em que conhecer aqueles com quem se negocia torna-se muito importante. Visando estimular a criação e comparação de técnicas que permitam definir e usar reputações em Sistemas Multi-Agentes, a competição Agent Reputation Trust (ART) Testbed pertencente à conferência Autonomous Agents and Multi-Agent Systems (AAMAS) foi criada. Assim, agentes de software foram desenvolvidos para participar, como, por exemplo, o agente Zé Carioca LES, finalista em Este artigo visa explicar quais estratégias foram utilizadas pelo agente, além de oferecer uma visão geral do domínio da competição. 1. Introdução Em diversos momentos presentes no nosso dia a dia torna-se importante conhecer aqueles com os quais iremos conversar, negociar ou realizar qualquer tipo de transação. Sistemas Multi-Agentes [Jennings 2000, Wooldridge 1998] vêem sendo apontados como tecnologia adequada para representar tais situações aplicando estratégias que possam decidir a reputação de cada um dos agentes envolvidos. A competição Agent Reputation Trust (ART) Testbed [Fullam 2007], pertencente à conferência Autonomous Agents and Multi-Agent Systems (AAMAS), foi criada com o intuito de estimular a 65

2 criação e comparação de técnicas voltadas para reputação. Esta competição realizada em 2006 e 2007, conta com a presença de agentes de software desenvolvidos por diferentes instituições executados em um ambiente que utiliza o conceito de reputação. Neste artigo apresentamos o agente Zé Carioca LES, finalista da competição em 2007, e o conjunto de estratégias utilizadas. Na Seção 2. Visão geral da competição é apresentada uma visão geral da competição e do domínio considerado. Na Seção 3. Estratégias aplicadas são apresentadas as estratégias que levaram o agente Zé Carioca a ser um dos finalistas, e na Seção 4. Considerações finais apresentamos algumas considerações finais. 2. Visão geral da competição A competição ART-Testbed [Fullam 2005, Fullam 2006, Fullam 2007] foi criada com o intuito de definir um ambiente de teste para agentes de software que utilizam o conceito de reputação. Ela simula um ambiente de negócio onde clientes compram opiniões sobre pinturas. Cada agente participante do jogo é um provedor do serviço (avaliador de pintura) responsável por vender suas opiniões quando requisitado. A Figura 1 retrata este domínio. Cada pintura possui uma era específica, isto é, uma categoria na qual ela se enquadra para avaliação. No início de cada jogo, os avaliadores recebem de forma randômica os graus de conhecimento para cada era do jogo (categoria de pintura), através de um simulador oferecido pela competição que é o ambiente de execução. Durante os jogos os graus podem mudar, sendo assim atribuídos novos valores pelo simulador. Como em certas situações um avaliador pode receber pinturas pertencentes a certas eras às quais ele não possui um grau de conhecimento muito grande, ele pode procurar interagir com os outros avaliadores presentes no jogo para chegar na avaliação mais correta possível. Os valores que refletem o grau de conhecimento do agente em cada era variam de zero até um. Esses valores indicam o desvio padrão de erro de um agente em relação à avaliação da pintura na era correspondente. Se o valor for próximo a zero o avaliador tem mais chances de fazer uma boa avaliação, enquanto que mais próximo a um, mais chances de avaliar de maneira errada. Figura 1. Domínio do ART-Testbed 66

3 Existem dois protocolos possíveis de interação entre agentes avaliadores: protocolo de reputação e de opinião. O protocolo de reputação permite que um agente A solicite a reputação de um agente C segundo o ponto de vista do agente B. A informação provida pelo agente B ao agente A é um valor de zero até um. Quanto menor o valor, menor a reputação do agente C em relação ao agente B, e quanto maior, maior a reputação. A informação fornecida pelo agente B pode ser tanto uma verdade como uma mentira. O agente A deverá tratar da melhor maneira possível à informação obtida, além de desembolsar um dinheiro para pagar o dado fornecido (o valor de pagamento é estipulado pelo simulador da competição) pelo agente B. O protocolo de opinião é utilizado quando um avaliador solicita a opinião de uma pintura para outro agente. O agente que recebe a solicitação pode tanto rejeitar como aceitar informar sua opinião. Caso aceite, ele informa seu grau de conhecimento da era (Certainty Assessment) para que o agente requisitante possa decidir se realmente desejará obter sua opinião. Após sua decisão, o solicitador informa se aceita ou rejeita obter a opinião do outro avaliador. Aceitando, ele realiza o pagamento da informação (valor determinado pelo simulador da competição), e a seguir o agente provedor informa sua opinião. Entretanto, as informações transmitidas (Certainty Assessment e a opinião do avaliador provedor) podem ser tanto verdadeiras como mentirosas. A Figura 2 e a Figura 3 apresentam respectivamente o protocolo de reputação e opinião. O jogo possui um conjunto de sessões variáveis, ou seja, cada jogo pode ter um número diferente de sessões. No término de cada sessão há a verificação de qual avaliador chegou mais próximo do valor verdadeiro da pintura. Aquele que mais se aproximar dos valores verdadeiros ganham mais clientes e conseqüentemente mais dinheiro. No final do jogo, o agente avaliador que obtiver a maior soma em dinheiro é o vencedor. Figura 2. Transação de reputação 67

4 Figura 3. Transação de opinião Para criar um avaliador de pintura basta estender uma classe chamada Agent oferecida pelo ART-Testbed [Fullam 2007]. Nela há nove métodos abstratos que devem ser implementados pela classe que a estende. Nesses métodos, está toda a inteligência de cada agente competidor. Veja a seguir uma breve descrição de cada um deles. preparereputationrequests: Requisita a opinião de algum avaliador. preparereputationacceptsanddeclines: Informa a aceitação ou rejeição das reputações requisitadas. preparereputationreplies: Fornece as reputações requisitadas. prepareopinionrequests: Solicita opiniões para outros avaliadores sobre as pinturas a serem avaliadas pelo agente requisitante. prepareopinioncertainties: Fornece o nível de perícia do agente avaliador sobre a área (era) da pintura. prepareopinionrequestconfirmations: Informa que aceita ou rejeita a opinião requisitada. prepareopinioncreationorders: Especifica o quanto o agente gastará para analisar as pinturas que está avaliando e aquelas solicitadas por outros avaliadores. prepareopinionproviderweights: Em toda sessão do jogo define-se os pesos (valores de zero até um) dos agentes nas avaliações relacionadas a cada era. O peso representa o grau de influência que alguma informação fornecida por algum avaliador terá na avaliação final do agente. prepareopinionreplies: Envia as opiniões requisitadas. O agente avaliador funciona como provedor de opiniões. 68

5 Na última competição em 2007, houveram duas fases: preliminar e final. A primeira realizada nos dias 10 e 11 de Maio contou com a presença de dezesseis agentes aprovados pelos organizadores da competição dentre os dezessete inscritos (participação de treze diferentes instituições). Cada um dos jogos possuiu 100 sessões, além de contar com a presença de oito agentes competidores e mais quinze oferecidos pela competição. Já na fase final, realizada nos dias 16 e 17 de Maio na conferência AAMAS em Honolulu no Havaí, classificaram-se apenas os cinco melhores agentes da fase preliminar (quarto lugar obtido pelo Zé Carioca LES). Os finalistas realizaram jogos com 200 sessões, além da presença de quinze agentes oferecidos pela competição, assim como na fase anterior. Na final, o agente Zé Carioca LES conseguiu a quinta colocação. Como prêmio, a equipe que o desenvolveu ganhou o direito de publicar um artigo explicando sobre a estratégia aplicada no site da competição, além do código fonte. 3. Estratégias aplicadas O agente Zé Carioca LES aplicou uma série de estratégias para que conseguisse realizar boas avaliações das obras de arte (pinturas) solicitadas por clientes. Para representá-las foram definidos os seguintes módulos: estatístico, decisão e controlador. Veja o modelo conceitual apresentado na Figura 4. O módulo ZeCariocaLES funciona como um controlador responsável por acessar os outros. O módulo estatístico é responsável por realizar uma série de análises a partir de transações de opinião, enquanto que o módulo de decisão, como o próprio nome diz, possui todas as condições necessárias para realizar decisões, como, por exemplo, definir quando deve realizar algum tipo de transação com algum agente competidor. A seguir, são explicados os seguintes módulos: estatístico e decisão. Tanto o de decisão como o controlador foram implementados juntos, isto é, em uma classe chamada ZeCariocaLES que estende a classe Agent oferecida pelo framework da competição. Figura 4. Modelo Conceitual do Zé Carioca LES 3.1 Módulo Estatístico Quando um avaliador recebe graus de conhecimento ruins, é necessário complementar essa informação de alguma maneira. Um dos caminhos é realizar transações com os outros avaliadores, e solicitar opiniões sobre as pinturas que está avaliando. No entanto, é necessário distinguir quando um agente diz uma verdade ou mentira, e quando um valor de fato pode ajudar sua avaliação. Logo, torna-se importante que cada agente possa distinguir quais são os avaliadores que mais o ajudam a realizar melhores avaliações. 69

6 De imediato percebeu-se a necessidade de avaliar as informações fornecidas pelos agentes concorrentes para que assim fosse possível distinguir quando um avaliador pode ser ou não útil. No entanto, para que seja possível ter um parecer de cada agente, há a necessidade de avaliá-los durante algumas rodadas, e verificar se o seu comportamento se manteve estável ou inconstante. Certos agentes além de poderem mudar seus comportamentos também podem ter diferentes estratégias para cada era (categoria de pintura). Logo, há dois pontos a serem analisados: verificar se um agente pode ajudar em uma respectiva era, e definir se cada agente é ou não confiável pois podem ocorrer mudanças constantes em seu comportamento ao fornecer opiniões. Para realizar essas análises decidiu-se criar uma entidade chamada Oracle (Oráculo), que representa um repositório de dados das opiniões fornecidas ao Zé Carioca e dos valores verdadeiros das pinturas avaliadas por ele. Com esses dados em mãos, é possível calcular o desvio padrão (grau de confiança), e a média de estimativas (percentual de acerto) das opiniões de cada agente em cada era. Para realizar esses cálculos foi utilizada a API Commons-Math da Apache [Apache Commons] como auxílio. Um ponto importante é que no início de cada sessão, cada agente passa a conhecer as opiniões lhe fornecidas na sessão anterior e os valores verdadeiros das pinturas correspondentes. Com essas informações, o agente Zé Carioca as repassa para o Oráculo, permitindo que sejam realizados cálculos internos e atualizada a base de dados. Apesar do Oráculo calcular o grau de confiança e a média de acertos de cada agente em cada era, foi necessário definir uma estratégia que pudesse verificar mudanças de comportamento nas informações fornecidas por cada agente durante as sessões. Essa estratégia é realizada através da comparação do desvio padrão e da média de estimativas encontradas a partir das últimas duas sessões em que o agente Zé Carioca recebeu opiniões de um certo avaliador, e de todas as sessões em que negociou com o mesmo. Caso a diferença entre os valores calculados seja relevante, a próxima análise em uma sessão mais a frente é feita com base nos valores calculados a partir das últimas duas sessões correntes e a partir de todas as sessões negociadas após a constatação da mudança de comportamento, ou seja, a partir das últimas duas sessões citadas anteriormente. Caso não tenha ocorrido nenhuma mudança, todos os dados desde o início das negociações com o agente são mantidos. 3.2 Módulo Decisão O módulo de decisão está incluso na classe ZeCariocaLES que estende a classe Agent oferecida pela competição. Existe uma série de decisões que o avaliador Zé Carioca LES deve realizar. Nesta sub-seção são definidas de forma sucinta as decisões realizadas nos seguintes casos: transações de opinião, tempo que o agente Zé Carioca deve ficar analisando uma pintura, e os pesos que devem ser atribuídos para cada avaliador presente no jogo Transação de Opinião Dois pontos principais são abordados pelo agente referente à transação de opinião: requisição e fornecimento de opiniões. Para o primeiro deles é necessário decidir em que momento deve ser realizado uma requisição e para quais agentes, enquanto que o 70

7 segundo deve decidir se realmente irá ou não fornecer opiniões para outros agentes e se os valores serão bons ou ruins. O avaliador Zé Carioca possui a política de requisitar opiniões para outros avaliadores nos instantes em que ele possui um grau de conhecimento ruim referente a alguma era, isto é, valor maior a 0.4 (grau obtido após uma série de testes). Quando é realizada uma requisição de opinião para um agente, e este aceita fornecê-la, sempre é gasto um valor pela informação. Esse valor é fixado pelo simulador da competição, e não varia durante os jogos ($ 10,00). Devido ao valor gasto para requisitar cada opinião, é necessário decidir para quais o agente deve solicitá-las, pois caso requisite para todos os avaliadores durante todas as sessões, percebeu-se que a quantia de dinheiro que o Zé Carioca teria no final dos jogos seria baixa dependendo do número de participantes. Para solucionar essa situação, decidiu-se interagir com apenas 20% dos agentes presentes em cada jogo. Caso o valor desses 20% seja inferior a cinco, então cinco agentes são escolhidos, e caso o número de participantes seja menor ou igual a cinco, então todos terão solicitações. Depois de determinar a quantia de agentes para as negociações, uma coleção que possui os nomes dos agentes presentes em cada jogo é embaralhada, para que depois possam ser selecionados os n primeiros avaliadores da coleção referente à quantia determinada anteriormente. Após a seleção dos agentes, são obtidas suas opiniões durante as duas primeiras sessões, para que seja possível verificar quais deles são agentes confiáveis e que possam ajudar nas avaliações do Zé Carioca. Dessa forma, nas duas primeiras sessões, o nosso agente não usa as opiniões dos outros para suas avaliações. Na sessão seguinte verificase com o auxílio da entidade Oráculo, se realmente existe algum agente dentre os n selecionados que podem ajudar o Zé Carioca em suas avaliações. Para determinar essa situação, são analisadas duas informações: a média de acertos (estimativas) das opiniões de cada agente versus valor verdadeiro da pintura relacionada, além do grau de confiança, calculado a partir do desvio padrão das opiniões informadas. Assim, pode-se verificar de forma minuciosa as informações fornecidas por cada agente, já que algum deles pode possuir comportamentos diferentes para cada era. Com a média de estimativas e o grau de confiança nas eras, pode-se verificar se cada avaliador selecionado pode ou não ser útil ao agente Zé. Para um avaliador ser considerado confiável, deve ter um valor maior ou igual a 0.85 (valor obtido a partir de testes), e ter uma boa estimativa, ou seja, maior ou igual a 1 - graunaeraxdozecarioca. Como o grau em cada era corresponde à probabilidade de obter um valor ruim em uma avaliação, ao subtrair um desse grau, obtemos a probabilidade de acerto. Se a estimativa encontrada for maior que esse grau de acerto, então essa estimativa possui um bom valor. No entanto, não nos serve uma boa estimativa e um grau de confiança baixo ou vice-versa. Por isso, para um agente ser considerado útil, ou seja, capaz de ajudar nas avaliações do Zé Carioca, deve-se possuir valores bons tanto na estimativa, como no grau de confiança na respectiva era. Ao verificar-se que ao menos um dos agentes selecionados podem ajudar o Zé Carioca, então requisições continuam sendo realizadas somente para aqueles que o ajudam. Além disso, o grupo de avaliadores escolhidos é mantido. No entanto, se em algum instante percebeu-se que nenhum deles pode ajudar nas avaliações, então a 71

8 coleção com o nome dos agentes é embaralhada novamente e são selecionados os n primeiros da lista. Os valores antigos presentes no Oráculo são excluídos, e são gerados novos a partir dos selecionados. Assim, passam-se novamente duas sessões para que as opiniões de cada agente possam ser analisadas, e assim sejam definidos quais avaliadores o Zé Carioca continuará pedindo opiniões. Se nenhum puder ajudar, então embaralha-se novamente a coleção com o nome dos avaliadores, e continua-se a análise. Outro ponto abordado pelo agente Zé Carioca é no momento em que são solicitadas a ele opiniões por outros avaliadores (Figura 2). Toda vez que isso acontece, o Zé aceita fornecê-la, já que ganhar dinheiro é muito importante. Antes de informar qual a sua opinião, ele fornece um grau de conhecimento (Certainty Assessment). O grau passado é sempre um valor randômico entre 0.7 e 1.0, ou seja, isto informa que ele conhece bastante sobre as eras. Com isso, a tendência é que os outros agentes fiquem interessados, levando-os a requisitar opiniões Tempo de análise Quando uma pintura é solicitada por algum cliente, o agente Zé Carioca LES deve especificar o quanto de tempo ele deverá analisá-la. Quanto mais tempo, mais dinheiro é gasto, no entanto, a avaliação tende a ser melhor. Apesar disso, toda avaliação tem um limite, devido ao grau de conhecimento que o agente tem em cada era. Após uma série de testes percebeu-se que gastar dinheiro (tempo) para analisar suas pinturas, principalmente nos casos em que possui um alto grau de conhecimento, é muito importante. Mesmo que em algumas situações o agente tenha pouco conhecimento em alguma era, deve-se gastar um certo tempo para tentar gerar uma avaliação não tão ruim. No entanto, nesses casos, a tendência é que sejam geradas fracas avaliações mesmo que seja investida uma grande quantia de dinheiro. Outro ponto definido pelo Zé Carioca é o tempo gasto para analisar as pinturas solicitadas por outros, ou seja, gerar uma opinião. Como já se gasta uma quantia considerável para gerar as avaliações das pinturas do próprio agente adotou-se a política de evitar maiores gastos. Logo, as opiniões geradas para os outros avaliadores não possuem muito tempo de análise. No entanto, toda vez que algum avaliador solicita alguma opinião, o agente ganha dinheiro (valor de $10.00 estipulado pela competição). Como é importante ganhar dinheiro, decidiu-se em alguns instantes gastar um tempo mínimo ($1.00) para gerar uma opinião não tão ruim. Para especificar os instantes em que gastará ou não dinheiro na geração de uma opinião, fez-se um sorteio randômico entre -5 e 5. Caso o valor seja negativo, não é gasto nenhum dinheiro na avaliação, caso contrário gasta-se um pouco Pesos Em toda sessão cada agente deve fornecer o peso que ele terá nas suas avaliações finais, assim como a opinião dos outros avaliadores através do método prepareopinionproviderweights (ver Seção 2. Visão geral da competição). A fórmula utilizada pelo simulador oferecido pela competição é a seguinte: p*= i (w i. p i ), i(w i ) 72

9 onde w i e p i são respectivamente o peso do avaliador i segundo o ponto de vista de um agente, e o valor de uma opinião do mesmo agente avaliado. Essa fórmula é a responsável por gerar as avaliações finais de cada agente. No caso do Zé Carioca, nas duas primeiras sessões de cada jogo em que não se usam as opiniões dos outros avaliadores é atribuído o peso máximo (1.0) para suas eras que possuem grau menor a 0.7, enquanto que para as outras é atribuído o peso referente a graueraxzecarioca, ou seja, 1.1 subtraído do grau da era. Os valores possíveis para esse último caso seriam 0.4, 0.3, 0.2 e 0.1, devido os possíveis valores no graueraxzecarioca que podem ser 0.7, 0.8, 0.9 ou 1.0 respectivamente. Já os outros agentes recebem grau zero, já que estão passando por um período de análise, para que assim, seja possível decidir quais podem ajudar o agente. A partir da terceira sessão é verificado através do Oráculo se existe algum agente que pode ajudá-lo. Caso não exista, é atribuído o peso máximo (1.0) para todas as eras do Zé Carioca, enquanto que os outros avaliadores recebem peso zero. No entanto, caso seja detectado que existe ao menos um agente que possa ajudar em suas avaliações, o Zé recebe um peso referente à média de acertos (média de estimativas) de suas avaliações na era correspondente. Aqueles agentes que não podem ajudá-lo continuam recebendo grau zero, enquanto que os que podem recebem o peso baseado no seguinte cálculo: Peso = me * conf, onde me refere-se à média de estimativas e conf informa o grau de confiança do agente correspondente. Para verificar se realmente algum agente é útil ao Zé Carioca, basta verificar se conf é maior ou igual a 0.85 (valor encontrado a partir de testes) e se me é maior ou igual a 1 - graueraxzecarioca. Todos os valores aqui apresentados são baseados em diversos testes realizados nos simuladores das competições 2006 e 2007 do ART-Testbed [Fullam 2005, Fullam 2006, Fullam 2007]. 4. Considerações finais Esse artigo apresentou uma visão geral da competição ART-Testbed, além de explicar as estratégias aplicadas no agente de reputação Zé Carioca LES, finalista da competição de Percebeu-se que diversas decisões e cálculos tiveram que ser realizados para que pudesse ser possível verificar quais agentes competidores poderiam ajudar em suas avaliações, além de constatar que definir reputação não é uma tarefa fácil e sim custosa. Pretende-se criar uma arquitetura genérica com as estratégias aplicadas no agente Zé Carioca LES, e assim aplicá-las em outros domínios. Dois deles já foram identificados: Bolsa de Valores e uma ferramenta de controle de versão para definição colaborativa de processos de software. A intenção no primeiro é criar um simulador similar ao da competição ART-Testbed e um sistema comercial voltado para a Bolsa. No simulador, em vez de agentes avaliadores de pinturas, haveria agentes representando corretoras de valores. Investidores solicitariam seus serviços, e aquelas que melhor administrassem seus investimentos, ganhariam mais investidores por sessão. Já o 73

10 sistema comercial visaria refletir o mundo real dos negócios da Bolsa, contando com a presença de reputação. Já em relação ao outro domínio, a intenção é criar um controle de versão na área de processos de software e que permita usar o conceito de reputação como auxílio. Um exemplo seria se a partir de n diferentes versões de um mesmo processo desejássemos criar uma única versão. Se a quantidade de versões for muito grande, seria muito útil se tivesse alguma indicação ao usuário de quais processos são os mais interessantes a serem analisados, pois assim, evitaria percorrer cada um deles para decidir quais utilizar na geração da nova versão. Dessa forma, se cada usuário que criou uma versão tivesse uma reputação relacionada, ela poderia indicar quais são as versões mais atrativas a serem analisadas. Assim, o tempo para gerar uma nova versão a partir de n outras poderia ser reduzido, tornando o trabalho do usuário mais fácil e prático. Outro ponto a ser abordado é o uso da transação por reputação, já que a única transação utilizada pelo agente é a de opinião. Após análises em um conjunto de agentes participantes das versões 2006 e 2007 da competição, foi constatado que a grande maioria não usava interação por reputação. Isso nos leva a acreditar que tal interação não nos dê um ganho significativo assim como a interação por opinião. Claro que não se pode garantir que em nenhuma situação tal interação seja útil, no entanto, haverá a necessidade de um estudo mais detalhado para verificar como tais informações podem ser tratadas. Assim, uma das metas da próxima versão do agente é procurar criar alguma técnica que permita usá-la e o torne mais inteligente que os outros competidores. Referências Apache Commons (2007) Commons-Math: The Mathematics Library, July. Fullam, K., T. Klos, G. Muller, J. Sabater, A. Schlosser, Z. Topol, K. S. Barber, J. Rosenschein, L. Vercouter, and M. Voss. (2005) "A Specification of the Agent Reputation and Trust (ART) Testbed: Experimentation and Competition for Trust in Agent Societies," The Fourth International Joint Conference on Autonomous Agents and Multiagent Systems (AAMAS-2005), Utrecht, July 25-29, pp Fullam, K., T. Klos, G. Muller, J. Sabater, Z. Topol, K. S. Barber, J. Rosenschein, and L. Vercouter. (2005) "A Demonstration of The Agent Reputation and Trust (ART) Testbed: Experimentation and Competition for Trust in Agent Societies," The Fourth International Joint Conference on Autonomous Agents and Multiagent Systems (AAMAS-2005) Demonstration Track, Utrecht, July 25-29, pp Fullam, K. and K.S. Barber. (2006) "Learning Trust Strategies in Reputation Exchange Networks," The Fifth International Joint Conference on Autonomous Agents and Multiagent Systems (AAMAS-2006), Hakodate, Japan, May 8-12, pp Fullam, K., T. Klos, G. Muller, J. Sabater, Z. Topol, K. S. Barber, J. Rosenschein, and L. Vercouter (2007), Web site Agent Reputation Trust (ART) Testbed, July. Jennings, N. R. and Wooldridge (2000), M. Agent-oriented software engineering, In Bradshaw, J. (Ed.) Handbook of Agent Technology, AAAI/MIT Press. 74

11 Kafali, O. and P. Yolum. (2006) "Trust Strategies for ART Testbed," The Workshop on Trust in Agent Societies at The Fifth International Joint Conference on Autonomous Agents and Multiagent Systems (AAMAS-2006), Hakodate, Japan, May 9, pp Sen, S., I. Goswami, and S. Airiau. (2006) "Expertise and Trust-Based Formation of Effective Coalitions: An Evaluation of the ART Testbed," The Workshop on Trust in Agent Societies at The Fifth International Joint Conference on Autonomous Agents and Multiagent Systems (AAMAS-2006), Hakodate, Japan, May 9, pp Stranders, R. (2006) Argumentation Based Decision Making for Trust in Multi-Agent Systems. Master's Thesis, Delft University of Technology. Wooldridge, M. and Jennings (1998), N. R. Pitfalls of agent-oriented development Proceedings of the Second International Conference on Autonomous Agents (Agents'98), ACM Press, pp