METODOLOGIA PARA O DESENVOLVIMENTO DE OBJETOS DE APRENDIZAGEM. Testes. Capítulo 7: Testes e Qualidade de Objetos de Aprendizagem

Documentos relacionados
METODOLOGIA PARA O DESENVOLVIMENTO DE OBJETOS DE APRENDIZAGEM. Metodologia INTERA

Objetos de Aprendizagem Volume 2 - Metodologia de Desenvolvimento

TESTES DE SOFTWARE 1. Fundamentos sobre testes de software

Teste de Software. Prof. Camila. Pedro de Assis Sobreira Jr.

Introdução a Teste de Software

AVALIAÇÃO DE INTERFACES

DESENHO DE CARGOS E TAREFAS

AVALIAÇÃO DE PRODUTOS DE SOFTWARE

Análise e projeto de sistemas

2

QUALIDADE DE SOFTWARE

Processos de Validação e Verificação do MPS-Br

Teste de Software. Competência: Entender as técnicas e estratégias de testes de Software

Introdução aos Testes de Software

SSC-546 Avaliação de Sistemas Computacionais

Guia do Processo de Teste Metodologia Celepar

Normas Relacionadas ao Teste de Software

DOCUMENTO DE VISÃO 1. TÍTULO DO PROJETO. 2. RESPONSÁVEL PELO DOCUMENTO Ciclano

Documento de Visão versão 1.0 Desenvolvimento do Sistema de Gestão de Documentos Doc Manager Cliente: São José Agroindustrial Representante do

Introdução. Conteúdo. Usabilidade. Engenharia de software X Usabilidade. Benefícios. Introdução. Introdução. Introdução. Introdução.

Requisitos. Silvério Sirotheau

METODOLOGIA PARA O DESENVOLVIMENTO DE OBJETOS DE APRENDIZAGEM. Contextualização. Capítulo 3: Contextualização de Objetos de Aprendizagem

Qualidade de Software QUALIDADE DE SOFTWARE PRODUTO

AVALIAÇÃO DA USABILIDADE DA SALA VIRTUAL MOODLE DO IFCE - CAMPUS IGUATU. PALAVRAS-CHAVE: Usabilidade, MOODLE, avaliação, sala virtual

Qualidade de Software

CRITÉRIOS DA USABILIDADE Um auxílio à qualidade do software

Qualidade de Pacote de Software. Avaliação do Sistema DreamWeaver. Material preparado por Débora M. B. Paiva

Introdução à Análise e Projeto de Sistemas

Introdução 27/9/2005. Prof.: Clarindo Isaías Pereira da Silva e Pádua Departamento de Ciência da Computação UFMG Gestus. Usabilidade.

Além do mais, através da capacidade de animação e simulação, os objetos de aprendizagem podem tornar mais simples a compreensão de fenômenos a serem

Teste de Software. Objetivo: Executar software para revelar erros/falhas ainda não descobertos. Pode gastar 40% do esforço de desenvolvimento

Qualidade de Software. Profª Rafaella Matos

Prof. Emiliano S. Monteiro

Universidade Luterana do Brasil- ULBRA- Campus GUAÍBA. Implementação de Objetos de Aprendizagem Aplicada sobre questões do ENEM

Estágio II. Aula 02 Conceitos de Teste de Software. Prof. MSc. Fred Viana

CI163 Projeto de Software

METODOLOGIA PARA O DESENVOLVIMENTO DE OBJETOS DE APRENDIZAGEM. Avaliação. Capítulo 9: Avaliação de um Objeto de Aprendizagem

3 Arquitetura para a Coordenação e a Composição de Artefatos de Software

CONTPATRI Plano de Garantia de Qualidade. Versão 1.1

CASOS DE TESTE PALESTRANTE: MARCIA SILVA

INTRODUÇÃO A ENGENHARIA DE SOFTWARE

5 Processo de Reificação e de Desenvolvimento com ACCA

DESIGN INSTRUCIONAL APLICADO

RUP RATIONAL UNIFIED PROCESS PRÁTICAS RECOMENDADAS. Prof. Fabiano Papaiz IFRN

Teste de Software. Estratégias de Teste. Rosemary Silveira Filgueiras Melo

Modelos Pedagógicos para Educação a Distância: pressupostos teóricos para a construção de objetos de aprendizagem

Engenheiros de software (algumas vezes conhecidos no mundo da TI como engenheiros de sistemas ou analistas ) e outros interessados no projeto

Fundamentos de Teste de Software

21/09/2012. Elicitação de Requisitos. Projeto de Interface Homem- Máquina. Prof. Esp. MBA Heuber G. F. Lima. Técnicas etipos de Requisitos

Engenharia de Software

Engenharia de Requisitos

Componentes de SIs. Pessoas Organiz. Tecnologia

ISO/IEC Prof. Alexandre Luís Franco

Professora Orientadora do Departamento de Ciências Exatas e Engenharias. 4

Teste de Software. Karen Frigo Busolin Novembro / 2010

Engenharia Software. Ení Berbert Camilo Contaiffer

Plano de Testes VideoSystem

Princípios da Engenharia de Software aula 03

Engenharia de Software

Requisitos de Interfaces para Sistemas Críticos

Análise de Requisitos

TESTES DE SOFTWARE Unidade 1 Importância do Teste de Software. Luiz Leão

RUP RATIONAL UNIFIED PROCESS

Instrumento para a Avaliação da Qualidade de Objetos de Aprendizagem. [ perspectiva do usuário ]

Objetos de Aprendizagem Volume 2 - Metodologia de Desenvolvimento

Engenharia de Software

LIVRO ENGENHARIA DE SOFTWARE FUNDAMENTOS, MÉTODOS E PADRÕES

02/10/2012 Clarindo Pádua. Avaliação de maturidade em usabilidade de organizações Produtividade do usuário.

PROCESSO DE DESENVOLVIMENTO DE SOFTWARE. Prof. Fabiano Papaiz IFRN

Ambiente Educacional Interativo Móvel para atividade em sala de aula 1

Introdução à Engenharia de Software

Uma compreensão completa dos Requisitos do Software é fundamental para obter um software e um processo de desenvolvimento com alta qualidade

Análise e Projeto de Sistemas I

Engenharia de Software

Objetos de Aprendizagem Acessíveis para Deficientes Visuais: Discussões Iniciais Sobre os Desafios da Computação Aplicada à Educação Especial

1. A principal razão de dividir o processo de teste em tarefas distintas é:

Capítulo 5: Avaliação Pedagógica de um Objeto de Aprendizagem

ORGANIZAÇÃO CURRICULAR TÉCNICO NA ÁREA DE INFORMÁTICA: HABILITAÇÃO TÉCNICO EM INFORMÁTICA NA MODALIDADE A DISTÂNCIA /1

2 Fluxos no Ciclo de Vida do Processo Unificado. O Processo Unificado consiste da repetição de uma série de ciclos durante a vida de um sistema.

GERENCIAMENTO DA QUALIDADE DO PROJETO

Caracterização dos Aspectos Computacionais envolvendo Objetos de Aprendizagem no ensino da Matemática

PROCESSO DE DESENVOLVIMENTO DE SOFTWARE

Desenvolvimento de um Tutorial de Pascal utilizando o Learning Space. Acadêmica: Renate Kammer Orientador: Maurício Capobianco Lopes

FORMAÇÃO DE PROFESSORES: CRIAÇÃO DE MATERIAL EDUCACIONAL PARA AMBIENTE VIRTUAL DE APRENDIZAGEM

Cadeira: Engenharia de Software

MANUAL PARA DESENVOLVIMENTO DE SOFTWARE TRABALHO DE CONCLUSAO DE CURSO EM SISTEMAS DE INFORMAÇÃO

DESCOBERTO. (Glen Myers)

UnoTech Soluções em Histórico da Revisão Data Versão Descrição Autor 27/05/ 1.0 Construção do Documento Carlos GG Flor Página 2

Modernização de Legados

Objetos de Aprendizagem Volume 2 - Metodologia de Desenvolvimento

Engenharia de Software.

Faculdade de Tecnologia SENAC Pelotas Interface Homem Computador 3º Semestre

4 Concepção de objetos de aprendizagem contemplando serviços e modelados como Web Services

QUALIDADE DE SOFTWARE. Prof. Emiliano Monteiro

DOCUMENTO DE REQUISITO DE SOFTWARE

Desenvolvimento de Software

Prof. Ms. Ronaldo Martins da Costa

Aula 10 Especificação de Requisitos

Transcrição:

Testes Capítulo 7: Testes e Qualidade de Objetos de Aprendizagem Autoria: Juliana Cristina Braga; Roberta Kelly A. de França. Esta unidade inicia com a discussão sobre a importância de realizar testes com o objeto de aprendizagem (OA) desenvolvido, para garantir a sua qualidade e o atendimento dos seus objetivos, seguida pela explicação sobre as atividades envolvidas na etapa de teste. Posteriormente, ela apresenta os principais tipos de testes realizados com OAs, seguidos pela descrição dos diferentes papéis de membros da equipe nesta etapa. Finalmente, são apresentados exemplos de artefatos de teste, seguidos pelo resumo sobre o conteúdo desta unidade. Vamos lá, boa leitura! 7.1 Definição e importância dos testes A etapa de Teste deve evidenciar a qualidade do trabalho produzido até este momento e propiciar que os erros sejam corrigidos antes da disponibilização do OA para os alunos. Sendo assim, corrigir erros de OAs significa testar os aspectos técnicos e a corretude do seu conteúdo de aprendizagem. Dessa forma, espera-se garantir um equilíbrio técnico e pedagógico que resulte em um objeto capaz de ser reutilizado e de contribuir de maneira efetiva para o aprendizado. Desta maneira, novamente, evidencia-se o trabalho em conjunto, devendo ser este o discurso a ser fomentado pelo coordenador, evitando que a equipe de desenvolvimento seja responsabilizada pelos erros encontrados. Deve-se considerar, antes de iniciar a etapa de Teste, que, por melhor que estejam explicitados os objetivos educacionais do objeto, sua qualidade condicionase a ausência de defeitos de utilização.

E, de acordo com Nielsen (1993), a utilização de um programa de computador (usabilidade) não deve estar relacionada com o grau de experiência do usuário; por isso, testa-se a linguagem adotada, os botões de funcionamento, de ajuda, o acesso por vários usuários simultaneamente etc. Ou seja, a realização de testes representa a harmonização entre os objetivos iniciais e o protótipo do OA, pois envolve conhecimento sobre o Humano por um lado, sobre a tecnologia por outro e sobre as maneiras como um influencia e é influenciado pelo outro (ROCHA e BARANAUSKAS, 2003, p.47). 7.2 Testes e a qualidade de um OA A qualidade é incorporada ao OA durante todo o processo de sua produção. No entanto, a fase de Teste oferece efetivamente o último recurso no qual a qualidade pode ser avaliada e a forma mais prática em que os erros podem ser descobertos. No entanto, ressalta-se que não se pode testar a qualidade se ela não estiver lá antes de você começar a realizar os testes. Isso significa que o teste aumenta muito a qualidade do OA, mas a garantia da qualidade será data durante a execução adequada do processo. Do mesmo modo que para garantir que os OAs sejam eficazes no processo de aprendizado e possam ser reutilizados, esses devem ser produzidos segundo critérios e processos tecnológicos e pedagógicos. O mesmo se dá na etapa de teste, que deve seguir técnicas integradas ao processo como um todo, que controlem e orientem as pessoas que o executarão. Esta etapa evidencia as atividades de teste e fornece orientações para a equipe de desenvolvimento realizar as correções e/ou adaptações. Desta forma, a qualidade da metodologia adotada e dos instrumentos corresponderá a qualidade final do OA. Sendo assim, a etapa de teste terá diferentes abordagens, podendo ocorrer concomitantemente ou não, pois deve ser considerado que no âmbito da educação, os testes relacionados com a corretude do conteúdo de aprendizagem (tabelas, gráficos etc.) são fundamentais para o sucesso dos exercícios propostos, por exemplo.

Contudo, os problemas técnicos podem gerar desmotivação e resultar que todo o empenho empreendido para o sucesso dos objetivos didático-pedagógicos seja inutilizado. Com estes diferentes objetivos de testes, esta etapa caracteriza-se por primar pela qualidade do OA, complementando algumas das etapas estudadas anteriormente, quando: Compara a contextualização idealizada com a existente, realizando testes em diferentes realidades tecnológicas, com números de usuários variáveis, em plataformas diversas etc. Verifica se o conteúdo gerado está correto e se abrange tudo o que foi idealizado em etapas anteriores. Verifica se os requisitos foram todos implementados de forma adequada e correspondente com a expectativa do demandante. Valida as características que definem um OA, em especial analisando a sua reusabilidade. Avalia, de forma geral, a arquitetura do OA. Localiza e permite a correção de defeitos antes da implementação final do OA. Podemos observar que, enquanto as outras etapas enfatizam a abrangência da descrição do OA, o Teste enfatiza a deficiência (RUP, 2003). Contudo, quando bem explorado, ele favorece a economicidade do projeto, evitando que, futuramente, um novo profissional tenha que ser contratado para corrigir erros que estavam encobertos. Ele também garante o atendimento do cronograma previsto, a satisfação do demandante por ver representadas suas expectativas quanto ao objeto e reduz o risco associado à disponibilização de um OA de má qualidade.

7.3 Tipos de Teste O Quadro 1 descreve os tipos de testes que devem ser realizados em um OA, para permitir seu funcionamento com adequação e qualidade. Eles foram definidos baseados nas características de qualidade do OA. Essas características foram adaptadas pelo grupo de pesquisa INTERA da UFABC, a partir de estudos realizados sobre as normas de qualidade de software ISO/IEC 9126 e algumas especificações de Objetos de Aprendizagem como Advanced Distributed Learning Network (ADLNet) e Learning Object Review Instrument (LORI): Quadro 1 Tipos de testes que devem ser realizados com um OA. Tipos de Testes Funcionalidade Acessibilidade Confiabilidade Técnica Confiabilidade Pedagógica Precisão Portabilidade Instalação Interoperabilidade Usabilidade Manutenibilidade Eficiência Descrição Todos os requisitos funcionais foram atendidos? O objeto pode ser acessado em diversos tipos de contexto, por diversos usuários e através de diversos dispositivos? Ele possibilita o uso de software de leitura de tela para deficiente visual? As funcionalidades possuem algum defeito técnico? O conteúdo abordado no OA está pedagogicamente correto? Ele abrange todo o conteúdo a que ele se propôs? O OA apresenta resultados precisos e dentro do esperado? O OA funciona em diferentes sistemas operacionais, diferentes Ambientes Virtuais de Aprendizagem (AVAs) e diferentes dispositivos de hardware (celular, tablet etc)? O OA é fácil de ser instalado? O manual de instalação está adequado? O OA exporta dados para diferentes tipos de sistemas, caso necessite? O OA possui alta usabilidade? Ele possui sistema de ajuda adequado ao aluno? O OA possui sistema de ajuda adequado ao professor? O OA pode ser corrigido, atualizado e alterado facilmente? Os recursos e os tempos de uso do OA são compatíveis com o nível de desempenho requerido para o mesmo?

Disponibilidade O OA foi indexado de forma adequada? Ele foi disponibilizado em repositório apropriado? Ele é fácil de ser encontrado dentro do repositório que se encontra disponível? Segurança Os mecanismos de segurança incorporados no OA vão de fato protegêlo da invasão imprópria? Por exemplo: o aluno terá acesso às informações das notas lançadas pelos professores? Na metodologia INTERA, a qualidade de um OA é constantemente idealizada. Sendo assim, a etapa de testes não visa apenas garantir a qualidade do OA e contribuir para sua utilização e reutilização, mas buscar que todo o processo ocorra dentro do cronograma e que seja disponibilizado com todas as condições funcionais testadas. Para isso, esta etapa deve acompanhar todo o processo de desenvolvimento do OA, como veremos a seguir. 7.4 O ciclo de vida dos testes Como vimos anteriormente, os testes devem integrar-se a todo o processo e seguir uma metodologia que oriente os envolvidos em sua execução. Desta forma, antes da necessidade de artefatos que os oriente, é preciso conhecer as atividades que estão relacionadas com a etapa de Teste, como elas se relacionam e quem são os envolvidos, ou seja, o ciclo de vida dos testes. Nesta proposta, ele é composto de 4 (quatro) fases: Planejamento, Preparação, Especificação e Entrega. Ele descrimina 7 (sete) papéis, com atribuições distintas, mas que podem ser executados por uma mesma pessoa. Veja a descrição a seguir: Planejamento: nesta fase, são elaborados a Estratégia de Teste e o Plano de Teste, fazendo um levantamento dos requisitos e simulando situações problemas. Mas, é preciso manter a neutralidade quanto às soluções dos possíveis problemas, evitando antecipá-las. A demanda excessiva sobre a qualidade desse trabalho inicial pode provocar a alienação da equipe de teste (RUP, 2003).

Preparação: o objetivo desta fase é preparar o ambiente de teste (equipamentos, condições tecnológicas em que será testado, artefatos de teste, pessoal) para que os testes sejam executados nas condições e prazo previstos. Execução: os testes são executados, registradas todos os erros/ falhas são registrados e corrigidos e novas possibilidades de execução do OA pela a equipe (quando for o caso) são estudadas. Entrega: esta é a última fase do ciclo de vida de testes, onde deve ser registrado todo o histórico do mesmo e as soluções apontadas. O projeto é finalizado, registrando as características tecnológicas finais do OA e toda a documentação é arquivada. Normalmente, são gerados scripts (que são roteiros seguidos por sistemas computacionais e trazem informações que são processadas e transformadas em ações efetuadas por um programa principal) que permitam a execução de ciclos de teste sempre que se julgar necessário, desde é claro, que sejam garantidas as mesmas condições iniciais do ciclo de teste (valores de dados, estados dos dados, estados do ambiente etc.). 7.5 Papéis A etapa de requisitos envolve a participação de profissionais com algumas experiências específicas para realizar os testes com o OA, ainda mais quando ele é do tipo software ou simulação. No entanto, é importante relembrar que todos os papéis dentro do processo INTERA são importantes e que se trata de um processo interativo, onde a comunicação entre os envolvidos é valorizada. Sendo assim, veja a seguir a relação dos papéis com destaque nesta etapa de Teste: Equipe de desenvolvimento: são os técnicos responsáveis pela operacionalização do processo de teste. Os testadores são os responsáveis pela execução de teste. Ele deve observar as condições de teste e os respectivos passos documentados pelo analista, além de evidenciar os resultados da execução dos mesmos. Muitas vezes, usuários finais podem fazer parte da equipe de testadores.

Já o engenheiro (ou arquiteto) de teste é o técnico responsável pelo levantamento das necessidades relacionadas com a montagem da infraestrutura de teste, incluindo-se o ambiente de teste, a arquitetura de solução, as restrições tecnológicas e as ferramentas de teste. Ele também é responsável pela liderança técnica do trabalho e pela comunicação entre a equipe de teste e a equipe de projeto (ou de desenvolvimento). Coordenador: Responsável por planejar e gerenciar os testes do OA. Faz parte de suas atribuições manter a comunicação entre a equipe e acompanhar o cronograma do projeto e dos testes; Demandante: como responsável por conceber a ideia do Objeto de Aprendizagem, é recomendado que ele se envolva no processo de testes, validando e realizando alguns, caso seja possível. Conteudista: responsável por validar a corretude do conteúdo testado. É possível que uma pessoa acumule mais de um dos papéis citados. Eles se relacionam nas seguintes fases: 1) do Planejamento, quando o programador deve atuar junto com o coordenador e o demandante; 2) de Execução, quando o programador atuará junto ao testador e 3) de Entrega, quando todos os profissionais devem reunir-se e entender os testes realizados e o resultado final alcançado. 7.6 Exemplos de artefatos de teste O processo de teste de um OA pode produzir diversos artefatos, tais como: Plano de teste, que correspondente a fase de planejamento e especifica todos os testes que serão realizados. Quadro 2 - Exemplo de plano de teste de um OA do tipo animação. Tipo de teste 1- Teste de funcionamento de todos os botões. Responsável Equipe de desenvolvimento 2- Verificar se falas e cenários correspondem ao documento de arquitetura (roteiro ou storyboard). Conteudista

3- Verificar harmonia das cores e som. Engenheiro, demandante e testadores 4- Verificar a acessibilidade em diferentes browsers. Testadores Demandante, 5- Verificar critérios de disponibilização do OA. conteudista e testadores Evidências de testes, que comprovam que os testes foram realizados e os erros encontrados. Esse artefato facilita no entendimento e correção do erro. A Figura 1 mostra uma evidência dos testes realizados em um OA do tipo animação. Essa evidência foi feita de forma bem simples, apenas capturando a tela e indicando o erro, como mostrado na própria figura da animação selecionada. Figura 1 - Evidência de testes em um OA do tipo animação. Fonte: Tela de um Objeto de Aprendizagem desenvolvido na UFABC, responsáveis: Braga et al. (2011). Disponível em: http://www.youtube.com/watch?v=m69cxyw3c5k Cheklist de teste, este artefato é usado para orientar na realização dos testes (Quadro 3). A Figura 2 mostra um exemplo de checklist para orientar a equipe a realizar testes de usabilidade de um OA do tipo curso online. Repare que este teste procura evidenciar se o ambiente do curso favorece o interesse do aluno, o seu prazer e a facilidade com relação ao seu processo de aprendizagem sobre o conteúdo do OA.

Quadro 3 - Exemplo de cheklist para um OA do tipo animação. Plano de Teste de um OA do tipo animação cheklist das cenas: Estapas Descrição Atende NÃO atende CORRIGIDO Personagens Corresponde ao protótipo idealizado Conteúdo Falas e cenários correspondem ao documento de arquitetura (roteiro ou storyboard) Cena Cenário principal, personagens e cores Funcionalidades Fala inicial e mudança de cenário Disponibilização Cenário 2 e entrada da personagem 2 Figura 2 - Exemplo de cheklist para testar a usabilidade de um OA do tipo curso online. Casos de teste: são documentos que orientam os testadores a entrar com determinados dados e já sugerem a saída necessária para os mesmos (Figura 4). Caso a saída não esteja conforme sugerido, significa que o OA possui erro. A Figura 3 mostra o passo que o testador deverá executar (coluna B), o valor com o qual ele deverá preencher (coluna C), a ação que ele deverá realizar (Coluna D) e o resultado esperado para a entrada e ação realizada (Coluna E).

Figura 3 - Exemplo de caso de teste para um OA do tipo software. Caso o testador encontre algum erro, esse deve ser relatado na Coluna F e a evidência deve ser capturada e indicada na coluna G. 7.7 Resumo A proposta deste curso, norteada pela metodologia INTERA, ressalta a importância dos OAs no contexto de aprendizagem, principalmente na EaD, e para isso evidencia a preocupação com a qualidade do OA. Tendo conhecido as etapas do processo INTERA apresentadas até o momento espera-se que você tenha compreendido que é a escolha do processo (tecnológico e pedagógico) e o comprometimento da equipe que garantem a eficácia do OA para o aprendizado. Nesta unidade, vimos que a etapa de Teste procura reconhecer e corrigir as deficências do OA, para garantir seu funcionamento com adequação e qualidade. Cabe ressaltar que um OA também deve ser avaliado a respeito do aprendizado proporcionado, ou seja, será que os alunos estão realmente aprendendo com o OA que foi desenvolvido? No entanto, essa avaliação não é realizada na etapa de Teste, mas na etapa de Avaliação. Os testes a serem realizados e os seus objetivos foram definidos para corresponderem às características de qualidade de um OA. Por isso, eles devem acompanhar todo o processo de desenvolvimento do OA.

É importante você entender que o tipo e a quantidade de testes dependem do tipo de OA que está sendo desenvolvido: quanto mais complexo um OA, maior a necessidade de testes. Por exemplo, uma animação necessita de bem menos testes do que um software. Até a próxima! Referências Bibliográficas GODOI, Katia Alexandra de; PADOVANI, Stephania. Avaliação de material didático digital centrada no usuário: uma investigação de instrumentos passíveis de utilização por professores. Produção, v. 19, n. 3, set./dez. 2009, p. 445-457. Disponível em: http://www.scielo.br/pdf/prod/v19n3/03.pdf. Acesso em 21/05/2012. NIELSEN, J. Usability engineering. San Diego, USA: Academic Press, 1993. OLIVEIRA, Erica R.; NELSON, Maria Augusta V.; ISHITANI, Lucila Ishitani. Ciclo de vida de objetos de aprendizagem baseado no padrão SCORM. Anais do Simpósio Brasileiro de Informática na Educação. 2007. Disponível em: http://www.br-ie.org/pub/index.php/sbie/article/view/571/557.acesso em 20/04/2012. Rational Software Corporation. 2001. RUP. Disponível em: http://www.wthreex.com/rup/portugues/. Acesso em 20/05/2012. ROCHA, H. da; BARANAUSKAS, M. C. Designe avaliação de interfaces humanocomputador. Campinas, SP: NIED/Unicamp, 2003. Disponível em: http://pan.nied.unicamp.br/download_livro/livrodownload.html. Acesso em: 20/05/2012.

Referência Complementar VILELLA, R. M.; Conteúdo, usabilidade e funcionalidade: três dimensões para avaliação de portais estaduais de governo eletrônico na web. 2003. Dissertação (Mestrado em Ciência da Informação) Universidade Federal de Minas Gerais, Belo Horizonte, 2003. Disponível em: http://portaldeperiodicos.eci.ufmg.br/index.php/pci/article/view/669/453. Acesso em 15/05/2012.