Teorias de Avaliação - CE095

Documentos relacionados
Teorias de Avaliação - CE095

Teorias de Avaliação - CE095

Teorias de Avaliação - CE095

Trabalho de Conclusão de Curso APLICATIVO WEB SHINY PARA MODELOS DICOTÔMICOS DA TRI USANDO O PACOTE LTM DO R ANGELA MARIA DA SILVA

9 Uma Análise Comparativa: TCT, TRI e TRIN

PAINEL DE DISCUSSÃO 4: COMPARABILIDADE ENTRE AVALIAÇÕES. Ruben Klein (Fundação Cesgranrio)

Teorias de Avaliação - CE095

Teorias de Avaliação - CE095

Teorias de Avaliação - CE095

Teorias de Avaliação - CE095 PRÁTICAS NO R

Aula 3. Introduçao à TRI

ANÁLISES ESTATÍSTICAS TRI. CAEd/UFJF (32)

Comparações entre a Teoria de Resposta ao Item e a Teoria Clássica de Medidas para Banco de Itens Simulados

Prova Brasil, Saresp etc. Heliton Ribeiro Tavares

TEORIA DA RESPOSTA AO ITEM (TRI): ESTIMAÇÃO BAYESIANA DA HABILIDADE DE INDIVÍDUOS

Universidade de Brasília Instituto de Ciências Exatas Departamento de Estatística. Dissertação de Mestrado

ANÁLISE DE ITENS DE UMA PROVA DE RACIOCÍNIO PROBABILÍSTICO

Análise da Prova de Conhecimentos Gerais do Vestibular da UNESP 2012 por Modelos Uni e Multidimensionais da Teoria da Resposta ao Item

Teorias de Avaliação - CE095

Teorias de Avaliação - CE095 Elaboração de itens

Teorias de Avaliação - CE095

6 Um Modelo para a Satisfação do Consumidor Baseado na Teoria de Resposta ao Item

Palavras-chave: Teoria de Resposta ao Item; ENEM; Avaliação na Educação

ANÁLISE DO INSTRUMENTO DE MEDIDA UTILIZADO NA AVALIAÇÃO DOCENTE DA UFSM BASEADO NA TEORIA DA RESPOSTA AO ITEM

INSTITUTO NACIONAL DE MATEMÁTICA PURA E APLICADA MESTRADO PROFISSIONAL EM MATEMÁTICA LEONARDO DA SILVA GOMES

Análise estatística do desempenho dos inscritos no ENEM em Campinas- SP: áreas CN, CH, LC e MT dos anos

Denis da Silva Paranhos PROCESSO DE INCORPORAÇÃO DE ITENS NA ESCALA DO SAEB PARA A CRIAÇÃO DE UM BANCO DE ITENS

3 Teoria da Resposta ao Item (TRI) 3.1 Introdução

Incorporando Informações de Covariáveis para Explicar a Habilidade dos Indivíduos no Modelo de Teoria de Resposta ao Item

A AVALIAÇÃO EM MATEMÁTICA DO SAETHE GLAUKER AMORIM

Ajuste de um modelo de TRI aos dados do vestibular do curso de Administração Noturno da Universidade Federal de Uberlândia

Comparação da Teoria Clássica dos Testes com a Teoria de Resposta ao Item aplicado ao subteste Semelhanças da WASI

A TRI e as proficiências

RESOLUÇÃO Nº 01/2016

Introdução à Teoria de Resposta ao Item

A Avaliação Nacional da Alfabetização: compreendendo os resultados. André Jalles

PONTIFÍCIA UNIVERSIDADE CATÓLICA DE MINAS GERAIS

Eixo Temático: Estratégia e Internacionalização de Empresas

Teorias de Avaliação - CE095 Fundamentos da Elaboração de Ite

PALAVRAS-CHAVES: Banco de itens de matemática, software gerador de testes de matemática, construtor de provas de matemática, ENEM.

A Teoria de Resposta ao Item (TRI) e sua aplicação ao ENEM Mauro Luiz Rabelo Decano de Ensino de Graduação Universidade de Brasília

ANÁLISE DE ITENS DE UMA PROVA DE RACIOCÍNIO ESTATÍSTICO 1 ANALYSIS OF ITEMS OF A STATISTICAL REASONING TEST

Universidade de Brasília - UnB

Metodologia da Gestão da Avaliação do Processo Ensino-Aprendizagem: Psicometria e Estatística, Aproximações Possíveis e Necessárias

Análise do Desempenho no Ensino Médio na Área Metropolitana de Brasília:

INSTITUTO NACIONAL DE MATEMÁTICA PURA E APLICADA MESTRADO PROFISSIONAL EM MATEMÁTICA

Teoria de Resposta ao Item: Modelos para Respostas não Dicotômicas com uso de Software Livre

ão ão ão âmetro a8.143 âmetro b8.244 âmetro c8.345 âmetro a9.456 âmetro b9.557 âmetro c9.658 contextual completo PROEB 2009B.

Teoria de Resposta ao Item aplicada no ENEM

INTRODUÇÃO 1. Avaliação Psicológica, 2010, 9(3), pp

INSTITUTO NACIONAL DE MATEMÁTICA PURA E APLICADA MESTRADO PROFISSIONAL EM MATEMÁTICA CLAUDIO MENDES TAVARES

Análise dos Itens de um Teste de Reconhecimento de Emoções por Meio do Modelo Logístico de Dois Parâmetros da TRI

Testes Adaptativos Informatizados Baseados em Teoria de Resposta ao Item Utilizados em Ambientes Virtuais de Aprendizagem

Avaliação aliada ao processo de ensino-aprendizagem.

Avaliação da satisfação de alunos por meio do Modelo de Resposta Gradual da Teoria da Resposta ao Item 129

Cerca de um quarto da prova será fácil, dois quartos terão grau

Universidade de Brasília Instituto de Ciências Exatas Departamento de Estatística. Dissertação de Mestrado

Metodologia: TCT e TRI Matriz de Referência e Descritores Escala de Proficiência Intepretação Pedagógica de Resultados

ISMAEL SIMÃO TRI APLICADA À ANÁLISE DE ITENS PARA O ENSINO DE ESTATÍSTICA

Oficina de Apropriação de Resultados para Professores PAEBES Matemática

UMA APLICAÇÃO DA TEORIA DA RESPOSTA AO ITEM NA AVALIAÇÃO DO ENADE DO CURSO DE ADMINISTRAÇÃO

Universidade de Brasília.

Variáveis bidimensionais

UNIVERSIDADE DE SÃO PAULO FACULDADE DE ECONOMIA, ADMINISTRAÇÃO E CONTABILIDADE DE RIBEIRÃO PRETO DEPARTAMENTO DE ECONOMIA LILIANE UBEDA MORANDI

UNIVERSIDADE FEDERAL RURAL DO SEMI-ÁRIDO

Construção de uma Escala para Avaliação da Prociência em Conteúdos Matemáticos Básicos

JUSCELIA DIAS MENDONÇA ANÁLISE DA EFICIÊNCIA DE ESTIMAÇÃO DE PARÂMETROS DA TRI PELO SOFTWARE ICL

OFICINA DE DIVULGAÇÃO E APR OPR IAÇÃO DE R E S ULTADOS SAERS 20 16

Oficina de Apropriação de Resultados para Professores PAEBES Geografia

Considerações sobre o estudo de dimensionalidade em instrumentos de medida baseados em itens

Técnicas computacionais em probabilidade e estatística II

Análise de dados, tipos de amostras e análise multivariada

PROVA PARA OS ALUNOS DO 3º ANO DO ENSINO MÉDIO

Teorias de Avaliação - CE095

Conceitos matemáticos:

SENSOMETRIA. Adilson dos Anjos. Curitiba, PR 31 de março de Departamento de Estatística Universidade Federal do Paraná

Modelos Bayesianos. Ernesto F. L. Amaral Magna M. Inácio

CC-226 Aula 07 - Estimação de Parâmetros

O DESEMPENHO EM MATEMÁTICA DO ENEM DE 2012 EM LUIS EDUARDO MAGALHÃES (BA), NA TEORIA DE RESPOSTA AO ITEM

OFICINA DE DE RESULTADOS

TEORIA DE RESPOSTA AO ITEM: ANÁLISE DE ATITUDE DOS

AVALIAÇÃO EDUCACIONAL UTILIZANDO A TEORIA DE RESPOSTA AO ITEM TRI

Teoria de Resposta ao Item

1. Avaliação de impacto de programas sociais: por que, para que e quando fazer? (Cap. 1 do livro) 2. Estatística e Planilhas Eletrônicas 3.

CALIBRAÇÃO DE ITENS DO VESTIBULAR NA ESCALA DO ENEM

Variáveis bidimensionais

6 Um estudo de simulação para avaliação dos estimadores associados aos coeficientes de escalonabilidade da TRIN

IV CONBRATRI, 4º Congresso Brasileiro de Teoria da Resposta ao Item, Brasília, DF, 2-4 de Dezembro de 2015

2 Mensuração de variáveis latentes

Fundamentos da Teoria da Resposta ao Item TRI Basic Theory of Item Response Theory IRT

Apresentar a Matriz de Referência, analisando os descritores que norteiam a elaboração dos itens presentes nos testes de Língua Portuguesa.

TESTES ADAPTATIVOS COMPUTADORIZADOS

Teorias de Avaliação - CE095. algumas ideias

MANUAL SOBRE A CONSTRUÇÃO DA NOTA POR TEORIA DA RESPOSTA AO ITEM (TRI)

Oficina A r p o r pr p i r a i çã ç o de d e Re R s e ul u t l a t do d s

P R O P O S T A D E R E S O L U Ç Ã O D O E X A M E T I P O 3

Francisco Fialho Guedes Ferreira

SENSOMETRIA. Adilson dos Anjos. Curitiba, PR 24 de março de Departamento de Estatística Universidade Federal do Paraná

Métodos Experimentais em Ciências Mecânicas

Transcrição:

Adilson dos Anjos 1 1 Departamento de Estatística Universidade Federal do Paraná aanjos@ufpr.br Curitiba, PR 2 de setembro de 2014

Modelo de três parâmetros

Modelo de três parâmetros Suposições sobre o modelo Unidimensionalidade: O instrumento de medida (prova, teste, questionário) mede apenas um traço latente. O traço latente é devido a apenas uma habilidade θ de cada indivíduo. Somente a partir de modelos com bom ajuste é que pode-se garantir a obtenção de itens e habilidades invariantes (Andrade et. al, 2000).

Modelo de três parâmetros Suposições sobre o modelo Unidimensionalidade: Por exemplo, pode-se elaborar um item sobre Matemática para alunos onde o enunciado está escrito na Língua Inglesa; Além de conhecimentos de matemática (θ 1 ), o aluno precisa de conhecimentos de inglês (θ 2 ).

Modelo de três parâmetros Suposições sobre o modelo Unidimensionalidade: Pode ser razoável supor apenas um traço latente dominante (Ayala, 2009); Existem métodos/testes para avaliar a unidimensionalidade de um instrumento de medida; (veremos adiante nesse curso) Principal método: análise fatorial de informação completa; Existem modelos para considerar a multidimensionalidade de um instrumento de medida; Interpretação de modelos multidimensionais?

Modelo de três parâmetros Suposições sobre o modelo Independência local: As respostas para um item são independentes das respostas para outro item condicionado a habilidade do indivíduo; Conhecido também como independência local ou independência condicional; Dado um grupo de respondentes com (θ 1,θ 2,...,θ k ), a distribuição dos θ s são independentes um do outro; Essa suposição vale tanto para o modelo unidimensional quanto para o multidimensional; Pode ser avaliada por meio de um teste de independência: veja a função descript() do pacote ltm.

Modelo de três parâmetros Suposições sobre o modelo Independência: Unidimensionalidade implica em independência local

Modelo de três parâmetros Conceitos Dificuldade do Item (b i ) Definição baseada em probabilidade (não em termos de quantidade de esforço ou em dificuldade percebida); Na mesma métrica do traço latente ou proficiência; Identifica a proficiência na qual 50% dos respondentes respondem corretamente o item (modelo de Rasch, 1LP e 2LP); Nestes modelos, se b = 0,3 espera-se que 50% dos respondentes com proficiência θ = 0, 3 consigam responder corretamente o item; O parâmetro b i também é conhecido como parâmetro de locação e é o ponto de inflexão da curva logística, exceto no modelo de 3 parâmetros;

Modelo logístico P(x) = probabilidade z = alguma combinação linear P(x) = ez 1 + e z

Modelo logístico de 3 parâmetros e a i (θ j b i ) P(U ij = 1 θ j,a i,b i,c i ) = c i + (1 c i ) 1 + e a i (θ j b i ) Observe que θ e b i devem estar na mesma escala e teoricamente, < θ < e < b i < na prática, com métodos de estimação: 4 < θ < +4 e 3 < b i < +3

Modelo de três parâmetros Características Teoricamente a i pode assumir valores entre + e. Na prática, os valores de a i desejáveis seriam entre 0,8 até 2,5; Valores de a i > 1,0: desejável; O parâmetro a i indica como um item pode diferenciar indivíduos em diferentes pontos da escala do traço latente; O parâmetro a i é proporcional à derivada da tangente da curva no ponto de inflexão;

Modelo de três parâmetros Características Valores negativos de a i indicam que: pessoas com um traço latente alto possuem baixa probabilidade de acertar o item e, pessoas com um traço latente baixo possuem alta probabilidade de acertar o item; Itens com a i negativos devem ser descartados; 1 Verificar se não pode ser um erro de gabarito; 2 Verificar se não há problemas no enunciado; Dificuldade e Discriminação são independentes um do outro;

Modelo de dois parâmetros Diferentes valores negativos de a: 1.0 Curva Característica do Item (CCI) Escala (0,1) 0.8 Probabilidade de acerto 0.6 0.4 a= 0,5 a= 1,0 0.2 0.0 4 2 0 2 4 Proficiência Figura 1 : Curvas características dos itens para valores negativos do coeficiente de discriminação a.

Modelo de três parâmetros Características Acerto casual (parâmetro c): probabilidade assintótica de uma resposta correta quando θ ; O valor de c i pode variar em função das características dos distratores; problemas de convergência; necessário ter pessoas com baixa habilidade para calibrar os parâmetros dos itens; Métodos Bayesianos (BILOG-MG / mirt) ou controle manual (constraint): possível no R.

Modelo de três parâmetros Características Ponto de inflexão: a interpretação depende do valor de c i No modelo de 3 parâmetros, o parâmetro b representa a habilidade necessária para se ter uma probabilidade de acerto igual a (1 + c)/2.

Modelo de 3 parâmetros e a i (θ j b i ) P(U ij = 1 θ j,a i,b i,c i ) = c i + (1 c i ) 1 + e a i (θ j b i ) em que, P(U ij = 1 θ j,a i,b i,c i ) é a probabilidade do indivíduo j com habilidade θ j acertar o item i; b i é o parâmetro de dificuldade (ou de posição) do item i, medido na mesma escala de habilidade; a i é o parâmetro de discriminação (ou inclinação) do item i, com valor proporcional à inclinação da Curva Característica do Item no ponto b i ; c i é o parâmetro do item que representa a probabilidade de indivíduos com baixa habilidade responderem corretamente o item i (também chamado de probabilidade de acerto casual).

1.0 Curva Característica do Item (CCI) Escala (0,1) 0.8 Probabilidade de acerto 0.6 0.4 ) a=1,80 0.2 c=0,10 b=0,75 θ=1,4 0.0 4 2 0 2 4 Proficiência

Modelo de três parâmetros Diferentes valores de c: 1.0 Curva Característica do Item (CCI) Escala (0,1) Probabilidade de acerto 0.8 0.6 0.4 c=0,0 c=0.2,0 0.2 0.0 4 2 0 2 4 Figura 2 : Proficiência Curvas características dos itens para diferentes valores de ci.

Função de informação do item Permite avaliar o quanto um item contém de informação sobre o traço latente; Essa função é simétrica em relação ao parâmetro de dificuldade b i (no modelo de Rasch e 1LP);

Função de informação do item para o modelo de Rasch/1LP A função de informação do item é definida por: em que P i (θ) = P(X i = 1 θ) Q i (θ) = 1 P i (θ) I i (θ) = P i (θ)q i (θ)

Função de informação do item para o modelo de Rasch/1LP O máximo dessa função ocorre quando P i (θ) = Q i (θ); Para o modelo de Rasch/1LP o valor máximo de I i (θ) é 0,25; Para o modelo de um parâmetro, I i (θ) = a 2 i P i (θ)q i (θ) Observe que, no modelo de 1LP, quanto maior o coeficiente de discriminação, maior será a informação fornecida pelo item!

Função de informação do item para o modelo 3LP Para o modelo de 3 parâmetros, I i (θ) = a 2 i Q i (θ) P i (θ) [P i(θ) c i 1 c i ]

Função de informação do item: Information 0.00 0.05 0.10 0.15 0.20 0.25 1 Item Information Curves 4 2 0 2 4 Ability Figura 3 : Função de informação do item para o exemplo LSAT: item 1.

Função de informação do item: Item Information Curves Information 0.05 0.10 0.15 0.20 0.25 3 4 2 0 2 4 Ability Figura 4 : Função de informação do item para o exemplo LSAT item 3.

Função de informação do teste: Information 0.00 0.05 0.10 0.15 0.20 0.25 Item Information Curves 1 3 2 4 5 4 2 0 2 4 Ability Figura 5 : itens. Função de informação do item para o exemplo LSAT: todos os

Função de informação do item para o modelo de Rasch/1LP Utilizada para o planejamento do teste/instrumento; Escolha dos itens de acordo com a habilidade dos respondentes; Provas com itens mais fáceis ou mais difíceis;

Função de informação do Teste É a soma das informações fornecidas por cada item; I i (θ) = I i=1 I i (θ)

Função de informação do teste: Test Information Function Information 0.0 0.2 0.4 0.6 0.8 1.0 4 2 0 2 4 Figura 6 : Ability Função de informação do Teste para o exemplo LSAT.

Função de informação do teste: Quanto maior o número de itens, maior será a informação sobre a proficiência ou habilidade obtida pelo teste/instrumento.

Erro padrão de estimação Forma alternativa de representar a função de informação do teste; EP(θ) = 1 I (θ)

Erro padrão de estimação: Standard Error of Measurement Standard Error 1 2 3 4 5 4 2 0 2 4 Figura 7 : Ability Erro de medida para o exemplo LSAT.