6. Estimação pontual. 6.1 Inferência estatística. (7-1)

Transcrição

1 6. Estimação potual A Teoria das Probabilidades compreede o estudo dos modelos matemáticos capazes de descrever o comportameto de feómeos aleatórios, modelos esses que se dizem probabilísticos. Foi sobre o estudo de tais modelos que os debruçámos os capítulos 2 a 5. É altura de falarmos sobre Estatística, ramo da Matemática Aplicada que compreede técicas quatitativas para recolher, apresetar e iterpretar dados relativos a feómeos aleatórios visado a caracterização da variabilidade desses mesmos feómeos. 6. Iferêcia estatística. (7-) O estudo da Estatística asseta em algus coceitos básicos que itroduziremos iformalmete já de seguida. Defiição iformal 6. V.a. ou característica de iteresse Não passa de uma característica crucial para o cohecimeto do feóemo aleatório em estudo. Exemplos: a resistêcia de certo tipo de mola; o tempo até falha de pá de certo motor a jacto; o úmero de colisões de detritos em satélite em MEO o espaço de um ao. População e uidade estatística Cojuto de todos os objectos/idivíduos/etc. que têm em comum pelo meos uma característica de iteresse. A cada elemeto da população dá-se o ome de uidade estatística. Exemplos: todas as molas produzidas do referido tipo; todas as pás de tais motores a jacto;

2 todos os satélites em MEO. Amostra e dado estatístico Dada a impossibilidade de observar toda uma população ou devido ao facto de ser ifiita, ou por implicar a sua destruição, ou por razões de ecoomia, comodidade, ou tempo é fudametal recolher um subcojuto que se pretede represetativo da população; este subcojuto é deomiado de amostra. A cada resultado observado relativo à característica de iteresse e respeitate a cada uidade estatística pertecete à amostra damos o ome de dado estatístico. Exemplos: recolher a 2a., 2a., 22a., 32a. e 42a. mola da produção diária; seleccioar completamete ao acaso 5 pás da produção semaal; seleccioar ao acaso um satélite chiês em MEO, um russo e três americaos. Em qualquer dos casos ateriores as amostras possuem dimesão 5. Amostragem Trata-se de um vasto cojuto de procedimetos estatísticos que ecotra motivação a ecessidade de obteção de amostras, i.e., images à escala da população. Exemplos: amostragem sistemática; 2 amostragem aleatória simples; 3 amostragem estratificada. 4 Estatística descritiva Com a recolha da amostra obtém-se um cojuto de dados com um aspecto caótico cuja mera leitura depressa se recohece ada cotribuir para a compreesão do feóemo aleatório em estudo. A Estatística Descritiva resolve (parcialmete) esta E justifica só por si uma ou mais disciplias dedicadas ao seu estudo em liceciaturas como a liceciatura em Matemática Aplicada e Computação o IST. 2 Uma amostra sistemática de tamaho de uma população (umerada) de N uidades obtémse fixado (ou seleccioado aleatoriamete) um úmero k do cojuto {, 2,..., N}, extraido aleatoriamete uma uidade das primeiras k, que desigamos por j k, e tomado por sistema as uidades j k + i k, i, 2, 3,..., até se recolher um total de elemetos ou se percorrer toda a população. No exemplo N 50, k 0, j k 2 3 O termo aleatório sigifica que a selecção é aleatória, pelo que todos os elemetos da população têm a mesma probabilidade de serem escolhidos e de virem a fazer parte da amostra com dimesão previamete fixada. 4 Este tipo de amostragem passa pela divisão da população em classes mais homogéeas (estratos) de cada uma das quais se extrai uma amostra aleatória de tamaho especificado. 2

3 dificuldade ao cosistir uma bateria de métodos gráficos e uméricos que permitem patetear de forma sumária a iformação relevate cotida os dados. Defiição iformal 6.2 Iferêcia estatística A Iferêcia Estatística compreede um amplo cojuto de métodos que tem por objectivo usar a iformação (dados/amostra) de modo a respoder a questões específicas sobre a população muito em especial sobre aspectos relativos ao carácter aleatório da(s) v.a.(s) de iteresse sob estudo. Pretede-se, por exemplo: Adiatar valores ou itervalos de valores razoáveis para parâmetros descohecidos como µ, σ 2, etc. Estimação potual (Cap. 6) ou estimação itervalar (Cap. 7). Averiguar a razoabilidade de cojecturas (hipóteses) sobre parâmetros descohecidos ou de distribuições (ou famílias de distribuições) para explicar a variabilidade da v.a. de iteresse Testes de hipóteses (Cap. 8) ou modelos de regressão que expliquem a relação etre um par de variáveis Regressão liear simples (Cap. 9). A Iferêcia Estatística parte, assim, do particular (amostra) para o geral (população), daí desigar-se também de Iferêcia Idutiva. Nota 6.3 A forma como iteragem aqueles coceitos e a Iferêcia Estatística pode ser represetada o seguite esquema: Amostragem População Característica de iteresse f X (x), µ, etc. Amostra Estatística descritiva histograma, x, etc. Iferêcia Estatística Estimação, testes, etc. 3

4 6.2 Amostragem aleatória. (6-2) Motivação 6.4 Amostragem aleatória Para que as iferêcias sejam rigorosas 5 é atural exigir que o processo de recolha de iformação seja baseado (total ou parcialmete) a iterveção do acaso. Defiição 6.5 Amostra aleatória Sejam X uma v.a. de iteresse; X,..., X v.a. idepedetes e ideticamete distribuídas (i.i.d.) a X, i.e., X i i.i.d. X, i,..., ( IN). Etão o vector aleatório X (X,..., X ) diz-se uma amostra aleatória (a.a.) de dimesão proveiete da população X. 6 Defiição 6.6 Amostra À observação particular da a.a. represeta-se por x (x,..., x ). Nota 6.7 Amostra aleatória e amostra X (X,..., X ) dá-se o ome de amostra e Covém recordar que a a.a. X (X,..., X ) é um vector aleatório dimesioal e o que mesmo ão acotece com a amostra x (x,..., x ) que ão passa de um vector de IR. Proposição 6.8 Caracterização da amostra aleatória Pelo facto de a a.a. ser costituída por v.a. i.i.d. a X, a caracterização probabilística da a.a. X (X,..., X ) faz-se sem grade dificuldade. Com efeito tem-se para o: Caso discreto f.p. cojuta de X P (X x) P (X x,..., X x ) X i idep. P (X x )... P (X x ) P (X i x i ) X i X P (X x i ) (6.) 5 Ou por outra: para que às iferêcias esteja associado um pequeo grau de icerteza, icerteza esta que será quatificada probabilisticamete. 6 Talvez fosse mais razoável dizer-se amostra aleatória (a.a.) de dimesão respeitate à v.a. de iteresse X. Há, o etato, autores que desigam X idistitamete de população e de v.a. de iteresse. 4

5 Caso cotíuo f.d.p. cojuta de X f X (x) f X,...,X (x,..., x ) X i idep. f X (x )... f X (x ) f Xi (x i ) X i X f X (x i ). (6.2) Motivação 6.9 Estatística É fudametal e coveiete codesar/sumariar a amostra (os dados) em medidas sumárias como a média, o desvio-padrão da amostra ou outras medidas já estudadas em Estatística Descritiva. Estas medidas mais ão são que valores particulares de v.a., defiidas à custa da a.a. e deomiadas de estatísticas. Defiição 6.0 Estatística Seja X (X,..., X ) uma a.a. de dimesão proveiete da população X. Neste caso T diz-se uma estatística se se tratar de uma fução exclusiva da a.a., i.e., T T (X). Nota 6. Estatística Uma estatística T T (X) ão depede de qualquer parâmetro descohecido. Exemplo 6.2 Estatísticas Estatística Valor observado da estatística Míimo da a.a. X () mi,..., X i míimo da amostra x () mi,..., x i Máximo da a.a. X () max,..., X i máximo da amostra x () max,..., x i Amplitude da a.a. R X () X () amplitude da amostra r x () x () Média da a.a. X P X i média da amostra x P x i Var. corrigida da a.a. S 2 P (X i X) 2 var. corrigida da am. s 2 P (x i x) 2 Var. ão corrig. da a.a. (S ) 2 P (X i X) 2 var. ão corrig. da am. (s ) 2 P (x i x) 2 Na tabela acima codesámos algus exemplos de estatísticas, seus valores particulares e respectivas desigações. 5

6 Nota 6.3 Variâcia corrigida (ão corrigida) da amostra Uma vez que ( (x i x) 2 x 2 i ) ( x) 2, (6.3) a variâcia corrigida da amostra e a variâcia ão corrigida da amostra podem escrever-se do seguite modo: s 2 (x i x) 2 ( ) x 2 i ( x)2 (6.4) (s ) 2 (x i x) 2 ( ) x 2 i ( x) 2 (6.5) respectivamete. s2, Escusado será dizer que estas fórmulas alterativas poupam operações aritméticas e poupam-os a algus erros de arredodameto. Exemplo/Exercício 6.4 Demostre o resultado (6.3). Desevolvedo o quadrado e tirado partido do facto de x i x, tem-se sucessivamete: (x i x) 2 (x 2 i 2x i x + x 2 ) x 2 i 2 x x i + ( x) 2 x 2 i 2 x x + ( x) 2 ( x 2 i ) ( x) 2. 6

7 6.3 Estimadores e propriedades. (7-2 excepto e 7.2.5) O objectivo pricipal da Estatística é efectuar iferêcias sobre características da v.a. de iteresse com base a amostra recolhida. distribuição de X é ou parcial, ou totalmete descohecida: Cosidera-se, em geral, que a Parcialmete descohecida, caso o tipo distribucioal de X seja cosiderado cohecido (e.g. biomial, Poisso, expoecial, etc.) a meos de um ou mais parametros descohecidos (e.g. µ, σ 2, etc.). 7 Nesta situação as iferêcias que possamos fazer dizem-se do tipo paramétrico. Totalmete descohecida, se o tipo distribucioal de X for especificado de modo vago (e.g., distribuição discreta, etc.). Neste caso as iferêcias dizemse ão paramétricas. Nota 6.5 Parâmetro descohecido Um parâmetro descohecido uidimesioal (resp.multidimesioal) será de um modo geral represetado por θ (resp. θ). Defiição iformal 6.6 Espaço paramétrico Correspode ao cojuto de todos os valores possíveis para o parâmetro descohecido θ e é frequetemete represetado por Θ. Modelo paramétrico Família de distribuições possíveis para a v.a. de iteresse X. 8 Esta família é usualmete represetada por { : θ Θ} ode o espaço em braco se colocará idistitamete a expressão geral da f.(d.)p. de X ou o ome da distribuição de X, depedetes em todo o caso do parâmetro θ. Motivação 6.7 Estimadores É fudametal adiatar valores razoáveis para parâmetros descohecidos que caracterizem a distribuição da ossa v.a. de iteresse. Para tal iremos recorrer a estatísticas com características especiais que deomiaremos de estimadores. Defiição 6.8 Estimador A estatística T T (X) diz-se um estimador do parâmetro descohecido θ, caso T T (X) tome valores exclusivamete o espaço paramétrico Θ. 7 Cosidera-se em todo o caso que o úmero de parâmetros descohecidos é fiito. 8 Paulio (994) defie modelo paramétrico à custa de X. 7

8 Defiição 6.9 Estimativa Ao valor observado do estimador T T (X) do parâmetro descohecido θ, t T (x), damos o ome de estimativa de θ. Trata-se aturalmete de um valor razoável para θ já que t T (x) Θ. Exemplo 6.20 Modelo e espaço paramétricos; estimador e estimativa Admita que vai iquirir codutores/as quato à sua preferêcia (ou ão) por motores a gasóleo e que as respostas possíveis (admissíveis) este iquérito são: Sim (), prefiro motor a gasóleo; Não (0), prefiro motor a gasolia. Procure idetificar: a v.a. de iteresse; a respectiva distribuição; o parâmetro descohecido; o modelo e o espaço paramétricos; uma estimativa e um estimador do parâmetro descohecido. V.a. de iteresse X resposta de codutor/a iquirido/a { (resposta afirmativa), com probabilidade θ 0 (resposta egativa), com probabilidade ( θ) Distribuição de X X Beroulli(θ) Parâmetro descohecido θ P (X ) P (resposta afirmativa) Espaço paramétrico Θ [0, ] Modelo paramétrico {Beroulli(θ), θ Θ} ou alterativamete {θ x ( θ) x, θ Θ} A.a. X (X,..., X ) a.a. de dimesão proveiete da população X Amostra x (x,..., x ) ode x {0, } 8

9 Estimativa de θ Cadidata: um valor razoável para θ é T (x) x i x proporção observada de sim s Estimador de θ Cadidato: T (X) X i Verificações:. T (X) só depede de X 2. T (X) toma valores em {0,, 2,...,, } Θ [0, ] Coclusão: T (X) é estimador de θ. Motivação 6.2 Propriedades dos estimadores Um estimador coduzirá a iferêcias/estimativas mais rigorosas se gozar de algumas das propriedades descritas já de seguida. Defiição 6.22 Estimador cetrado O estimador T diz-se um estimador cetrado de θ 9 se E[T (X)] θ, θ Θ, (6.6) i.e., o cetro de gravidade do estimador é igual a θ idepedetemete do valor que este parâmetro descohecido possa assumir. Defiição 6.23 Estimador eviesado O estimador T diz-se um estimador eviesado de θ 0 se θ Θ : E[T (X)] θ. (6.7) 9 Ou um estimador ão eviesado de θ. 0 Ou um estimador ão cetrado de θ. 9

10 Defiição 6.24 Eviesameto de um estimador O estimador de θ, T, possui eviesameto dado por bias θ [T (X)] E[T (X)] θ. (6.8) Como seria de esperar um estimador cetrado (eviesado, resp.) de θ possui eviesameto ulo (ão ulo, resp.). Nota 6.25 Eviesameto Como seria de esperar há a possibilidade de adiatar mais que um estimador para um parâmetro descohecido. Um estimador de θ será tato melhor quato meor for o seu eviesameto. Exemplo/Exercício 6.26 Estimadores cetrados de µ e σ 2 Cosidere que X é uma v.a. de iteresse com distribuição arbitrária, valor esperado µ e variâcia σ 2. (a) Prove que a média da a.a. X X i e a variâcia corrigida da a.a. S 2 (X i X) [ 2 X2 i ( X) 2] são estimadores cetrados de µ e σ 2, respectivamete. V.a. X i i.i.d. X, E(X i ) E(X) µ, V (X i ) V (X) σ 2, i,..., Estimador de µ X X i Estimador cetrado de µ? Trata-se de facto de um estimador cetrado de µ já que E( X) ( ) E X i E(X i ) O termo aglo-saxóico para eviesameto ou viés é bias. 0

11 X i X Estimador de σ 2 S 2 E(X) µ µ (X i X) 2 Estimador cetrado de σ 2? [ ( X2 i ) ( X) 2] De facto, ao tirar-se partido da fórmula alterativa de S 2 e ao otar que E(Z 2 ) V (Z) + E 2 (Z), E( X) µ e V ( X) σ 2 /, segue-se [ ] E(S 2 ) E (X i X) 2 [( ) ] E Xi 2 ( X) 2 [ ] E(Xi 2 ) E[( X) 2 ] { } [V (X i ) + E 2 (X i )] [V ( X) + E 2 ( X)] [ ] (σ 2 + µ 2 ) (σ 2 / + µ 2 ) (σ2 + µ 2 σ 2 µ 2 ) ( ) σ2 σ 2. Assim, coclui-se que S 2 é efectivamete um estimador cetrado de σ 2. (b) Demostre também que a a variâcia ão corrigida da a.a. (S ) 2 (X i X) 2 ( X2 i ) ( X) 2 é um estimador eviesado de σ 2 e calcule o respectivo eviesameto. Outro estimador de σ 2 (S ) 2 (X i X) 2 S2 S2

12 Estimador cetrado de σ 2? Tedo em cota que (S ) 2 S2 rapidamete se coclui que E [ (S ) 2] ( ) E S2 E ( S 2) σ2 σ 2, pelo que (S ) 2 ão é um estimador cetrado de σ 2. Eviesameto de (S ) 2 bias σ 2[(S ) 2 ] E[(S ) 2 ] σ 2 σ2 σ 2 σ2 < 0, dode se possa cocluir que (S ) 2 subestima (em valor esperado) σ 2. Nota 6.27 Variâcia (resp. ão) corrigida É pelo facto de S 2 (resp. (S ) 2 ) ser um estimador cetrado (resp. eviesado) de σ 2 que se deomia este estimador de variâcia corrigida (resp. ão corrigida) da a.a.. Motivação 6.28 Erro quadrático médio Não basta que um estimador de θ seja cetrado para garatir estimativas rigorosas. Estas serão tato mais rigorosas quato meos o estimador se dispersar em toro do verdadeiro valor do parâmetro descohecido θ. Defiição 6.29 Erro quadrático médio O erro quadrático médio (EQM) 2 do estimador de θ, T T (X), é dado por EQM θ [T (X)] E { [T (X) θ] 2} V [T (X)] + {E[T (X)] θ} 2 V [T (X)] + {bias θ [T (X)]} 2. (6.9) 2 A desigação aglo-saxóica é mea square error (MSE). 2

13 Exercício 6.30 Demostre o resultado (6.9). Nota 6.3 Erro quadrático médio Uma vez defiido o erro quadrático médio escusado será dizer que:. EQM quatifica a dispersão esperada do estimador em toro do verdadeiro valor do parâmetro descohecido θ. 2. Um estimador será tato melhor quato meor for o seu EQM. Assim, ao lidarmos com dois estimadores de θ devemos optar por aquele que possuir o meor EQM, já que coduzirá a estimativas mais rigorosas de θ. Deste modo estaremos a optar pelo estimador mais eficiete de θ. Defiição 6.32 Eficiêcia relativa de estimadores Sejam T T (X) e T 2 T 2 (X) dois estimadores do parâmetro descohecido θ. Eão a eficiêcia de T com respeito a T 2 a estimação de θ é dada por e θ [T (X), T 2 (X)] EQM θ[t 2 (X)] EQM θ [T (X)]. (6.0) Assim sedo, se e θ [T (X), T 2 (X)] > EQM θ [T 2 (X)] > EQM θ [T (X)], (6.) diremos que o estimador T (X) é mais eficiete que T 2 (X) a estimação de θ. Exemplo 6.33 Eficiêcia relativa de estimadores Num estudo prévio ao laçameto o mercado de uma ova pilha de pacemaker foram postas algumas questões acerca da sua duração (em milhares de dias) a um egeheiro. Estudos ateriores (embora com outros tipos de pilhas) levam a crer que tal v.a. possui distribuição uiforme(0, θ), ode o parâmetro θ é positivo, descohecido e represeta a idade máxima da pilha. Calcule a eficiêcia relativa de X () com respeito a 2 X o que se refere à estimação do parâmetro θ. Para o efeito, atete que E[X () ] θ 2. Diga qual dos dois estimadores é mais eficiete. (+2)(+) 2 V.a. X i duração da pilha i, i,..., X i i.i.d. X, i,..., Distribuição X uiforme(0, θ) θ e V [X + ()] 3

14 Parâmetro θ descohecido (θ > 0) Estimador de θ X () max,..., X i Erro quadrático médio de X () EQM θ [X () ] V [X () ] + { bias θ [X () ] } 2 V [X () ] + { E[X () ] θ } 2 Outro estimador de θ 2 X ( + 2)( + ) 2 θ2 + 2 ( + 2)( + ) θ2 Erro quadrático médio de 2 X ( ) 2 + θ θ Se se tiver em cosideração que E( X) E(X), V ( X) V (X) form., E(X) θ e 2 V (X) form. θ2 tem-se 2 EQM θ (2 X) V (2 X) + [ bias θ (2 X) ] 2 V (2 X) + [ E(2 X) θ ] θ2 V (X) + [2E(X) θ]2 θ ( θ2 ) 2 θ Eficiêcia relativa de X () com respeito a 2 X e θ [X (), 2 X] EQM θ(2 X) EQM θ (X () ) 3 θ2 2 (+2)(+) θ2 ( + 2)( + ) 6 que costitui o termo geral de uma sucessão moótoa ão decrescete cujos dois primeiros termos são iguais a. 4

15 Cometário Tedo em cota a expressão de e θ [X (), 2 X] pode afirmar-se que X () e 2 X são igualmete eficietes, para, 2, o etato, X () é mais eficiete que 2 X, para > 2. Curiosamete, X () ão é estimador cetrado de θ ao cotrário de 2 X. 6.4 O método da máxima verosimilhaça. (7-3.2) Até ao mometo itroduzimos estimadores cujas cocretizações costituem valores razoáveis para parâmetros descohecidos. Apresetámos também propriedades desejáveis para esses mesmos estimadores por forma a que coduzam a estimativas rigorosas desses parâmetros. Resta adiatar um método de obteção sistemática de estimadores de parâmetros descohecidos e já agora averiguar se tais estimadores possuem boas propriedades. Motivação 6.34 Método da máxima verosimilhaça O método da máxima verosimilhaça (MV) permite obter o valor mais plausível/ verosímil de um parâmetro descohecido de etre todos os valores possíveis para esse mesmo parâmetro, tedo em cota a amostra x (x,..., x ) de que dispomos. Por forma a descrever o método da MV é ecessário defiir a fução de verosimilhaça. Defiição 6.35 Fução de verosimilhaça A fução de verosimilhaça 3 é represetada por L(θ x), dá ideia de quão plausível é o valor θ para o parâmetro descohecido, caso se teha recolhido a amostra x, e defie-se do seguite modo: Caso discreto L(θ x) P (X x θ) P (X x i θ), θ Θ, (6.2) 3 Na literatura aglo-saxóica likelihood fuctio. 5

16 Caso cotíuo L(θ x) f X (x θ) f X (x i θ), θ Θ, (6.3) ode P ( θ) e f X ( θ) represetam a f.p. e a f.d.p. (resp.) tedo em cota que θ é o verdadeiro valor do parâmetro descohecido. Nota 6.36 Fução de verosimilhaça da v.a. de iteresse X. Por tradição quer o parâmetro descohecido, quer o valor que se lhe possa atribuir são represetados por θ. 2. L(θ x) : Θ IR, i.e., a fução de verosimilhaça tem como argumeto (exclusivo) θ, possui como domíio o espaço paramétrico Θ e toma valores em IR, para cada valor fixo da amostra x. 4 Defiição 6.37 Estimativa de máxima verosimilhaça Obtida a amostra x (x,..., x ), a estimativa de máxima verosimilhaça do parâmetro descohecido correspode ao poto de máximo da fução de verosimilhaça ou, equivaletemete, ao poto de máximo do logaritmo da fução de verosimilhaça. 5 Esta estimativa é represetada por ˆθ e verifica L(ˆθ x) max L(θ x) (6.4) θ Θ ou, equivaletemete, l L(ˆθ x) max l L(θ x), (6.5) θ Θ ode a fução l L(ˆθ x) é usualmete desigada de log-verosimilhaça. Nota 6.38 Estimativa de máxima verosimilhaça. É aaliticamete mais coveiete obter o poto de máximo da fução logverosimilhaça (uma soma de logaritmos) que o poto de máximo da fução de verosimilhaça (um produto). 2. Quado o espaço paramétrico é um cojuto discreto (Θ {θ,..., θ m }) o poto de máximo da fução de (log-)verosimilhaça obtém-se por pesquisa poto por poto. 4 Na verdade L(θ x) toma valores o itervalo [0, ], o caso discreto, e em IR +, o caso cotíuo. 5 Na verdade seria mais correcto defiir a estimativa de MV como um poto de supremo. 6

17 3. No caso em que o espaço paramétrico Θ é cotíuo recorre-se ao procedimeto usual de maximização começa-se por obter o poto de estacioaridade para de seguida averiguar se tal poto é efectivamete um poto de máximo. Ao lidar-se com um úico parâmetro descohecido tem-se: 6 ˆθ : d l L(θ x) dθ d 2 l L(θ x) dθ 2 θˆθ θˆθ 0 (poto de estacioaridade) (6.6) < 0 (poto de máximo). (6.7) Ao lidar-se com um vector de p (p > ) parâmetros descohecidos, θ (θ,..., θ p ), a estimativa de MV, ˆθ (ˆθ,..., ˆθ p ) ão só verifica l L[(θ,..., θ p ) x] θ j como a matriz hessiaa 0, j,..., p (6.8) θˆθ H(θ) 2 l L[(θ,..., θ p ) x] [h ij (θ)] i,j,...,p (6.9) ode h ij (θ) 2 l L[(θ,...,θ p) x] θ i θ j quado p >. seja defiida egativa quado avaliada em ˆθ, 4. A estimativa de MV é, aturalmete, uma fução da amostra, i.e., ˆθ g(x). (6.20) Para além disso ão se trata de uma v.a. mas da cocretização de uma v.a. com um ome particular: estimador. Defiição 6.39 Estimador de máxima verosimilhaça O estimador de MV de θ obtém-se por substituição de x (x,..., x ) por X (X,..., X ) a expressão geral da estimativa de MV, ˆθ g(x), obtedo-se EMV(θ) g(x). (6.2) Trata-se de uma v.a. exclusivamete depedete da a.a. X, logo uma estatística. 6 A satisfação da equação (6.6) é codição ecessária mas ão suficiete para que se obteha um poto de máximo (evetualmete local). Para que tal acoteça é fudametal que se verifique também a cotiuidade das segudas derivadas uma vizihaça do poto de máximo e que a seguda derivada seja egativa. 7

18 Exemplo 6.40 Estimador e estimativa de MV (caso discreto) Um iquérito recete feito a 000 habitates de uma região rural revelou que 448 pessoas apoiam a aplicação de peas de prisão pesadas em crimes de fogo posto. Deduza a estimativa de máxima verosimilhaça da probabilidade (p) de uma pessoa escolhida ao acaso a tal região ser favorável à aplicação da referida pea. Verifique que o estimador associado é cetrado. V.a. de iteresse X resposta ao iquérito Distribuição X Beroulli(p) Parâmetro descohecido p P (X ), 0 p F.p. P (X x) form p x ( p) x, x 0, Amostra x (x,..., x ) amostra de dimesão proveiete da população X ode x i resposta da i ésima pessoa x : 000 x % respostas afirmativas 000 Obteção da estimativa de MV de p Passo Fução de verosimilhaça L(p x) P (X x i ) [ p x i ( p) ] x i p P x i ( p) P x i Passo 2 Fução de log-verosimilhaça [ l L(p x) l p P ] x i ( p) P x i ( l(p) x i + l( p) ) x i 8

19 Passo 3 Maximização A estimativa de MV de p, ˆp, obtém-se resolvedo d l L(p x) dp 0 (poto de estacioaridade) pˆp ˆp : d 2 l L(p x) < 0 (poto de máximo) dp pˆp 2 Tedo em cota a fução log-verosimilhaça e relembrado que 0 p, 7 tem-se sucessivamete ˆp : d[l(p) P x i+l( p)( P dp d 2 [l(p) P x i+l( p)( P x i)] ( P x i p P x i p 2 x i)] 0 pˆp (poto de estacioaridade) dp 2 pˆp < 0 (poto de máximo) P ) x i p pˆp P x i 0 < 0 ( p) pˆp 2 P x i P x i 0 ˆp ˆp P x i P ˆp 2 x i < 0 ( ˆp) 2 ( ˆp) x i ˆp ( x i) 0 P x i P ˆp 2 x i < 0 ( ˆp) 2 ˆp x i Proposição verdadeira já que 0 p Passo 4 Cocretização Para este iquérito tem-se: ˆp x i o. obs. de respostas afirmativas o. pessoas iquiridas (ˆp x média da amostra) Estimador de MV de p Será represetado pela v.a. EMV (p) X i X (i.e., pela média da a.a.) e possui valor esperado igual a E( X) E(X) p. Deste modo coclui-se que o estimador de MV de p é cetrado. 7 Aqui e ali seré ecessário admitir que p 0,. 9

20 Exemplo 6.4 Estimador e estimativa de MV (caso cotíuo) Os tempos observados (em aos) até à primeira colisão de detritos espaciais com diâmetro iferior a mm em 4 satélites em MEO foram de.2,.5,.8,.4. Admita que tal tempo possui distribuição pertecete ao modelo expoecial de parâmetro λ. Obteha o estimador e a estimativa de MV de λ. V.a. de iteresse X tempo até primeira colisão de detritos espaciais (em aos) Distribuição X expoecial(λ) Parâmetro descohecido λ (λ > 0) F.d.p. f X (x) form { λ e λ x, x 0 0, c.c., Amostra x (x,..., x ) amostra de dimesão proveiete da população X x : 4 x ( ) Obteção da estimativa de MV de λ Passo Fução de verosimilhaça L(λ x) f X (x i ) ( λ e λ x i ) λ e λ P x i Passo 2 Fução de log-verosimilhaça ( l L(λ x) l λ e λ P ) x i l(λ) λ x i 20

21 Passo 3 Maximização A estimativa de MV de λ é aqui represetada por ˆλ e ˆλ : d l L(λ x) dλ 0 (poto de estacioaridade) λˆλ d 2 l L(λ x) dλ 2 λˆλ < 0 (poto de máximo) Substituido a fução log-verosimilhaça as expressões acima e tedo em cota que λ > 0, obtém-se ˆλ : ( λ x i) λˆλ 0 λ 2 λˆλ < 0 ṋ λ x i 0 ṋ λ 2 < 0 ˆλ P x i Proposição verdadeira já que λ > 0 Passo 4 Cocretização Para esta amostra tem-se: ˆλ ( x) iverso da média da amostra Estimador de MV de λ Será represetado pela v.a. EMV (λ) ( X) (i.e, iverso da média da a.a.). Por sial ão se trata de estimador cetrado de λ. O estimador de MV em sempre é úico e em sempre é cetrado. Os estimadores de MV gozam, o etato, de várias propriedades importates, das quais destacamos três que euciaremos iformalmete já de seguida. 2

22 Nota 6.42 Propriedades dos estimadores de MV. Ivariâcia Sejam: ˆθ a estimativa de MV de θ EMV(θ) o estimador de MV de θ h(θ) uma fução bijectiva de θ. 8 Etão a estimativa de MV de h(θ) é dada por ĥ(θ) h(ˆθ) (6.22) e o estimador de MV de h(θ) dado por 2. Suficiêcia EMV(h(θ)) h[emv(θ)]. (6.23) A suficiêcia pode ser descrita iformalmete do seguite modo: as estimativas de MV codesam em geral toda a iformação relevate, cotida a amostra, sobre o parâmetro descohecido. 3. Cosistêcia Esta propriedade dos estimadores de MV pode ser iformalmete traduzida o seguite comportameto probabilístico: à medida que aumetamos a dimesão da a.a. (), o EMV(θ) dispersa-se cada vez meos em toro do verdadeiro valor de θ (i.e., as iferêcias toram-se cada vez mais rigorosas). Exemplo 6.43 Propriedade da ivariâcia dos estimadores de MV Com o objectivo de estudar o tempo até falha de certo equipameto electróico (em dezeas de milhar de horas), uma egeheira recolheu um total de 50 observações que coduziram à média geométrica amostral m g ( 50 t i) / Cofirmada a adequação do modelo {Pareto(2.5, λ), λ > 0}, cuja f.d.p. é dada por f X (x) { λ 2.5 λ x (λ+), x 2.5 0, c.c., aquela mesma egeheira passou para a fase de estimaçâo potual do parâmetro descohecido e de uma sua fução. 9 8 Exigir que h(θ) seja uma fução bijectiva de θ pode parecer demasiado restritivo. Com efeito, trata-se de uma codição suficiete mas ão ecessária para que seja satisfeita a ivariâcia. De acordo com Rohatgi e Saleh (200, p. 48) basta que a fução h(θ) : IR p IR m (m p) trasforme cojutos abertos de IR p em abertos de IR m. 9 Adaptado do Exame de 4 de Fevereiro de

23 (a) Prove que a estimativa de máxima verosimilhaça de λ é igual a ˆλ [l(m g ) l(2.5)]. V.a. de iteresse X tempo até falha de certo equipameto electróico (em 0 4 horas) Distribuição X Pareto(2.5, λ) Parâmetro descohecido λ (λ > 0) F.d.p. f X (x) Amostra { λ 2.5 λ x (λ+), x 2.5 0, c.c., x (x,..., x ) amostra de dimesão proveiete da população X x : 50 m g ( 50 x i ) / Obteção da estimativa de MV de λ Passo Fução de verosimilhaça L(λ x) f X (x i ) [ ] λ 2.5 λ x (λ+) i ( ) (λ+) λ 2.5 λ x i Passo 2 Fução de log-verosimilhaça ( ) (λ+) l L(λ x) l λ 2.5 λ x i l(λ) + λ l(2.5) (λ + ) l(x i ) l(λ) + λ l(2.5) (λ + ) l(m g ) 23

24 Passo 3 Maximização Represetar-se-á a estimativa de MV de λ por ˆλ e é sabido que d l L(λ x) dλ 0 (poto de estacioaridade) λˆλ ˆλ : d 2 l L(λ x) < 0 (poto de máximo) dλ λˆλ 2 Tirado partido da expressão da fução log-verosimilhaça e do facto de λ > 0, segue-se { ṋ λ ˆλ : + l(2.5) l(m g) 0 ṋ λ { < 0 2 ˆλ l(m g) l(2.5) Proposição verdadeira já que λ > 0 Passo 4 Cocretização Particularizado para a amostra recolhida obtém-se: ˆλ [l(m g ) l(2.5)] [l(4.2427) l(2.5)] (b) Obteha a estimativa de MV da probabilidade de a duração do equipameto exceder um período de horas. Outro parâmetro descohecido h(λ) P (X > 3.5) λ 2.5 λ x (λ+) dx λ 2.5 λ x (λ+)+ (λ + ) + ( ) λ Estimativa de MV de h(λ) Uma vez que h(λ) é uma fução biuívoca de λ pode ivocar-se a propriedade da ivariâcia dos estimadores de MV e cocluir que a estimativa de MV de h(λ) é ĥ(λ) h(ˆλ) ( )ˆλ ( )

25 6.5 Distribuições amostrais. (7-4) Motivação 6.44 Distribuição amostral A caracterização probabilística de estatísticas, de estimadores ou de suas fuções revela-se crucial para avaliar as propriedades dos estimadores (eviesameto, EQM, eficiêcia relativa, etc.) e obter estimativas itervalares de parâmetros descohecidos (itervalos de cofiaça Cap. 7). Defiição 6.45 Distribuição amostral A distribuição de uma estatística, estimador ou sua fução é deomiada de distribuição amostral (ou distribuição por amostragem). Proposição 6.46 Duas distribuições amostrais Seja X (X,..., X ) uma a.a. de dimesão proveiete da população X com f.d. F X (x). Etão Estatística X () mi,..., X i X () max,..., X i Distribuição amostral F X() (x) [ F X (x)] F X() (x) [F X (x)] Nota 6.47 Duas distribuições amostrais Os resultados da Proposição 6.46 são válidos para qualquer v.a. de iteresse, idepedetemete da sua distribuição ou do seu carácter ser discreto ou cotíuo. Para além disso, caso X i represete a duração da i ésima compoete de um sistema costituído por compoetes, tem-se que: X () mi,..., X i represeta a duração de um sistema em série X () max,..., X i represeta a duração de um sistema em paralelo. 25

26 Exemplo/Exercício 6.48 Duas distribuições amostrais Demostre a Proposição V.a. X i i.i.d. X, i,..., F.d. de X F X (x) P (X x), < x < + Nova v.a. X () mi,..., X i Distribuição amostral de X () F X() (x) P [X () x] P [X () > x] P (X i > x, i,..., ) X i idep P (X i > x) X i X P (X > x) [P (X > x)] [ F X (x)] Outra v.a. X () max,..., X i Distribuição amostral de X () F X() (x) P [X () x] P (X i x, i,..., ) P (X i x) X i idep X i X P (X x) [P (X x)] [F X (x)]. 26

27 Exercício 6.49 Distribuições amostrais Cosidere que um sistema mecâico é composto por 5 compoetes cujos tempos até falha são i.i.d. a X expoecial(λ) e valor esperado comum igual 000 horas. (a) Calcule a probabilidade de o tempo até falha do sistema exceder 2500 horas ao admitir que as compoetes foram colocadas em paralelo. V.a. X i duração da compoete i, i,..., 5 X i i.i.d. X, i,..., 5 Distribuição de X X expoecial(λ) Parâmetro λ : E(X) 000 λ 000 λ 0.00 F.d. de X{ F X (x) 0, x < 0 e 0.00x, x 0 Duração do sistema em paralelo X (5) max,...,5 X i F.d. de X (5) F X(5) (x) [F X (x)] 5 ( e 0.00x) 5, x 0 Probabilidade pedida P [X (5) > 2500] F X(5) (2500) ( e ) (b) Volte a calcular a probabilidade solicitada em (a) admitido que as compoetes foram colocadas em série. Duração do sistema em série X () mi,...,5 X i 27

28 F.d. de X () Nota F X() (x) [ F X (x)] 5 [ ( e 0.00x )] 5 e x F exp(5 0.00) (x), x 0 X i i.i.d. expoecial(λ), i,..., X () mi,..., X i expoecial( λ). Probabilidade pedida P [X () > 2500] F X() (2500) ( e ) (c) Comete os valores obtidos em (a) e (b). Cometário Costata-se que P [X () > 2500] << P [X (5) > 2500], (6.24) cofirmado um facto já bem cohecido: os sistemas em série têm duração (estocasticamete) meor que os sistemas em paralelo. 28

29 6.6 Distribuições amostrais de médias. (7-5) Motivação 6.50 Distribuições amostrais da média A média é de um modo geral o estimador de MV do valor esperado de qualquer v.a. de iteresse, 20 pelo que é fudametal saber qual a sua distribuição exacta que, refira-se, em sempre é de fácil obteção. Proposição 6.5 Duas distribuições amostrais da média Seja X (X,..., X ) uma a.a. de dimesão proveiete da população X. Etão População X ormal(µ, σ 2 ) X com distrib. arbitrária (ão ormal), E(X) µ, V (X) σ 2, grade Distribuição amostral da média X ormal(µ, σ 2 /) X µ X µ σ/ a T LC ormal(0, ) σ/ ormal(0, ) Nota 6.52 Duas distribuições amostrais da média O primeiro dos dois resultados da Proposição 6.5 é um resultado exacto e deve-se ao facto de a combiação liear de ormais aida possuir distribuição ormal. O segudo resultado é aproximado, deve-se ao Teorema do Limite Cetral e só deve ser aplicado quado a v.a. de iteresse ão possui distribuição ormal e a dimesão da amostra é suficietemete grade. Exemplo 6.53 Uma distribuição amostral (aproximada) da média da a.a. Admita que o desvio absoluto de uma medição istrumetal em relação a uma orma é uma v.a. X com distribuição expoecial com parâmetro λ descohecido. Calcule E( X) e V ( X), ode X represeta, aturalmete, a média de uma amostra aleatória de dimesão proveiete da população X. Tirado partido dos resultados ateriores mostre que, para suficietemete grade, se tem 2 Z (λ X ) a ormal(0, ). V.a. X desvio absoluto de uma medição istrumetal em relação a uma orma Distribuição X expoecial(λ) 20 Ou está de algum modo relacioada com esse estimador. 2 Adaptado do Exame de 8 de Jaeiro de

30 Parâmetro λ descohecido (λ > 0) Nova v.a. Z (λ X ) Distribuição aproximada de Z Comece-se por otar que este caso E(X) /λ e V (X) /λ 2, pelo que E( X) E(X) λ V ( X) V (X) λ 2 < +. Etão, de acordo com o TLC, pode afirmar-se que, para suficietemete grade ( 40 > 30), Z X E( X) V ( X) X λ λ 2 (λ X ) a ormal(0, ). Teremos ocasião de estudar outras distribuições amostrais da média da a.a. que serão oportuamete itroduzidas à medida que forem ecessárias o capítulo seguite. Textos de apoio: Murteira, B.J.F. (990). Probabilidades e à Estatística, Vol. II (2a. Edição). McGraw-Hill, Lisboa. Paulio, C.D. (994). Notas de Aálise Prelimiar de Dados Uivariados. Reprografia do IST, Lisboa. Rohatgi, V.K. e Saleh, A.K.Md.E. (200). A Itroductio to Probability ad Statistics. Joh Wiley & Sos, Ic. 30