Capítulo 3: Modelos Lineares Generalizados. MLGs (cont.) As três componentes dum MLG (cont.) As três componentes dum MLG

Transcrição

1 Capítulo 3: Modelos Leares Geeralzados MLGs cot Os Modelos Leares Geeralzados MLGSs ou GLMs com a ordem glesa são uma famíla muto vasta de modelos; geeralzam o Modelo Lear; o chapéu de chuva comum dos MLGs fo troduzdo e formalzado por McCullagh e Nelder 1989; mas eglobado mutos modelos já cohecdos e que, algus casos, eram utlzados há largas décadas, etre eles: modelo probt modelo logt modelos log-leares o própro modelo lear A geeralzação dos MLGs cde essecalmete sobre dos aspectos fudametas: a dstrbução de probabldades assocada à varável-resposta aleatóra Y já ão se restrge à Normal, podedo ser qualquer dstrbução uma classe desgada famíla expoecal de dstrbuções; a relação etre a combação lear das varáves predtoras e a varável-resposta pode ser mas geral do que o Modelo Lear J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 As três compoetes dum MLG As três compoetes dum MLG cot Na defção de McCullagh e Nelder 1989, um Modelo Lear Geeralzado asseta sobre três compoetes fudametas: 1 Compoete aleatóra: A varável-resposta Y que se quer modelar, tratado-se duma: varável aleatóra; da qual se recolhem observações depedetes; e cuja dstrbução de probabldades faz parte da famíla expoecal de dstrbuções defda mas adate; 2 Compoete Sstemátca: Cosste uma combação lear de varáves predtoras Havedo p varáves predtoras e observações: β 0 + β 1 x 1 + β 2 x 2 + β 3 x β p x p, {1,,} Pode smplfcar-se a otação costrudo a matrz do modelo X p+1 de forma dêtca ao Modelo Lear: uma prmera colua de us assocada à costate adtva e p coluas adcoas dadas pelas observações de cada varável predtora J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 As três compoetes dum MLG cot 1 x 11 x 21 x p1 1 x 12 x 22 x p2 X = 1 x 13 x 23 x p3 1 x 1 x 2 x p Nesse caso, a compoete sstemátca do modelo é dada por: η = Xβ, sedo β = β 0,β 1,β 2,,β p o vector de coefcetes as combações leares afs das varáves predtoras defdas pelas observações: As três compoetes dum MLG cot 3 Fução de lgação: uma fução dferecável e moótoa g que assoca as compoetes aleatóra e sstemátca, através duma relação da forma: gµ = gey] = Xβ gµ = gey ] = x t β = β 0 + ode: = 1 : Y é o vector com as observações {Y } p j= β j x j µ = EY] = µ 1, µ 2,, µ t é o vector de valores esperados das observações de Y ; x é a -ésma lha da matrz X equato vector-colua, sto é, o cojuto de valores das varáves predtoras para os quas se efectuou a -ésma observação da varável-resposta J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406

2 As três compoetes dum MLG cot MLGs cot Caso a fução g seja vertível o que sucede se a mootoa acma exgda fôr estrta, pode escrever-se: gµ = gey] = Xβ µ = EY] = g 1 Xβ gµ = x t β = p j=0 β j x j µ = g 1 x t β = g 1 p j=0 β j x j Ou seja, e as palavras de Agrest 1990, p81: um MLG é um modelo lear para uma trasformação da esperaça duma varável aleatóra cuja dstrbução pertece à famíla expoecal Nota: ao cotráro do Modelo Lear, aqu ão são explctados erros aleatóros adtvos A flutuação aleatóra da varável-resposta é dada drectamete pela sua dstrbução de probabldades J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 A famíla expoecal de dstrbuções A famíla expoecal cot A famíla expoecal de dstrbuções é apresetada aqu a forma b-paramétrca usada por McCullagh & Nelder 1989 Seja Y uma varável aleatóra, cuja fução desdade ou de massa probablístca se pode escrever a forma: ode f y θ,φ = e yθ bθ +cy,φ aφ θ e φ são parâmetros escalares reas; e a,b e c são fuções reas cohecdas O parâmetro θ desga-se o parâmetro atural da dstrbução, e φ é desgado o parâmetro de dspersão Admte-se que as fuções que defem esta relação são o sufcetemete bem comportadas para que seja possível efectuar as operações que segudamete se estudarão A famíla expoecal de dstrbuções é vasta e clu algumas das mas mportates e cohecdas dstrbuções, cotíuas e dscretas Etão dz-se que a dstrbução de Y pertece à famíla expoecal de dstrbuções J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 A Normal A famíla expoecal clu a dstrbução Normal: f y µ,σ = é da forma dcada, com: θ = µ φ = σ 2 bθ = θ 2 2 = µ2 2 1 σ 2π e 1 2 y µ σ 2 = e aφ = φ = σ 2 1 cy,φ = l y 2 2πφ 2φ = l 1 σ y 2 2π 2σ 2 yµ µ2 2 σ 2 +l 1 σ y2 2π 2σ 2 J Cadma DM/ISA Modelação Estatístca II / 406 A Posso Recorde-se que uma varável aleatóra dscreta tem dstrbução de Posso se toma valores em N 0 com fução de massa probablístca PY = k] = λ k k! e λ Para os valores y {0,1,2,}, podemos escrever a fução de massa probablístca duma Posso como: f y λ = e λ λ y y! que é da famíla expoecal com: θ = lλ φ = 1 bθ = e θ = λ aφ = 1 cy,φ = ly! λ+y lλ ly! = e J Cadma DM/ISA Modelação Estatístca II / 406

3 A Beroull A varável aleatóra dcotómca ou seja, bára Y dz-se de Beroull com parâmetro p, se toma valor 1 com probabldade p e valor 0 com probabldade 1 p Para os valores y = 0 ou y = 1, a fução de massa probablístca duma Beroull pode escrever-se como: f y p = p y 1 p 1 y que é da famla expoecal com: θ = l φ = 1 p 1 p bθ = l 1 + e θ = l1 p aφ = 1 cy,φ = 0 p l1 p+y = e l 1 p J Cadma DM/ISA Modelação Estatístca II / 406 A Bomal A Bomal ão pertece à famíla de dstrbuções expoecas Mas se X B,p, etão Y = 1 X pertece à famíla expoecal Tem-se PY = y] = PX = y] A fução de massa probablístca de Y pode escrever-se da segute forma, para y F = {0, 1, 2,,1}: f y p = y l p p y 1 p 1 y = e y que é da famla expoecal com: θ = l φ = 1 p 1 p bθ = l 1 + e θ = l1 p aφ = φ = 1 cy,φ = l ] y 1 p+l1 p 1 +l y] J Cadma DM/ISA Modelação Estatístca II / 406 A Gama Uma varável aleatóra Y tem dstrbução Gama com parâmetros µ e ν se toma valores em R +, com fução desdade da forma f y µ,ν = ν ν νy µ ν Γν y ν 1 e µ = e que é da famla expoecal com: θ = 1 µ φ = 1 ν bθ = l 1µ = l θ aφ = φ = 1 ν cy,φ = ν lν lγν + ν 1ly 1 µ y+l 1 µ 1 +ν lν lγν+ν 1ly ν A famíla das dstrbuções Gama clu como caso partcular a dstrbução Qu-quadrado χ 2 se ν = 2 e µ = e também a dstrbução Expoecal ν = 1 J Cadma DM/ISA Modelação Estatístca II / 406 O Modelo Lear como um MLG Fuções de lgação A mas smples é a lgação detdade: gµ = µ Essa é a fução lgação utlzada o Modelo Lear As mas mportates fuções de lgação toram, para cada dstrbução da famíla expoecal, o valor esperado da varável-resposta gual ao parâmetro atural, θ Num Modelo Lear Geeralzado, a fução g dz-se uma fução de lgação caóca para a varável-resposta Y, se gey ] = θ Exste uma fução de lgação caóca assocada a cada dstrbução da varável-resposta As fuções de lgação caóca são útes porque smplfcam de forma assalável o estudo do Modelo A lgação caóca represeta de alguma forma uma fução de lgação atural para o respectvo tpo de dstrbução da varável-resposta J Cadma DM/ISA Modelação Estatístca II / 406 MLGs para varáves resposta dcotómcas Es algus exemplos de MLGs: 1 O Modelo Lear O Modelo Lear é um caso partcular de MLG, em que: cada uma das observações da varável-resposta Y tem dstrbução Normal, com varâca costate σ 2 ; a fução de lgação é a fução detdade A fução de lgação detdade é a lgação caóca para a dstrbução Normal Cosdere-se um Modelo com varável resposta dcotómca bára, e, que apeas toma dos possíves valores: 0 e 1, e cuja dstrbução é Beroull, com probabldades p para 1 e 1 p para 0 Admte-se que o parâmetro p vara as observações de Y, e o valor esperado da -ésma observação de Y é dado por: EY ] = 1 p p = p Uma fução de lgação va relacoar este valor esperado p da varável-resposta com uma combação lear dos predtores: gpx = x t β px = g 1 x t β J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406

4 A Regressão Logístca 2 A Regressão Logístca A fução de lgação caóca trasforma p o parâmetro atural θ da dstrbução Beroull: θ = l Logo, a fução de lgação p 1 p caóca para varáves resposta de Beroull é a fução logt: p gp = l 1 p Com estas opções, o MLG é cohecdo por Regressão Logístca A fução de lgação logt é o logartmo do quocete etre a probabldade de Y tomar o valor 1 êxto e a probabldade de tomar o valor 0 fracasso Esse quocete é cohecdo a lteratura aglo-saxóca por odds rato A Regressão Logístca cot Cosderamos que os logts dos valores esperados p são combações leares das varáves predtoras X 0,X 1,,X p Cocretamete, dado um cojuto x de observações as varáves predtoras, tem-se: p gp = l = x t β 1 p Logo, a relação etre o valor esperado de Y a probabldade de êxto de Y e o vector de valores das varáves predtoras, x, é: px t β = g 1 x t β = e xt β É habtual desgar a fução de lgação logt como um log-odds rato J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 A Regressão Logístca cot No caso duma úca varável predtora quattatva, fca uma curva logístca, que orga o ome Regressão Logístca px = g 1 β 0 + β 1 x = e β 0+β 1 x A Regressão Logístca cot Nota: Trocado os acotecmetos que dão à varável aleatóra Y os valores 0 e 1, uma fução decrescete para p = PY = 1] pode trasforma-se uma fução crescete Ada o caso de haver uma úca varável predtora quattatva, o parâmetro β 1 tem a segute terpretação: como y=fx x px 1 px = e β0 e β 1x, cada aumeto de uma udade a varável predtora X traduz-se um efeto multplcatvo sobre o odds rato, de e β 1 É uma fução crescete, caso β 1 > 0, e decrescete caso β 1 < 0 J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 A Regressão Logístca cot No caso mas geral de város predtores, a relação sgfca que a probabldade da varável-resposta tomar o valor 1 o seu valor esperado descreve uma relação logístca como fução dos valores da combação lear das varáves predtoras, η = x t β Assm, a fução de lgação logt gera uma relação logístca para a probabldade de êxto p, como fução dos valores da combação lear das varáves predtoras As terpretações dos coefcetes β j geeralzam-se quado há mas do que uma varável predtora quattatva: um aumeto de uma udade a varável predtora j matedo as restates costates traduz-se uma multplcação do odds rato por um factor e β j A Regressão Logístca cot Caso a varável predtora X seja uma varável dcatrz assocada a um factor predtor, β 1 dca o cremeto o log-odds rato resultate de a observação em questão pertecer à categora de que X é varável dcatrz A fução logístca tem boas propredades para represetar uma probabldade: para qualquer valor da compoete sstemátca, toma valores etre 0 e 1 O mesmo ão acotece com uma relação lear px t β = x t β = p j=0 β j x j, que pode tomar valores em toda a recta real R J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406

5 A Regressão Logístca cot A Regressão Probt O modelo de regressão logístca é uma opção a cosderar sempre que a varável-resposta Y assala qual de duas categoras de classfcação se verfca e se pretede relacoar probabldade do acotecmeto assocado ao valor 1 com um cojuto de varáves predtoras A fução logístca revela rgdez estrutural como se vu o Capítulo 2, com um poto de flexão assocado à probabldade p = 05 A relação g pode ser substtuída por outras fuções de comportameto aálogo, embora esse caso já ão se trate de fuções de lgação caócas para uma dstrbução Beroull Nesse caso, já ão se fala em regressão logístca 3 A Regressão Probt Outro exemplo de MLG é o modelo probt de Blss 1935, muto frequete em Toxcologa Tal como a Regressão Logístca, tem-se: varável resposta dctómca com dstrbução Beroull compoete sstemátca, dada por combação lear de varáves predtoras Dferete da Regressão Logístca é a fução de lgação J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 A Regressão Probt cot Na Regressão Logístca, a fução de lgação exprme p como uma fução logístca da compoete sstemátca x t β Aqu, escolhe-se uma outra relação sgmóde, dada pela fução de dstrbução cumulatva fdc de uma Normal Reduzda, a fução Φ: A Regressão Probt cot No caso de haver uma úca varável predtora, tem-se: px;β 0,β 1 = g 1 β 0 + β 1 x = Φβ 0 + β 1 x = Φ x µ σ ode β 0 = µ σ e β 1 = 1 σ, e, a probabldade de êxto p relacoa-se com a varável predtora X através da fdc duma N µ,σ 2, px t β = g 1 x t β = Φx t β ode Φ dca a fdc duma N 0,1 Esta opção sgfca cosderar como fução de lgação a versa da fdc duma Normal reduzda, ou seja, g = Φ 1 : x t β = g px t β = Φ 1 px t β pormx, m = 5, s = x J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 A Regressão Probt cot A Regressão Probt em toxcologa Em geral, para qualquer úmero de varáves predtoras, a probabldade de êxto p = PY = 1] é dada, o Modelo Probt, por uma fução cujo comportameto é muto semelhate ao do Modelo Logt: fução estrtamete crescete, com um úco poto de flexão quado o predtor lear x t β = 0, a que correspode uma probabldade de êxto p0 = 05 com smetra em toro do poto de flexão, sto é, p η = 1 pη, para qualquer η Icoveetes: ão há terpretação fácl do sgfcado dos parâmetros β j ; a fução de lgação é ão-caóca No cotexto toxcológco, é frequete: exstr uma varável predtora X que dca a dosagem ou log-dosagem dum determado produto tóxco; para cada dosagem há um ível de tolerâca t: o lmar acma do qual o produto tóxco provoca a morte do dvíduo; esse ível de tolerâca vara etre dvíduos e pode ser represetado por uma va T Defdo a va bára Y : { 1, dvduo morre Y = 0, dvduo sobrevve J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406

6 A Regressão Probt em toxcologa cot Tem-se: P Y = 1 x ] = PT x] = px Admtdo que a tolerâca T segue uma dstrbução N µ,σ 2, x µ px = Φ σ tem-se o Modelo Probt com X como úca varável predtora Os coefcetes verfcam β 0 = µ σ e β 1 = 1 σ, estado pos assocados aos parâmetros da dstrbução de T O modelo log-log do complemetar No mesmo cotexto de varável resposta dcotómca Y, outra escolha frequete de fução de lgação, com tradção hstórca desde 1922 o estudo de orgasmos feccosos cosste em tomar para probabldade de êxto Y = 1: px t β = g 1 x t β = 1 e ext β A fução p é a dfereça etre uma curva de Gompertz com valor asstótco α = 1 a otação usada o Capítulo da Regressão Não Lear e esse mesmo valor asstótco O facto de se fxar o valor asstótco em 1 é atural, uma vez que a fução p descreve probabldades O cotradomío da fução agora defda é o tervalo ]0, 1 J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 O modelo log-log do complemetar cot A fução de lgação será, este caso, da forma: x t β = g px t β = l l1 px t β dode a desgação do modelo que usa esta fução de lgação No caso de haver uma úca varável predtora X, a fução px é a fução dstrbução cumulatva da dstrbução de Gumbel: y = fx fx = 1 e eα+βx α = 05, β = 1 α = 05, β = 2 α = 0, β = O modelo log-log do complemetar cot Esta fução para p tem aalogas e dfereças de comportameto em relação aos Modelos Logt e Probt: é gualmete estrtamete moótoa; tem gualmete um úco poto de flexão, quado η = 0; mas o valor de probabldade assocado já ão se ecotra a meo camho a escala de probabldades, sedo p0 = 1 1 e ; sso sgfca que a fase de aceleração da curva de probabldades decorre até um valor superor da probabldade 1 1/e 0632 do que as Regressões Logt e Probt Tal como o caso do Modelo Probt, os coefcetes β j da compoete sstemátca ão têm um sgfcado tão faclmete terpretável como os do Modelo da Regressão Logístca x J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Outras fuções de lgação para respostas báras As versas das três fuções de lgação em modelos com respostas de Beroull eram sgmódes Em dos dos modelos, tratava-se de versas de fuções de dstrbução cumulatvas: fdc duma Normal reduzda o Modelo Probt; fdc duma Gumbel, o Modelo log-log do Complemetar Uma geeralzação óbva cosste em utlzar outra fdc duma varável aleatóra cotíua, gerado um ovo Modelo para este cotexto No R, além das opções acma referdas, pode usar-se uma fdc da dstrbução de Cauchy Outras fuções de lgação cot Outra possível geeralzação das fuções de lgação para dados báros cosste em cosderar a segute famíla de fuções de lgação, que depede de um parâmetro, δ: gp; δ = l 1/1 p δ 1 δ A fução de lgação logt correspode a tomar δ = 1 A fução de lgação log-log do complemetar correspode ao lmte quado δ 0 ] J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406

7 Resposta dcotómca e a dstrbução Bomal Estvemos a cosderar varáves resposta Y dcotómcas báras, assocadas a cojutos de valores x das varáves predtoras Admta-se que: exstem m dferetes cojutos de valores das varávels predtoras; para cada um desses m cojutos de valores há uma probabldade p = 1,,m de êxto de Y = 1; exstem = 1 : m observações efectuadas para cada um dos m dferetes cojutos de valores x das varáves predtoras logo, há ao todo = m observações Havedo observações depedetes, o úmero de êxtos em cada uma das m stuações é dado por uma varável aleatóra com dstrbução Bomal Cocretamete, Resposta dcotómca e Bomal cot Exstem lgações ítmas, o cotexto de MLGs, etre cosderar que: temos varáves resposta Beroull, com parâmetros p ; ou temos m varáves resposta Y B,p O tratameto destas opções alteratvas é gual, desde que trasforme as Bomas Y em proporções de êxtos, e, desde que se cosdere ovas vas resposta W = Y /, cujas dstrbuções pertecem à famíla expoecal de dstrbuções Y B,p = 1,,m J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 MLGs para varáves resposta de Posso Cosderemos agora modelos em que a compoete aleatóra Y tem dstrbução de Posso A dstrbução de Posso surge com muta frequêca, assocada à cotagem de acotecmetos aleatóros quado se pode admtr que ão há acotecmetos smultâeos Se Y tem dstrbução de Posso, toma valores em N 0 com probabldades PY = k] = e λ λ k k!, com λ > 0 Esta dstrbução ão é dcada para stuações em que seja fxado à partda o úmero máxmo de observações ou realzações do feómeo, como sucede com uma Bomal Fuções de lgação e lgação caóca O valor esperado de Y Poλ é o parâmetro λ Uma fução de lgação será uma fução g tal que: gλ = x t β, ode x t β é a compoete sstemátca do Modelo O parâmetro atural da dstrbução de Posso é θ = lλ Assm, a fução de lgação caóca para uma compoete aleatóra com dstrbução de Posso é a fução de lgação logarítmca: gλ = lλ = x t β λx t β = g 1 x t β = e xt β Um Modelo assm defdo desga-se um Modelo Log-Lear J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Modelos log-leares São modelos com: compoete aleatóra de Posso; fução de lgação logartmo atural, que é a lgação caóca para as Posso Nota: a lgação apeas permte valores postvos do parâmetro λ, o que está estruturalmete de acordo com as característcas do parâmetro λ duma dstrbução Posso Iterpretação dos parâmetros β j No caso de haver uma úca varável predtora X, a relação etre o parâmetro λ da dstrbução Posso e o predtor fca: λx = e β0 e β 1x O aumeto de uma udade o valor do predtor multplca o valor esperado da varável resposta por e β j A terpretação geeralza-se para mas do que uma varável predtora Com p varáves predtoras tem-se: λx = e β 0 e β 1x 1 e β 2x2 e βpxp Um aumeto de uma udade o valor da varável predtora X j, matedo as restates varáves predtoras costates, multplca o valor esperado de Y por e β j J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406

8 Factores predtores e tabelas de cotgêca No caso de uma varável dcatrz X j, tem-se que a perteça à categora assalada pela dcatrz X j multplca o parâmetro λ da dstrbução de Posso por e β j Os modelos log-leares têm grade mportâca o estudo de tabelas de cotgêca, cujos marges correspodem a dferetes factores e cujo recheo correspode a cotages de observações os cruzametos de íves correspodetes Tal como os casos aterores, outras fuções de lgação são cocebíves para varáves-resposta com dstrbução de Posso Mas esta dscpla apeas será estudado o caso do Modelo Log-Lear, assocado à fução de lgação caóca para a dstrbução de Posso Modelos com varável resposta Gama Com a excepção do Modelo Lear, os restates MLGs cosderados até aqu tham varável resposta dscreta Vejamos agora um exemplo de MLG com varável resposta cotíua, ão Normal Cosderemos uma compoete aleatóra Y com dstrbução Gama que, como sabemos, clu como casos partculares uma Expoecal ou uma Qu-quadrado Se Y Gµ,ν, tem-se: EY ] = µ e V Y ] = µ2 ν Assm, a dstrbução Gama a varâca é proporcoal ao quadrado da méda Esta propredade sugere que MLGs com compoete aleatóra Gama podem ser útes em stuações ode a varâca dos dados ão seja costate, mas proporcoal ao quadrado da méda J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Fuções de lgação e lgação caóca Uma vez que para Y Gµ,ν se verfca EY ] = µ, as fuções de lgação g um MLG com varável resposta Gama relacoam a méda µ com as combações leares das varáves predtoras: gµ = x t β A fução de lgação caóca para modelos com dstrbução Gama será a fução g que trasforma o valor esperado de Y o parâmetro atural θ = 1 µ Como o sal egatvo ão é relevate a dscussão, é hábto defr a fução de lgação caóca para modelos com varável resposta Gama apeas como a fução recíproco: gµ = 1 µ Um úco predtor O modelo fca completo equacoado a parte sstemátca a esta trasformação caóca do valor esperado de Y : gµ = 1 µ = xt β µx t β = g 1 x t β = 1 x t β No caso partcular de haver uma úca varável predtora, a relação que acabámos de estabelecer dz que o valor médo de Y é dado por uma curva hperbólca, EY ] = 1 β 0 + β 1 x Esta fução é a curva de redmeto por plata, estudada o Capítulo da Regressão Não Lear J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Um predtor trasformado Caso se opte por trabalhar com os recíprocos dum úco predtor, ou seja com a trasformação X = 1 X, o valor esperado fca EY ] = 1 β 0 + β 1 /x = x xβ 0 + β 1, pelo que o valor esperado de Y será dado pela curva de Mchaels-Mete com a parametrzação de Shozak-Kra Nota: embora o valor esperado da varável resposta Y teha de ser postvo uma vez que uma varável Y com dstrbução Gama só toma valores postvos, a relação estabelecda o valor esperado pode ser egatvo para algus valores das varávels predtoras com um úco predtor X, para que µ > 0 tem de ter-se x > β 0 β 1 Assm, e ao cotráro de modelos aterores, ão exste uma garata estrutural de que os valores de µ estmados façam setdo Estmação de parâmetros em MLGs A estmação de parâmetros em Modelos Leares Geeralzados é feta pelo Método da Máxma Verosmlhaça O facto das dstrbuções cosderadas em MLGs pertecerem à famíla expoecal de dstrbuções gera algumas partculardades a estmação A fução verosmlhaça para observações depedetes y 1,y 2,,y uma qualquer dstrbução da famíla expoecal é: Lθ,φ ; y 1,y 2,,y = f y ;θ,φ = e y θ bθ +cy aφ,φ Maxmzar a verosmlhaça é maxmzar a log-verosmlhaça: L θ,φ ; y 1,y 2,,y = y θ bθ aφ ] + cy,φ J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406

9 Máxma Verosmlhaça em MLGs Num MLG, a compoete sstemátca e o valor esperado da varável resposta estão relacoados por gey ] = x t β No caso de uma fução de lgação caóca tem-se θ = x t β Em geral, pode escrever-se a log-verosmlhaça como fução dos parâmetros descohecdos β O Método da Máxma Verosmlhaça de estmar esses parâmetros cosste em escolher o vector β que tore máxma a fução de log-verosmlhaça L β Máxma Verosmlhaça em MLGs cot A maxmzação da fução de p + 1 varáves L β tem como codção ecessára: L ˆβ β j = 0, j = 0 : p Admte-se que as fuções a, b e c são sufcetemete regulares para que as operações evolvdas estejam bem defdas No caso de um Modelo Lear Geeralzado geérco, ão exste a garata de que haja máxmo desta fução log-verosmlhaça pelo meos para os valores admssíves dos parâmetros β, em que, exstdo máxmo, este seja úco Nos casos cocretos abordados esta dscpla, a stuação ão cra dfculdades J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Exemplo: o caso da Regressão Logístca No Modelo de Regressão Logístca, as observações depedetes referem-se a uma Varável aleatóra com dstrbução de Beroull A sua fução de verosmlhaça é dada por: Lp ; y = e l1 p p +y l 1 p e a log-verosmlhaça por: p L p ; y = l1 p + y l 1 p Uma vez que a fução de lgação é dada por gp = l p 1 p = x t β, tem-se a segute expressão para a log-verosmlhaça como fução dos parâmetros β e cosderado que a varável x 0 toma valores 1: L β = l 1 + e xt β + y x t β J Cadma DM/ISA Modelação Estatístca II / 406 Estmação a Regressão Logístca cot Tem-se: L β = p k=0 y x k β k l 1 + e p k=0 x kβ k Codção ecessára para a exstêca de extremo da log-verosmlhaça o poto β = ˆβ é que: L ˆβ β j = y x j e p k=0 x k ˆβ k 1 + e p k=0 x k ˆβ k x j = 0 j = 0 : p Ao cotráro do que acotece para o Modelo Lear, estas p+1 equações ormas formam um sstema ão-lear de equações as p+1 cógtas ˆβ j j = 0 : p J Cadma DM/ISA Modelação Estatístca II / 406 Estmação a Regressão Logístca cot A ão-leardade os parâmetros β ão permte explctar uma solução ˆβ do sstema de equações Mas exste uma otação memóca, defdo o vector ˆp de probabldades estmadas, cuja -ésma compoete é dada por: ˆp = e p k=0 x k ˆβ k 1 + e p k=0 x k ˆβ k e uma matrz X que tal como o Modelo Lear tem uma prmera colua de us e em cada uma de p coluas adcoas tem as observações de uma das p varáves predtoras Com esta otação, o sstema de p + 1 equações toma a forma: X t y = X t ˆp Sedo um sstema ão-lear, a sua solução exgrá métodos umércos que serão cosderados mas adate J Cadma DM/ISA Modelação Estatístca II / 406 Exemplo: Modelos log-leares Num Modelo Log-Lear, as observações depedetes são duma varável aleatóra com dstrbução de Posso A fução de verosmlhaça destas observações é dada por: E a log-verosmlhaça por: L λ ; y = Lλ ; y = e λ λ y y! λ + y lλ ly! A fução de lgação é dada por gλ = lλ = x t β Es a expressão para a log-verosmlhaça como fução dos parâmetros β: L β = ] e xt β + y x t β ly! J Cadma DM/ISA Modelação Estatístca II / 406

10 Estmação em modelos log-leares cot Estmação em modelos log-leares cot Dexado car a últma parcela, que é costate os parâmetros β j, logo dspesável a detfcação dos máxmos: L β = e p k=0 x kβ k + y x k β k p k=0 Codção ecessára para a exstêca de extremo da log-verosmlhaça o poto β = ˆβ é que: L ˆβ β j = x j y e p k=0 x k ˆβ k ] = 0 j = 0 : p Tal como o caso ateror, estas p + 1 equações formam um sstema ão-lear de equações as p + 1 cógtas ˆβ j, j = 0 : p De ovo, embora o sstema de equações seja ão lear, é possível utlzar uma otação memóca matrcal, defdo o vector ˆλ de probabldades estmadas, cuja -ésma compoete é dada por: ˆλ = e p k=0 x k ˆβ k Com esta otação, o sstema de p+1 equações toma a forma: X t y = X t ˆλ A ão-leardade do sstema exge métodos umércos J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Algortmos de estmação Fo vsto que, em geral, o sstema de p+1 equações ormas assocado à maxmzação da fução de log-verosmlhaça um Modelo Lear geeralzado é um sstema ão-lear: L β β j = 0 j = 0 : p Um algortmo umérco de resolução utlzado o cotexto de MLGs é uma modfcação do algortmo de Newto-Raphso, cohecda por város omes: Método Iteratvo de Mímos Quadrados Poderados IWLS ou Re-poderados IRLS, ou ada Método de Fsher Fsher Scorg Method, em glês O Método de Newto-Raphso trabalha com uma aproxmação de seguda ordem da fução log-verosmlhaça fórmula de Taylor, com desevolvmeto em toro duma estmatva cal do vector β Fsher Scorg Method Desgado por: β 0], a solução cal para β; L β β o vector gradete de L β calculado o poto β; H β a matrz Hessaa das segudas dervadas parcas da fução L, esse mesmo poto, tem-se a aproxmação: L t L β L 0 β = L β 0] + β β 0] β β 0] β β 0] t H β 2 β 0] β 0] Em vez de proceder à maxmzação de L β, maxmza-se a aproxmação L 0 β J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 O método de Fsher cot Quado a fução que se pretede maxmzar é uma combação lear ou uma forma quadrátca das varáves, o cálculo do vector gradete é partcularmete smples: Se hx = a t x, tem-se hx x = at x x = a Se hx = x t Ax, tem-se hx x Assm, = xt Ax x = 2Ax L 0 L β = β β β 0] + H β 0] β β 0] Admtdo a vertbldade de H β 0], tem-se: L 0 L β β = 0 β = β 0] H 1 β 0] β β 0] Esta relação é a base do processo teratvo do algortmo Newto-Raphso J Cadma DM/ISA Modelação Estatístca II / 406 O método de Fsher cot Tome-se: Notas: L β +1] = β ] H 1 β ] β β ] A possbldade de aplcar com êxto este algortmo exge a exstêca e vertbldade das matrzes Hessaas de L os sucessvos potos β ] ; Não está garatda a covergêca do algortmo a partr de qualquer poto cal β 0], mesmo quado exste e é úco o máxmo da fução log-verosmlhaça; Dada a exstêca e ucdade do máxmo, a covergêca é tato melhor quato mas próxmo β 0] estver do máxmo J Cadma DM/ISA Modelação Estatístca II / 406

11 O método de Fsher cot O cálculo da matrz Hessaa da log-verosmlhaça os potos β ] é computacoalmete exgete O algortmo de Fsher é uma modfcação do algortmo de Newto-Raphso, que substtu a matrz Hessaa pela matrz de formação de Fsher, defda como o smétrco da esperaça da matrz Hessaa: ] I β ] = E H β ] Assm, a teração que está a base do Algortmo de Fsher é: L β +1] = β ] + I 1 β ] β β ] O método de Fsher cot Quado se cosdera uma MLG com a fução de lgação caóca, a matrz Hessaa da log-verosmlhaça ão depede da varável-resposta Y, pelo que a Hessaa e o seu valor esperado cocdem Logo, este caso os métodos de Fsher e Newto-Raphso cocdem Esta é uma das razões que cofere às lgações caócas a sua mportâca J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 O método de Fsher cot O algortmo de Fsher é também cohecdo por Método Iteratvo de Mímos Quadrados Poderados IWLS ou Re-poderados IRLS porque é, em geral, possível re-escrever a expressão ateror para β +1] a forma: ode: β +1] = 1 X t W ] X X t W ] z ] z ] é uma learzação da fução de lgação gy, escrta como fução dos parâmetros β; e W ] é uma matrz dagoal Para algus modelos, as expressões cocretas de z ] e W ] serão vstas adate O método de Fsher cot A expressão ateror sgfca que o algortmo de Fsher está assocado a uma projecção ão-ortogoal, em que, quer o vector z ], quer os subespaços evolvdos a projecção, são re-defdos em cada teração do algortmo A matrz X X t W ] X 1 X t W ] é dempotete Não é, em geral, smétrca, a ão ser que a matrz dagoal W ] verfque X t W ] = X t O Método de Fsher basea-se em deas de Mímos Quadrados em setdo geeralzado, sto é, evolvedo projecções ão-ortogoas J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 IRLS para a Regressão Logístca Já se vu que as dervadas parcas de prmera ordem da log-verosmlhaça, o Modelo Logt Regressão Logístca são: L β β j = L β β y x j = X t y X t p e p k=0 x kβ k x 1 + e p k=0 x j, j = 0 : p kβ k } {{ } =p As dervadas parcas de 2a ordem elemetos da Hessaa são: 2 L β = β j β l = e p k=0 x kβ k 1 x j x l 1 + e p k=0 x kβ k } {{ } 1 + e p k=0 x kβ k } {{ } = p = 1 p x j x l p 1 p IRLS para a Regressão Logístca cot A matrz Hessaa da fução de log-verosmlhaça L, os potos correspodetes às terações β ], é costtuída pelos valores destas dervadas parcas de seguda ordem Como acotece sempre quado se trabalha com Modelos que utlzam a fução de lgação caóca, estes elemetos das matrzes Hessaas ão depedem dos valores observados da varável resposta Y, pelo que a Hessaa e o seu valor esperado cocdem os Métodos de Newto-Raphso e de Fsher cocdem Defa-se a matrz dagoal W, cujos elemetos dagoas são dados pelos valores p 1 p J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406

12 IRLS para a Regressão Logístca cot A matrz Hessaa e a matrz de formação de Fsher assocada, podem escrever-se, em termos matrcas, como: H = X t WX I = X t WX A equação que defe a teração dos vectores β o algortmo IRLS para a Regressão Logístca é assm: 1 β +1] = β ] + X t W ] X X t y p ] Defdo o vector z ] = Xβ ] + W ] 1 y p ], tem-se: β +1] = 1 X t W ] X X t W ] z ] IRLS para a Regressão Logístca cot A expressão dcada para o vector z ] pode ser etedda como uma aproxmação lear da fução de lgação do Modelo Logt, em toro do poto p ] De facto, gp = l p 1 p = g p = 1 p1 p Logo, desgado: z ] = g p ] + g p ] y p ] e, recordado as relações etre fução de lgação e parte sstemátca, bem como a defção da matrz W, tem-se, em termos matrcas: z ] = Xβ ] + W ] 1 y p ] J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 IRLS para modelos log-leares No cotexto do Modelo Log-Lear, as dervadas parcas de prmera ordem da log-verosmlhaça são: L β β j = L β β ] x j y e p k=0 x kβ k, j = 0 : p } {{ } =y λ = X t y X t λ Assm, as dervadas parcas de seguda ordem são: 2 L β = β l β j 2 L β = β l β j x j x l e p k=0 x kβ k x j x l λ, j,l = 0 : p IRLS para modelos log-leares cot De ovo, a fução de lgação é caóca e os elemetos da matrz Hessaa ão depedem de Y, pelo que Hessaa e seu valor esperado são guas, ou seja, o Método de Newto-Raphso e de Fsher cocdem Defa-se a matrz dagoal W, cujos elemetos dagoas são dados pelos valores λ A matrz Hessaa e a correspodete matrz de formação de Fsher podem escrever-se como: H = X t WX I = X t WX A equação que defe a teração dos vectores β o algortmo IRLS para a Regressão Logístca é dada por: 1 β +1] = β ] + X t W ] X X t y λ ] J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 IRLS para modelos log-leares cot Defdo o vector z ] = Xβ ] + W ] 1 y λ ], tem-se uma expressão de trasção dêtca à do Modelo Logt: 1 β +1] = X t W ] X X t W ] z ] Também aqu, z ] pode ser eteddo como uma aproxmação lear da fução de lgação do Modelo Log-Lear, em toro do poto λ ] : gλ = lλ = g λ = 1 λ Logo, cosderado: z ] = g λ ] + g λ ] y λ ] tem-se, em termos matrcas, e recordado a defção da matrz W e a lgação etre valor esperado de Y e parte sstemátca do Modelo: z ] = Xβ ] + W ] 1 y λ ] GLMs o No R, o comado crucal para o ajustameto de Modelos Leares Geeralzados é o comado glm Dos umerosos argumetos desta fução, dos são crucas: formula dca, de forma aáloga à usada o modelo lear, qual a compoete aleatóra à esquerda dum e quas os predtores à dreta, e separados por sas de soma: y x1 + x2 + x3 + + xp famly dca smultaeamete a dstrbução de probabldades da compoete aleatóra Y e a fução de lgação do modelo J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406

13 GLMs o cot A dcação da dstrbução de probabldades de Y faz-se através duma palavra-chave, que se segue ao ome do argumeto Por exemplo, um modelo com compoete aleatóra Beroull ou Bomal/, dca-se assm: famly = bomal Por omssão, é usada a fução de lgação caóca dessa dstrbução Caso se deseje outra fução de lgação mplemetada acresceta-se ao ome da dstrbução, etre pareteses, o argumeto lk com a especfcação da fução de lgação Por exemplo, um modelo probt pode ser dcado da segute forma: famly = bomallk= probt GLMs o cot Exemplos: GLMs com compoete aleatóra Y e predtores X 1,X 2,X 3 1 Modelo log-lear: > glm y ~ x1 + x2 + x3, famly=posso 2 Modelo Gama com fução de lgação logarítmca: > glm y ~ x1 + x2 + x3, famly=gammalk= log 3 Modelo complemetar do log-log: > glm y ~ x1 + x2 + x3, famly=bomallk= cloglog Para mas pormeores sobre as dstrbuções e respectvas fuções de lgação dspoíves, veja-se > helpfamly J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Iferêca em GLMs No Capítulo 2 recordámos que estmadores de máxma verosmlhaça são cosstetes e, em codções geras de regulardade são: asstotcamete Normas; asstotcamete cetrados; asstotcamete de matrz de varâcas gual à versa da matrz de formação de Fsher assocada à estmação Aplcado estes resultados geras aos estmadores ˆβ, obtém-se, asstotcamete; ˆβ N p+1 β,i 1 β ode I β é a matrz de formação de Fsher da log-verosmlhaça da amostra, calculada o poto β Iferêca em MLGs cot Cosequêcas mportates do Teorema ateror: Teorema Dado um MLG e admtdo as codções de regulardade ecessáras, os estmadores de Máxma Verosmlhaça ˆβ verfcam, asstotcamete: t I ˆβ ˆβ β β β χp+1 2 Dada uma matrz ão-aleatóra C q p+1 de característca q, Cˆβ N q Cβ,CI 1 β Ct Dado um vector ão-aleatóro a p+1 : Dada C q p+1 : a t ˆβ a t β a t I 1 β a t ] 1 Cˆβ Cβ CI 1 β Cˆβ Ct Cβ N 0,1 χq 2 J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Iferêca em MLGs cot Os resultados do Teorema ateror permtem costrur Itervalos de Cofaça e Testes de Hpóteses para combações leares dos parâmetros β, e testes de ajustameto de Modelos e de Submodelos A dervação de resultados para combações leares dos parâmetros clu como casos partculares mportates, resultados sobre parâmetros dvduas e sobre somas ou dfereças de parâmetros Na expressão que serve de base aos ICs e Testes de Hpóteses surge a versa da matrz de formação o poto descohecdo β Essa matrz descohecda é substtuída por outra, cohecda: a matrz de formação calculada para a estmatva ˆβ Iferêca em MLGs cot Um tervalo asstótco a 1 α 100% de cofaça para a combação lear a t β é dado por: ] a t b z α a t I 1 2 ˆβ a, at b + z α a t I 1 2 ˆβ a sedo I 1 a versa da matrz de formação de Fsher da ˆβ log-verosmlhaça, calculada o poto ˆβ Esta substtução reforça a ecessdade de grades amostras para que se possa cofar os resultados J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406

14 Iferêca em MLGs cot Teste de Hpóteses asstótco a Combação Lear dos β j Hpóteses: Estatístca do Teste: H 0 : a t β = c vs H 1 : a t β c Z = at ˆβ a t β H0 N 0,1, a t I 1 ˆβ a Regão Crítca: Blateral Rejetar H 0 se Z calc > z α 2 Iferêca o A formação fudametal para costrur ICs ou Testes a parâmetros fca dspoblzada o R atarvés do acomado summary aplcado a um objecto glm > summarysagueuglm Call: glmformula = tempo ~ logcocplasma, famly = posso Devace Resduals: M 1Q Meda 3Q Max Coeffcets: Estmate Std Error z value Pr> z Itercept <2e-16 *** logcocplasma <2e-16 *** --- Dsperso parameter for posso famly take to be 1 Null devace: o 17 degrees of freedom Resdual devace: o 16 degrees of freedom AIC: Number of Fsher Scorg teratos: 4 J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 A matrz de co-varâcas etre estmadores Para se obter, o R, a matrz de varâcas-covarâcas etre os estmadores ˆβ, ou seja, a matrz I 1, pode usar-se o comado vcov: ˆβ > vcovsagueuglm Itercept logcocplasma Itercept logcocplasma Teste de Wald Para testar em smultâeo hpóteses sobre váras combações leares dos parâmetros, usa-se a estatístca de Wald acetato 279, substtudo a matrz descohecda I β por I ˆβ Teste de Hpóteses asstótco a q Combações Leares de β j Seja C q p+1 uma matrz ão-aleatóra, de característca q Seja ξ um vector q-dmesoal Hpóteses: Estatístca do Teste: t χ 2 = Cˆβ ξ H 0 : Cβ = ξ vs H 1 : Cβ ξ CI 1 ˆβ Ct] 1 Cˆβ ξ χ 2 q, Regão Crítca: Ulateral Rejetar H 0 se χ 2 calc > χ2 α;q J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Teste de Wald a Submodelos Dado um MLG com p varáves predtoras X 1,,X p, que se cosdera adequado, é útl pergutar se é possível smplfcar o Modelo através da exclusão de algumas das varáves predtoras, sem com sso afectar de forma sgfcatva o ajustameto do mesmo aos dados Seja S o subcojuto de k ídces das varáves do submodelo O submodelo que exclu as varáves cujos ídces ão pertecem a S pode ser defdo através das p k codções β j = 0, j / S O cojuto destas restrções pode ser escrto, em forma matrcal, como Cβ = 0, ode C é uma matrz p k p + 1, cujas lhas são as p k lhas da matrz detdade p + 1 p + 1 assocadas às p k varáves que ão pertecem ao subcojuto S Teste de Wald a submodelos cot Sejam S os ídces de varáves que ão pertecem ao submodelo Hpóteses: H 0 : β j = 0, j / S vs H 1 : j / S, tq β j 0 H 0 : β S = 0 vs H 1 : β S 0 Submodelo OK] vs Modelo melhor] Estatístca do Teste: χ 2 = ˆβ t S ] 1 I 1 ˆβ ˆβ S χp k 2, S,S Regão Crítca: Ulateral Rejetar H 0 se χ 2 calc > χ2 α;p k Nota: a versa duma submatrz ão é gual à submatrz correspodete da versa da matrz completa J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406

15 Teste da razão de Verosmlhaças Wlks Um outro teste à admssbldade de um Submodelo pode ser obtdo com base um resultado geral já ates referdo: o Teorema de Wlks Recorde-se que, este cotexto, θ dca um cojuto geérco de parâmetros, e ão tem o sgfcado específco do cotexto duma famíla expoecal de dstrbuções Teste de Razão de Verosmlhaças cotexto geral Teste de Wlks a Submodelos No cotexto dum Modelo Lear Geeralzado, os parâmetros θ são os p + 1 coefcetes β da combação lear que costtu a compoete sstemátca do Modelo Sejam Θ 0 os valores resultates de mpôr a restrção Cβ = β S = 0 Por Θ 1 dca-se a codção complemetar: pelo meos um desses parâmetros β S é dferete de zero Hpóteses: H 0 : θ Θ 0 vs H 1 : θ Θ 1 Estatístca do Teste: Λ = 2 maxl θ;x max L θ;x θ Θ 0 θ Θ 0 Θ 1 Regão Crítca: Ulateral Rejetar H 0 se Λ calc > χ 2 α;q χ 2 q, O máxmo da fução log-verosmlhaças para θ Θ 0 Θ 1 correspode às estmatvas MV do Modelo Completo O máxmo da fução log-verosmlhaças para θ Θ 0 são as estmatvas de Máxma Verosmlhaça do Submodelo, ˆβ S J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Teste de Wlks a Submodelos cot Desgado por: L M a log-verosmlhaça assocada ao Modelo completo p + 1 parâmetros, estmados por ˆβ M ; e L S a log-verosmlhaça assocada ao Submodelo k + 1 parâmetros, estmados por ˆβ S Teste de Wlk a Submodelos H 0 : β j = 0, j / S vs H 1 : j / S, tq β j 0 Hpóteses: H 0 : β S = 0 vs H 1 : β S 0 Submodelo OK vs Modelo melhor Estatístca do Teste: Λ = 2 L S ˆβ S L M ˆβ M χp k 2, Regão Crítca: Ulateral Rejetar H 0 se Λ calc > χ 2 α;p k Modelo Nulo e modelo saturado Adate se verá que é possível escrever a estatístca deste Teste uma forma alteratva Mas para sso, será ecesáro troduzr o mportate coceto de Desvo de um Modelo, que desempeha os GLMs um papel aálogo ao da Soma de Quadrados Resdual os Modelos Leares No estudo do Modelo Lear fo troduzda a oção de Modelo Nulo: um Modelo em que o predtor lear é costtuído apeas por uma costate e toda a varação os valores observados é varação resdual, ão explcada pelo Modelo No estudo de Modelos Leares Geeralzados é de utldade um Modelo que ocupa o extremo oposto a gama de possíves modelos: o Modelo Saturado, que tem tatos parâmetros quatas as observações de Y dspoíves J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Modelo Nulo e modelo saturado cot Desvos Num Modelo Saturado, o ajustameto é perfeto, mas útl: a estmatva de cada valor esperado de Y cocde totalmete com o valor observado de Y correspodete, sto é, EY ˆ ] = Y Recorde-se que, quer o Modelo Logístco, quer o Modelo Log-Lear, o sstema de equações ormas resultate da codção ecessára para a exstêca de máxmo da log-verosmlhaça toma a forma Xy = Xˆµ, ode ˆµ dca o vector estmado de EY ] para as observações Acetatos 268 e 272 Num modelo saturado, com tatos parâmetros quatas observações, X é de tpo e, em geral, vertível Nesse caso, ˆµ = y Assm, um modelo saturado ocupa o polo oposto em relação ao Modelo Nulo: equato que este últmo tudo é varação resdual, ão explcada pelo modelo, um modelo saturado tudo é explcado pelo modelo, ão havedo lugar a varação resdual Um tal ajustameto total dos dados ao modelo é lusóro Mas é de utldade como termo de comparação para medr o grau de ajustameto de um cojuto de dados a um MLG É essa dea que se basea a defção do coceto de Desvo ou Devace J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406

16 Desvos cot Teste de Wlks a Submodelos Cosdere-se um Modelo Lear Geeralzado baseado em observações depedetes da varável resposta Y Seja ˆβ M o vector estmado dos seus parâmetros e L M ˆβ M a respectva log-verosmlhaça máxma Cosdere-se um modelo saturado com parâmetros Desge-se por L T ˆβ T a log-verosmlhaça correspodete Defe-se o desvo como sedo: D = 2 L M ˆβ M L T ˆβ T O coceto de Desvo desempeha um papel mportate o estudo da qualdade do ajustameto de dados a um Modelo Lear Geeralzado: a estatístca do Teste de Wlks a modelos ecaxados é a dfereça dos Desvos de Modelo e Submodelo Teste de Wlk a Submodelos Ecaxados Hpóteses: H 0 : β j = 0, j / S vs H 1 : j / S, tq β j 0 H 0 : β S = 0 vs H 1 : β S 0 Submodelo OK] vs Modelo melhor] Estatístca do Teste: Λ = D S D M χ 2 p k, Regão Crítca: Ulateral dreto Rejetar H 0 se Λ calc > χ 2 α;p k J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Teste de Wlks ao Ajustameto Global Teste de Wlks ao Ajustameto Global cot Para MLGs cuja compoete sstemátca clu uma parcela adtva costate, o coceto de ajustameto global do Modelo pode ser semelhate ao usado o estudo do Modelo Lear: compare-se o ajustameto do Modelo e do Submodelo Nulo, que se obtém sem qualquer varável predtora apeas com a costate No Submodelo Nulo tem-se: gey ] = β 0 EY ] = g 1 β 0, = 1 : Ou seja, a varação de EY ] ão depede de varáves predtoras Se esse Submodelo Nulo ão se ajustar de forma sgfcatvamete dferete do Modelo sob estudo, coclu-se pela utldade do Modelo Teste de Wlk ao Ajustameto de um MLG Hpóteses: H 0 : β j = 0, j = 1 : p vs H 1 : j = 1 : p, tq β j 0 Modelo utl] vs Melhor que Modelo Nulo] Estatístca do Teste: Λ = D N D M χ 2 p, Regão Crítca: Ulateral dreto Rejetar H 0 se Λ calc > χ 2 α;p D N dca o Desvo do Modelo Nulo J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Selecção de Submodelos Tal como sucede o Modelo Lear, a escolha de um Submodelo adequado, que smplfque um Modelo com um grade úmero de varáves predtoras, pode ser determado por cosderações de dversa ordem No caso de ão haver dea préva de qual Submodelo propôr, a pesqusa completa da admssbldade dos 2 p 2 possíves Submodelos com k + 1 varáves predtoras, para qualquer k = 1 : p 1 coloca as mesmas dfculdades computacoas já cosderadas o estudo do Modelo Lear Nesses casos, é possível usar algortmos de de exclusão ou clusão sequecas ou métodos que alteram passos os dos setdos, semelhates aos usados o estudo do Modelo Lear, mas adoptado como crtéro para a clusão/exclusão de varáves a maor/meor redução sgfcatva que geram o Desvo A exclusão sequecal Por exemplo, o método de exclusão sequecal cosste em: car com o Modelo Completo de p varáves predtoras; verfcar qual a varável predtora cuja exclusão do modelo provoca o meor acréscmo do Desvo; proceder à sua exclusão, desde que esse acréscmo ão seja cosderado sgfcatvo pelo Teste de Wlks reajustar o modelo e repetr até ão haver varáves a exclur J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406

17 Algortmos sequecas o No, o comado aova forece a formação básca para efectuar um Teste de razão de verosmlhaças a Submodelos ecaxados dcado os submodelos como argumetos do comado; e os comados drop1 e add1 forecem a formação básca para proceder aos algortmos de exclusão/clusão sequecas de varáves predtoras, a escolha de Submodelos o comado step automatza os algortmos de selecção sequecal com base o teste de Wlks Desvos a Posso A log-verosmlhaça da Posso escrevedo ˆλ M apeas como ˆλ é: L M ˆβ M = ] ˆλ + y lˆλ ly! Como o Modelo Saturado ˆλ T = y, a sua log-verosmlhaça é: L T ˆβ T = A expressão do Desvo é etão: D = 2 D = 2 y + y ly ly!] y ly lˆλ y + ˆλ ] ] y y l y ˆλ ˆλ J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Desvos a Bomal/ A log-verosmlhaça da Bomal/, cujos valores y são as proporções de observações assocadas aos êxtos, sedo p a probabldade de êxto uma prova dvdual e escrevedo ˆp M apeas como ˆp é: L M ˆβ M = ] } ˆp { l1 ˆp + y l + l 1 ˆp y Num Modelo Saturado ˆp T = y, pelo que a substtução a expressão ateror dá: ] } y L T ˆβ T = { l1 y + y l + l 1 y y A expressão do Desvo é etão: D { ] } ˆp y = 2 y l l + l1 ˆp l1 y ] 1 ˆp 1 y Desvos a Bomal/ cot D = 2 {y l } 1 y + 1 y l ˆp 1 ˆp y Esta expressão cosdera que y são os valores da Bomal/ Caso se trabalhe com observações duma Bomal propramete dta, sedo x = y o úmero de êxtos a -ésma observação, assocada a experêcas, a expressão ateror pode ser re-escrta como D = 2 { x l x } x + x l, ˆµ ˆµ ode ˆµ = ˆp represeta a méda estmada para a observação J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Desvos e desvos reduzdos As expressões para os desvos calculadas até aqu são mas smples do que o caso geral, uma vez que as dstrbuções de Posso e Bomal/ têm parâmetro de dspersão costate φ = 1 a Posso ou cohecdo φ = 1/ a Bomal/ Mas, em geral, o parâmetro de dspersão φ ão é cohecdo, e tem de ser estmado a partr dos dados Uma medda alteratva de desvo resulta de admtr que a varação dos parâmetros de dspersão etre as observações dvduas obedece a uma estrutura específca Cocretamete, admte-se que: aφ = φ w, Desvos e desvos reduzdos Para uma dstrbução da famíla expoecal de dstrbuções, tem-se: L θ,φ = y θ bθ aφ ] + cy,φ O desvo correspodete, dcado pelas letras M e T os estmadores assocados ao parâmetro atural θ, e admtdo cohecdos os parâmetros de dspersão, vem: D = 2L ˆθ M L ˆθ T = 2 y ˆθ T ˆθ M bˆθ T bˆθ M ] aφ ] para costates w cohecdas e φ comum a todas as observações J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406

18 Desvos e desvos reduzdos cot Admtdo aφ = φ w, tem-se: D = 2L ˆθ M L ˆθ T = 2 w φ y ˆθ T ] ˆθ M bˆθ T bˆθ M ] É usual chamar-se à expressão completa D o desvo reduzdo scaled devace e reservar a expressão desvo devace para D, defdo tal que: ou seja, D = 2 w y ˆθ T D = D φ, ] ˆθ M bˆθ T bˆθ M NOTA: Na Posso e Bomal/, desvo e desvo reduzdo cocdem Desvo e desvo reduzdo a Normal A log-verosmlhaça da Normal, admtdo a varâca fxa e escrevedo ˆµ M apeas como ˆµ é: L M ˆβ M = y ˆµ 2 2σ 2 ] l σ 2π Num Modelo Saturado ˆµ T = y, pelo que a substtução a expressão ateror dá apeas: L T ˆβ T = A expressão do desvo reduzdo é etão: D = ] l σ 2π y ˆµ 2 σ 2 J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Desvo e desvo reduzdo a Normal cot Com a hpótese usual do Modelo Lear de que σ 2 = σ 2 = φ para todas as observações, o desvo da Normal vem: D = y ˆµ 2 = SQRE, ou seja, o desvo e a tradcoal Soma de Quadrados Resdual cocdem Desvo e desvo reduzdo a Gama Tem-se, a partr das expressões para D do Acetato 305 e para D do Acetato 306, e tedo em cota que θ = 1 µ, bθ = l θ = lµ, φ = 1 ν e aφ = φ = 1 ν : D = 2 y ˆµ ν l ˆµ y Admtdo que aφ = φ w, para algum cojuto de costates w, o desvo ão vem muto dferete apeas substtudo ν por w Com a hpótese da gualdade de parâmetros de dspersão as observações, fca-se com uma expressão mas smples para o desvo: D = 2 y ˆµ ˆµ l y ˆµ ˆµ ] ] J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 A estmação do parâmetro de dspersão A estatístca de Wlks para os testes a submodelos utlza os desvos reduzdos D No caso de compoetes aleatóras em que o parâmetro de dspersão φ ão seja cohecdo, tora-se ecessáro estmar o parâmetro de dspersão Admte-se que φ é gual para todas as observações, ou que é da forma φ = φ w para algum cojuto de poderações w A estmação pode ser feta de váras formas Uma cosste em utlzar o estmador de Máxma Verosmlhaça de φ Outro crtéro de estmação está assocado ao ome estatístca de Pearso geeralzada Para troduzr esta forma de estmar φ comecemos por defr o coceto de fução de varâca das dstrbuções da famíla expoecal Esperaças e varâcas a famíla expoecal de dstrbuções Em codções de regulardade bastate geras, as fuções de dstrbução da famíla expoecal de dstrbuções têm valor esperado dado por: e varâca dada por: EY ] = b θ, V Y ] = b θ aφ J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406

19 Algus exemplos 1 Na Normal, bθ = θ 2 2 ; logo b θ = θ e b θ = 1 aφ = σ 2, Como θ = µ, tem-se: 2 Na Posso, EY ] = b θ = µ e V Y ] = b θ aφ = σ 2 bθ = e θ ; logo b θ = b θ = e θ aφ = 1, Como θ = lλ, tem-se: EY ] = b θ = λ e V Y ] = b θ aφ = λ Algus exemplos cot 3 Na Beroull, bθ = l1 + e θ ; logo b θ = eθ e b θ = eθ 1+e θ 1+e θ 2 aφ = 1, Como θ = l p 1 p, tem-se: EY ] = b θ = p e V Y ] = b θ aφ = p 1 p 4 Na Bomal/, bθ = l1 + e θ ; logo b θ = eθ 1+e θ e b θ = eθ 1+e θ 2 aφ = 1, Como θ = l p 1 p, tem-se: EY ] = b θ = p e V Y ] = b θ aφ = p 1 p J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Algus exemplos cot As fuções de varâca 5 Na Gama, bθ = l θ ; logo b θ = 1 θ e b θ = 1 θ 2 aφ = 1 ν, Como θ = 1 µ, tem-se: EY ] = b θ = µ e V Y ] = b θ aφ = µ2 ν A expressão geérca para a varâca de uma observação de Y é o produto de duas fuções: b θ é apeas fução do parâmetro atural θ; aφ apeas fução do parâmetro de dspersão, φ b θ, é desgada a fução de varâca da dstrbução de Y J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Fuções de varâca cot Como se vu, as fuções de varâca das dstrbuções específcas cosderadas são: Normal: f V µ = 1; Posso: f V λ = λ; Beroull e Bomal/: Gama: f V µ = µ 2 f V p = p1 p; Extesões aos Modelos Leares Geeralzados resultam de escolher outras expressões para estas fuções de varâca, procurado acompahar evetuas afastametos das expressões acma dcadas Estmação do parâmetro de dspersão Uma forma de estmar o parâmetro de dspersão φ está assocado ao ome de Pearso: ode ˆφ = 1 p + 1 w y ˆµ 2 f v ˆµ ˆµ dca a estmatva do valor esperado de Y ; f v ˆµ dca a fução de varâca assocada à dstrbução; w dcam possíves poderações, Esta abordagem, proposta por Wedderbur, está lgada ao coceto de quas-verosmlhaça J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406

20 Exemplos de estmação de φ 1 Em modelos com varável resposta Normal, tem-se φ = σ 2 Tedo em cota que a fução varâca para esta dstrbução é f v µ = 1, e admtdo a gualdade de varâcas w = 1, ˆφ = ˆσ 2 = 1 p + 1 y ˆµ 2, que é o habtual Quadrado Médo Resdual da Regressão Lear 2 Em modelos com varável resposta Gama, tem-se φ = 1 ν Como f V µ = µ 2, tem-se ˆφ = 1ˆν = 1 p + 1 w y ˆµ 2 É possível mostrar que, em geral, se trata dum estmador asstotcamete cetrado de φ e umercamete estável J Cadma DM/ISA Modelação Estatístca II / 406 ˆµ 2 Estatístca de Pearso geeralzada Além dos desvo e desvo reduzdo, têm sdo utlzados outros crtéros de avalação do desempeho de um MLG A estatístca de Pearso geeralzada é defda como: χ 2 = w y ˆµ 2 f v ˆµ Para compoetes aleatóras Normas e admtdo gualdade de varâcas, é a habtual Soma de Quadrados Resdual SQRE Em geral, valores baxos da estatístca χ 2 dcam uma proxmdade global etre os valores de Y e os valores médos estmados, ˆµ, o que correspode a uma boa correspodêca etre os dados e o modelo ajustado J Cadma DM/ISA Modelação Estatístca II / 406 O AIC Resíduos e Valdação do Modelo O Crtéro de Iformação de Akake AIC defe-se, um MLG com p predtores e costate adtva, como AIC = 2 L ˆβ;Y + 2 p + 1 Quato meor o valor do AIC para gual varável resposta Y, melhor o ajustameto do modelo O AIC pode ser usado como crtéro de comparação de modelos e submodelos, para um mesmo cojuto de observações duma dada compoete aleatóra O coceto de resíduos, e = y ŷ, usado o Modelo Lear como ferrameta para a valdação das hpóteses subjacetes ao Modelo, tem de ser adaptado os MLGs, ode, dversamete do que acoteca os Modelos Leares, ão se cotempla a exstêca de erros aleatóros adtvos Em Modelos Leares Geeralzados utlzam-se dversos cocetos de resíduos, sedo os prcpas os resíduos de Pearso; e os resíduos do desvo J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406 Resíduos de Pearso Como base da dea de resíduos de Pearso está a comparação ormalzada etre valores observados de Y e correspodetes estmatvas dos seus valores esperados, EY ˆ ] = ˆµ Resíduos de Pearso Seja Y 1,Y 2,,Y uma amostra aleatóra de uma Compoete Aleatóra dum Modelo Lear Geeralzado Desga-se resíduos de Pearso de cada observação à raíz quadrada da cotrbução de cada observação para a estatístca de Pearso geeralzada: Resíduos de Pearso cot No deomador tem-se a raíz quadrada da fução de varâca assocada à observação Y correspodete A expressão para esta fução de varâca é dferete para cada dstrbução de Y Normal: Tem-se f v ˆµ = 1 O resíduo de Pearso é o habtual resíduo do Modelo Lear: r P = Y ˆµ r P = Y ˆµ w fv ˆµ Beroull: Tem-se f v ˆp = ˆp 1 ˆp O resíduo de Pearso é: r P = Y ˆp ˆp 1 ˆp As poderações w são utlzadas, por exemplo, o caso da Bomal/ J Cadma DM/ISA Modelação Estatístca II / 406 J Cadma DM/ISA Modelação Estatístca II / 406