APLICAÇÕES DOS MODELOS LINEARES MISTOS NA PESQUISA AGROPECUÁRIA ÉRICA MIRRE PEREIRA UNIVERSIDADE ESTADUAL DO NORTE FLUMINENSE DARCY RIBEIRO

Transcrição

1 PLICÇÕES DOS MODELOS LINERES MISTOS N PESQUIS GROPECUÁRI ÉRIC MIRRE PEREIR UNIVERSIDDE ESTDUL DO NORTE FLUMINENSE DRCY RIBEIRO CMPOS DOS GOYTCZES - RJ JUNHO

2 PLICÇÕES DOS MODELOS LINERES MISTOS N PESQUIS GROPECUÁRI ÉRIC MIRRE PEREIR Dssrtação aprsntada ao Cntro d Cêncas Tcnologas gropcuáras da Unvrsdad Estadual do Nort Flumnns Darc Rbro, como part das xgêncas para obtnção do título d Mstr m Produção Vgtal. Orntador: Profº JOSÉ TRCISIO LIM THIÉBUT UNIVERSIDDE ESTDUL DO NORTE FLUMINENSE DRCY RIBEIRO CMPOS DOS GOYTCZES - RJ JUNHO

3 FICH CTLOGRÁFIC Prparada pla Bblotca do CCT / UENF 69/ Prra, Érca Mrr plcaçõs dos modlos lnars mstos na psqusa agropcuára / Érca Mrr Prra.. 9 f. Orntador: José Tarcso Lma Thébaut Dssrtação (Mstrado m Produção Vgtal Unvrsdad Estadual do Nort Flumnns Darc Rbro, Cntro d Cêncas Tcnologas gropcuáras. Campos dos Gotacazs, RJ,. Bblografa: f Estrutura d modlos lnars mstos. Componnt d varânca 3. Dlnamnto ntramnt casualzado 4. Dlnamnto bloco casualzado 5. Programas SS I. Unvrsdad Estadual do Nort Flumnns Darc Rbro. Cntro d Cêncas Tcnologas gropcuáras. II. Título. CDD 63.74

4 PLICÇÕES DOS MODELOS LINERES MISTOS N PESQUIS GROPECUÁRI ÉRIC MIRRE PEREIR Dssrtação aprsntada ao Cntro d Cêncas Tcnologas gropcuáras da Unvrsdad Estadual do Nort Flumnns Darc Rbro, como part das xgêncas para obtnção do título d Mstr m Produção Vgtal. provada m 8 d Junho d. Comssão xamnadora: Prof. lssandro Coutnho Ramos (Ph.D., Produção Vgtal (UVV ES Prof. Graldo d maral Gravna (D.Sc., Ftotcna - UENF Prof. Rogéro Fgurdo Dahr (D.Sc., Produção Vgtal - UENF Prof. José Tarcíso Lma Thébaut ( D.S.c., Produção nmal UENF ORIENTDOR

5 os mus pas, Erasmo(n mmorm Mara da Concção; os mus rmãos Elton Marana o mu sobrnho João Vtor ao mu mor ; Ddco.

6 GRDECIMENTO Dus, qu m colocou ond stou m faz vncr qualqur obstáculos da Vda. Nossa Snhora parcda qu star smpr m cobrndo com su manto SGRDO. À Unvrsdad Estadual do Nort Flumnns Darc Rbro (UENF ao Cntro d Cêncas Tcnologas gropcuára (CCT, pla oportundad d ralzar ao curso d Pós Graduação m Produção Vgtal por tda a nfra-strutura ofrcda. o Conslho Naconal d Dsnvolvmnto Cntífco Tcnológco (CNPq, pla concssão da bolsa d studos. o técnco Júlo Mrlhs (LEG, pla atnção, força, srndad, amzad dsponbldad d m audar a qualqur hora. o profº Gravna por toda orntação, confança amzad. o profº Thébaut, plo aprndzado.

7 mnha FMILI, a qual smpr tm o apoo, ncntvo, amor comprnsão m todos os momntos, prncpalmnt na dfculdad qu tv durant todo o curso. mnha mada Mã, qu smpr m auda m tudo. o mu cunhado Kao a mnha rmã Marana qu abrram os braços m acolhram m sua rsdênca. os mus tos Déco Elan qu m acolhram m sua rsdênca plas caronas. o Lnlton, por todo carnho, amor, comprnsão, auda, confança apoo durant sss mss fnas. o Hldfonso Elana d Mmoso pla agradávl amzad convívo durant as dscplnas. o Tólogo Parapscólogo PE. Glbrto Robrto Slva pla auda orntação prstada na mnha Vda. v

8 SUMÁRIO RESUMO... BSTRCT. v v. INTRODUÇÃO.... REVISÃO BIBLIOGRÁFIC ESTIMDORES REML Htrogndad da Varânca Conxdad d dados MTERIL E MÉTODOS Estruturação dos Modlos Lnars Mstos Obtnção Drvação das Equaçõs dos Modlos Mstos Componnt d Varânca RESULTDOS E DISCUSSÃO v

9 4. Fatoral no Dlnamnto Intramnt Casualzado Fators Fatoral no Dlnamnto Intramnt Casualzado 3 Fators Exprmntos nnhados Fatoral nnhado Exprmnto com Fator nnhado Exprmnto Fatoral nnhado Parcla Sub-Dvdda (SPLIT-PLOT Programas Gns Dlnamnto Intramnt Casualzado Dlnamnto Em Blocos Casualzados Compltos Esquma Fatoral Complto Em mbos Dlnamntos Mnconados ntrormnt, Quando Os Dados Estão Balancados Esquma Em Parcla Sub-Dvddas Em mbos Os Dlnamntos Mnconados ntrormnt, Quando Os Dados Estão Balancados Programa SS Fatoral Bloco Casualzados I Fatoral Bloco Casualzados II Fatoral Bloco Casualzados III RESUMO E CONCLUSÃO REFERÊNCIS BIBLIOGRÁFICS v

10 RESUMO Prra, Érca Mrr Prra; M.Sc.; Unvrsdad Estadual do Nort Flumnns Darc Rbro. Junho,. PLICÇÕES DOS MODELOS LINERES MISTOS N PESQUIS GROPECUÁRI. Orntador: José Tarcíso Lma Thébaut. Coorntador: Graldo d maral Gravna. Os modlos mstos são tradconalmnt studados com o uso do procdmnto da análs d varânca, quando os componnts d varânca são stmados pla solução d um sstma lnar d quaçõs. Para a análs dos modlos lnars mstos, alguns pontos são rlvants: a prdção dos ftos alatóros, tsts stmação dos componnts d varânca, stmação tsts d hpótss para os ftos dfndos como fxos. Na anals dos modlos lnars mstos dsbalancados, o problma não é tão smpls o uso do pacot statístco SS (Statstcal nalss Sstm pod sr utlzado, dmandando um volum maor d conhcmnto tórco, m razão da opção pla strutura da matrz d varânca covarânca da scolha do método d stmação dos componnts. No procdmnto MIED stão dsponívs os métodos ML Maxmum Lklhood, REML (Rstrctd Maxmum Lklhood MIVQUE (Mnmum Varanc Quadratc Unbard, dscrtos rspctvamnt por (Hartl & Rao, 967, (Rao, 97 (Pattrson & Thompson, 97. Para uso otmzado do SS ncssáro também qu s dfna o tpo d soma d quadrados mas adquado: ss, ss, ss3 ou ss4, sgundo o SS. Por suas proprdads, o método REML é o mas ndcado, para dados com dsbalancamnto, a soma d quadrados do tpo ss3 dv sr scolhda. Quando v

11 dos dados stão balancados, os quatro tpos d soma d quadrados aprsntam os msmos rsultados. v

12 BSTRCT Th mxd modls hav bn tradtonall studd b mans of varanc analss n whch varanc componnts ar stmatd b a lnar modl soluton. For mxd modl analss som ponts ar rlvant: th prdcton of random ffcts, tsts upon and stmaton of varanc componnts, and stmaton and tsts of hpothss upon fxd ffcts. In th analss of unbalancd lnar mxd modls th problm s not that smpl and th us of th SS program (SS Sstm Inc., Car, NC, US s prfrabl, whch dmand a propr undrstandng of th thortcal background bcaus of a propr modlng of th structur of th varanc-covaranc matrx and th choc of th stmaton mthod ar rqurd. In th MIED procdur ar avalabl th ML (Maxmum Lklhood, REML (Rstrctd Maxmum Lklhood, and MIVQUE (Mnmum Varanc Quadratc Unbasd as dscrbd rspctvl b(hartl & Rao, 967, (Rao, 97, and (Pattrson & Thompson, 97. For an optmzd us of SS t s rathr ncssar to dfn th approprat tp of sum of squars: SS, SS, SS3, or SS4. Bcaus of ts proprts th us of REML s rcommndd and for unbalancd data th SS3 tp s th approprat choc. Wth balancd data th four tps of sum of squars ld th sam rsults. x

13 . INTRODUÇÃO o s stablcr um modlo statístco obtva-s buscar a xplcação d uma ou mas varávs dpndnts por mo d ftos fxos ou alatóros. Dsta forma, o êxto da modlagm stá drtamnt lgado às struturas d varâncas covarâncas das varávs alatóras qu, nos modlos lnars mstos, vão sr xplcadas por fators alatóros, após a lmnação dos ftos fxos da caractrzação dos ftos rsduas. Os modlos lnars, nos parâmtros, possum plo mnos um fto alatóro dsgnado por rro xprmntal. S o modlo aprsnta todos os dmas ftos fxos l é dnomnado d modlo lnar fxo. Quando o modlo lnar aprsnta, além do rro xprmntal, outros ftos alatóros m comum com outros ftos fxos, além da méda, dnomnado d modlo msto. Nos modlos lnars mstos, a análs d varânca aprsnta algumas pculardads qu dvm sr mnconadas. composção das spranças matmátcas dos quadrados médos prmt a struturação corrta dos tsts d hpótss, caso o ntrss sa a stmação dos componnts d varânca, os métodos foram amplamnt stablcdos por (Hndrson, 953, (Rao, 97, (Hartl & Rao, 967 (Pattrsson & Thompson, 97. Em 953, Hndrson aprsntou os métodos I, II III d stmação dos componnts d varânca. O método da máxma vrossmlhança fo aprsntado por (Hartl & Rao, 967. O método d Estmação Quadrátca Não Vsada d Norma Mínma (MINQUE fo aprsntado por (Rao,97 97a. Em 97, Rao

14 aprsntou o Método d Estmação Quadrátca Não-Vsada d Varânca Mínma (MIVQUE. Também m 97, Pattrsom & Thompson aprsntaram o método da Máxma Vrossmlhança Rstrta (REML d stmação dos componnts d Varânca. Os modlos lnars fxos foram amplamnt studados, m nívs d complxdad dvrsos, por (Sarl, 97, (Rao, 97, (Gra Bll & NETER, 976, dntr outros. Exst um grand númro d lvros, abordando aspctos tórcos, aplcados a conunto d dados balancados dsbalancados. Os studos dos modlos lnars mstos foram mplmntados d forma ntnsva após trabalhos d (Sarl, 98, (Wolfngr, 993 (Lttl at. al.,996. Com o dsnvolvmnto do PROC MIED do SS (Lttl at.al., 996 a mtodologa aplcada aos modlos lnars mstos tornou-s mas usual sgura. Os modlos lnars d mlhoramnto anmal vgtal, prncpalmnt os modlos d anmas, ond há uma struturação d parntsco, possbltam a prdção d valors gnétcos (ftos alatóros, por mos dos BLUP s. Os modlos lnars mstos possbltam a prdção d valors gnétcos alatóros, por mo dos BLUP s (BEST LINER UNBISED PREDICTION, na prsnça d ftos fxos. O procdmnto é d mportânca rlvant, possbltando a slção d novos ndvíduos para a composção d rbanhos, consdrando os dados d pas avós, m stuaçõs ond o dsbalancamnto é a rgra qu torna o problma muto mas complxo.

15 3. REVISÃO BIBLIOGRÁFIC (Smth & Grasr,986 propusram a lmnação d construr um conunto d sub-rotnas, utlzando o conhcmnto tórco dsponívl, formataram o programa DFREML (Drvat Fr Rstrctd Maxmum Lklhood para a stmação d componnts d varâncas m modlos lnars mstos. (Boldman & Van Vlck, 99, adaptando o algortmo lvr d drvadas, proposto por (Smth & Grasr, 986, dsnvolvram novo algortmo acoplando o método d fatoração d Cholsk ao conunto d matrzs rstrtas SPRSPK, dsnvolvdo por (Gorg t al., 98, para a obtnção da matrz d (covarânca d únca ou múltplas caractrístcas scrvram o conunto d sub-rotnas qu compõm o programa MTDFREML (Multpl Trat Drvat Fr Rstrctd Maxmum Lklhood. Com o obtvo d rduzr o tmpo d computação d dados grar programas mas fcnts, (Mr, 993 ncorporou ao programa DFREML a fatoração d Cholsk o conunto d sub-rotnas SPRSPK, para a opraconalzação d matrzs sparsas, consqüntmnt, da matrz dos cofcnts ou matrz C. Outros métodos d stmação dos componnts d (co varâncas, com dfrnts graus d vés nvarânca à translação, sgundo (Vrnqu, 994, são: o métodos dos stmadors não-vsados d norma mínma MINQUE (Mnmum Norm Quadratc Unbasd Estmaton, dsnvolvdo por (RO, 97a, o método da stmação não-vsada d mínma varânca quadrátca MIVQUE

16 4 (Mnmum Varanc Quadratc Unbasd Estmaton, dsnvolvdo por (RO, 97a, 97b, o método da máxma vrossmlhança ML (Maxmum Lklhood, dsnvolvdo por (Hatl & RO, 967, o método da falsa sprança PEM (Psudo Expctaton Mthod, dsnvolvdo por (Schaffr, 986, o método R (994 dscrto por (Goldn t al., 994, o método da stmação d varâncas por mo das vrossmlhanças ntgradas, com bas na statístca Basana, VEIL (Varanc Estmaton Intgratd Lklhood, dsnvolvdo por (Ganola & Foul, 99. suprordad no mprgo dos prdtors BLUP m slção massal fo vrfcada por (Kuhlrs & Knnd, 99, qu não sofrm os ftos das ampltuds d varação nos ftos do ambnt m grupos contmporânos. O msmo BLUP fo, também, obsrvado por (Qunton t L., 99. Entrtanto, para valors baxos d ndogama por gração, a slção massal fo supror. ssm os autors concluíram qu os programas d mlhoramnto qu otmzam ganhos m curtos spaços d tmpos, com procdmntos qu podm grar lvada ndogama, podm não sr vávs a longo prazo. (Kuhlrs & Knnd, 98 conclurão pla suprordad do dscart sltvo, com rdução do ntrvalo d graçõs, quando assocado ao método BLUP. (Sornsn, 988 concluu qu o método BLUP fornc nformaçõs sufcnts para comparar ndvíduos d graçõs dfrnts, apsar d aprsntar tndêncas à substmação dos valors gnétcos m anmas novos.. ESTIMDORES REML Sgundo (Sarl, 98; (Sarl t al., 99; (Schaffr, 978 (Pattrson & Thompson, 97, consdrando o modlo lnar msto para uma caractrístca: Y b +Z g +,m qu: vtor d dmnsão (n x d obsrvaçõs mddas m n anmas, matrz d dmnsão (n x p ou d ncdênca d p ftos fxos, b vtor coluna d dmnsão (p x ou d parâmtros dsconhcdos d ftos fxos,

17 5 Z matrz d dmnsão (n x n ou d ncdênca d valors gnétcos, matrz dagonal com ou na dagonal prncpal, ndcando s a caractrístca fo mdda ou não no anmal, g vtor d dmnsõs (n x d Valors Gnétcos vtor d dmnsão (n x d rsíduos s prssuposçõs da dstrbução conunta dos vtors (, g, são dscrtas como: ' xb ZGZ + R g N φ, GZ φ R ZG G φ R φ R, m qu: G x G o R I x R o matrz do númro do cofcnt d parntsco ntr os ndvíduos d dmnsõs (n x n, I matrz Idntdad d ordm n, G o matrz d varânca gnétca adtva. R o matrz d varânca rsdual. n númro d anmas da amostra. S q caractrístca múltplas são consdradas, as matrzs R o G o srão smétrcas d ordm q dnomnadas rspctvamnt d varâncas (covarâncas gnétcas adtvas varâncas (covarâncas rsduas das q caractrístcas múltplas. O obtvo, m qualqur stuação, é stmar R o G o. Quando os vtors, g têm dstrbução conunta normal multvarada, os vtors b g são stmados prdtos, rspctvamnt, por: b [ R *[ R R R Z(Z R Z(ZR Z+ G Z+ G Z R ZR ] ] gˆ ( Z R Z + G Z R ( b, m qu:

18 6 G R I G o R s matrzs á dfndas antrormnt oprador do produto drto das matrzs. Para q caractrístcas múltplas a função dnsdad d probabldad do vtor é: f ( (π nq / ZGZ + R,5,5 [( b ( ZGZ + R ( b ] transformação logartmo Nprano d f( é dada por: LN [f(] (-,5 n q LN ( π,5 LNZGZ +R-,5 [ (ZGZ + R - (ZGZ + R - b + b (ZGZ + R - b] transformação acma pod sr dsdobrada m duas parclas: LN[f(] LN[f(] dnomnadas, rspctvamnt, por logartmo nprano da função dnsdad probabldad dos contrasts ortogonas ntr os ftos fxos logartmo nprano da função dnsdad probabldad dos contrasts ortogonas ntr os ftos alatóros. LN [f(] -,5 p[x] LN(π -,5 LN[ (ZGZ + R - ],5 { (ZGZ + R - [ (ZGZ + R - ] IC (ZGZ + R - - (ZGZ + R - [ (ZGZ + R - ] IC (ZGZ + R - b + b (ZGZ + R - [ (ZGZ + R - ] IC (ZGZ + R - b} LN [f(] -,5 p {k [k (ZGZ + Rk ] K} LN (π,5 LNK (ZGZ + RK,5 { K [K(ZGZ + R k ] - K}, m qu: LN [f(] logartmo nprano da função dnsdad probabldad dos contrasts ortogonas ntr os ftos fxos, portanto, constant lvr d drvação por não nflur nos componnts;

19 7 LN [f(] logartmo nprano da função dnsdad probabldad dos contrasts ortogonas ntr os ftos alatóros; p ndcação d posto da matrz; K é a matrz quadrada dos contrasts ortogonas ntr os ftos alatóros; Para a stmação dos componnts d (Co varânca, apnas a parcla LN[p(] forncrá as drvadas m rlação aos lmntos das matrzs R o G o no ponto xtrmo da função d vrossmlhança, todas as drvadas srão dntcamnt nulas. LN[ f ( ],5tr{ K [ K( ZGZ + R KR ] KRK [ K( ZGZ + R K ] K φ φ para [,q] LN[ f ( ],5tr{ K [ K( ZGZ + R K ] KR K [ K( ZGZ + R K ] K } +,5 K [ K( ZGZ + R K ] KR } +,5 K [ K( ZGZ + R K ] LN[ f ( ],5tr{ K [ K( ZGZ + R KG ] KGK [ K( ZGZ + R K ] g φ K φ LN[ f ( ],5tr{ K [ K( ZGZ + R K ] KG g g K [ K( ZGZ + R K ] K para í todo [,q] para [,q] KG para í todo [,q], m qu: } +,5 K [ K( ZGZ + R K ] } +,5 K [ K( ZGZ + R K ] R Z Q R Z Q í G Q ( ZΑZ

20 8 G ( ZΑZ Q Fazndo as smplfcaçõs nas ( C p + q drvadas parcas sabndo qu K [ K( ZGZ + R K ] K P é o protor ortogonal da part alatóra das obsrvaçõs no spaço coluna da matrz : m qu: P b tr( PR PRP tr( PR PR P tr( PG PGP tr( PG PG Z matrz d ncdênca (n x n da caractrístca [,q]; Q matrz (q x q qu contém na posção (, nas dmas posçõs; Z matrz d ncdênca smultâna (n x n das caractrístcas ; Q matrz (q x q qu contém nas posçõs smétrcas d ; nas dmas posçõs; Outra forma da matrz P é: P (ZGZ + R - - (ZGZ + R - [ (ZGZ + R - ] c (ZGZ + R - P (ZGZ + RP P Fazndo ZGZ + R V, trmos: PVP [V - - V - ( V - IC V - ] V [V - - V - ( V - IC V - PVPV - - V - ( V - IC V - -V - ( V - IC V - +V - ( V - IC V - *( V - IC V - Sndo ( V - gnralzada nos lvará à gualdad: P matrz smétrca, a scolha aproprada da nvrsa ( V - IC ( V - IC ( V - ( V - IC PVPV - - V - ( V - IC V -

21 9 PVP P, trmos: tr (PR tr [P(ZGZ + RPR ] tr (PR tr [P(ZGZ + RPR ] tr (PG tr [P(ZGZ + RPG ] tr (PG tr [P(ZGZ + RPG ] trmos: para todo í [,q]. Fatorando os sgunts mmbros das ( C p + q quaçõs acma tr( PR ts tr ( PR t s tr( PG t g s tr ( PG t g s M q M q s g gg M g M gq gq tr( PRPR tr( PRPR M t tr( PRPR tr( PRPG tr( PRPG M tr( PRPG q q todo [,q], R R G G

22 tr( PRPR tr( PRPR M tr( PRPR( q q tr( PR t PRq tr( PRPRG tr( PR PRG M tr( PRPR( q q tr( PRPRq D forma análoga para t g t g. Na forma matrcal o sstma é: Ts v, m qu: t t M t ( q q t q T M t g t g M t ( q qg t qg PRP PRP M PR qp M PR( q qp v PRqP PGP PGP M PG P q M PG ( q qp PGqP s soluçõs para o vtor s são obtdas tratvamnt: -obtr os lmntos T v, com stmatvas ncas d s; -Rsolvr o sstma obtr novas aproxmadamnt para s; 3-Rptr o procdmnto até a obtnção da convrgênca. Matrcalmnt a função d vrossmlhança quando o vtor tm uma dstrbução normal multvarada é dada por:

23 f ( (π,5n V,5 xp(,5[( b v ( b] Ond, N n + n + L+ n q tamanho. N nq s todos os grupos d htrogndad d varânca tm o msmo No REML, quando um grupo d contrasts K, quando posto [ p( ] N. K φ K tm f ( k (,5[ Np( x] KVK,5 xp(,5[( K ( KVK transformação logartmo nprano d f(ký é dada por: ( K ] [ N p( ] LN( (,5 LNKVK (,5[ K( KVK K ] LN[ f ( ] (,5 π constant (-,5[N-p(] LN( π não ntrfr nos componnts d (Covarânca pod sr gnorado. Sarl (97 dmonstrou qu: LN K VK LNV+LN V - K( KVK K P ( b V ( b LN[ f ( K ] (,5 LN V (,5 LN V (,5[( b V ( b ] Quando D são matrzs d msma ordm, portanto, o produto é possívl, ntão: D D V V ZGZ + R ( R( I + R ZGZ Quando R - ZGZ dmpotnt: V V V R R( G R I + ZR G + Z R + Z R Z G Z G Z G, consqüntmnt, tm-s: LN V LN R + LN G + Z R Z + LN G

24 Para matrzs quadradas não sngulars: Q BD D BQ D BQ D B Q D D Q B S D são matrzs dntdad: B Q I BQ I BQ I QB I s θ é uma constant ou scalar: m θ θ, quando m é a ordm da matrz. Da msma forma, para: + G Z R Z R Z Z R R C ( ( R Z G Z R Z Z R R G Z R Z C + + fazndo, ( ( R R R R S IC V G Z R Z C SZ Z G R C + + Como + G Z R Z LN C LN V LN com as smplfcaçõs: [ ] P C LN G LN R LN K f LN (,5 (,5 (,5,5 ( ( o LN N I LN R LN ( q g LN G LN + + G SZ Z LN R LN C LN

25 3 LN R LN R Z SZ + G LN LN p( x LN ( Z MZ + G LN[ ( p( x ( Z MZ + G LN C LN p( LN ( + LN Z MZ + G LN[ f ( K ] (,5( N p( x q LN(,5 ] q g LN( (,5 LN C* (,5 P qu é o LN da parcla da função d vrossmlhança, sm a constant, qu afta os componnts d varânca. C * matrz d (Co varânca d é Z Z Z Z + G V q ZZ g + I E o protor da forma quadrátca P é P IC V V ( V ` `V Drvando parcalmnt [ f ( k` ] s, sgundo SERLE (97: LN [ f( K` ] g LN m rlação a cada (,,..., q obtém (,5 tr( P +,5 PP, para todo [,q] tr( PZZì Co tr g q 4 tr ( P [ N p( ] q (ĝ ĝ g Do sstma d quaçõs normas, obtém a solução abaxo.

26 4 `R Z`R b * O `R Z + Z`R Z G ĝ b o `R Z`R Y [ R R Z( Z`R Z + G Z`R ] IC { ` } * [ R R Z( Z`R Z + G Z`R ] { ` } b O ( V ` ( V `, Solução múltpla obtda drtamnt do sstma d quaçõs normas, qu concd com a aprsntada por (Schaffr, 993. Sndo, P ( V V ( `V `V b ( V ` ( V ` Em contnudad à solução do sstma d quaçõs normas, obtém o rsultado para os valors gnétcos prdtos, m qu: O ĝ ( Z` R Z+ G Z`R ( b Hndrson, ctado por (Schaffr, 993, aprsnta a solução. ĝị GZ`P, m qu: P V ( b Hndrson dmonstrou também, qu a forma quadrátca. q q PP b g Z g gˆ α ` ` ` ˆ ` ˆ E, no ponto d máxmo da função d máx-vrossmlhança, trmos: ˆ g [ ĝ ĝ + tr(c ]/ q ( ˆ ` P / N p(

27 5. HETEROGENEIDDE D VRIÂNCI procupação com os ftos da htrogndad d varânca, m classs d ftos fxos, fz com qu (Lush, 933 rcomndass a produção d anmas nos locas d uso dsss anmas, quando os gns dsávs têm maor probabldad d s xprssar. maor xprssão dos gns d ntrss, favorc a obtnção d stmadors mas acurados prcsos. ssm, varaçõs gnétcas ou ambntas stão rlaconadas com o dsmpnho dos anmas (Dckrson, 96. (Falconr, 95 du níco ao studo das corrlaçõs gnétcas ntr as caractrístcas fnotípcas m ambnts dstntos, concluu pla sgnfcânca da ntração gnótpo ambnt: o mlhor gnótpo m um ambnt pod não sr tão bom m outro ambnt. (Robrtson t. al., 96 rcomndam a comparação das hrdabldads, m classs d ftos fxos, como forma d vtar as altraçõs na classfcação d anmas submtdos à slção. No mlhoramnto anmal, a slção d anmas tm sdo pratcada m dtrmnadas condçõs ambntas. Em caractrístcas lmtadas plo sxo, a stmatva dos valors dos pas é obtda consdrando o dsmpnho dos flhos, nst caso, é mportant caractrzar o ambnt ond as progêns stão atuando, bm como a dstrbução dlas nos város ambnts. Por xmplo, a smlhança ntr flhos d um rprodutor, m um dtrmnado rbanho, é o rflxo tanto da covarânca ambntal ntr mo-rmãs, como da ntração gnótpo ambnt (Mr, 989 (Short t L., 99. covarânca ambntal ntr mo-rmãs patrnas é função d fators bológcos, d mano, até msmo statístco, como a não rmoção do fto d rbanho, d outro fator fxo ou d um modlo nadquado para a stmação dos valors gnétcos (Mr, 987. S o fto da ntração rprodutor-rbanho for consdrado no modlo lnar d avalação gnétca, a avalação d progntors é mnos acurada prcsa m poucos rbanhos. ntração pod não aftar sgnfcatvamnt a avalação d rprodutors, com progêns m város rbanhos, como é o caso d rprodutors utlzados na nsmnação artfcal. Ignorar a ntração pod sgnfcar a supr stmação da acuráca nas avalaçõs, prncpalmnt, quando

28 6 poucos rbanhos são consdrados. Quando as dfrnças ntr progêns d um msmo rprodutor não são as msmas m dfrnts rbanhos, a ntração rprodutor rbanho, pod não sr sgnfcatva s a htrogndad d varâncas xplcarm part dssas dfrnças. Varâncas htrogênas ntr rbanhos aumnto da varânca assocados ao aumnto d médas d caractrístcas produtvas mportants, têm sdo vrfcadas m váras oportundads por város autors (Mr, 987, (Boldman & Frman, 99, (Dong & Mad, 99, (Stanton t. al, 99, (Dodnhoff & Swalv, 998, (Torrs, 998. Sgundo (Torrs, 998, quando a htrogndad d varânca não é lvada m conta, mbora prsnt, a produção das flhas d rprodutors dvrão sr pondrada plos dsvos padrão dos rbanhos qu as contém. s flhas orundas d rbanhos com varâncas maors nfluncarão mas a avalação d rprodutors. Os vss srão maors, na slção das mãs, quando las tndm a xprssar suas caractrístcas m um únco rbanho. (Brskn & Lush, 965 concluíram qu os rsultados da avalação d rprodutors m rbanhos d alto nívl, podm não star d acordo com avalação d rprodutors, no tst d progêns, m rbanhos d baxo nívl d produção. Msmo qu o númro d dados sa nsufcnt para a stmação dos componnts d varâncas, rbanhos smlars têm sdos agrupados os componnts têm sdo obtdos dntro d cada grupo (Mrand & Van Vlck, 985. Os studos vdncaram a xstêncas d varâncas htrogênas ntr os dfrnts ambnts. (Mohammad t. L.,98 stmaram os valors gnétcos d rprodutors para a produção d lt com modlos rprodutors com ou sm a ntração rprodutor-rbanho ntração rprodutor-pso dal d novlhas. corrlação d SPERMN ntr os modlos com sm ntração foram sgnfcatvos, ndcando qu não houv altração, também, sgnfcatva na ordnação dos valors gnétcos prdtos nos város modlos utlzados. (Van Tassl & Brgr, 994, com dados smulados, studaram as consqüêncas da lmnação da ntração rprodutor-rbanho da matrz d

29 7 parntsco na stmação dos componnts d varânca m três casos dstntos d dstrbução d flhas nos rbanhos. Os componnts d varânca foram stmados plo método das stmatvas quadrátcas não-vsadas d varânca mínma (MIVQUE. Quando o parntsco ntr os rprodutors fo lmnado, as varâncas do fto d rprodutor da ntração rprodutor-rbanho tndram à substmação, quando os rprodutors ram mas próxmos. varânca atrbuída aos rprodutors fo suprstmada quando, no modlo lnar, a ntração rprodutor-rbanho não fo consdrada. Para os dados rsultants d nsmnação artfcal, quando não fo consdrada a matrz d parntsco, a varânca da ntração rprodutor-rbanho fo substmada. O fto da ntração rprodutor-rbanho quando as varâncas ntr rbanhos ram htrogênas, ss dfrnts combnaçõs d htrogndads d varâncas ntr rbanho ano - stação foram smuladas. Quando a caractrístca não é nfluncada pla ntração rprodutor-rbanho a acuráca das stmatvas d valors gnétcos pod sr substmada. (Spk & Frman, 976 vrfcaram a mportânca da acuráca na avalação gnétca anmal. Concluíram qu com o aumnto da acuráca dfnda como a fcênca do procsso d avalação na dntfcação das dfrnças obsrvadas nos fnótpos, a mudança gnétca sprada fo amplada sgnfcatvamnt. (Oala t. al., 984, trabalhando com dados smulados, avalaram o fto do númro d amostras nas classs rbanho-rprodutor, sobr a acuráca da avalação gnétca. Os rsultados dmonstraram qu a acuráca das stmatvas mlhora sgnfcatvamnt quando o númro d amostras aumnta d para 3 obsrvaçõs por class. O aumnto d númro d progêns por rprodutor tv, no ntanto, maor fto sobr acuráca..3 CONEIDDE DE DDOS Sgundo (Sarl, 97 para modlos fxos d classfcação cruzada, a conxdad ntr os dados xst quando todas as funçõs lnars ntr dos nívs dos fators consdrados são stmávs, ou sa, quando xstm obsrvaçõs m todas as combnaçõs d nívs ou classs d fators. Nos

30 8 modlos mstos, s a prssuposção d sprança dos ftos alatóros, dntro d nívs dos ftos fxos não s vrfca, as comparaçõs ntr os ftos alatóros m dfrnts nívs dos ftos fxos srão vsadas. smulação d dados tm sdo usada com frqüênca m studo d problmas d conxdad o fto na avalação gnétca anmal, nos dvrsos tpos d modlos lnars. (Tong t al., 98, (Knnd, 975, 988, 99 (nalla t. al., 995 foram alguns dos grupos qu trabalharam com smulação nos problmas d conxdad dos dados xprmntas. (Foull t al., 987 dscutram o mpacto da conxdad m rlação ao tpo d modlo, fxo ou msto, utlzado o fto nas proprdads d um stmador d mérto gnétco, não-vsado com quadrado médo do rro mínmo. Sgundo os autors, o problma d conxdad rstrng o uso do método dos quadrados mínmos rgrddos, quando há falta d conxdad o procsso tratvo é ntrrompdo. Quando a mtodologa dos modlos mstos é convnntmnt aplcada, o sstma d quaçõs normas smpr aprsntará solução, sm lvar m conta o grau d conxdad. (Schnkl, 99 avalou as vantagns do uso dos modlos mstos quando o problma d conxdad xst. Nos modlos mstos o procsso faz com qu as soluçõs dntro d grupos dsconctados somm zro não provoqum a qubra do procsso d convrgênca. tora do índc d slção só admt comparaçõs ntr anmas d um msmo grupo contmporâno ou qu compartlham o msmo momnto rprodutvo. O método dos quadrados mínmos prmt a comparação ntr grupos contmporânos, quando xst a conxdad dos dados. O fto d três tpos d falta d conxdad m um modlo lnar com fators classfcatóros sobr a stmação dos componnts d varânca, usando o método da stmação quadrátca não-vsada d norma mínma (MINQUE. O autor concluu qu a falta d conxdad acarrta a falta d assocação dos graus d lbrdad com as váras formas quadrátcas. nda sgundo (Schnkl, 99, parc mprópro stmar os componnts d varânca sm ants lmnar as subclasss dsconctadas. Em pqunos grupos d dados o problma é dtctado d mdato, mas, para um grand volum d dados, o problma não é

31 9 vdncado pod sr a causa d ocorrênca d stmatvas ngatvas dos componnts d varânca.

32 3. MTERIL E MÉTODOS Os dados qu srão utlzados no prsnt trabalho, m razão d sua formatação tórca ddátca, srão smulados m função do modlo lnar msto stablcdo. 3. Estruturação dos modlos lnars mstos Matrcalmnt, um modlo lnar msto fo dscrto por (Harvll, 977 por (Lard & War, 98 como: β + Zv+, m qu: É um vtor das obsrvaçõs conhcdas, com n lnhas; É a matrz d ncdênca dos ftos fxos, portanto conhcda, d n lnhas (p+ colunas; β É um vtor dsconhcdo dos ftos fxos, com (p+ lnhas; Z Matrz d ncdênca dos ftos alatóros, portanto conhcda, com n lnha q colunas; v É um vtor dsconhcdo dos ftos alatóros, com q lnhas; É um vtor dos rros alatóros, também dsconhcdo, com n lnhas;

33 n é o númro d obsrvaçõs da varávl alatóra dpndnt; p é o númro d parâmtros dos ftos fxos. q é o númro d parâmtros dos ftos alatóros. Os q ftos alatóros os n rros são consdrados normal ndpndntmnt dstrbuídos com méda zro matrzs d varâncas covarâncas dadas, rspctvamnt, por G R. Por hpótss, as matrzs G R são postvas dfndas não sngulars dfndas com: ' vv E v Var G ' E Var R ssm sndo: R Φ Φ G v Var + + Zv β Var V Var + + Var Zv Var β Var V ( ' ( ' n n I Var I Z v ZVar Φ V + + R ZGZ V + '

34 matrz V é, também por hpóts, postva dfnda não sngular. E E β+ Zv+ ( E ( E β + EZv + E β + ZE v + E ( ZEv β + + E E Φ v E ( Φ E β méda Portanto, dsta forma, o vtor β varânca gual a (Z G Z + R. é alatóro, com dstrbução normal d N β, ZGZ ' +R N β, V ssumndo qu os ftos alatóros v, com,,..., q tm dstrbução normal com méda zro matrz d varâncas covarâncas I( n, para,,..., q I( n : V q ' zz +I( n ou V q ' z z, quando o z z' o I

35 3 Para ncar a formatação das matrzs d um modlo msto, vamos supor ncalmnt um dlnamnto m blocos casualzado com tratamnto fxo o fto d bloco alatóro, sgundo o quadro tórco d dados dado abaxo. BLOCO TRTMENTO Modlo lnar: b t m Matrcalmnt: Zv + β t t t t m 4 3 β Z b b b v

36 4 Um outro xmplo, d complxdad maor, vamos supor 3 formatação d adubo 4 gnótpos, sgundo um squma fatoral 3*4, no dlnamnto ntramnt casualzado com rptçõs. Modlo lnar: fg g f m k k Em qu: formulação d adubo é fxo gnótpo é alatóro.matrcalmnt, trmos: Zv + β+,,3,,3,4 k, Consdrando o quadro tórco d dados, as matrzs srão dadas por: G FR f f f m β

37 5 ntração ntr um fto fxo um fto alatóro é, também, um fto alatóro, dsta forma trmos: No contxto d modlo msto, as dfrnças possum componnts fxos alatóros. Φ Z fg fg fg fg fg fg fg fg fg fg fg fg g g g g v

38 6 3. Obtnção drvação das quaçõs dos modlos mstos obtnção do sstma d quaçõs normas dos modlos lnars mstos pod sr fta com a mnmzação da soma d quadrado dos rros ou com a maxmzação da função dnsdad d probabldad conunta dos vtors v. dmtndo a dstrbução normal do vtor, a função dnsdad d probabldad g é dada por: ( ( R ZGZ n R ZGZ g + + ' ' ' β β π Também o vtor v tm dstrbução normal com função dnsdad d probabldad: ( Φ Φ ' v G v G n π v g função dnsdad d probabldad d conunta dos vtors v, dada por:,v g * v g v g

39 7 3.3 Componnt d varânca Quando é uma varávl alatóra contínua dp é a sua dfrncal d probabldad, a sprança matmátca d, rprsntada por : E ( x dp, m qu : dp s proprdads da sprança matmátca são: Esprança matmátca da constant c E (c c dp c dp c Esprança matmátca do produto c. E(c c dp c dp ce( 3 S Y são duas varávs alatóras contínuas: + E ( Y (+ Y dp dp+ Y dp E( + E(Y 4 S Y são ndpndnts: E(Y Y dp dp Y dp E(.E(Y E ( é o qu dnomnamos d prmro momnto da varávl alatóra contínua m rlação à orgm. Então, o n-ésmo momnto d m rlação à orgm é dado por: E( n n dp, para n,,,... O prmro momnto m rlação à orgm é a méda da dstrbução d. E ( dp µ x

40 8 Com bas nas dfnçõs dos momntos m rlação à orgm, stablcrmos os momntos m rlação à méda ou m rlação à sprança da varávl alatóra contínua. O n-ésmo momnto da varávl alatóra contínua m rlação à E ( é dado por: n [ E( ] n [ E( ] dp E O sgundo momnto da varávl alatóra contínua, dnomnado d Varânca d, é dado por: [ E( ] [ E( ] E [ E( + E (] dp µ E( µ x x dp+ µ E( [ E( ] dp dp x dp covarânca ntr duas varávs alatóras contínuas Y é dada por: Cov( Y Cov( Y Cov( Y Cov( Y E(Y E{[( E(].[(Y E(Y]} E{(Y E(Y YE( + E(.E(Y} E(Y E(E(Y E(YE( + E(E(Y E(Y E(E(Y Cov(Y + E(.E(Y Em função da quarta proprdad da sprança matmátca d, s Y são lnarmnt ndpndnts: E (Y E(.E(Y, ntão: Cov ( Y, para Y lnarmnt ndpndnts. Com as dfnçõs dos momntos m rlação à méda da dstrbução d, obtm-s as proprdads da V (. V(c E(c V(c c V(c c [ E(c ] [ E( E( ] V(

41 9 Quando c é uma constant. [ ] [ + Y E( E(Y ] V(+ Y E (+ Y E(+ Y V(+ Y E V(+ Y E{[ E(] + [Y E(Y]} V(+ Y E[ E(] + E[Y E(Y] V(+ Y V( + V(Y + Cov(Y + E{[ E(].[Y E(Y]} D forma análoga, obtrmos: V( Y V( + V(Y Cov(Y V(ax+ b a V( + b V(Y + abcov(y, quando a b são duas constants dfrnts d zro. O produto algébrco ab dvrá sr smpr consdrado. varânca d uma função lnar da varávl contínua srá ntão stablcda como: V(a + a a K K V( a a V( + a V( a K V( K + a a Cov(, + a a Cov(, a a 3 K 3 K K Cov( K K Portanto, com c K xprssõs d covarânca. ssm sndo, para o modlo statístco do dlnamnto ntramnt casualzado: + m+ t, m qualqur stuação: m é fxo é alatóro, para,..., v,..., r. Dsta forma: E (m m E (m m E( E( V( Os rros são, para fto d tst, normas ndpndntmnt dstrbuídos com méda varânca.

42 3 NID(, O modlo do dlnamnto ntramnt casualzado é fxo quando t é um fto fxo alatóro quando t é um fto alatóro. Para o modlo do dlnamnto m blocos casualzados: m+ t + b +, m qualqur stuação: m é fxo, é alatóro, para,..., v,..., r. O modlo do dlnamnto m blocos casualzados srá consdrado fxo quando t b form ftos fxos. Então: E (m m E (m m E( E( V( E (t, t E (t v t t E (b, b E (b b b r O modlo do dlnamnto m blocos casualzados srá consdrado alatóro quando além d m fxo alatóro, t b form ambos os ftos alatóros. E (m m E (m m E( E( V( E(t, E(t V(t t E(b, E(b V(b Quando t é fxo consdrado Msto. b b é alatóro ou quando t é alatóro b é fxo o modlo é

43 3 Quando o xprmnto contém m suas parclas um númro dtrmnado d sub-parclas ou amostras o modlo para o dlnamnto ntramnt casualzado é, dfndo como: m+ t + +, m qu: k k t é o fto d tratamnto. é o fto rsdual ntr ou rro xprmntal. k é o fto rsdual dntro ou rro amostral. Quando a análs é fta consdrando o total ou a méda das parclas, dxa-s d lado uma nformação mportant qu é a varação dntro da parcla. Com a varação dntro da parcla o psqusador pod ftuar o dmnsonamnto da parcla qu prmtra dzr s o númro d amostras dntro da parcla fo sufcnt ou não. Supondo:,...,a,..., b, trmos k,...c Causas d Varação G.L Tratamnto Rsíduo ntr a - a(b - ab - a (Parclas Rsíduo dntro (ab ab(c- abc - ab Total abc -

44 3 SQTrat bc a..... abc SQ R sduo SQ R sduo ntr c dntro a b. bc a b c a k c.. k a b. Consdrando o modlo alatóro, trmos: m- fto fxo: E (m m, E (m m t,, k- ftos alatóros. t NID(, t NID(, k NID(, E(t E( E( k E(t V(t t E( V( E( k V(k Para a ddução das spranças d quadrados médos d Tratamnto, Rsíduo ntr Rsíduo dntro, consdramos os ftos do modlo da análs não corrlaconada, dsta forma, trmos: E a b c k a b c k E(m+ t + + k k a b c k [E(m + E(t + E( + E( k + E(dp] (dp duplos produtos

45 a a b c k k b a... c t bc m abc E abc abc E [ ] E(dp abc abc c ab m c b a abc abc E t t... c bc abcm abc E D forma análoga, obtm-s: t a.. ac abc abcm bc E +Ι + + t a b ab abc abc abcm c. E Então: a.. abc... bc E (SQTratamnto E t (a c(a bc(a (SQTratamnto E + + a b a... bc c E ntr E(SQ R síduo a(b ac(b ntr (SQ Rsíduo E + a b c k a b. k c E dntro (SQ Rsíduo E ab(c dntro (SQ Rsíduo E

46 34 pós a dvsão plos rspctvos graus d lbrdad, obtm-s o sstma lnar para o cálculo dos stmadors dos componnts d varânca utlzando os quadrados médos da análs statístca do modlo. E(QM Rsíduo dntro E(QM Rsíduo ntr c + E(QMTratamnto bc t + c + varânca da méda gral do xprmnto srá: V(... V(mˆ t a + ab + abc Vˆ (mˆ (bcˆ c ˆ ˆ t + + abc Vˆ (mˆ QMTratamnto abc Com o quadro da NOV abc VT Causas d Varação G.L QM E(QM Tratamnto(T (a - VT + c + bc t Rsíduo Entr(RE a(b - VRE + c Rsíduo Dntro(RD ab(c - VRD Obsrva-s qu o rsíduo aproprado para o tst da H : é o rsíduo ntr: F cal VT VRE t

47 35 Da msma forma, o rsíduo aproprado para o tst do rsíduo ntr (RE: H : é o rsíduo dntro. F cal VRE VRD Para o msmo modlo statístco, com o fto d tratamnto fxo (modlo fxo a altração do quadro da anova acontc para tratamnto. Causas d Varação G.L QM E(QM Tratamnto(T (a - VT + c +Φ t Rsíduo Entr (RE a(b - VRE + c Rsíduo Dntro (RD ab(c - VRD Na aplcação do tst F a modfcação ocorr na hpóts H : t (fto fxo. o F cal VT VRE Nst caso: V(... V(mˆ abc + ab abc E(QM R síduo ntr Vˆ (mˆ QMRE abc Como o procsso ddutvo é trabalhoso, (Hcks, 973 crou rgras para a obtnção das E(QM nos modlos balancados. Para xplcar as rgras dsnvolvdas por (Hcks, 973, vamos consdrar o modlo do squma fatoral d dos fators, no dlnamnto ntramnt casualzado.

48 36 m+ fa + fb + fab + k k,,...,a,,..., b k,,..., r dmtndo o modlo alatóro, trmos: E (m m E(fa E(fb E(fab E( k E (m E(fa E(fb E(fab m a b ab E( k Os quadros dvrão sr montados na ordm sgunt: Quadro Quadro das fonts d varação do modlo. Fonts fa fb fab (k * (* os índcs são colocados ntr parêntss para ndcar qu a varação é dntro d. Quadro complmntar o quadro ncal, crando a part supror da tabla com os índcs dos ftos do modlo, classfcando-os com as ltras F para ftos fxos ou alatóros com o númro d classs ou nívs d cada índc.

49 37 a b c k fa fb fab (k Quadro 3 Em cada coluna lnha, adconamos o númro d obsrvaçõs na qual o índc da coluna não aparc. a b c k fa fb fab (k a b c c c Quadro 4 Nas lnhas ond os índcs aparcm ntr parêntss, adconar nas colunas rfrnts a sss índcs.

50 38 a b c k fa b c fb a c fab c (k Quadro 5 Nas combnaçõs d lnhas colunas m branco do quadro 4, adconar s o fto for alatóro ou Ф s o fto for fxo. a b c k fa b c fb a c fab c (k Quadro 6 Para a obtnção da E(QM da lnha: 6. Cobrr as colunas corrspondnts aos índcs qu aparcm na lnha do fto. Quando o índc aparc ntr parêntss, não cobr as colunas. 6. Multplcar os númros d obsrvaçõs ntrnos da tabla, m cada lnha. Os produtos srão os cofcnts dos componnts da varânca do fto. soma dos produtos consttum a E(QM da rspctva lnha.

51 39 Dvm sr lmnadas da soma, todas as parclas qu não contnham o índc do fto a qu s rfr a E(QM. ai b c E(QM k fa fb fab (k a B c c c + c + c + c fab fa fa + c + c + c fb fab fb + bc + ac + c fab fa fb E(QMfa + c fab + bc fa E(QMfb + c fab + ac fb E(QMfab + c fab E(QM R síduo Para o msmo modlo com todos os fators fxo, o rsultado srá: a b c F F k fa fb fab (k Bk ak k Φ fa Φ fb Φ fab

52 4 Em qu: Φfa a fa (a Φfb b fb (b a fab Φfab (a(b Φ fa, análs. b Φfb Φfabsão funçõs quadrátcas d cada um dos ftos consdrados na Um caso sclarcdor para a formatação do sstma lnar qu prmtra a dtrmnação dos componnts d varânca pod sr dsnvolvdo consdrando, por xmplo, quando amostras para a análs d rsíduos tóxcos são xtraídos d cada uma das 4 localdads, para a análs d fcênca d 5 métodos. Cada amostra é dvdda m 5 parts cada part é analsada sgundo um dos 5 métodos. Três dtrmnaçõs são ftas m cada uma das 5 parts. L fto da localdad, l,,3,...,l 4 l fto da amostra dntro d localdad,,,3,...,a L l M fto do método,,,3,..., 5 LM l fto da ntração d Local Método. M L l fto da ntração d mostra Método dntro d localdad. D fto da Dtrmnação ( k,,...,k 3 dntro da classfcação k LM l cruzada d mostra, Localdad Método.

53 4 Para o modlo: m+ L + L + M + LM + M L + D l l l l k LM l O quadro da análs d varânca para cada font d varação rspctvos graus d lbrdad srá: Font d Varação Grau d Lbrdad Localdad (L mostra/localdad (/L Método (M M *L (*M / L Dtrmnação(D / (*M/L ( l 4 3 ( a l (4 76 ( l (5 4 ( (l 4 *3 l (a ( 4((5 34 la (k 4((5(3 8 Total Corrgdo ( lak 99 Com as rgras stablcdas antrormnt consdrando o modlo alatóro, trmos:

54 4 Font d Varação D /(M / L k M / L ak LM lak M k / Lka L L (N /L (N (N (N M (N (N LM (N (N (N M / L (N (N (N (N D / M/L O ndca qu o componnt da coluna ra compor a sprança do quadrado médo da font d varação. Da msma forma, o (N ndca qu o componnt não partcpara da sprança do quadrado médo da lnha. Dvrmos obsrvar anda: S um dtrmnado fto for consdrado fxo, havrá a ncssdad da lmnação d algum componnt na sprança do quadrado médo. O componnt da mnor subclass aparcrá m todas as spranças. 3 Um componnt d ntração ntr um fto fxo um alatóro não aparcrá na sprança d um fto alatóro. rgra é dfnr quas os ftos qu são fxos para qualqur componnt, qu não sa ao rfrnt à mnor subclass, dsconsdrar todos os subscrtos à squrda da prmra barra: S qualqur um dos subscrtos rmanscnts rprsntar fto fxo, o componnt não aparcrá na sprança daqul quadrado médo. Nst xmplo, consdrando método (M como fxo os componnts para a sprança d quadrado médo d Localdad ncalmnt dfndo como: D /(M / L + k M / L+ ak LM+ k / L+ ka L

55 43 Consdrando os rmanscnts, com Localdad é um fto alatóro, a sprança para o quadrado médo Localdad srá: D(M / L + k / L+ ka Consdrando o quadro d spranças d quadrado médo das fonts, lstado antrormnt, trmos duas modfcaçõs s o método (M é fator fxo. k M / L srá lmnada da sprança matmátca da font /L. L Em lugar d lak M, aparcrá lakφ M. ΦM 4 M 4 ΦM função quadrátca. Quando consdramos qu undads amostras são mddas m 4 classs do fator, por mo d 3 classs do fator B por mo d 3 classs do fator C, starmos falando d: (4(3(3 36 dados Os fators, B C aprsntam ftos cruzados sgundo o modlo: m+ + B + C + B + C + BC + BC + kl k k k k Dl / BC k Em qu: fto do fator,,,..., a 4. B fto do fator B,,,..., b 3. C fto do fator C, k,,..., c 3. k B fto cruzado d com B. C fto cruzado d com C. k BC fto cruzado d B com C. k BC fto cruzado d, com B C. k

56 44 Dl / BC k fto da amostra dntro das combnaçõs d BC, l,,..., d. Font d Varação Grau d Lbrdad B B ( a 4 3 ( b 3 ( a (b 6 C k ( c (3 C k ( a (c 6 BC k BC k Dl / BC k ( b (c 4 ( a (b(c abc (d 34 Total Corrgdo abcd 359 Para o modlo alatóro. m+ + B + B + C + C + BC + BC + kl k k k k Dl / BC k ESPERNÇS QUDRDO MÉDIO Font d Varação D / BC BC 4 BC 4 C C 4 B B 9 (N (N (N B (N (N (N B (N (N (N (N (N C (N (N (N C (N (N (N (N (N

57 45 BC (N (N (N (N (N BC (N (N (N (N (N (N D/BC Consdrando B C como fators fxos, os componnts qu srão lmnados nas spranças d quadrados médos da váras fonts stão crculados no quadro abaxo: Font d Varação D / BC BC 4 BC 4 C C 4 B B 9 (N (N (N B (N (N (N B (N (N (N (N (N C (N (N (N C (N (N (N (N (N BC (N (N (N (N (N BC (N (N (N (N (N (N D/BC E(QM D / BC D / BC VE(QM VE(QM VE(QM BC BC C D / BC+ D / BC+ D / BC+ 4 BC BC+ 4ΦBC C E(QM C D / BC+ 4 C+ ΦC VE(QM VE(QM VE(QM B B D / BC+ 4 D / BC+ 4 D / BC+ 9 B B+ ΦB

58 46 Dsta forma, o quadrado médo ˆ D / BC va tstar as fonts BC, C, B,, O quadrado médo da font B srvrá para tstar a font B. font BC srá tratada com o Quadrado Médo da font BC, nquanto a font C srá tstada com o quadrado médo da font C, com os rspctvos graus d lbrdad. obtnção dos componnts d varânca, com mutos crtéros d classfcação com classs subclasss aprsntando númros dfrnts d obsrvaçõs (dsbalancamnto é fta utlzando o algortmo dsnvolvdo por L.H.Waddll é um procsso dfícl dmorado. Dsta forma, não comntarmos a obtnção dos componnts d varânca, no caso d dsbalancamnto, muto comum m análs d dados no mlhoramnto anmal.

59 47 4. RESULTDOS E DISCUSSÃO Os dados para a dscussão sobr componnts d varânca srão smulados com o obtvo d dscutr város casos modlos d dlnamnto. Incarmos d um caso mas smpls comum Fatoral no dlnamnto ntramnt casualzado fators. Consdrando o modlo statístco: m+ + B + B +, m qu: k k,,3,...,a,,3,..., b k,,3,..., r Fxo latóro Msto a b B ΝΙD(, B a B B ΝΙD(, B ΝΙD(, a b B B ΝΙD(, B B ΝΙD(, B Fator com (a - graus d lbrdad: SQ a..... br abr

60 48 Fator B com (b - graus d lbrdad: SQB b..... ar abr Intração B com (a - (b - (ab a b + graus d lbrdad: a b a b ²..... SQB + r br ar ²... abr Rsíduo (abr - (a - (b - (a (b - abr - ab SQ R sduo a b r k k a b. r Por ddução ou com as rgras d Hcks (973 para xprmntos balancados obtm-s o quadro da NOV: Causas d Varação G.L SQ E(QM (a - SQ + r B + rbφ B (b - SQB + r B + ar B B (ab - a - b+ SQB + r B Rsíduo (abr - ab SQRsíduo Hpótss Ho: Ho:, para todo,,..., a Ho: B Ho3: B O rsíduo aproprado para as H H é o Quadrado Médo da Intração B com (ab a b+ g.l. O rsíduo aproprado para a H3 é o Quadrado Médo do Rsíduo, com (abr - ab g.l.

61 49 Quadro d Dados B B B 3 B 4 B B B 3 B 4,3 4,8 5,3 6, 3, 6, 8, 5,,5 5, 5,8 6,9 3,8 6,8 9, 6, Quadro NOV Causas d Varação G.L SQ QM F 5,55 5,55,4 B 3 37,485,4947 4,6 B Rsíduo 3 8 8,45,87,747,3375,6 ˆ,3375 ˆ + ˆ ˆ B B,747,4

62 5 ˆ ˆ + ˆ + ˆ B B + 4ˆ ˆ B + 8Φ B Φˆ,4947,445 5,55,54337 Φˆ a  (a  ( Φˆ,54337 Â, 54337, m qu Φ é uma função quadrátca. Obs: s stmatvas d B, B,, Φ são aprsntadas na undad dos dados ao quadrado. Os stmadors d componnts d varânca são não tndncosos (E( como podmos obtr Vˆ ( ˆ, podmos obtr o ntrvalo d confança para ao nívl α d probabldad. Também Vˆ ( ˆ é stmador não tndncoso: E(Vˆ ( ˆ V( ˆ Um fto consdrado fxo tm as conclusõs aplcadas apnas ao matral xprmntal, não consttu uma amostra d uma população. Já o fto alatóro, como é uma amostra d uma população, as conclusõs vão caractrzar a população d trabalho, s a amostra é statstcamnt rprsntatva da população. O msmo xmplo fo rsolvdo com o programa Gns, plcatvo Computaconal m Gnétca Estatístca, dsnvolvdo na Unvrsdad Fdral d Vçosa. O rsumo da saída é aprsntado abaxo podmos lstar as altraçõs qu dvrão sr dtadas:

63 5 O fator, por s tratar d um programa aproprado ao mlhoramnto gnétco vgtal, é dnomnado mbnt. O fator B é dnomnado Tratamnto a Intração B por Trat MB. 3 Os valors d somas d quadrado stão corrtamnt calculados, nclusv o tst F aprsntando valors calculados com o rsíduo corrto para os tsts Ho, Ho Ho3. 4 ˆ B Componnt d varânca gnotípca, ˆ B Componnt d varânca gnótpo x ambnt,4 6 ˆ Varânca rsdual, Não aprsnta a stmatva Φ ˆ, Rsultado da Saída do Programa GENES rquvo d dados: C:\Documnts and Sttngs\dmnstrador\Mus documntos\eric EEMPLOS TESE\ERIC\GENES\ERIC.prn Modlo : Yk m + G + + G + Ek PRÂMETROS GENÉTICOS Componnt d varânca gnotípca.445 Componnt d varânca gnot.xambnt.4 Varânca rsdual.3375 Hrdabldad(méda - % Corrlação ntraclass (* Cof. varação gnétco (% 8.65 Razão CVg/CV 3.34

64 Fatoral no dlnamnto ntramnt casualzado 3 fators. Consdrando o modlo statístco: m+ + B + B + C + C + BC + BC + kl k k k k kl,,,3 k,,3 l, B B B 3 B B B 3 C, 4, 6,4 4,5 7,3 5,,3 4,7 7, 5, 7,9 6, C 3,6 5, 8, 8, 8,4 7, 4, 5,8 8,4 8,8 8,6 6,8 C 3 5, 7,4 7,5 6,4 7, 6,6 5,4 7,8 7, 7, 7,6 6,8

65 53, bm como B,BB3, são slconados ao acaso o xprmnto m mnsurar C,C C3 dntro das combnaçõs B, portanto, C é fxo. ΝΙD(, B ΝΙD(, B C k B BC B C ΝΙD(, C ΝΙD(, BC ΝΙD(, k BC kl ΝΙD(, ΝΙD(, 3 k k BC Fator com grau d lbrdad. SQ Fator B com graus d lbrdad. SQB Fator C com graus d lbrdad. SQC 3 k Intração..k B com graus d lbrdad. 3 3.k......k.... SQB Intração SQBC 3 k BC k com 4 graus d lbrdad. 3.k. 4 k k k SQTotal 3 3 k l kl SQ R sduo 3 3 kl k l k 3 3 k.

66 54 Causa d Varação G.L SQ E(QM SQ B 8 B SQB B B B SQB + 6 B C SQC Φ BC 6 C 4 BC C SQC BC 4 SQBC BC 4 SQBC Rsíduo 8 SQRsíduo + + BC BC 4 + BC C BC Hpótss Ho: Ho: Ho : Ho3 : Ho4 : Φ Ho5 : Ho6 : Ho7 : B B C C BC BC O rsíduo aproprado para os tsts d Ho Ho é QMB. O rsíduo aproprado para o tst d Ho3 é o QMRsíduo. 3 O rsíduo aproprado para o tst d Ho5 Ho6 é o QMBC. 4 O rsíduo aproprado para o tst d Ho7 é o QMRsíduo. 5 Não xst um rsíduo aproprado para o tst d composto. C l dvrá sr

67 55 Ho4 E(QMC+ QMBC QMBC Rsdo ap./ + BC + 6 C + + BC + 4 BC BC + BC + 6 C + 4 BC, (QMC+ QMBC QMBC Com nho4 QMC QMBC QMBC ( + ( + ( 4 4 Graus d Lbrdad. 6 análs rtrata o caso d uma parcla sub-dvdda com os fators B alatóros m fatoral x3 nas parclas, com o fator C fxo na sub-parcla, no dlnamnto ntramnt casualzado com duas rptçõs. S todos os fators form fxos havrá um rro para tstar o qu stá na parcla (os fators, B B, portanto com o rsíduo, um rsíduo para o qu stá na sub-parcla (o fator c, as ntraçõs C, BC BC, portanto com o rsíduo. Quadro NOV Causa d Varação G.L SQ (QM F 4,44 4,44,3 (ns B,567,57583,83 (ns B 5,55,765 9,89 (* C,667,883 5,< F (,,5 (ns

68 56 C 5,5367,76583,57 (ns BC 4 4,567,54,64 (ns BC 4 7,583,76458,7 (* Rsíduo 8,5,3889 Composção do Rsíduo para tst da Ho 4 Rsíduo/ Ho 4, ,54,76458,667 nho (,667,76583,54,76458 ( + ( + ( ,575,863 nho 4,,883 F <,667 (, cal 5, F,5 Conclusõs: o nívl d 5% d probabldad, plo tst F, são actas as hpótss: Ho,Ho,Ho4,Ho5,Ho6. Da msma forma, são rtadas as hpótss: Ho 3 Ho7. ˆ,3889 ˆ + ˆ ˆ BC BC,76458,884

69 57 ˆ + ˆ BC + 4ˆ ˆ BC BC,54,54, ˆ BC,5979 ˆ BC como é ngatvo é uma stmatva d zro, portanto, não sgnfcatva. ˆ + ˆ BC + 6ˆ ˆ C C,76583,76583, ˆ C,6688 ˆ + ˆ BC + 6ˆ C + 4ˆ BC + Φˆ Φˆ Φˆ C C C,883,883,667,7468 ˆ + 6ˆ ˆ B B,765,393 ˆ + 6ˆ B + ˆ B ˆ B,57583,36444 ˆ B é também uma stmatva d zro. ˆ + 6ˆ B + 8ˆ ˆ 4,44,939 Uma stmatva ngatva d um componnt d varânca ( é ndcatvo d um problma amostral. O sprado é qu o componnt sa no mínmo gual a zro. O programa GENES, voltado para análs d modlos lnars aplcados ao mlhoramnto anmal, não aprsnta opção para a solução do modlo conform o qu fo formulado:

70 58 3 nívs fators B alatóros o fator C fxo, m dntro do fatoral d com B, fatoral (x3 no dlnamnto ntramnt casualzado com rptçõs. 4.3 Exprmntos annhados fatoral annhado Exprmnto com fator annhado. B B B 3 B 4 B 5 B 6 B 7 B 8, 4,3 5,3 7, 4, 6, 8,,,8 4,9 6, 7,9 5, 6,6 9,, (. (. 3(. 4(. 5(. 6(. 7(. 8(.....,,,3,4 k, m+ + B + k ( k( cma tmos os dados d um xprmnto, também no dlnamnto ntramnt casualzado, ond é fxo (tpo máquna B é alatóro (tpo oprador. SQTotal 4 k k , SQ ,4 6

71 59 Para SQB ( ( Para. 6,65 SQB 4 ( ( ,95 SQB / 68,7 SQ R síduo SQTotal SQ SQB(,35 Quadro NOV Causa d Varação G.L SQ (QM F Fator 3,4 3,4 78,43 Fator B 6 68,7, ,99 Rsíduo 8,35,9375 Total 5 94,

72 6 Causa d Varação G.L E(QM + B + 8Φ B + B Rsíduo 8 Total 5 ˆ,9375 ˆ + ˆ ˆ B B,4533 5,5798 ˆ + ˆ B + 8Φˆ Φˆ 3,4,4483 O programa SEG rsolv st problma quando a NOV é fta. O programa fo prparado para rsolvr problmas como st porqu é smlhant a um clássco do mlhoramnto anmal ond o fator é Touro o fator B annhado m é vaca. varávl é consttuída ntão por uma caractrístca mdda na progên. Como vsto, não xst um programa statístco, nm o SS, capaz d lbrar os valors d componnts d varânca quando solctado. Tmos d aprndr a tora o método prátco stablcdo por (Hcks, 973 para sm, utlzar o programa. É bom lmbrar qu stamos trabalhando com xprmntos balancados. Com o dsbalancamnto, as dfculdads são aumntadas Exprmnto fatoral annhado. m+ + B + B + C + C + kl K( K( l(k

73 6,,,3 k,,3, para cada l,, para cada,,k B são fators tomados como fxos. C é fator alatóro, amostra d uma população. C k( C k l(k 3 3 B B ΝΙD(, ( ΝΙD(, ΝΙD(, C Com o método prátco d (Hcks, 973 obtém s as spranças d quadrado médo do quadro abaxo: Causa d Varação G.L SQ E(QM SQ + + Φ C 8 B B SQB SQB Φ C + + Φ C 6 B B C k( SQC k( + 4 C C k( k( SQC + C Rsíduo 8 SQ l(k Total Corrgdo 35 O rsíduo aproprado para tstar o fator é o quadrado médo da ntração C k(

74 6 Ho : Φ O rsíduo aproprado para tstar o fator B, também fxo, é o quadrado médo do fator C k(. Ho : Φ B 3 O rsíduo aproprado para tstar o fator B também é o quadrado médo da ntração C k( Ho : Φ B 4 O rsíduo aproprado para tstar C k( C k( é o quadrado médo do rsíduo. Ho : Ho : C B B B 3 C C C 3 C C 4 5 C 6 C 7 C 8 C 9, 4,3 3,6 3,8 4, 5, 3,8 3,,8,5 5, 3,8 4, 3,7 3,8 4, 3,4,7,,3,,4,3,,4,,3,4,8,8,6,5,3,6,,4

75 63 Quadro NOV Causa d Varação G.L SQ QM F 44, ,6669,3 * B,97,4586,35 ns B,39,59,5 ns C 6 7,9467,344 5,33* C 6,667,4378 5,7 * Rsíduo 8,555,864 ˆ ˆ * Sgnfcatvo plo tst F, ao nívl d 5% d probabldad.,864 + ˆ ˆ C C,4378,757 ˆ + 4ˆ C ˆ C,344,395 ˆ + ˆ C + 6Φˆ, Φˆ B B,59,59 Φˆ B,7 ˆ + 4ˆ C + Φˆ B,4586,344+ Φˆ B Φˆ B,4586,7

76 64 ˆ + ˆ C + 8Φˆ, Φˆ Φˆ 44, ,6669,457 Conclusão: Para ˆΦ, C rta - s H ao nívl d 5% d probabldad Parcla sub-dvdda (splt-plot klm m+ R l + + R l + B + RB l + B + RB l + C k + RC kl + C k + RC kl + BC k + RBC kl + BC k + RBC kl + B são fators fxos:,,...,a. a b a b B B k l m(kl,,...,b. C,R E são alatóros: k,,...,c C R k l Em C BC RC BC RB RC ΝΙD(, RBC ΝΙD(, RBC ΝΙD(, Em ΝΙD(, ΝΙD(, (kl k k lk ΝΙD(, ΝΙD(, ΝΙD(, ΝΙD(, k (kl R C BC RC ΝΙD(, ΝΙD(, ΝΙD(, RC RBC BC RB RBC l,,...,d m,,, Quando a b c d l 4 n 4 * 4 64 obsrvaçõs.