Capítulo 2. Modelos Mistura de Regressão para Variáveis Normais (2.52)

Transcrição

1 p = λ f ( y β, Δ ) λ f ( y β, Δ ) (.5) Coidera-e o cao de uma úica obervação para cada uidade eccioal (i.e., a abordagem propota por Dearbo e Cro 988) como um cao epecial do método propoto (Ramawamy et al., 993)..4 ítee cocluiva Dado que ete trabalho e etuda a problemática da elecção do úmero de egmeto de mercado quado ão uado modelo mitura de regreão para variável depedete ormal, o Capítulo foi apreetado o modelo mitura de regreão propoto por Dearbo e Cro (988) que é um cao geral do modelo de Wedel e Dearbo (995), aim como a dua exteõe para o cotexto multivariado, deevolvida por Ramawamy et al. (993) e por Dearbo et al. (99). Exemplo de aplicaçõe a egmetação de mercado divulgada a literatura com modelo mitura de regreão para variávei ormai cotam da Tabela.9. Ete tipo de modelo ão de utilização geeralizada em etudo de egmetação de mercado, em grade parte dada a ua dipoibilidade em programa comerciai, como, por exemplo, o GLIMMIX (primeiro programa) e o Latet Gold (líder actual). ão obtate o deevolvimeto metodológico ocorrido em termo de modelização e etimação dete tipo de modelo e a ua frequete utilização, a problemática da elecção do úmero de compoete da mitura i.e., de egmeto de mercado quado e utiliza ete tipo de modelo cotiua em aberto. o Capítulo 3 ão orgaizada e decrito o critério utilizado ou com potecial de utilização o forecimeto de pita para a elecção do úmero de egmeto quado ão uado modelo mitura de regreão. 69

2 Da epecificação codicioal em (.49) coclui-e que e uma uidade eccioal pertece ao paiel, etão a etrutura da relaçõe etre a variávei explicativa e a variável depedete é repreetada pelo vector de parâmetro β e a matriz de variâcia e covariâcia Δ. Tal equivale à defiição de um modelo liear geeralizado para cada paiel. A partir de uma amotra de uidade eccioai, é poível defiir a fução de veroimilhaça (.50) e a fução de veroimilhaça logaritmizada (.5): L λ π = Δ = T ( ) exp ( ) y Xβ Δ ( y Xβ ) (.50) ou log L= log,, = λf ( y X β Δ ) (.5) Dado o valore de y, X e o valor de, pretede-e etimar o eguite parâmetro: ( ) proporçõe mitura, o vector de coeficiete = ( ) β β,..., β e a matriz de variâcia e covariâcia Δ = ( Δ,...,Δ ) para cada egmeto. Para o efeito é maximizada a fução (.50) ou (.5), ujeita à codiçõe epecificada em (.4); adicioalmete, Δ deverá er uma matriz defiida poitiva, imétrica, de forma a e obterem etimativa coitete do parâmetro. A etimação do modelo mitura de regreão com dado em paiel para variávei depedete ormai é efectuada atravé da implemetação do algoritmo EM (Dempter et al., 977). A probabilidade poteriore de perteça ao paiéi (para cada uidade eccioal) podem er calculada uado a regra de Baye (codicioal a etimativa para o parâmetro obtida) como: 68

3 Coidere-e a eguite otação adicioal: =,..., uidade eccioai t =,..., T período de tempo p =,..., P variávei explicativa = valor da variável explicativa p o período t para a uidade eccioal X pt (( X pt) ) X = matriz do valore da variávei explicativa p o período t, para cada uidade eccioal y t = valor da variável depedete métrica para a uidade eccioal o período t y = y vector de obervaçõe da variável depedete y para o coumidor ( ) t Δ = matriz de variâcia e covariâcia para o paiel (egmeto) Δ= ( Δ,..., Δ ) ' ( βp ) β = vector de parâmetro para o paiel (egmeto) ( ) β= β,..., ' β Como forma de capturar a heterogeeidade eccioal potecial ão obervada, Ramawamy et al. (993) propõem a etimação imultâea de uma etrutura de paiéi múltiplo e do coeficiete de regreão para cada paiel. Dete modo, upõem a exitêcia de paiéi latete, de tal forma que a relação etrutural detro de cada paiel é decrita por um vector de parâmetro epecífico dee paiel. Coidere-e que o vector y e ditribui de acordo com uma mitura de deidade ormai multivariada (.48): f (,, ) λf(, ) y λβδ = y β Δ (.48) em que: T T (, ) = ( ) exp ( ) Δ ( ) f y β Δ π Δ y X β y X β (.49) 67

4 em que = ( λ λ ) λ,,..., λ ão proporçõe mitura idepedete da mitura fiita ujeita à retriçõe (.4). Cada (.44). f em (.43) é defiido a partir de uma ditribuição multivariada codicioal f J ( ) ( ) ( ' Σ = π ) Σ ( ' ) y β, exp / ' y Xβ y Xβ (.44) Dado uma amotra de coumidore idepedete, é poível formar a expreão da fução de veroimilhaça (.45): J ' ' L λ( π) = exp / ( j ) ( j ) ' y X β Σ y X β (.45) = ou log L= log, = λf( y β ) (.46) Depoi da etimativa de λ, Σ e β terem ido obtida a partir de qualquer iteração do procedimeto de máxima veroimilhaça, é poível afectar cada coumidor a cada clae latete ou egmeto de mercado atravé da probabilidade à poterior etimada, aplicado a regra de Baye, reultado um agrupameto probabilítico (.47), p = λ f ( y β, Σ ) f ( y β, Σ ) λ. (.47) O algoritmo EM Expectatio-Maximizatio (Dempter et al., 977) é utilizado, tal como o modelo decrito a ecção aterior, para a etimação do parâmetro..3. Modelo Mitura de Regreão para Dado em Paiel Ramawamy et al. (993) geeralizam a abordagem propota por Dearbo e Cro (988), para dado em paiel. 66

5 mercado e geeraliza o modelo propoto por Dearbo e Cro (988) para um cotexto multivariadado. A formulação propota itroduz flexibilidade a modelização de ituaçõe em que o membro de um egmeto de mercado particular exibem diferete perfi de preferêcia. Trata-e de um modelo particularmete itereate dado que um etudo de imulação comparado ove modelo de aálie cojuta métrica revelou que o modelo de clae latete apreeta o melhor deempeho em termo de recuperação de parâmetro, qualidade do ajutameto e capacidade preditiva (Vrie et al., 996). Coidere-e, a eguite otação: =,..., coumidore; j =,..., J perfi cojuto ( cojoit profile ); p =,..., P variávei idepedete a aálie cojuta (codificada como variávei dummy); =,..., egmeto; y j = ratig de repota métrico ao perfil j pelo coumidor ; X jp = valor da variável idepedete p o perfil j (por implificação, ão é efectuada a ditição etre factor e ível), (( X jp )) X = ; X vector liha de dimeão ( ) j = β p xp de variávei idepedete para o perfil j; = coeficiete de valor parcial ( cojoit part-worth ) etimado para a variável p o egmeto ; xp de valore parciai para o egmeto, β vector liha de dimeão ( ) = (( β p )) β = ; = matriz de covariâcia de dimeão ( ) =Σ ( Σ Σ ). ',,..., JxJ para o egmeto, Aume-e que o vector liha y de dimeão ( xj ) poui uma fução deidade de probabilidade que pode er modelizada como uma mitura fiita da eguite ditribuiçõe codicioai (.43), f ( ;,, ) = λf(, ) y λβ y β (.43) 65

6 Tabela.4. Algorimo EM. o primeiro pao da iteração, h : = 0, iiciar o procedimeto fixado o úmero de clae,, e gerado uma partição iicial ( 0) p.. Dado p ( 0), etimativa de máxima veroimilhaça para β podem er obtida atravé do método de míimo quadrado poderado. Obteção de etimativa para λ (Pao M). 3. Tete de covergêcia: parar e uficietemete pequeo. log L ( h+ ) ( h) ( Ψ ) log L Ψ 4. Calcular ova etimativa para a probabilidade poteriore, com a equação (.4) 4 ( ) y y for ( h ) p +, de acordo p = λ f ( y β, σ ) ( y β, σ ) k k λ f k k (.4) 5. Repetir o pao a 4. Fote: Adaptado a partir de Wedel e Dearbo (995), pág. 8, 9.3. Modelo Mitura de Regreão para Aálie Cojuta Métrica eta eão apreeta-e o modelo para aálie cojuta métrica propoto por Dearbo et al. (99). Ete modelo, deigado por Latet Cla Metric Cojoit Aalyi, permite a etimação imultâea de um modelo de aálie cojuta e a egmetação de 4 o cao de medida repetida a probabilidade de perteça do coumidor ao egmeto é dada por p K λ f = λ f ( y β, σ ) k k= K ( y β, σ ) k k=. 64

7 cohecido, p, obtido o pao E. A equaçõe de etacioariedade ão obtida igualado a derivada parciai de (.4) de primeira ordem a zero. A etimativa para β e σ ão obtida atravé do Fiher corig Method (que é equivalete ao procedimeto de ewto-rapho para fuçõe de lik caóico) (McCullagh e elder, 989, Wedel e Dearbo, 995). umariado, o algoritmo EM propoto para o ajutameto do modelo coite o eguite pao (Wedel e Dearbo, 995), decrito a Tabela.4..3 Geeralizaçõe do Modelo Bae O modelo propoto por Dearbo e Cro (988), e icluído como um cao epecial do modelo mitura liear geeralizado por Wedel e Dearbo (995), foi também etedido por Ramawamy et al. (993) para um ceário de dado em paiel, por Dearbo et al. (99) para dado de aálie cojuta e por Jedidi et al. (996) para modelo de equaçõe etruturai. De eguida apreetam-e a formulaçõe de Dearbo et al. (99) e Ramawamy et al. (993), que permitem a realização imultâea de regreõe ormai multivariada e a egmetação de mercado. ão é decrita a formulação de Jedidi et al. (996), dado que o âmbito dete trabalho apea e pretede etudar a problemática da elecção do úmero adequado de egmeto de mercado em modelo mitura de regreão uiequacioai para variávei ormai. 63

8 β = ( y β σ ) Ψ log f, = p = 0 β = σ ( y β σ ) Ψ log f, = p = 0 σ (.37) (.38) Para etimar λ, é eceário etimar préviamete w ; tal é obtido pela multiplicação de ambo o lado da equação (.36) por λ e oma de ambo o lado para : * = p w λ = 0 ŵ = (.39) De eguida, ubtituido (.39) em (.36) e multiplicado ambo o lado da equação por λ obtém-e: = p λ = 0 ˆ = λ = pˆ (.40) ote-e que maximizar E l Lc ( Φ y, z) em ordem a β e σ é equivalete a maximizar de forma idepedete cada uma da expreõe (.4): = ( ) log L p log f y β, σ = (.4) Dete modo coclui-e que a optimização de (.4) é equivalete ao problema de maximização de um modelo liear geeralizado para o dado completo, com a particularidade de cada obervação y cotribuir para a fução com um peo 6

9 Pao E Epecraça ( Extectatio ) o pao E, é calculado o valor eperado de l L c em relação à ditribuição codicioal do dado ão obervado Z, dado o valore de y e a etimativa proviória * * * para Φ, ( λ, β,σ ). Pode-e facilmete verificar que E log L c ( Φ, ) ubtituição em log L c de z pelo eu valore eperado E( z y, Φ) y Z é obtida pela eperado podem er obtido com bae em e com bae a regra de Baye (.33), ( y β, σ ) f ( y β, σ ) λf E( z y, Φ ) = = p λ ; ete valore. (.33) Dete modo, o dado ão obervado Z em log L c ão ubtituído pelo eu valore actuai p (pao E), log c, log, log = = ( yz) ( β σ ) E L φ = p f y + p λ (.34) Pao M Para maximizar o valor eperado de log L c em relação a Φ ujeito à retriçõe (.4), é formada uma fução aumetada (.35): ( ) * * * * * Ψ= p log f y βp, σ + p log λ w λ = = (.35) em que w repreeta o multiplicador de Lagrage. A equaçõe de etacioariedade ão obtida igualado a derivada parciai de primeira ordem a zero: Ψ p = w = 0 (.36) λ λ = 6

10 em que = ( z z ) z,..., '. Aume-e que o y, dado z, ão codicioalmete idepedete e pouem a deidade (.30): z (, ) (, ) f y z f y β σ. (.30) Φ = edo o valore z coiderado miig data, o logaritmo da fução de veroimilhaça para o dado completo log-likelihood fuctio for the complete data (( x p )) ( z ) X = e Z = ( ), =,...,, p =,..., P, =,...,, pode er formada a partir da equaçõe (.3) e (.3). ( ) z z c = f y σ + λ = = L β, (.3) ( σ ) log L = z log f y β, + z logλ (.3) c = = A fução (.3) é maximizada com recuro ao algoritmo EM (Dempter et al., 977). Depoi da etimativa para o parâmetro Φ terem ido obtida, a probabilidade poteriore de perteça p ão calculada o pao E. o pao M o valor eperado de log L c (.3) é maximizado em relação a Φ, permitido a obteção de ova etimativa para o parâmetro. o pao E o logaritmo da fução de veroimilhaça é ubtituído pelo eu valor eperado, calculado com bae a etimativa proviória de Φ. o pao M, o valor eperado de log L c é maximizado em relação a Φ, permitido a obteção de ova etimativa para o parâmetro. O pao E e M ão alterado até que ehuma melhoria a fução de veroimilhaça eja poível. Decrevem-e, de eguida, o pao E e M de forma mai detalhada. 60

11 egmeto. A etimativa para o parâmetro ( λ, βp, σ ) Φ= ão obtida maximizado a fução de veroimilhaça L (.7), ou o logaritmo da fução de veroimilhaça log L (.8) em relação a φ, ujeita à retriçõe (.4); o etato ó é poível a obteção de etimadore coitete e for impota a codição σ > 0 (Dearbo e Cro, 988). ( ) λ ( θ ) L= f y Φ = f y = = L = λ( πσ ) exp = t ( y ) Xβ σ (.7) ou ( ) λ ( θ ) log L= log f y Φ = log f y = = log L = log λ ( πσ ) exp ( y ) Xβ = σ. (.8).. Algoritmo de Etimação A fução (.8) pode er maximizada uado o algoritmo EM Expectatio Maximizatio (Dempter et al., 977). O ome do algoritmo reulta do eu doi pao, Expectatio e Maximizatio. Para e exemplificar o algoritmo EM, é eceária a itrodução de dado ão obervado z, idicado e a obervação y pertece ou ão ao egmeto. Aim, z = e é extraído do egmeto e z = 0, cao cotrário. Aume-e que z ão i.i.d. multiomiai (.9): ( ) z f z λ = λ (.9) = 59

12 λ =, λ 0, =,..., (.4) A ditribuição de y, dado que y é extraído do egmeto é dada por (, p) f y σ β ; ( ) ( ) f y σ, βp = πσ exp ( y Xβ) σ (.5) A variávei y ão idepedete, edo codicioai ao egmeto. Dete modo, a fução deidade de probabilidade de y pode er exprea como uma mitura de deidade ormai uivariada 3 : ( Φ ) = λ ( y θ) = λ ( σ, βp) f y f f y = λ( πσ ) exp ( y Xβ) σ (.6) em que o vectore de parâmetro ão (, ) Φ= λ θ, = ( βp, σ ) θ. Quado e aplicam modelo mitura de regreão, o objectivo é prever a média da obervaçõe em cada egmeto uado um cojuto de variávei explicativa. Para ee objectivo, é epecificado um previor liear ( p,..., P) P μ = x β, que é produzido por P p p p= = variávei idepedete e um vector de parâmetro = ( βp ) β para o a preeça de K medida repetida ( k =,..., K) para cada coumidor (,..., ) =, o y ão e k podem aumir como idepedete, edo apropriada uma ditribuição da família expoecial multivariada, como a ditribuição ormal multivariada. 3 o cao de K medida repetida por idivíduo obtém-e f ( yk Φ ) = λ f ( y k θ ). K k= 58

13 compoete da mitura) ão etimada directamete. eta aplicaçõe, como já foi referido o Capítulo, o pricipal objectivo é decritivo, i.e., formar grupo homogéeo de idivíduo/ coumidore com bae em vária caracterítica obervada. Em cotrate, o modelo mitura permitem ão ó a claificação probabilítica da obervaçõe em egmeto latete como também a etimação de modelo de regreão explicado a média e a variâcia de cada variável depedete detro de cada egmeto. O modelo mitura de regreão relacioam uma variável depedete, como a frequêcia de compra ou a preferêcia por marca, com variávei explicativa, como variávei do marketig mix, detro de cada clae latete.. Modelo Mitura de Regreão para Variávei ormai.. Modelo eta eão é apreetado o modelo mitura de regreão para variávei depedete ormai de Dearbo e Cro (988), que é um cao epecial do modelo GLIMMIX - Geeralized Liear Mixture Model (Capítulo ). Dearbo e Cro (988) geeralizam pela primeira vez o tochatic witchig regreio model (Quadt, 97; Homer, 974; Quadt e Ramey, 978) para mai de doi regime. O artigo apreeta uma ova metodologia para derivação de grupo e a etimação imultâea da correpodete fuçõe regreão itra-grupo. A partir do cojuto de obervaçõe para a variável depedete y e a P variávei explicativa ( ),..., P x x, p =,..., P, ão utilizada ditribuiçõe mitura codicioai, um quadro de máxima veroimilhaça, com a utilização do algoritmo EM (Dempter et al., 977) para a etimação do parâmetro. Aume-e que a variávei aleatória y, =,..., ão extraída de uma população que é uma mitura de um úmero fiito de egmeto (populaçõe ormai), em proporçõe λ,..., λ, =,..., ; o etato, ão é cohecida à priori a população da qual a obervação y foi extraída. A probabilidade λ etão ujeita à retriçõe (.4): 57

14 cocluõe gerai obre a ua performace relativa (o cotexto da obteção de etimativa de máxima veroimilhaça para o parâmetro da compoete do modelo mitura) podem er apotada. Comparado com o algoritmo de optimização (ewto-rapho, Quai-ewto, implex, Fiher corig), a covergêcia do algoritmo EM é coiderada baixa, (medida pelo úmero de iteraçõe eceária). Um problema potecial aociado à aplicação da dua abordage relacioa-e com a propriedade ão deejável do algoritmo termiarem um óptimo local, tedo ido propoto vário procedimeto para reduzir ete rico (Wedel e Kamakura, 000). Leich (004) acreceta mai dua limitaçõe do algoritmo EM, a referir: itabilidade umérica e uma compoete poui pouca obervaçõe uma dada iteração e problema a etimação do parâmetro (o cao da ditribuiçõe mitura ormai a fução de veroimilhaça tede a crecer em limite e σ 0 ). ão obtate, a implicidade computacioal do algoritmo EM (com apea doi tipo de iteraçõe) é apotada como a ua pricipal fote de popularidade. Para a reolução da equaçõe de veroimilhaça é eceária a epecificação de um cojuto de parâmetro iiciai. ote-e que a ecolha de má cofiguraçõe pode afectar de forma advera a performace do algoritmo, coduzido a problema de ão covergêcia. Uma aálie do quadro geral de egmetação baeado o modelo mitura permite cocluir que eta abordagem etatítica poui vária vatage em relação ao método de claificação baeado em heurítica; o etato, vário auto, como a exitêcia de óptimo locai, ou o tete para a determiação do úmero de egmeto, eceitam aida de uma reolução atifatória. Reviõe da aplicação deta abordagem a problema de egmetação de mercado podem er ecotrada o artigo de Dillo e Kumar (994) e o texto de Wedel e Kamakura (000). MODELO MITURA FIITO VERU MODELO MITURA DE REGREÃO o modelo mitura fiito ão exitem variávei exógea para explicar a média e a variâcia de cada compoete da ditribuição mitura fiita. Por exemplo, uma mitura de ditribuiçõe ormai, a média e a variâcia em cada egmeto latete (ou 56

15 Tabela.3. Algoritmo EM () O procedimeto é iiciado ( h : = ) com a fixação do úmero de egmeto,, e com a geração de uma partição iicial p () (aleatória ou baeada a utilização de um procedimeto de aálie de agrupameto covecioal). () Dado ( h) p, obter a etimativa de λ e de θ uado o etimadore de máxima veroimilhaça: = λ = p (.) θ = = y p λ (.) (3) Tete de covergêcia: parar e a alteração em log L (.6) da iteração (h-) para a iteração (h) for reidual. (4) Aumetar o ídice da iteração h: = h+ e calcular ova etimativa para ( h ) p + uado a equação. p = λ f ( y θ ) λ f ( y θ ) (.3) (5) Repetir o pao a 4. Fote: Adaptado a partir de Wedel e Kamakura (000), pág. 85 COMPARAÇÕE DE PERFORMACE RELATIVA Em termo de eficiêcia, ão é claro qual do doi método (algoritmo EM ou optimização umérica) é preferível (Wedel e Kamakura, 000). o etato, alguma 55

16 ALGORITMO PARA A ETIMAÇÃO DO PARÂMETRO EVOLVIDO O MODELO o cotexto do modelo mitura ão utilizada dua abordage gerai a obteção da oluçõe de máxima veroimilhaça (Wedel e Kamakura, 000; Dillo e Kumar, 994). A primeira aplica método de optimização umérica à equaçõe (.9) e (.0); a rotia (de optimização) utilizada - ewto-rapho, Quai-ewto, implex, Fiher corig - ipiram-e em método baeado o gradiete. Uma itrodução a ete método pode er ecotrada o trabalho de Dei e chaabel (983), Gill et al. (989) e Everitt (987). A abordagem mai uada (Wedel e Kamakura, 000) recai a utilização do algoritmo EM - Expectatio-Maximizatio (Dempter et al., 977). O algoritmo EM deriva a ua deigação do doi pao do algoritmo. a fae E expectatio tep (Eperaça), a partir da etimativa dipoívei para todo o parâmetro do modelo, Φ, ão obtido ovo valore para a probabilidade de afectação do coumidore ao egmeto, p, =,...,, =,..., (uado o Teorema de Baye). o pao M maximizatio tep (Maximização), ão obtida ova etimativa para Φ com bae ea etimativa temporária de p. Ete doi pao ão repetido iterativamete equato for poível uma melhoria a fução de veroimilhaça (Tabela.3.). 54

17 ETIMAÇÃO POR MÁXIMA VEROIMILHAÇA O propóito da aálie do modelo mitura fiito é a etimação do vector de parâmetro Φ= ( λθ, ). ete cotexto, o método da máxima veroimilhaça coagroue como o procedimeto geral de etimação (Dillo e Kumar, 994). A obteção de etimadore coitete e aimptoticamete ormalmete ditribuído (Dillo e Kumar, 994) é apotada como a ua pricipal propriedade etatítica. Para a ditribuiçõe mitura, a fução de veroimilhaça de Φ aume a eguite forma geral: = ( ) L= f y Φ (.7) O etimadore para o parâmetro ão obtido maximizado a fução de veroimilhaça (.7) em relação ao vector de parâmetro Φ, ujeita à retriçõe defiida em (.5). ete cotexto, ão calculada a derivada parciai, a partir da fução de veroimilhaça logaritmizada aumetada (.8): log L = log λf( y θ ) w λ (.8) = em que w repreeta o multiplicador de Lagrage. Daqui reultam a eguite equaçõe de etacioariedade: λ = (, Φ) f ( ) log L f = y w = 0 y = (, ) f ( y, Φ) log L f Φ = y θ = 0 θ (.9) (.0) Titterigto et al. (985) forecem uma excelete decrição do proceo de etimação pelo método da máxima veroimilhaça em modelo mitura fiito. 53

18 ao texto de Wedel e Kamakura (000), ao artigo de Dillo e Kumar (994) e ao trabalho de Everitt e Had (98), McLachla e Baford (988) e Titterigto et al. (985). Modelo O modelo geral preupõe que o objecto (coumidore), para o quai e dipõe do valor da variávei = ( y ) y, =,...,, k =,..., K, ão extraído de uma população k cotituída por uma mitura de egmeto, em proporçõe λ =,..., : λ = λ 0, =,...,. (.5) upodo que a obervação y k pertece ao egmeto, a fução ditribuição codicioal para o vector y é defiida por f ( y θ ), em que θ repreeta o vector de parâmetro decohecido eceário para a ua caracterização. Como a perteça ao egmeto da obervaçõe é decohecida, a fução deidade mitura ( mixture deity ) de y é dada por: f ( Φ ) = λf( ) em que Φ= ( λθ, ). y y θ (.6) A fução f ( y θ ) pode aumir vária forma, o cotexto da ditribuiçõe dicreta ou cotíua (Wedel e Kamakura 000). A ua caracterização é efectuada, para cada egmeto, atravé da média, μ k, e de um parâmetro de diperão, σ. A Tabela.7. e.8. (capítulo ) apreetam a caracterítica da ditribuiçõe cotíua e dicreta mai uada. o cotexto da ditribuiçõe cotíua, a ditribuição ormal multivariada é a mai utilizada (Wedel e Kamakura, 000). 5

19 A fução ditribuição é uada para decrever a probabilidade de ocorrêcia do valore obervado da variávei em aálie. Tabela.. Cluterwie liear regreio IICIAÇÃO Derivação de uma partição iicial do dado em egmeto. Fixar : = 0 ( 0 ITERAÇÃO ). Colocar : = + e : = e >. eja P. Examiar e há grupo P t t em que: ( t { }) ( { }) ( t) ( ) E P + E P < E P + E P (7) e im, eja t um ídice aociado ao grupo que permite a máxima redução a fução objectivo; ete cao, redefiir: { } { } P : = P, P t = Pt e ão, regrear ao pao. CRITÉRIO DE PARAGEM Repetir a iteração até que a fução objectivo ão poa er reduzida, i.e., até que teha ido aumetado veze em que (7) teha dimiuído. úmero de obervaçõe o egmeto y vector de dimeão ( ) X matriz de dimeão ( P) β vector de dimeão ( ) da preferêcia do idivíduo o egmeto P do peo de preferêcia o egmeto Fote: Adaptado a partir de päth (979), pág. 368 De eguida propõe-e a apreetação do modelo geral, a decrição do algoritmo de etimação do eu parâmetro, uma dicuão da limitaçõe deta abordagem, e o papel dete modelo o deevolvimeto do modelo mitura de regreão. Apreeta-e aida uma ítee da pricipai aplicaçõe do modelo mitura fiito o cotexto da egmetação de mercado. A expoição que e egue recorre eecialmete 5

20 päth (979, 98, 98, 985) deevolveu um algoritmo de troca exchage algorithm para obter uma partição de grupo e o correpodete cojuto de parâmetro. O algoritmo deevolvido é apreetado a Tabela.. É itereate otar que ete método, deevolvido o cotexto da literatura etatítica, foi exportado para a problemática da egmetação de mercado e ipirou vário autore a literatura do Marketig. Por exemplo, Dearbo et. al (989) e Wedel e Kitemaker (989) etedem a cluterwie regreio para um ceário de múltipla obervaçõe por idivíduo...3 Modelo Mitura Fiito O deevolvimeto do modelo mitura urge o éculo XIX, com o trabalho de Pearo (984) e de ewcomb (886). o modelo mitura fiito ( fiite mixture model ) aume-e que a obervaçõe amotrai ão extraída de doi ou mai grupo, que foram miturado em proporçõe decohecida. O eu objectivo é demiturar a amotra, i.e., idetificar o egmeto implícito (compoete da mitura), e etimar o parâmetro da fução deidade (uada a decrição da probabilidade de ocorrêcia do valore para uma dada variável) itra-egmeto. Ao cotrário da abordage de egmetação, tradicioai, que forecem heurítica para a cotrução do egmeto com bae em valore amotrai, a ditribuiçõe mitura ão uma abordagem de egmetação baeada um modelo. Dete modo, permitem a etimação e tete de hipótee o quadro da teoria etatítica tradicioal. A abordagem de modelo mitura aplicado à egmetação apreeta uma clae de algoritmo de agrupameto extremamete flexívei deehado para a reolução de muito problema de Marketig. O modelo mitura ão modelo etatítico que evolvem uma forma epecífica da fução ditribuição da obervaçõe em cada população ubjacete (que é epecificada). De acordo com päth (98), o reultado fial depede da partição iicial e da dimeão míima impota para o grupo (eceariamete uperior ao úmero de variávei idepedete). Para evitar o problema com oluçõe óptima locai, päth recomeda o eaio, para grupo, de diferete iiciaçõe. 50

21 abordage preditiva de egmetação. O autore propõem olucioar o problema combiatório de determiação de uma partição P (ão obrepota) da,..., P obervaçõe e a etimação do vectore de parâmetro ( ) modelo (.3): β,..., βp aociado ao y = xβ + ε, ε ( 0, σ I ), =,..., (.3) Tabela.. Primeiro cotributo em modelo mitura de regreão REFERÊCIA APLICAÇÃO MÉTODO DE ETIMAÇÃO Quadt (97) Mercado imobiliário; cotrução de habitaçõe MV, R Homer (974) - - Quadt e Ramey (978) Previão de alário MD Goldfeld e Quadt Mercado imobiliário; cotrução de (973,976) habitaçõe MV, R Colett e Lee (985) Etabilidade de Cartei MV, R Hamilto (989) Crecimeto do PIB MV, R Hamilto (990) - MV, EM Hamilto (99) Taxa de juro QB, EM Egel e Hamilto (990) Taxa de juro MV, EM Legeda: MV máxima veroimilhaça; R algoritmo ewto-rapho; EM algoritmo EM Expectatio Maximizatio; MD - ditâcia míima; QB quai-baye Tal é efectuado miimizado a fução E( C ) ( ) ( ˆ )( ˆ ), em que E ( C ) é dado por: E C = y X β y X β. (.4) 49

22 ão urgiram oluçõe atifatória que acompahaem o deevolvimeto ocorrido ao ível do modelo e proceo de etimação. A terceira exteão propota por Quadt (97) pode er reiterpretada, dete modo, como a problemática da elecção do úmero de compoete em modelo mitura de regreão, e e coiderar a exteão do modelo bae a mai de doi regime (deevolvimeto propoto a alíea a)) Hamilto (989, 990, 99) e Egel e Hamilto (990) etederam o witchig regreio model para modelo de érie temporai; ete modelo decrevem movimeto dicreto em parâmetro autoregreivo, em que a mudaça ão modelizada atravé de hidde dicrete-time erie model. Equato que iicialmete a etimação etava limitada a pequeo itema, dada a complexidade computacioal evolvida a maximização da fução de veroimilhaça (Hamilto, 989), Hamilto (990) propô um algoritmo EM (Dempter, et al. 977), que aliviou ete problema. um terceiro artigo, Hamilto (99) demotrou a vatage da abordagem Quae- Bayeiaa obre a abordagem de maximização da veroimilhaça para a etimação do parâmetro. O modelo foi aplicado a aálie de taxa de câmbio (Egel e Hamilto, 990; Hamiltom, 990). Titterigto et al. (985) apreetam algu exemplo da aplicação da witchig regreio a ecoomia. A Tabela.. apreeta uma ítee do artigo obre witchig regreio model revito... Cluterwie Regreio O modelo mitura de regreão propoto por Dearbo e Cro (988) propõe-e geeralizar a cluterwie regreio iicialmete deevolvida por päth (979, 98, 98, 985), para um cotexto de claificação difua. The primary goal of thi reearch i to exted the cocept of cluterwie regreio to a tochatic cotext alowig for the poibility of fuzzy cluter, a well a mutually excluive partitio (Dearbo e Cro 988: 4). A cluterwie regreio é um do primeiro método de agrupameto ão hierárquico motivado pelo etudo da relação etre uma variável depedete e um cojuto de variávei idepedete, equadrado-e, por io, a 48

23 defiido-e d( z ) de forma equivalete a (.8), a fução deidade codicioal (.5) eria defiida por (.): d( z ) f ( y x x ) y x P,..., P = exp βp p πσ σ p= d( z ) + exp y πσ σ P β x k p p= (.) c) eceidade de defiição de metodologia que permitam a idetificação da exitêcia de um ou doi regime e o tete dea hipótee; claro que uma abordagem imediata, uma formulação com apea doi grupo, e o valor de λ etiver muito próximo de 0 ou de, é provável que uma regreão eja uficiete para o ajutameto do dado. A primeira exteão propota, i.e., a geeralização da witchig regreio a mai de doi regime foi efectuada mai de uma década depoi por Dearbo e Cro (988). I fact, thi expreio geeralize the Quadt (97), Homer (974) e Quadt e Ramey (978) tochatic regreio model to more tha two regime (Dearbo e Cro 988: 55). Em relação ao egudo deevolvimeto propoto, iterpretado-o em termo lato como um apelo ao deevolvimeto de ovo proceo de etimação, podem etão er referido o cotributo de: Goldfeld e Quadt (973, 976) e Colet e Lee (985) que propueram o hidde Markov witchig regreio model, o quai a perteça da obervaçõe um dado regime ão modelada por um proceo de Markov; Quadt e Ramey (978) que propõem uma abordagem de etimação com bae o método do mometo; o trabalho de Dearbo e Cro (988) em que a etimação do parâmetro decohecido é efectuada com recuro ao algoritmo EM - Expectatio-Maximizatio de Dempter et al. (977). o etato, em relação à terceira exteão propota (alíea c)), que refere a eceidade de metodologia para a idetificação do úmero de regime preete o dado, aida 47

24 eja Ω a matriz de variâcia e covariâcia de W (.9): ( ) σ σ Ω = I D + D (.9) A fução de veroimilhaça logaritmizada é aim dada por (.0): log L = cotate - log Ω { y ( I D) Xβ DXβ Ω Y ( I D) Xβ DXβ } (.0) Quadt (97) aplica o modelo e algoritmo propoto um etudo de imulação (dado experimetai) e em dado relativo à procura e oferta o mercado imobiliário. Uma da limitaçõe dete método é ão permitir a idetificação da obervaçõe que pertecem a cada regime (Quadt, 97). Quadt (97) propõe aida exteõe ao modelo bae, etre a quai: a) Geeralização da witchig regreio para mai de doi regime; e e aumir que o úmero de regime é, com probabilidade de erem eleccioado pela atureza λ, λ,..., λ, λ =, e que a deidade codicioal da variável y dado o valor da P variávei explicativa para cada regime é (,..., P) f y x x, etão a fução deidade codicioal correpodedo a (.5) erá dada por (.): (,..., P) λ (,..., P) f y x x = f y x x (.) a partir do qual poderá er derivada uma fução de veroimilhaça equivalete a (.6). b) Combiação do método propoto por Goldfeld e Quadt (973) e do método propoto por Quadt (97). e e aumir que a probabilidade da atureza eleccioar um dado regime depede de uma variável ão obervável z, etão 46

25 Quadt (97) propõe a maximização da fução (.6) em relação a β p, β p, ( p,..., P) =, σ, σ 0 e 0 λ, com bae o gradiete cojugado de Powell (Powell, 964) Powell cojugate gradiet algorithm. Goldfeld e Quadt (973) aumem que exite uma variável ão obervável z (,..., ) =, que pode er uada para claificar a obervaçõe o doi regime: aume-e que y foi gerada pelo regime ou, cooate z z0 ou z > z0 (o ível de corte z 0 é decohecido. De eguida apreeta-e o proceo de etimação do parâmetro de regreão e de z 0. eja D uma matriz diagoal de dimeão ( x ), com elemeto ( ) a diagoal, em que: d z, =,..., ( ) d z 0, e z z0 =, cao cotrário Dete modo, upõe-e que a obervaçõe ão gerada por (.7) y = ( I D) Xβ+ DXβ+ W (.7) em que W é o vector de termo aleatório ão obervávei e heteroecedático = ( ) + W I D ε Dε ; W, β e β e o elemeto de D devem er etimado. Trata-e de um problema de optimização combiatória, computacioalmete admiível ubtituido a fuçõe d( z ) em D pela aproximação cotíua (.8) (Goldfeld e Quadt, 973): ( ) d z z = ξ z0 exp dξ πσ σ (.8) ote-e que eta formulação itroduz doi ovo parâmetro, z 0 (etimativa para o cutoff ) e σ (medida da dicrimiação etre o doi regime). 45

26 idetificada à priori, correpodedo a uma divião da amotra em doi grupo. Cofiguraçõe mai complexa ão deevolvida com bae o preupoto de decohecimeto a partir de qual do doi regime ( ou ), cada uma da obervaçõe é gerada. Quadt (97) aume que há uma probabilidade decohecida λ da atureza ecolher o regime e uma probabilidade ( λ ) de ecolher o regime a geração da obervaçõe. Preupodo que o termo aleatório o doi regime ão i.i.d. e eguem uma ditribuição ormal, a deidade codicioal do valor da obervação, da variável depedete y (y ), codicioal o valore da P variávei idepedete (,..., p) dada pela expreão (.5): x x é P λ f ( y x,..., x ) = exp y β x p p p πσ σ p= λ + exp πσ σ y P β x p p p= (.5) em que β = ( βp ) e = ( βp ) regime e o regime, repectivamete. β ão o vectore do coeficiete de regreão o A fução de veroimilhaça logaritmizada (.6) é obtida pelo cálculo do omatório do logaritmo de (.5) para toda a obervaçõe, log L log f ( y x,..., xp) = : = P λ exp y β pxp πσ σ p= log L = log = P λ + exp y β px p πσ σ p= (.6) 44

27 Dada obervaçõe para a variável depedete y, y =,..., e para a P variávei idepedete, a hipótee ula (H 0 ) pode er formulada atravé do modelo de regreão liear múltipla (.). y=xβ + ε (.) em que: y = ( ) vector de dimeão ( ) y (( x )) p X = matriz de dimeão ( ) variávei idepedete ( p =,..., P) ( β p ) x da obervaçõe da variável depedete xp da obervaçõe (,..., ) = para a P β = - vector de dimeão( Px ) do coeficiete da regreão a erem etimado ε = ( )- vector de dimeão ( ) ε como ( 0, σ I ) x de termo aleatório ão obervado ditribuído A hipótee alterativa (H ) é exprea coiderado que é poível reorgaizar a liha de y e a colua de X, de tal forma em que eta ejam dividida em doi grupo (.), dado origem à formulaçõe (.3) e (.4). y y =, y X X = X (.) y = Xβ + ε (.3) ε e y = Xβ+ ε (.4) ε ditribuem-e, repectivamete, como ( 0, σ I ) e (, σ ) 0 I. Uma formulação mai imple para a hipótee alterativa, que motivou o cohecido tete de Chow (960), coidera que a obervaçõe correpodete a (.3) e (.4) ão 43

28 a) A witchig regreio, aaliada o trabalho de Quadt (97), Homer (974), Quadt e Ramey (978); o modelo de Dearbo e Cro (988) é uma exteão da witchig regreio para mai de doi regime; b) A cluterwie regreio (päth, 979, 98, 98, 985); o modelo mitura de regreão efectuam a exteão do coceito de cluterwie regreio para um cotexto etocático permitido a poibilidade ão ó de partiçõe mutuamete excluiva, como também de grupo com perteça probabilítica; c) O modelo mitura fiito, ou ucoditioal mixture approache (Wolfe, 965, 967, 970; Day, 969, Gaealigam e McLachla, 98; McLachla, 98; colve, 977; ymo, 98; cott e ymo, 97; Marriott, 975; Hartiga, 975; Baford e McLachla, 985)... witchig Regreio Model Wedel e Dearbo (994) coideram que o deevolvimeto do modelo mitura de regreão começou com o trabalho de Quadt (97), ao itroduzir o witchig regreio model ; ete modelo foram etedido poteriormete por Homer (974) e por Quadt e Ramey (978), que propueram ovo deevolvimeto o proceo de etimação. O problema bae edereçado ao witchig regime a aálie de regreão coite, egudo Quadt (97), a etimação de dua equaçõe de regreão para a mema amotra, cao e coclua que a obervaçõe foram gerada por doi cojuto de parâmetro, em e cohecer à partida em a cotituição, em a dimeão, de cada um do doi grupo. Ete problema pode er formulado da eguite forma: a) Tete da hipótee ula (H 0 ) de iexitêcia de alteraçõe de regime (i.e. uma equação de regreão é uficiete), cotra a hipótee alterativa (H ) de que a obervaçõe ão gerada por dua (ou poivelmete mai) regreõe ditita; b) Etimação do parâmetro que caracterizam doi (ou mai) regime, o cao da rejeição de (H 0 ). 4

29 CAPÍTULO. MODELO MITURA DE REGREÃO PARA VARIÁVEI ORMAI Exemplo de aplicaçõe de modelo mitura de regreão para variávei ormai a egmetação de mercado (Tabela.9.) têm acumulado a literatura do marketig (Adrew et al., 00; Dearbo e Cro, 988; Dearbo et al., 99; Hele et al., 993; Ramawamy, et al., 993; Vrie et al., 996; Wedel e Dearbo, 994,995; Dearbo et al., 00; Adrew e Currim, 003b; Jedidi et al., 996; Bowma et al., 004). Ao logo do Capítulo pretede-e: Idetificar o pricipai cotributo para que ipiraram o deevolvimeto do modelo mitura de regreão para variávei ormai; Apreetar o modelo mitura de regreão deevolvido para variávei depedete ormai (Dearbo e Cro, 988; Wedel e Dearbo, 995) e a etratégia utilizada a etimação do eu parâmetro; itetizar a exteõe ao modelo bae para um cotexto multivaridado propota por Ramawamy et al. (993) e por Dearbo et al. (99).. Cotributo para o Deevolvimeto do Modelo Mitura de Regreão O preete trabalho cetra-e a problemática da elecção do úmero de egmeto de mercado quado ão uado modelo mitura de regreão com variável depedete ormal. ete cotexto, de eguida ão itetizado o pricipai cotributo para o deevolvimeto dete modelo e apreetam-e a pricipai formalizaçõe divulgada a literatura do marketig. Um trabalho cetral o cotexto do modelo mitura de regreão é o artigo de Dearbo e Cro (988), que deevolveu um modelo mitura de regreão para uma variável depedete ormal. Apó uma revião da literatura da aálie claificatória e da aálie de regreão, idetificam-e trê grade cotributo para o deevolvimeto do modelo propoto por Dearbo e Cro (988), que, em termo lato, coicidem com o pricipai factore que ipiraram o deevolvimeto do modelo mitura de regreão. Refiram-e: 4