REVISÃO DE PROBABILIDADE E ESTATÍSTICA. Parte 2

Transcrição

1 REVISÃO DE PROBABILIDADE E ESTATÍSTICA Parte

2 Variáveis Aleatórias Defiição: Regra que atribui um valor umérico a cada possível resultado de um eperimeto. Eemplo: Jogue duas moedas (o eperimeto aleatório) e registre o úmero de caras: 0, ou. Usa-se letras maiúsculas para a variável e letras miúsculas para um valor particular.

3 Variáveis Aleatórias Probabilidades dos resultados: Pr(X=)=p() Para o eemplo das moedas: 0 Pr( X ) 4 4

4 Histograma Para cada valor de X, traçamos uma barra com altura igual a p(). 0,6 0,5 0,4 0,3 0, 0, 0 0 A área total é a soma das probabilidades para todos os resultados, i.e.,.

5 Resultado do laçameto de moedas Modelo Probabilístico Dados Observados p( ) 0, ,60 0,5 57 0,57 0,5 3 0,3

6 Comparação: modelo real 0,6 0,6 0,5 0,5 0,4 0,4 0,3 0,3 0, 0, 0, 0, Histograma Probabilístico Histograma da Freqüêcia Relativa

7 Fução distribuição de probabilidade (PDF ou CDF) ) ( ) Pr( ) Pr( ) ( p t X t X t F X t X 0 0, 0,4 0,6 0,8, 0 ) ( ) ( ) ( ) ( ) ( a F b F a X P b X P b X a P X X

8 Fução desidade de probabilidade (pdf) f ( ) df( ) d Dada uma pdf f(), a probabilidade de X se ecotrar o itervalo (, ) pode também ser calculada através de itegração: P( X ) F( ) F( ) f ( ) d

9 Fução probabilidade de massa (pmf) i p i f ) ( ) ( ) ( ) ( i i i p F F X P A probabilidade de se ecotrar o itervalo (, ) pode também ser calculado através de somas:

10 Média e Valor Esperado Média m E() i p i i Para variáveis discretas f ) d ( Para variáveis cotíuas Soma de todos os valores possíveis, poderada pela probabilidade de ocorrêcia de cada um dos valores.

11 Variâcia A quatidade (-m) represeta a distâcia quadrática etre e a sua média. A variâcia de é o valor esperado desta quatidade: Var( ) E[( m) ] i p i ( i m) ( m) f ( ) d

12 Desvio Padrão A variâcia é ormalmete deotada por s. A raiz quadrada da variâcia é chamada de desvio padrão e é deotado por s.

13 Coeficiete de Variação C.O.V. desvio padrão média s m

14 Covariâcia Dadas duas v.a.s X e Y com médias m e m y, a covariâcia delas é dada por: Cov(, y) s E( y) y E[( E( ) E( y) m )( y m )] Para variáveis idepedetes a covariâcia é zero, dado que E( y) E( ) E( y) Apesar da idepedêcia sempre implicar em covariâcia zero, o cotrário em sempre é verdade. y

15 Coeficiete de Correlação Ou simplesmete correlação é o valor ormalizado da covariâcia Correlação (, y) y s s y s y A correlação varia sempre etre - e +.

16 Média e Variâcia de Somas Sejam,,..., k k variáveis aleatórias e a, a,..., a k k costates arbitrárias (deomiadas de pesos), etão E(a + a a k k )= a E( )+ a E( )+...+ a k E( k ) Para variáveis idepedetes: Var( a a Var( ) a a Var( a k k ) ) a k Var( k )

17 Quatis O valor o qual a CDF correspode ao valor a é chamado de a-quatil ou 00a-percetil. Ele é deotado por a P( ) F( ) a a a

18 Mediaa e Moda Mediaa: é o posto percetil 50 (ou quatil 0,5) de uma variável aleatória. Moda: é o valor mais provável de uma v.a. Ou seja, é o valor i que correspode à maior probabilidade p i, ou o valor de para o qual a pdf atige o seu valor máimo.

19 Tetativas de Beroulli Supoha que tehamos um processo aleatório com apeas dois resultados possíveis: sucesso ou falha. As tetativas de Beroulli são a repetição de um eperimeto como este, desde que: Haja apeas dois resultados em cada tetativa. A probabilidade de sucesso (p) seja a mesma em cada tetativa. As tetativas sejam idepedetes.

20 Variável Aleatória Biomial X é o úmero de sucessos em tetativas de Beroulli com probabilidade p de sucesso. k k p p k k X P ) ( ) ( )!!(! k k k ode

21 Histograma da Distribuição Biomial 6 jogadas de moedas, p = 0,5 0,350 0,300 0,50 0,00 0,50 0,00 0, Número de sucessos

22 Histograma da Distribuição Biomial 0 jogadas de moedas, p = 0,5 0,00 0,80 0,60 0,40 0,0 0,00 0,080 0,060 0,040 0,

23 Mas, calcular estes termos para grades valores de pode dar muito trabalho... ou pelo meos dava o século 8 quado James Berouilli e Abraham de Moivre estavam calculado sem um computador.

24 Utilizado uma ferrameta recém-ivetada, o Cálculo, De Moivre mostrou que para p=0,5, a distribuição ormal era bem aproimada por uma fução desidade cotíua que podia ser descrita de forma bem simples.

25 Para ver como isto fucioa, imagie a distribuição biomial com p=0,5 e muito grade - por eemplo, um milhão...

26 Agora desloque o gráfico de modo que a média seja zero. Esprema a curva ao logo do eio até que o desvio padrão seja e estique o eio y para que a área cotiue sedo.

27 Distribuição Normal Uitária O resultado ficou próimo a uma curva suave, simétrica e com forma de sio que é descrita pela seguite fórmula: f ( z) e z

28 Distribuição Normal É a distribuição mais comumete utilizada a aálise de dados. A soma de um grade úmero de observações idepedetes de qualquer distribuição tem uma distribuição ormal. f ( ) s e ( m) / s

29 Distribuição Normal

30 Trasformação z A trasformação z z m s Muda uma variável aleatória ormal com média m e desvio padrão s, uma distribuição ormal uitária.

31 Razões da Popularidade da Distribuição Normal A soma de variáveis ormais idepedetes é uma variável ormal. A soma de um grade úmero de observações idepedetes de qualquer distribuição tede a uma distribuição ormal: Teorema do limite cetral.

32 Medidas de Tedêcia Cetral Média aritmética: obtida através da soma de todas as observações e dividido esta soma pelo úmero de observações da amostra. Mediaa: é obtida ordeado-se as observações em ordem crescete e tomado a observação que se ecotra o meio da série. Moda: é o escore ou categoria que, uma distribuição, ocorre com mais freqüêcia.

33 Escolha da Medida de Tedêcia Cetral Média: muito afetada por valores etremos (outliers) dá o mesmo peso a cada observação propriedade liear: média da soma é a soma das médias. Mediaa: eige uma ordeação

34 Escolha da Medida de Tedêcia Cetral Moda: pode ser obtida para qualquer cojuto de dados.

35 Relacioametos etre as Medidas de Tedêcia Cetral

36 Seleção da Medida de Tedêcia Cetral Os dados são categorias? Não Temos iteresse o total? Não A distribuição é espalhada? Não Use média Sim Sim Sim Use moda Use média Use mediaa

37 Eemplos Recurso mais utilizado do sistema: recursos são categorias, portato deve-se utilizar a moda. Itervalo etre chegadas: o tempo total é de iteresse, portato deve-se utilizar a média. Carga de um computador: É preferível usar a mediaa devido ao espalhameto da distribuição.

38 Mau Uso das Médias Usar a média de valores sigificativamete diferetes: ão é muito útil dizer que o tempo médio de CPU por trasação é 505 mseg quado as duas medidas observadas foram 0 e 000 mseg!

39 Mau Uso das Médias Usar a média sem levar em cota o espalhameto da distribuição: Sistema A Sistema B Soma Média 0 0 Típico 0 5

40 Mau Uso das Médias Multiplicar as médias para obter a Média de um produto: Se e y forem correlacioadas, E( y) E( ) E( y) Efetuar a média de frações com bases diferetes.

41 Média Geométrica A média geométrica é utilizada se o produto das observações for uma quatidade de iteresse. Calculada através de: i i /

42 Eemplo.: Os melhorametos de desempeho a última versão das sete camadas de um ovo protocolo de rede foram medidos separadamete para cada uma das camadas: Camada Melhorameto do Protocolo do Desempeho (%) Calcule o melhorameto médio por camada.

43 Eemplo.: Melhorameto médio por camada = {(,8)(,3)(,)(,08)(,0)(,8)(,05)} /7 - = 0,3 Portato, o melhorameto médio por camada é de 3%.

44 Média Geométrica Outras medidas que trabalham de forma multiplicativa: taa de acertos de cache em diversos íveis de cache taas de isucesso de cache Percetual de melhora de desempeho etre versões sucessivas Taa média de erro por etapa em um camiho de múltiplas etapas uma rede

45 Fução Média Geométrica Fução gm(), que mapeia um cojuto de respostas {,,..., } em um úico úmero. Propriedade multiplicativa: ) /,, /, / ( ),,, ( ),,, (,,, y y y gm y y y gm gm y y y gm

46 Média Harmôica A média harmôica deve ser utilizada sempre que possa ser justificada uma média aritmética para / i. Calculada através de: / / /

47 Eemplo Supoha que foram efetuadas medidas repetidas do tempo gasto com a eecução de uma bechmark em um dado processador. Na i-ésima repetição, o tempo gasto é t i Supoha aida que a bechmark possua m milhões de istruções. Etão, a taa de eecução de istruções em MIPS é dada por: i m t i

48 Eemplo Os i s podem ser resumidos através da média harmôica dado que a soma dos / i s tem um sigificado físico. A taa média de MIPS do processador seria: m / t m / t m / t m ( / )( t t t )

49 Média de uma Fração () Se tomarmos a soma dos umeradores e a soma dos deomiadores e ambas tiverem um sigificado físico, etão, a média das frações é a fração das médias. Por eemplo: b b b a a a b a b a b a,,, Média b a b a b a i i i i i i i i ) (/ ) (/

50 Eemplo.3: A utilização da CPU de um sistema medida em cico itervalos diferetes resultou em: Duração Ocupação da Medição da CPU (%) Soma 00% Média 00/5 ou 40% A utilização média ão é 40% pois as bases (deomiadores) das frações (tempos totais) ão são comparáveis.

51 Eemplo.3: A utilização média é obtida através do cálculo do tempo total em que a CPU esteve ocupada e do tempo total e da divisão dos dois: Utilização Média da CPU soma to tempoocupado da CPU soma da duração das medições 0,45 0,45 0,45 0, %

52 Média de uma Fração (a) Se o deomiador for costate, de modo que a fração foi calculada em relação a uma base que é costate em todas as observações, e a soma dos umeradores tem um sigificado físico, etão podemos utilizar a média aritmética das frações: b a i i b a b a b a b a,, b a, b a Média

53 Média de uma Fração (b) Se a soma dos deomiadores tiver um sigificado físico e os umeradores forem costates, etão deve ser utilizada a média harmôica das frações, para resumi-las: i i b a a b a b a b / / / b a,, b a, b a Média

54 Média de uma Fração () Se o umerador e o deomiador possuem uma relação multiplicativa etre eles, tal como a i =cb i, ode c é aproimadamete uma costate que está sedo estimada, etão c pode ser estimada pela média geométrica de a i /b i

55 Estudo de Caso. Diversas bechmarks foram submetidas a um otimizador de programa. O comprimeto estático do programa foi medido ates e depois da otimização como mostrado abaio: Tamaho do código Programa Ates Depois Fração BubbleP ,75 ItmmP ,85 PermP 4 0,85 PuzzleP ,88 QueeP ,99 QuickP 84 0,6 SieveP ,99 TowersP ,7 Média geométrica 0,8

56 Havia um homem que morreu afogado atravessado um riacho com uma profudidade média de 6 polegadas. - W.I.E.Gates MEDIDAS DE VARIABILIDADE

57 Variabilidade Tempos de resposta para dois sistemas com mesma média ( segudos): Qual deles você prefere?

58 Medidas de Variabilidade Ou Ídices de Dispersão : Amplitude total Variâcia ou Desvio Padrão Postos percetil 0 e 90 Metade da distâcia iterquartílica Desvio Médio absoluto

59 Amplitude total É a difereça etre o maior e o meor escore da distribuição. É simples mas etremamete depedete dos valores etremos: o míimo pode ser zero e o máimo um poto atípico, fora da curva É útil apeas se houver uma boa razão para acreditar que a variável seja limitada.

60 Variâcia A variâcia de uma amostra de observações é calculada da seguite forma: O desvio padrão de uma amostra é a raiz quadrada da variâcia da amostra. i i i i s ode ) (

61 Postos percetil 0 e 90 Semelhate à Amplitude Total, mas fucioa mesmo que a variável ão seja limitada.

62 Metade da distâcia iterquartílica A distâcia iterquartílica é a difereça etre o terceiro e o primeiro quartil. SIQR (Semi-Iterquartil Rage): SIQR Q 3 Q 0,75 0,5

63 Desvio Médio absoluto Calculada através de: Desvio médio absoluto i i Vatagem pricipal sobre o desvio padrão: ão faz produtos em etrai raiz quadrada.

64 Eemplo.4 Em um eperimeto, repetido 3 vezes, os tempos medidos de CPU foram: {3,; 4,;,8; 5,;,8; 4,4; 5,6; 3,9; 3,9;,7; 4,; 3,6; 3,; 4,5; 3,8;,9; 3,4; 3,3;,8; 4,5; 4,9; 5,3;,9; 3,7; 3,; 4,; 5,; 3,; 3,9; 4,8; 5,9; 4,} O cojuto ordeado é: {,9;,7;,8;,8;,8;,9; 3,; 3,; 3,; 3,; 3,3; 3,4; 3,6; 3,7; 3,8; 3,9; 3,9; 3,9; 4,; 4,; 4, ; 4,; 4,4; 4,5; 4,5; 4,8; 4,9; 5,; 5,; 5,3; 5,6; 5,9}

65 Eemplo.4 O cojuto ordeado é: {,9;,7;,8;,8;,8;,9; 3,; 3,; 3,; 3,; 3,3; 3,4; 3,6; 3,7; 3,8; 3,9; 3,9; 3,9; 4,; 4,; 4, ; 4,; 4,4; 4,5; 4,5; 4,8; 4,9; 5,; 5,; 5,3; 5,6; 5,9} O posto percetil 0 é dado por [+(3)(0,0)]= 4o. Elemeto =,8 O posto percetil 90 é dado por [+(3)(0,90)]= 9o. Elemeto = 5, Q é dado por [+(3)(0,5)]=9o. Elemeto= 3, Q 3 é dado por [+(3)(0,75)]=4o. Elemeto= 4,5 Portato, Q Q SIQR 4,5 3, 3 0,65

66 Seleção da Medida de Variabilidade A distribuição é limitada? Não Sim Use Amplitude Total A distribuição é simétrica e uimodal? Não Use postos percetis ou SIQR Sim Use C.O. V.

67 Determiação da Distribuição dos Dados O modo mais fácil é fazer um gráfico com o histograma das observações. Usado, por eemplo, a ferrameta de aálise de dados- histograma do Ecel! O maior problema é determiar o tamaho de cada classe (célula). Se qualquer classe tiver meos do que 5 observações, deve-se aumetar o tamaho das classes ou usar um histograma com classes de tamahos variáveis.

68 Gráfico Quatil-Quatil Para pequeas amostras o melhor é fazer um gráfico dos quatis observados em relação ao quatil teórico. Se a distribuição da amostra correspoder à distribuição teórica, o gráfico quatil-quatil deve ser liear. Os quatis da distribuição teórica são obtidos através de trasformação iversa da CDF: F ( i q i )

69 Iversa das CDFs Distribuição CDF F() Iversa Epoecial Valor Etremo Geométrica Logística Pareto Weibull a e / al(u) ( a) / b e e a bl l( u) ( p) e ( m)/ b a e ( / a) b l( u) l( p) m bl u / u / a a(l u) / b

70 Iversa da Distribuição Normal Para a distribuição ormal uitária N(0,) utiliza-se freqüetemete a seguite aproimação: i 0,4 4,9 qi ( qi ) 0,4

71 Eemplo.5 O erro de modelagem (difereça etre valores medidos e valores previstos por um modelo) para 8 predições de um modelo foram os seguites: -0,04; -0,9; 0,4; -0,09; -0,4; 0,9; 0,04 e 0,09.

72 Eemplo.5 i qi=(i-0,5)/ yi i 0,065-0,9 -,535 0,875-0,4-0, ,35-0,09-0, ,4375-0,04-0,57 5 0,565 0,04 0,57 6 0,6875 0,09 0, ,85 0,4 0, ,9375 0,9,535

73 Eemplo.5 Os erros aparetam ser distribuídos ormalmete.

74 Desvios da Distribuição Normal Normal Caudas logas Quatis Observados Quatis Observados Quatis da Normal Caudas curtas Quatis da Normal Assimétrica Quatis Observados Quatis Observados Quatis da Normal Quatis da Normal