INSTITUTO SUPERIOR TÉCNICO Sistemas de Apoio à Decisão

Transcrição

1 Número: Nome: INSTITUTO SUPERIOR TÉCNICO Sistemas de Apoio à Decisão Exame: 2 Solution 25 January (5 pts) Algumas perguntas fáceis para começar ) Assinale as seguintes frases como verdadeiras (V) ou falsas (F). Cada resposta correcta corresponde a uma cotação de + valor. Resposta errada -0,5. Se não responder, a cotação é 0. (Indicate the question with (V) for true and (F) for false. Every correct answer has a value +. False answer has a value No answer the value 0.) (a) (pts) (V) Supor que um DW consiste em cinco dimensões: o tempo_, o tempo_2 a geografia, o produto, o cliente e umas medidas contam, onde a contagem é o número de produtos vendidos. Supor que o dimensão tempo_ tem a hierarquia mês, dia. Supor que o dimensão tempo_2 tem a hierarquia ano, mês. Supor que o dimensão a geografia tem a hierarquia: continente, país. Então o número de cobóis é 08 Suppose that a DW consists of five dimensions: time_, time_2, geography, product, customer and a measures count, where count is the number of sold products. Suppose that the dimension time_ has the hierarchy: day, month. Suppose that the dimension time_2 has the hierarchy: month, year. Suppose that the dimension geography has the hierarchy continent, country. Then the number of cuboids is 08 (+2)*(+2)*(+2)*2*2=3*3*3*2*2=08 (b) (pts) (F) Entropia de Shannon (Information) medido em bits pode ter valores negativos (Shannon s Entropy (Information) measured in bits can have negative values) I = H(F) = p i log 2 p i i

2 Número: Nome: 2 (c) (pts) (F) Num bom clustering os membros de cada cluster devem estar tão perto quanto possível e os números do cluster devem ser maiores que cinco. (In a good clustering the members of each cluster should be as close to each other as possible and the number clusters should be bigger than five.) (d) (pts) (F) Uma Support Vector Machine com o kernel <x,y> e mais poderoso que um perceptrão com dois nível escondido e com função activação linear. (Support vector machine with the kernel <x,y> is more powerful then a Perceptron with two hidden layer and a linear activation function.) (e) (pts) (V) O Perceptrão Multinível (Multilátera Perceptron) com um nível escondidos e com função de cativação f(x)=e*x só pode classificar problemas linearmente separáveis. (Multilayer Perceptron with one hidden layers and the activation function f(x)=e*x can only classify linear seperable problems)

3 Número: Nome: 3 3) (3 pts) Apriori TID Items bought 00 {a, b, c, d, f} 200 {a, c} 300 {a} 400 {a, b} Usando o algoritmo apriori determinar todas as regras fortes com (strong rules) valor de suporte de 50% (min_sup = 2/4) e valor de confiança de 50% (min_conf = 4/2). Por favor, indicar todos os passos do algoritmo. Using apriori algorithm determine all strong rules with support value 50% (min_sup=2/4) and confidence value 50% (min_conf=2/4). Please indicate all steps of the algorithm. C L a 4/4 a 4/4 b 2/4 b 2/4 c 2/4 c 2/4 d /4 f /4 C2 L2 a, b 2/4 a, b 2/4 a,c 2/4 a, c 2/4 Strong Rules: a -> b support 2/4, 50% confidence 2/4, 50% b -> a support 2/4, 50% confidence 2/2, 00% a -> c support 2/4, 50% confidence 2/4, 50% c -> a support 2/4, 50% confidence 2/2, 00%

4 Número: Nome: 4 3. (3 pts) ) PCA Suponha que tem a seguinte: (Suppose we have following data points:)! x i = 0 0, 4 0, (a) (2 pts) Qual é a matriz da transformação K-L? (What is the K-L transformation?) Covariance matrix for a sample is: c ij = n k= (k ( x ) i m i ) x (k) j m j n ( ) " C = c c 2 % $ ' # c 2 c 22 & (For population we divide by n) m =(0+4+)/3=5/3 m 2 =(0+0+)/3=/3 c =((0-5/3)^2+(4-5/3)^2+(-5/3)^2)/2=3/3= c 2 =c 2 =((0-5/3)*(0-/3)+(4-5/3)*(0-/3)+(-5/3)*(-/3))/2=-/3= c 22 =((0-/3)^2+(0-/3)^2+(-/3)^2)/2=/3= C = = The system has to become linear dependable (singular). The determinant has to become zero. λ I C = 0 λ 3 3 λ = λ! 4 3 λ = 0 λ = , λ 2 =

5 Número: Nome: For λ= =0 𝑢 = =0 𝑢 𝑢! 2. 𝒖𝟏 For λ2= = =0 𝑢 𝑢! = 𝒖𝟐 Two normalized eigenvectors are 𝒖𝟏 𝒖𝟐 with 𝑈= as well 𝑈= =0 𝑢

6 Número: Nome: 6 (b) pts) Qual dos vectores próprios (eigenvectors) é mais significante? O critério de Kaiser é aplicável? (Which Eigenvector is more significant? Can we apply the Kaiser criterion?) u because λ < λ 2 and λ =0.3058, λ < the Kaiser criterion can be applied.

7 Número: Nome: 7 4. (3 pts) Belief Networks Calcule a probabilidade de Alarm dado Earthquake e WatsoCalls serem verdado. Buglary, RadioNews serem desconhecidos. (Determine the probability of Alarm given Earthquake and WatsoCalls are true. Buglary, RadioNews are unknown) RadioNews is an irrelevant variable! P A e, w = α P w A P( A e, b P b P e! P A e, w = α P e P w A P( A e, b P b! P A e, w = α P e P w A (P(A e, b P b + P(A e, b P b ) P a e, w = α 0.00*0.95*(0.99*0.+0.5*0.9)= P a e, w = α 0.00*0.*(0.0*0.+0.5*0.9)= P a e, w = /( )=

8 Número: Nome: 8 5. (2 pts) Decision Tree Cluster F F2 F3 F4 Output c a b x n a a c a t a b b a t c b c x m a b b a f Calcule a árvore de decisão para este conjunto de exemplos com target Output usando o algoritmo ID3. Indique os seus cálculos. Determine the decision tree using the ID3 algorithm with the target Output. Indicate the calculation. p(n)=/5 p(t)=2/5, p(m)=/5, p(f)=/5 Log2[x]= Log[x]/Log[2] I(table)= -3*/5*Log2[/5] - 2/5*Log2[2/5] =.9293 bits n C E(P) = i I(C i ) gain(p) = I(C) E(P) C i= F=F4 Ca=(t,t,f), Cc=Cx=(n,m), I(Ca)= -2/3*Log2[2/3] /3*Log2[/3]= bits I(Cc)= I(Cx) = -/2*Log2[/2] /2*Log2[/2]= bit E(F)= 2/5*+3/5* = Gain(F) =Gain(F4)= = F2 Ca=(n,t) Cb=(t,m,f) I(Ca)= -/2*Log2[/2] /2*Log2[/2]= bit I(Cb)= -3*/3* Log2[/3]= E(F2)= 2/5*+3/5*.58496= Gain(F2)= = F3 Cb=(n,t,f) Cc=(t,m) I(Cb)= -3*/3*Log2[/3] =Log2[3]= bits I(Cc)= -2*/2Log2[/2]=Log2[2]= bit E(F2)= 3/5* /5*=.3509 Gain(F2)= =0.5703

9 Número: Nome: 9 We chose F (or F4 since they are equal) as the root The remaining table Ca: F2 F3 Output a c t b b t b b f F2 and F3 are equal, they ghve the same gain. We chose for the tree F2 The remaining table Cc: F2 F3 Output a b n b c m F2 and F3 are equal as well! (They have the same gain). We chose for the tree F3

10 Número: Nome: 0 6. (3 pts) Neuronal Network NN Dados os w ={w =0,w 2 =0,w 3 =0,w 4 =0,w 5 =0} w 2 ={w 2 =0,w 22 =0,w 23 =0,w 24 =0,w 25 =0} w 3 ={w 3 =0,w 32 =0,w 33 =0,w 34 =0.,w 35 =0} W ={W =,W 2 =,W 3 =} W 2 ={W 2 =,W 22 =,W 23 =} e a função de activação: f x = σ x =!!!! (!!!) Faça um gradiente descendente estocástico com η= para o vector de entrada x={,,,,}; e alvo (target) t={2,2}, determine Δw e ΔW jk ij adaptação. para o primeiro passo de net j =net=net 2 =net 3 =0 V = V 2 =V 3 =/( + Exp[-6*0])= 0.5 Output layer net i =net =net 2 =W i *V + W i2 *V 2 +W i2 *V 2 =*0.5+*0.5+*0.5=.5 O = O 2 =/( + Exp[-6*.5])=

11 Número: Nome: Output Layer: ΔW ij = (t i o i ) f ' (net i )V j f! x = 6 σ(x) ( σ x ) net i =net =net 2 =.5 δ! = δ! =( )*6*/( + Exp[-6*.5])*(-/( + Exp[-6*.5]))= ΔW ij = δ i V j Because of symetry (all weights are the same in a layer) W!" =0.0007*0.5= W!"#!" = = Hidden layer 2 Δw jk = δ i W ij f ' (net j ) x k i= net j =net =net 2 =net 3 =0 f (net j )= 6*/( + Exp[-6*0])*( - /( + Exp[-6*0]))=.5 δ =δ 2 =δ 3 =0.0007** **.5=0.002 Δw jk = δ j x k =0.002 w!"!"# = = 0.002