Inferência Bayesiana Normal - Análise A Priori e A Posteriori com R

Para cada situação Encontrar a priori e a posteriori da distribuição normal com média conhecida e variância desconhecida média desconhecida e variância conhecida ambos desconhecidos No r Gerar amostras n520501005001000 Escolher theta Tipo esse gráfico Caso 1 Dados com distribuição 𝑵𝝁 𝝈𝟐 com 𝝁 conhecida 𝝈𝟐 desconhecida Seja 𝑌1 𝑌𝑛 uma amostra aleatória de 𝑌 𝑁𝜇 𝜎2 com 𝜇 conhecido e 𝜎2 desconhecido Então a função de verossimilhança será 𝐿𝜎2𝒚 2𝜋𝜎21 2 exp 1 2𝜎2 𝑦𝑖 𝜇2 𝑛 𝑖1 𝐿𝜎2𝒚 2𝜋𝑛 2 𝜎2𝑛 2 exp 1 2𝜎2 𝑦𝑖 𝜇2 𝑛 𝑖1 𝐿𝜎2𝒚 𝜎2𝑛 2 exp 1 2𝜎2 𝑦𝑖 𝜇2 𝑛 𝑖1 Escrevemos a função de verossimilhança em função de 𝜏 1𝜎2 então 𝐿𝜏𝑦 𝜏𝑛 2 exp 𝜏 2 𝑦𝑖 𝜇2 𝑛 𝑖1 Assumindo a priori que 𝜏 𝐺𝑎𝑚𝑎𝛼 𝛽 então 𝑓𝜏 𝛽𝛼 Γ𝛼 𝜏𝛼1𝑒𝛽𝜏 𝜏𝛼1𝑒𝛽𝜏 𝜏 0 Portanto temse que a densidade a posteriori será tal que 𝑓𝜏𝒚 𝐿𝜏𝑦 𝑓𝜏 𝜏𝑛 2 exp 𝜏 2 𝑦𝑖 𝜇2 𝑛 𝑖1 𝜏𝛼1𝑒𝛽𝜏 𝜏𝛼𝑛 2 1 exp 𝜏 2 𝑦𝑖 𝜇2 𝑛 𝑖1 𝛽𝜏 𝜏𝛼𝑛 2 1 exp 1 2 𝑦𝑖 𝜇2 𝑛 𝑖1 𝛽 𝜏 ou seja 1 𝜎2 𝒚 𝐺𝑎𝑚𝑎 𝛼 𝑛 2 1 2 𝑦𝑖 𝜇2 𝑛 𝑖1 𝛽 Logo temse que 𝜎2𝒚 𝐺𝑎𝑚𝑎 𝐼𝑛𝑣𝑒𝑟𝑡𝑖𝑑𝑎 𝛼 𝑛 2 1 2 𝑦𝑖 𝜇2 𝑛 𝑖1 𝛽 Caso 2 Dados com distribuição 𝑵𝝁 𝝈𝟐 com 𝝁 desconhecida e 𝝈𝟐 conhecida Como a priori temos 𝜇 𝑁𝑎 𝑏2 então a fdp a priori é dada por 𝑓𝜇 2𝜋𝑏21 2 exp 1 2𝑏2 𝜇 𝑎2 𝜇 ℝ Para a função de verossimilhança dos dados sabese que 𝑋𝑖 𝑁𝜇 𝜎2 𝑖 1 𝑛 com 𝜎2 conhecido então a função de verossimilhança será 𝐿𝜇𝒙 2𝜋𝜎2𝑛 2 exp 1 2𝜎2 𝑥𝑖 𝜇2 𝑛 𝑖1 Sabendo que 𝑥𝑖 𝜇2 𝑛 𝑖1 𝑥𝑖 𝑥2 𝑛 𝑖1 𝑛𝜇 𝑥2 e definindo 𝑆𝑥𝑥 𝑥𝑖 𝑥2 𝑛 𝑖1 podemos reescrever a função de verossimilhança como 𝐿𝜇𝒙 2𝜋𝜎2𝑛 2 exp 𝑛 2𝜎2 𝜇 𝑥2 exp 1 2𝜎2 𝑆𝑥𝑥 Com isso temse 𝑓𝜇𝐱 𝐿𝜇𝒙𝑓𝜇 𝑓𝜇𝐱 2𝜋𝜎2𝑛 2 exp 𝑛 2𝜎2 𝜇 𝑥2 exp 1 2𝜎2 𝑆𝑥𝑥 2𝜋𝑏21 2 exp 1 2𝑏2 𝜇 𝑎2 𝑓𝜇𝐱 exp 𝑛 2𝜎2 𝜇 𝑥2 exp 1 2𝑏2 𝜇 𝑎2 𝑓𝜇𝐱 exp 1 2𝑏2 𝜇 𝑎2 𝑛 2𝜎2 𝜇 𝑥2 𝑓𝜇𝐱 exp 1 2 1 𝑏2 𝜇 𝑎2 𝑛 𝜎2 𝜇 𝑥2 Η Definindo Η 1 𝑏2 𝜇 𝑎2 𝑛 𝜎2 𝜇 𝑥2 então Η 1 𝑏2 𝜇2 2𝜇𝑎 𝑎2 𝑛 𝜎2 𝜇2 2𝜇𝑥 𝑥2 1 𝑏2 𝜇2 2𝜇𝑎 𝑏2 𝑎2 𝑏2 𝑛 𝜎2 𝜇2 2𝑛𝑥 𝜎2 𝜇 𝑛𝑥2 𝜎2 𝜇2 1 𝑏2 𝑛 𝜎2 2𝜇 𝑎 𝑏2 𝑛𝑥 𝜎2 𝑎2 𝑏2 𝑛𝑥2 𝜎2 1 𝑏2 𝑛 𝜎2 𝜇2 2𝜇 𝑎 𝑏2 𝑛𝑥 𝜎2 1 𝑏2 𝑛 𝜎2 1 𝑎2 𝑏2 𝑛𝑥2 𝜎2 Fazendo 𝜔 1 𝑏2 𝑛 𝜎2 0 temos Η 𝜔 𝜇2 2𝜇 𝑎 𝑏2 𝑛𝑥 𝜎2 𝜔1 𝑎2 𝑏2 𝑛𝑥2 𝜎2 𝜔 𝜇2 2𝜇 1 𝜔 𝑎 𝑏2 𝑛𝑥 𝜎2 𝑎2 𝑏2 𝑛𝑥2 𝜎2 𝜔 𝜇2 2𝜇 1 𝜔 𝑎 𝑏2 𝑛𝑥 𝜎2 1 𝜔2 𝑎 𝑏2 𝑛𝑥 𝜎2 2 1 𝜔2 𝑎 𝑏2 𝑛𝑥 𝜎2 2 𝑎2 𝑏2 𝑛𝑥2 𝜎2 𝜔 𝜇 1 𝜔 𝑎 𝑏2 𝑛𝑥 𝜎2 2 1 𝜔2 𝑎 𝑏2 𝑛𝑥 𝜎2 2 𝑎2 𝑏2 𝑛𝑥2 𝜎2 𝜔 𝜇 1 𝜔 𝑎 𝑏2 𝑛𝑥 𝜎2 2 1 𝜔 𝑎 𝑏2 𝑛𝑥 𝜎2 2 𝑎2 𝑏2 𝑛𝑥2 𝜎2 Segue que 𝑓𝜇𝐱 exp 1 2 𝜔 𝜇 1 𝜔 𝑎 𝑏2 𝑛𝑥 𝜎2 2 1 2𝜔 𝑎 𝑏2 𝑛𝑥 𝜎2 2 1 2 𝑎2 𝑏2 𝑥2 𝜎2 𝑓𝜇𝐱 exp 1 2 𝜔 𝜇 1 𝜔 𝑎 𝑏2 𝑛𝑥 𝜎2 2 𝑓𝜇𝐱 exp 1 2𝜔1 𝜇 1 𝜔 𝑎 𝑏2 𝑛𝑥 𝜎2 2 A última expressão é o núcleo de uma distribuição Normal com média e variância dadas por 1 𝜔 𝑎 𝑏2 𝑛𝑥 𝜎2 e 𝜔1 Como 𝜔 1 𝑏2 𝑛 𝜎2 então 𝜇𝐱 𝑁 1 𝑏2 𝑎 𝑛 𝜎2 𝑥 1 𝑏2 𝑛 𝜎2 1 1 𝑏2 𝑛 𝜎2 Caso 3 Dados com distribuição 𝑵𝝁 𝝈𝟐 com 𝝁 e 𝝈𝟐 desconhecidas Sejam 𝑋1 𝑋𝑛 uma aa de 𝑋 𝑁𝜇 𝜎2 com 𝜇 e 𝜎2 desconhecidos Então a verossimilhança será 𝐿𝜇 𝜎2𝐱 𝜎2𝑛 2 exp 𝑛 2𝜎2 𝜇 𝑥2 𝑛 1𝑠2 2𝜎2 com 𝑠2 𝑥𝑖 𝑥2𝑘 𝑛 𝑖1 Demonstração Seja 𝑋1 𝑋𝑛 uma aa da va populacional 𝑋 𝑁𝜇 𝜎2 então 𝐿𝜇 𝜎2𝐱 2𝜋𝜎21 2 exp 1 2𝜎2 𝑥𝑖 𝜇2 𝑛 𝑖1 2𝜋𝜎2𝑛 2 exp 1 2𝜎2 𝑥𝑖 𝜇2 𝑛 𝑖1 Ora 𝑥𝑖 𝜇2 𝑛 𝑖1 𝑥𝑖 𝑥2 𝑛 𝑖1 𝑛𝜇 𝑥2 𝑛 1𝑠2 𝑛𝜇 𝑥2 Logo 𝐿𝜇 𝜎2𝐱 𝜎2𝑛 2 exp 𝑛 2𝜎2 𝜇 𝑥2 𝑛 1𝑠2 2𝜎2 A família conjugada natural é a distribuição Normal Gama Invertida 𝑁𝐺𝑎𝐼 dada por 𝜇 𝜎2 𝑁𝐺𝑎𝐼𝑎 𝑣 𝑐 𝑑 𝜇𝜎2 𝑁𝑎 𝜎2𝑣 𝜎2 𝐺𝑎𝐼𝑐 𝑑 Atribuindo a Priori de Jeffreys Usando as prioris de Jeffreys uniparamétricas para a distribuição conjunta de 𝜇 e 𝜎2 e adotando independência a priori entre os parâmetros temse 𝑓𝜇 𝜎2 𝜎21 𝜇 𝜎2 0 Assim 𝐿𝜇 𝜎2𝐱 𝜎2𝑛 2 exp 𝑛 2𝜎2 𝜇 𝑥2 𝑛 1𝑠2 2𝜎2 𝑓𝜇 𝜎2𝐱 𝐿𝜇 𝜎2𝐱 𝑓𝜇 𝜎2 𝜎2𝑛 2 exp 𝑛 2𝜎2 𝜇 𝑥2 𝑛 1𝑠2 2𝜎2 𝜎21 𝜎2𝑛 2 1 exp 𝑛 1𝑠2 2𝜎2 𝐺𝑎𝐼𝑛 2𝑛1𝑠2 2 exp 𝑛𝜇 𝑥2 2𝜎2 𝑁𝑥𝜎2 𝑛 Logo a distribuição conjunta a posteriori é dada por 𝜇 𝜎2𝐱 𝑁𝐺𝑎𝐼 𝑥 𝑛 𝑛 2 𝑛 1𝑠2 2 𝜇𝜎2 𝐱 𝑁 𝑥 𝜎2 𝑛 𝜎2𝐱 𝐺𝑎𝐼 𝑛 2 𝑘 1𝑠2 2 Caso 1 Dados com distribuição N μσ 2 com μ conhecida σ 2 desconhecida Seja Y 1Y n uma amostra aleatória de Y N μ σ 2 com μ conhecido e σ 2 desconhecido Então a função de verossimilhança será Lσ 2y i1 n 2 π σ 2 12exp 1 2σ 2 yiμ 2 Lσ 2y2π n2σ 2 n2exp 1 2σ 2 i1 n yiμ 2 Lσ 2yσ 2 n2exp 1 2σ 2 i1 n yiμ 2 Escrevemos a função de verossimilhança em função de τ1σ 2 então L τy τ n2exp τ 2 i1 n yiμ 2 Assumindo a priori que τ Gama α β então f τ β α Γ α τ α1e βτ τ α1e βτ τ0 Portanto temse que a densidade a posteriori será tal que f τy L τy f τ τ n2exp τ 2 i1 n yiμ 2τ α1e βτ τ αn21exp τ 2 i1 n yiμ 2βττ αn21exp 1 2 i1 n yiμ 2βτ ou seja 1 σ 2y Gamaα n 2 1 2 i1 n yiμ 2β Logo temse que σ 2y GamaInvertidaα n 2 1 2 i1 n yiμ 2 β Caso 2 Dados com distribuição N μσ 2 com μ desconhecida e σ 2 conhecida Como a priori temos μ N ab 2 então a fdp a priori é dada por f μ 2π b 2 12exp 1 2b 2 μa 2 μR Para a função de verossimilhança dos dados sabese que Xi N μσ 2i1n com σ 2 conhecido então a função de verossimilhança será L μx 2π σ 2 n2exp 1 2σ 2 i1 n xiμ 2 Sabendo que i1 n xiμ 2 i1 n xix 2n μx 2 e definindo Sxx i1 n xix 2podemos reescrever a função de verossimilhança como L μx 2π σ 2 n2exp n 2σ 2 μx 2exp 1 2σ 2 Sxx Com isso temse f μx L μx f μ f μx 2 π σ 2 n2exp n 2σ 2 μx 2exp 1 2σ 2 Sxx2π b 2 12exp 1 2b 2 μa 2 f μx exp n 2σ 2 μx 2exp 1 2b 2 μa 2 f μx exp 1 2b 2 μa 2 n 2σ 2 μx 2 f μx exp 1 2 1 b 2 μa 2 n σ 2 μx 2 Η Definindo Η 1 b 2 μa 2 n σ 2 μx 2 então Η 1 b 2 μ 22 μaa 2 n σ 2 μ 22 μxx 2 1 b 2 μ 22 μa b 2 a 2 b 2 n σ 2 μ 22n x σ 2 μ nx 2 σ 2 μ 2 1 b 2 n σ 22 μ a b 2 nx σ 2 a 2 b 2 nx 2 σ 2 1 b 2 n σ 2μ 22μ a b 2 n x σ 2 1 b 2 n σ 2 1 a 2 b 2 n x 2 σ 2 Fazendo ω 1 b 2 n σ 20 temos Ηω μ 22 μ a b 2 nx σ 2 ω 1 a 2 b 2 n x 2 σ 2 ωμ 22μ 1 ω a b 2 nx σ 2 a 2 b 2 n x 2 σ 2 ωμ 22μ 1 ω a b 2 nx σ 2 1 ω 2 a b 2 nx σ 2 2 1 ω 2 a b 2 n x σ 2 2 a 2 b 2 n x 2 σ 2 ωμ 1 ω a b 2 n x σ 2 2 1 ω 2 a b 2 n x σ 2 2 a 2 b 2 n x 2 σ 2 ωμ 1 ω a b 2 n x σ 2 2 1 ω a b 2 n x σ 2 2 a 2 b 2 n x 2 σ 2 Segue que f μx exp 1 2 ωμ 1 ω a b 2 n x σ 2 2 1 2ω a b 2 n x σ 2 2 1 2 a 2 b 2 x 2 σ 2 f μx exp 1 2 ωμ 1 ω a b 2 n x σ 2 2 f μx exp 1 2ω 1μ 1 ω a b 2 n x σ 2 2 A última expressão é o núcleo de uma distribuição Normal com média e variância dadas por 1 ω a b 2 n x σ 2 eω 1 Como ω 1 b 2 n σ 2 então μx N 1 b 2 a n σ 2 x 1 b 2 n σ 2 1 1 b 2 n σ 2 Caso 3 Dados com distribuição N μσ 2 com μ e σ 2 desconhecidas Sejam X1 Xn uma aa de X N μσ 2 com μ e σ 2 desconhecidos Então a verossimilhança será L μσ 2x σ 2 n2exp n 2σ 2 μx 2 n1s 2 2σ 2 com s 2 i1 n xix 2k Demonstração Seja X 1 Xn uma aa da va populacional X N μσ 2 então L μσ 2x i1 n 2π σ 2 12exp 1 2σ 2 xiμ 22 π σ 2 n2exp 1 2σ 2 i1 n xiμ 2 Ora i1 n xiμ 2 i1 n xix 2n μx 2n1 s 2n μx 2 Logo L μσ 2x σ 2 n2exp n 2σ 2 μx 2 n1s 2 2σ 2 A família conjugada natural é a distribuição Normal Gama Invertida NGaI dada por μσ 2 NGaI av cd μσ 2 N aσ 2v σ 2 GaI cd Atribuindo a Priori de Jeffreys Usando as prioris de Jeffreys uniparamétricas para a distribuição conjunta de μ e σ 2 e adotando independência a priori entre os parâmetros temse f μσ 2 σ 2 1μ σ 20 Assim L μσ 2x σ 2 n2exp n 2σ 2 μx 2 n1s 2 2σ 2 f μσ 2xL μσ 2xf μσ 2 σ 2 n2exp n 2σ 2 μx 2 n1 s 2 2σ 2 σ 2 1σ 2 n21exp n1s 2 2σ 2 GaI n 2 n1s 2 2 exp n μx 2 2σ 2 Nx σ 2 n Logo a distribuição conjunta a posteriori é dada por μσ 2x NGaIx n n 2 n1s 2 2 μσ 2 x N x σ 2 n σ 2x GaI n 2 k1s 2 2