5. Exercícios

5.1 Lista de exercícios 1

1. No exemplo dos físicos nas notas de aula, obtenha também a distribuição preditiva de $X$ e compare o valor observado com a média desta preditiva para os 2 físicos. Faça uma previsão para uma $2^{\underline{a}}$ medição $Y$ feita com o mesmo aparelho.
2. Uma máquina produz $5\%$ de itens defeituosos. Cada item produzido passa por um teste de qualidade que o classifica como `` bom '', `` defeituoso '' ou `` suspeito ''. Este teste classifica $20\%$ dos itens defeituosos como bons e $30\%$ como suspeitos. Ele também classifica $15\%$ dos itens bons como defeituosos e $25\%$ como suspeitos. (a) Que proporção dos itens serão classificados como suspeitos ? (b) Qual a probabilidade de um item classificado como suspeito ser defeituoso ? (c) Outro teste, que classifica $95\%$ dos itens defeituosos e $1\%$ dos itens bons como defeituosos, é aplicado somente aos itens suspeitos. (d) Que proporção de itens terão a suspeita de defeito confirmada ? (e) Qual a probabilidade de um item reprovado neste $2^{\underline{o}}$ teste ser defeituoso ?

5.2 Lista de exercícios 2

1. Mostre que a família de distribuições Beta é conjugada em relação às distribuições amostrais binomial, geométrica e binomial negativa.
2. Para uma amostra aleatória de 100 observações da distribuição normal com média $\theta$ e desvio-padrão 2 foi especificada uma priori normal para $\theta$.
   1. Mostre que o desvio-padrão a posteriori será sempre menor do que 1/5. Interprete este resultado.
   2. Se o desvio-padrão a priori for igual a 1 qual deve ser o menor número de observações para que o desvio-padrão a posteriori seja 0,1?
3. Seja $X_1,\dots,X_n$ uma amostra aleatória da distribuição $N(\theta,\s)$, com $\theta$ conhecido. Utilizando uma distribuição a priori Gama para $\invs$ com coeficiente de variação 0,5, qual deve ser o tamanho amostral para que o coeficiente de variação a posteriori diminua para 0,1?
4. Seja $X_1,\dots,X_n$ uma amostra aleatória da distribuição $N(\theta,\s)$, com $\theta$ e $\s$ desconhecidos, e considere a priori conjugada de $(\theta,\phi)$.
   1. Determine os parâmetros $(\mu_0,c_0,n_0,\s_0)$ utilizando as seguintes informações a priori: $E(\theta)=0$, $P(\vert\theta\vert<1,412)=0,5$, $E(\phi)=2$ e $E(\phi^2)=5$.
   2. Em uma amostra de tamanho $n=10$ foi observado $\overline{X}=1$ e
      $\sum_{i=1}^n (X_i-\overline{X})^2=8$. Obtenha a distribuição a posteriori de $\theta$ e esboce os gráficos das distribuições a priori, a posteriori e da função de verossimilhança, com $\phi$ fixo.
   3. Calcule $P(\vert Y\vert>1\vert\bfx)$ onde $Y$ é uma observação tomada da mesma população.
5. Suponha que o tempo, em minutos, para atendimento a clientes segue uma distribuição exponencial com parâmetro $\theta$ desconhecido. Com base na experiência anterior assume-se uma distribuição a priori Gama com média 0,2 e desvio-padrão 1 para $\theta$.
   1. Se o tempo médio para atender uma amostra aleatória de 20 clientes foi de 3,8 minutos, qual a distribuição a posteriori de $\theta$.
   2. Qual o menor número de clientes que precisam ser observados para que o coeficiente de variação a posteriori se reduza para 0,1?

5.3 Lista de exercícios 3

1. Seja $X_1,\dots,X_n$ uma amostra aleatória da distribuição de Poisson com parâmetro $\theta$.
   1. Determine os parâmetros da priori conjugada de $\theta$ sabendo que $E(\theta)=4$ e o coeficiente de variação a priori é 0,5.
   2. Quantas observações devem ser tomadas até que a variância a posteriori se reduza para 0,01 ou menos?
   3. Mostre que a média a posteriori é da forma $\gamma_n\overline{x}+(1-\gamma_n)\mu_0$, onde $\mu_0=E(\theta)$ e $\gamma_n\rightarrow 1$ quando $n\rightarrow\infty$. Interprete este resultado.
2. O número médio de defeitos por 100 metros de uma fita magnética é desconhecido e denotado por $\theta$. Atribui-se uma distribuição a priori Gama(2,10) para $\theta$. Se um rolo de 1200 metros desta fita foi inspecionado e encontrou-se 4 defeitos qual a distribuição a posteriori de $\theta$?
3. Seja $X_1,\dots,X_n$ uma amostra aleatória da distribuição Bernoulli com parâmetro $\theta$ e usamos a priori conjugada $Beta(a,b)$. Mostre que a média a posteriori é da forma $\gamma_n\overline{x}+(1-\gamma_n)\mu_0$, onde $\mu_0=E(\theta)$ e $\gamma_n\rightarrow 1$ quando $n\rightarrow\infty$. Interprete este resultado.
4. Para uma amostra aleatória $X_1,\dots,X_n$ tomada da distribuição $U(0,\theta)$, mostre que a família de distribuições de Pareto com parâmetros $a$ e $b$, cuja função de densidade é $p(\theta)=ab^a/\theta^{a+1}$, é conjugada à uniforme.
5. Para uma variável aleatória $\theta >0$ a família de distribuições Gama-invertida tem função de densidade de probabilidade dada por
   $$p(\theta) = \frac{\beta^{\alpha}}{\Gamma(\alpha)}\theta^{-(\alpha+1)}e^{-\beta/\theta}, \quad\alpha,\beta >0.$$
   Mostre que esta família é conjugada ao modelo normal com média $\mu$ conhecida e variância $\theta$ desconhecida.

5.4 Lista de exercícios 4

1. Suponha que $\bfX=(X_1,X_2,X_3)$ tenha distribuição trinomial com parâmetros $n$ (conhecido) e $\bfpi=(\pi_1,\pi_2,\pi_3)$ com $\pi_1+\pi_2+\pi_3=1$. Mostre que a priori não informativa de Jeffreys para $\bfpi$ é $p(\bfpi)\propto [\pi_1\pi_2(1-\pi_1-\pi_2)]^{-1/2}$.
2. Para cada uma das distribuições abaixo verifique se o modelo é de locação, escala ou locação-escala e obtenha a priori não informativa para os parâmetros desconhecidos.
   1. Cauchy(0,$\beta$).
   2. $t_{\nu}(\mu,\s)$, $\nu$ conhecido.
   3. Pareto($a,b$), $b$ conhecido.
   4. Uniforme $(\theta-1,\theta+1)$.
   5. Uniforme $(-\theta,\theta)$.
3. Seja uma coleção de variáveis aleatórias independentes $X_i$ com distribuições $p(x_i\vert\theta_i)$ e seja $p_i(\theta_i)$ a priori não informativa de $\theta_i$, $i=1,\dots,k$. Mostre que a priori não informativa de Jeffreys para o vetor paramétrico $\bftheta=(\theta_1,\dots,\theta_k)$ é dada por $\prod_{i=1}^k p_i(\theta_i)$.
4. Se $\theta$ tem priori não informativa $p(\theta)\propto k$, $\theta >0$ mostre que a priori de $\phi=a\theta+b$, $a\ne 0$ também é $p(\phi)\propto k$.
5. Se $\theta$ tem priori não informativa $p(\theta)\propto \theta^{-1}$ mostre que a priori de $\phi=\theta^a$, $a\ne 0$ também é $p(\phi)\propto \phi^{-1}$ e que a priori de $\psi=\log\theta$ é $p(\psi)\propto k$.

5.5 Lista de exercícios 5

Resolva estes problemas usando o pacote estatístico R. Entregue os resultados juntamente com os comandos que utilizou.

1. Ensaios de Bernoulli.
   1. Gere uma amostra aleatória de tamanho 10 da distribuição de Bernoulli com probabilidade de sucesso $\theta=0,8$
   2. Faça um gráfico com as funções de densidade das prioris conjugadas Beta(6,2), Beta(2,6), Beta(1,1).
   3. Repita o gráfico anterior acrescentando a função de verossimilhança. Note que a verossimilhança deve ser normalizada.
   4. Faça um gráfico com as funções de densidade das posterioris usando as prioris acima e mais a priori nâo informativa de Jeffreys. O que você conclui?
   5. Repita o item anterior com uma amostra de tamanho 100. O que você conclui?
2. Modelo de Poisson.
   1. Gere uma amostra aleatória de tamanho 10 da distribuição de Poisson com média $\theta=2,0$
   2. Faça um gráfico com as funções de densidade das prioris conjugadas Gama(5,2), Gama(2,5), Gama(1,1).
   3. Repita o gráfico anterior acrescentando a função de verossimilhança. Note que a verossimilhança deve ser normalizada.
   4. Faça um gráfico com as funções de densidade das posterioris usando as prioris acima e mais a priori nâo informativa de Jeffreys. O que você conclui?
   5. Repita o item anterior com uma amostra de tamanho 100. O que você conclui?

5.6 Lista de exercícios 6

Resolva estes problemas usando o pacote estatístico R. Entregue os resultados juntamente com os comandos que utilizou.

1. Para uma única observação $X$ com distribuição $N(\theta,1)$, $\theta$ desconhecido, queremos fazer inferência sobre $\theta$ usando uma priori Cauchy(0,1). Gere um valor de $X$ para $\theta=2$, i.e. $x\sim N(2,1)$.
   1. Estime $\theta$ através da sua média a posteriori usando o algoritmo do exemplo 4.1 das notas de aula.
   2. Estime a variância da posteriori.
   3. Generalize o algoritmo para $k$ observações $X_1,\dots,X_k$ da distribuição $N(\theta,1)$.
2. Em um modelo de regressão linear simples temos que $y_i\sim N(\beta x_i,1)$. Os dados observados são $\bfy=(-2,0,0,0,2)$ e $\bfx=(-2,-1,0,1,2)$, e usamos uma priori vaga $N(0,4)$ para $\beta$.
   1. Obtenha uma amostra da posteriori de $\beta$ usando reamostragem ponderada.
   2. Baseado nesta amostra, faça um histograma e estime $\beta$ usando uma aproximação para a média a posteriori. Compare com a estimativa de máxima verossimilhança $\hat{\beta}=0,8$.
3. Para o mesmo modelo do exercício 1 e os mesmos dados suponha agora que a variância é desconhecida, i.e. $y_i\sim N(\beta x_i,\s)$. Usamos uma priori hierárquica para $(\beta,\s)$, i.e. $\beta\vert\s\sim N(0,\s)$ e $\invs\sim G(0,01,0,01)$.
   1. Obtenha uma amostra da posteriori de $(\beta,\s)$ usando reamostragem ponderada.
   2. Baseado nesta amostra, faça um histograma das distribuições marginais de $\beta$ e $\s$.
   3. Estime $\beta$ e $\s$ usando uma aproximação para a média a posteriori. Compare com as estimativas de máxima verossimilhança.