Estimação Pontual

Como deverá ser sabido, o nome da cadeira em estudo é Probabilidade e Estatística. Nos capítulos anteriores vimos como atribuir probabilidades a determinados eventos. Isto é, na primeira parte tratámos do estudo de probabilidades.
A segunda parte vai, então, tratar da parte da estatística.

Vamos introduzir alguns conceitos base da estatística:

• VA ou característica de interesse - característica crucial para o conhecimento do fenómeno aleatório em estudo;
• população - conjunto de todos os indivíduos que têm em comum certa característica de interesse;
• unidade estatística - nome dado a cada elemento de certa população;
• amostra - subconjunto de uma população que se julga representativo da mesma;
• dado estatístico - resultado observado em relação a uma característica de interesse e respeitante a cada unidade estatística duma amostra;
• amostragem - conjunto de procedimentos estatísticos com objetivo de obter amostras;
• estatística descritiva - conjunto de métodos que permitem tornar a informação retirada diretamente de uma amostra (caótica) num conjunto de informações sumárias e mais relevantes;
• inferência estatística - compreende um conjunto de métodos com o objetivo de usar a informação (dados/amostra) de modo a responder a questões sobre a população. Consiste então num método para tirar conclusões sobre uma população (geral) a partir de uma amostra (particular).

Na estatística, estamos interessados em fazer afirmações sobre uma característica de interesse de uma dada população. Contudo, é frequente ser impossível analisar essa característica em todos os elementos da população (em estatística, dá-se o nome de unidade estatística a cada elemento da população). É então relevante que sejamos capazes de selecionar uma porção da população, tal que, para essa porção, já seja possível fazer a análise da tal característica. A esta porção damos o nome de amostra e ao processo de seleção dá-se o nome de amostragem. Em relação à amostra, já é possível fazer observações (e a partir destas obter dados estatísticos). A partir das observações, é agora importante ser capaz de obter informação sobre a população em geral. Isto é feito através de uma inferência estatística.

Exemplo

Admita-se que queremos fazer um estudo sobre a altura da população portuguesa. Nesse caso, a característica que está em estudo - a característica de interesse é a altura, sendo a população em estudo o conjunto dos portugueses. Um exemplo de uma unidade estatística é o Cristiano Ronaldo, uma vez que este pertence ao conjunto dos portugueses.
Como seria muito dispendioso ir verificar a altura dos portugueses um a um, é importante obter um subconjunto desta população que se considere representativo da mesma - uma amostra. Um exemplo de uma amostra seria (Cristiano Ronaldo, João Pavão Martins, Quim Barreiros, Luís Humberto, Marco Almeida). O processo para seleção desta amostra denomina-se de amostragem (claro que a amostragem que levou à amostra apresentada não teve nada de aleatório). Em relação à amostra selecionada, podemos fazer a seguinte observação - a que damos o nome de dados estatísticos - $(1.87, 1.73, 1.54, 2.14, 1.82)$ corresponde às alturas dos elementos da amostra selecionada.
Esta amostra é pequena, pelo que analisá-la não é demasiado difícil. No entanto, para amostras maiores, processar toda a informação pode chegar a ser impossível. É então importante tirar conclusões a partir do dado estatístico. Isto é feito através de um conjunto de métodos enquadrados na estatística descritiva. Um exemplo de algo que seria feito neste passo seria calcular a média dos valores observados. No nosso exemplo verificamos que a média das alturas na nossa amostra é 1.82m.
A partir dos dados obtidos podemos realizar uma inferência estatística para obter informação sobre a altura dos portugueses no geral. Podemos, por exemplo, sentir-nos tentados a concluir que, em média, os portugueses medem 1.82m.

A média das alturas dos portugueses é 1.82m???

Depois da introdução do conceito de amostragem aleatória, deve ser claro porque é que a conclusão a que chegamos no exemplo acima parece estranha: a nossa amostragem não foi aleatória!
A aleatoriedade da amostragem é importante para prevenir o enviesamento da amostra para subconjuntos da população com certas características. Nomeadamente, na nossa amostragem, a média pode estar algo puxada para cima visto que a amostra é composta apenas por homens (que são tendencialmente mais altos que mulheres) e por conter o Humberto (que é gigante).

Atente-se na distinção entre amostra e amostra aleatória. Pode-se pensar na amostra como num subconjunto da população, sendo a amostra aleatória um conjunto de "placeholders" para uma amostra. Pensando no sentido contrário, podemos pensar na amostra aleatória como um conjunto de seleções aleatórias sobre a população, sendo uma amostra uma concretização dessa seleção.

Estimadores

O objetivo principal da estatística é efetuar inferências sobre características de uma VA $X$ com base numa amostra. Considera-se, no geral, que a distribuição de $X$ é:

• parcialmente desconhecida, se é conhecido o tipo de distribuição mas um ou mais parâmetros são desconhecidos. Inferências sobre este tipo de VA's dizem-se do tipo paramétrico.
• totalmente desconhecida, se nem a distribuição se conhece. Neste caso, as inferências dizem-se não paramétricas.

Um parâmetro desconhecido representa-se normalmente por $\mathbf{\theta}$ no caso unidimensional e por $\mathbf{\underline{\theta}}$ no caso multidimensional. Ao espaço de valores que $\theta$ pode tomar dá-se o nome de espaço paramétrico e representa-se por $\mathbf{\Theta}$. Para uma VA $X$ que segue uma distribuição $dist$, damos o nome de modelo paramétrico de $X$ à família de distribuições $\{ dist(\theta), \theta \in \Theta \}$.

Os estimadores consistem em estatísticas que tentam "adivinhar" o valor de um parâmetro. Mais precisamente, uma estatística diz-se um estimador do parâmetro desconhecido $\theta$ se o seu contradomínio estiver contido em $\Theta$.
Ao valor observado de um estimador $T$ dá-se o nome de estimativa.

Exemplo

À partida, podemos dizer que a distribuição da altura dos portugueses é totalmente desconhecida, uma vez que não sabemos qual a distribuição que segue. Se assumirmos, no entanto, que a altura dos portugueses segue uma distribuição normal, passamos a ter uma VA parcialmente desconhecida, já que conhecemos a distribuição, mas não sabemos os seus parâmetros ($\mu$ e $\sigma^2$).
Se estivermos interessados em determinar o valor esperado da altura de um português, $\mu$ passa a ser o nosso parâmetro desconhecido. O espaço paramétrico é o conjunto de valores que o parâmetro pode tomar. Neste caso, $\Theta = \R^+$, uma vez que uma pessoa pode tomar qualquer altura positiva (bem, mais ou menos). O modelo paramétrico vai então ser o conjunto de todas as distribuições (com parâmetro especificado) que a altura dos portugueses pode seguir.
Um estimador para o valor esperado é, por exemplo, o que usamos no exemplo inicial: a média $\underline{X} = \frac{1}{n}\sum_{i=1}^n X_i$. Nesse exemplo, obtivemos como estimativa o valor de $1.82m$.

Enviesamento

Damos o nome de enviesamento de um estimador $T$ de $\theta$ ao valor

Um estimador diz-se centrado se tiver enviesamento nulo e enviesado caso contrário.
Um estimador será tanto melhor quanto menor o seu enviesamento.

Erro Quadrático Médio

O erro quadrático médio procura calcular quanto um estimador se dispersa em torno do verdadeiro valor do parâmetro desconhecido $\theta$. Este é dado por

Um estimador será tanto melhor quanto menor o seu erro quadrático médio.
Dizemos que um estimador $T_1$ é mais eficiente que outro $T_2$, se $EQM_\theta(T_1(\underline{X})) < EQM_\theta(T_2(\underline{X}))$. Definimos a eficiência relativa de um estimador $T_1(\underline{X})$ em relação a um estimador $T_2(\underline{X})$ de parâmetro desconhecido $\theta$ como:

Sendo assim, temos que o estimador $T_1(\underline{X})$ é mais eficiente que $T_2(\underline{X})$, se $e_\theta(T_1(\underline{X}), T_2(\underline{X})) > 1$.

Método da Máxima Verosimilhança

O método da máxima verosimilhança (MV) consiste num método para obter o valor mais plausível/verosímil para um parâmetro desconhecido $\theta$, de entre todos os valores possíveis para o mesmo, tendo em conta uma amostra $\underline{x}$.

Definimos a função verosimilhança como a função $L(\theta | \underline{x} ) : \Theta \to \R$ tal que:

• $L(\theta | \underline{x}) = P(\underline{X} = \underline{x}) = \prod_{i=1}^n P(X_i = x_i | \theta)$ no caso discreto;
• $L(\theta | \underline{x}) = f_{\underline{X}}(\underline{x}) = \prod_{i=1}^n f_{X_i}(x_i | \theta)$ no caso contínuo;

Ou seja, a função verosimilhança define a probabilidade de obtermos a amostra recolhida $\underline{x}$ assumindo a validade de um certo valor para o parâmetro desconhecido $\theta$.

Damos o nome de estimativa de máxima verosimilhança ao valor $\theta \in \Theta$ que maximiza $L(\theta | \underline{x})$ para a amostra $\underline{x}$.

Frequentemente, é mais fácil encontrar máximos da função $\ln \left[ L(\theta | \underline{x}) \right]$, já que esta trabalha com somas (ao invés de produtos). A esta função dá-se o nome de log-verosimilhança.

O máximo da função verosimilhança/log-verosimilhança é obtido:

• por análise pontual, quando $\Theta$ é finito;
• recorrendo às ferramentas do cálculo, quando $\Theta$ é um conjunto que o permita (por exemplo, um intervalo nos reais).

Exemplo

// TODO

Este método dá-nos, em função de uma amostra $\underline{x}$, uma expressão para uma estimativa de máxima verosimilhança. Substituindo uma amostra particular $\underline{x}$ por uma amostra aleatória $\underline{X}$ permite-nos obter um estimador de máxima verosimilhança para $\theta$ (que não depende de nenhuma amostra em particular).

Os estimadores de MV satisfazem as seguintes propriedades:

• Invariância - Se $EMV(\theta)$ é o estimador de MV de $\theta$ e $h$ uma função bijetiva, então $EMV(h(\theta)) = h(EMV(\theta))$;
• Suficiência - As estimativas de MV condensam toda a informação relevante, contida na amostra, sobre o parâmetro;
• Consistência - À medida que o tamanho da AA aumenta, o $EMV(\theta)$ dispersa-se cada vez menos do verdadeiro valor de $\theta$.

Distribuições Amostrais

Exemplos:

• $F_{X_{(1)}}(x) = 1 - (1 - F_X(x))^n$
• $F_{X_{(n)}}(x) = (F_X(x))^n$

A média está de modo geral relacionada com o estimador de MV do valor esperado, pelo que é particularmente interessante estudar a sua distribuição amostral. Como já vimos no capítulo anterior: