Econometria - Modelo de Regressão Linear Simples - Análise e Interpretação

Econometria AULA 4 Suporte téorico O modelo de Regressão Linear Simples A interpretação moderna da regressão A análise de regressão se ocupa do estudo da dependência de uma variável a variável dependente em relação a uma ou mais variáveis as variáveis explanatórias com vistas a estimar eou prever o valor médio da população da primeira em termo dos valores conhecidos ou fixados em amostragens repetidas das segundas O modelo de Regressão Linear Simples A interpretação moderna da regressão O modelo de Regressão Linear Simples Conceito da Função de Regressão Populacional FRP A regressão populacional RP indica apenas o valor esperado da distribuição de Y dado Xi ou seja ela aponta que a resposta média de Y varia com X Pressupondo que é uma regressão linear teremos Nesse caso 1 e 2 são parâmetros conhecidos como intercepto e coeficiente angular O modelo de Regressão Linear Simples O significado do termo linear Qual a diferença entre a linearidade das variáveis e a dos parâmetros O modelo de Regressão Linear Simples O Erro Estocástico Podemos expressar o desvio de um valor individual de Y Yi em torno de seu valor esperado assim temos Ou então Onde o desvio ui é uma variável aleatória não observável que assume valores positivos ou negativos O termo ui também é conhecido como distúrbio estocástico ou termo de erro estocástico O modelo de Regressão Linear Simples O Erro Estocástico que é a FRP No entanto se tomarmos o valor esperado de nos dois lados da equação obtémse Assim a pressuposição de que a linha de regressão passa pelas médias condicionais de Y implica que os valores médios condicionais de ui são iguais a zero 0 i i i i i i i i i i i i E Y X E E Y X E u X E Y X E u X E u X E Y X E Y X O modelo de Regressão Linear Simples Função de regressão Amostral FRA E quando tivermos não uma população mas sim apenas amostras de uma população Na maior parte das situações práticas é impossível trabalhar com dados populacionais O que teríamos agora são amostras de Y correspondentes a alguns X fixados O modelo de Regressão Linear Simples Função de regressão Amostral FRA O modelo de Regressão Linear Simples Função de regressão Amostral FRA Acreditase que as linhas das FRA representem a linha da FRP porém devido às variações amostrais elas são na melhor das hipóteses aproximações da verdadeira regressão populacional Como a FRA é uma aproximação da FRP podemos representar a linha de regressão da FRA pela seguinte notação Que assim como FRA pode ser representado por 1 2 ˆ ˆ ˆ i i Y X 1 2 ˆ ˆ ˆ i i i Y X u O modelo de Regressão Linear Simples Função de regressão Amostral FRA Assim nosso principal objetivo passa a ser estimar a FRP com base na FRA O modelo de Regressão Linear Simples Função de regressão Amostral FRA Fica a pergunta A partir da FRA podese formular um método ou regra que torne a aproximação entre FRA e FRP o mais próximo possível Em outras palavras tornar os estimadores is chapéu mais próximos dos verdadeiros is O Problema da Estimação O Método dos Mínimos Quadrados Ordinários MQO O Método dos Mínimos Quadrados Ordinários MQO Aqui iremos estimar a FRP a partir da FRA da maneira mais acurada possível Recorrendo a FRP de duas variáveis temos Porém como a FRP não pode ser observada diretamente Temos que estimála a partir da FRA 1 2 i i i Y X u 1 2 ˆ ˆ ˆ ˆ ˆ ˆ i i i i i i i Y X u Y u Y Y sendo o valor estimado de O Método dos Mínimos Quadrados Ordinários MQO Como determinar a Própria FRA Para vermos isso faremos o seguinte Expressamos Yi como Ou seja os resíduos são simplesmente a diferença entre os valores observados e estimados de Y Agora nosso objetivo é estimar a FRA de tal forma que a mesma fique o mais próximo possível do Y observado 1 2 ˆ ˆ ˆ ˆ i i i i i u Y Y Y X O Método dos Mínimos Quadrados Ordinários MQO Para tornar o valor de Y observado o mais próximo do estimado basta adotarmos o seguinte critério deve ser o menor possível Embora intuitivamente seja um bom critério ele não funciona pois a soma dos resíduos se anulam Para resolver esse problema utilizamos a soma do quadrado dos resíduos ˆ ˆ i i i u Y Y 2 2 2 1 2 ˆ ˆ ˆ ˆ i i i i i u Y Y Y X O Método dos Mínimos Quadrados Ordinários MQO O princípio do MQO é escolher os estimadores de e de tal forma que para qualquer amostra ou conjunto de dados a seja a menor possível Aplicando um processo de otimização podemos verificar isso levando em conta que Considerando 1ˆ 2ˆ 2ˆiu 1 2 2 ˆ ˆ ˆ min iu 2ˆiu Q Cálculo dos estimadores por MQO Pelo método de MQO podemos encontrar os estimadores da regressão linear simples esses estimadores são dados por E Cálculo dos estimadores por MQO COM BASE NAS FÓRMULAS DOS BETAS CALCULE A REGRESSÃO OS RESÍDUOS PARA OS DADOS DA TABELA ABAIXO Cálculo dos estimadores por MQO Yi15721357Xi Y obs Y est Linear Y est MQO Propriedades Estatísticas do MQO i Os estimadores de MQO são expressos unicamente em termos de quantidades observáveis isto é amostra como X e Y Portanto podem ser calculados com facilidade ii São estimadores pontuais isto é dada a amostra cada estimador proporciona apenas um único valor ponto do parâmetro populacional relevante iii Uma vez obtidas as estimativas de MQO para os dados amostrais a linha de regressão amostral pode ser facilmente obtida tendo as seguintes propriedades MQO Propriedades Estatísticas do MQO a Passa pelas médias amostrais de Y e X Esse fato fica óbvio pela estimativa de 1 b O valor médio do Y estimado é igual ao valor médio do Y observado para Somandose os dois lados da equação e dividindo por n teremos ˆ Y Y MQO Propriedades Estatísticas do MQO c O valor médio dos resíduos é igual a zero iv Os resíduos não estão correlacionados ao Yi previsto v Os resíduos não estão correlacionados com os isto é 1 2 ˆ ˆ ˆ 2 0 i i i i i Y X X u X MQO Pressupostos do MQO 1 Modelo de Regressão Linear O modelo de regressão é linear nos parâmetros 2 Os valores de X são fixos em amostras repetidas Ou seja X é não estocástico MQO Pressupostos do MQO 3 O valor médio do termo de erro ui é zero Dado o valor de X o valor médio ou esperado do distúrbio aleatório ui é zero Ou seja o valor médio condicional de ui é zero Homocedasticidade ou variância igual de ui A variância de ui é a mesma para todas as observações isto é as variâncias condicionais de ui são idênticas Simbolicamente temos 0 i i E u X 2 2 2 var i i i i i i i u X E u E u X E u X em decorrência de 3 MQO Pressupostos do MQO Densidade de probabilidade de ui fu Y X1 X2 Xi X β1 β2Xi MQO Pressupostos do MQO 5 Não há autocorrelação entre os termos de erro Dados quaisquer dois valores de X Xi e Xj ij a correlação entre quaisquer ui e uj ij é zero MRLM 6 Ausência de covariância entre ui e Xi ou EuiXi0 cov 0 i j i j i i i j j j i i j j u u X X E u E u X u E u X E u X u X cov 0 i i i i i i i i i i i i i i i i u X E u E u X E X E u X E X E u E u X E X E u E X E u X já que já que é não estocástico 0 0 i E ui já que por hipótese MQO Pressupostos do MQO 7 O número de observações n deve ser maior que o número de parâmetros a serem estimados Ou então o número de observações n deve ser maior que o número de variáveis MRLM 8 Variabilidade dos valores de X Os valores de X em uma dada amostra não devem ser os mesmos Técnicamente VarX deve ser um número positivo finito 9 O modelo de regressão está especificado da forma correta Ou então não há viés ou erro de especificação no modelo empregado na análise empírica 10 Não há multicolinearidade perfeita Isto é não há relações lineares perfeitas entre as variáveis independentes MRLM MQO Precisão nas Estimativas Como verificamos cada FRA pode nos fornecer diferentes valores dos estimadores Betas da regressão por este motivo devemos sempre levar em consideração uma medida de confiabilidade ou precisão dos estimadores e Na estatística a precisão de uma estimativa é medida pelo seu erro padrão ep Podemos estimar os erros a partir das variâncias dos que são MQO Precisão nas Estimativas Uma estimativa viável da variância do erro pode ser obtida pela Soma do Quadrado dos Resíduos SQR Assim temse Onde o valor de n2 é o grau de liberdade e o é a SQR MQO Precisão nas Estimativas Para um melhor entendimento podemos representar a SQR a partir da seguinte expressão Já verificamos que que substituindo na expressão acima teremos Portanto podemos afirmar que a SQR é composta pela Soma de Quadrados Total SQT menos a soma de quadrados explicada SQE MQO Propriedades dos estimadores o Teorema de GaussMarkov O Teorema de GaussMarkov é um dos mais importantes dentre da Econometria é a partir deste teorema que provamos três importantes propriedades dos estimadores que garantem a confiabilidade nas suas estimativas são elas 1 É Linear ou seja tratase de uma função linear de uma variável aleatória 2 É Não Viesado ou não TENDENCIOSO ou seja seu valor médio ou esperado é igual ao verdadeiro valor de 3 Tem VARIÂNCIA MÍNIMA na classe de todos os estimadores lineares não viesados um estimador não viesado com a menor variância é conhecido como ESTIMADOR EFICIENTE MQO Propriedades dos estimadores o Teorema de GaussMarkov Todo o objetivo por trás da regressão é provar que os estimadores de MQO são MELNT Melhor Estimador Linear Não Tendencioso O Teorema de GaussMarkov prova isso logo essa é a principal finalidade de tal teorema Podemos demostrar isso através de um gráfico de distribuição normal destinado apenas aos estimadores logo MQO O coeficiente de Determinação R2 uma medida da qualidade do ajustamento Na verdade o principal objetivo desse coeficiente é mostrar o quanto de X consegue explicar em Y podese verificar isso no seguinte diagrama de Venn MQO O coeficiente de Determinação R2 uma medida da qualidade do ajustamento Ou seja considerando a equação em forma dos desvios para facilitar o cálculo podese verificar que Lembrando que e se elevarmos os dois lados da primeira equação ao quadrado e somando na amostra teremos MQO O coeficiente de Determinação R2 uma medida da qualidade do ajustamento Na composição final temos o conceito de que a SQTSQESQR Soma de Quadrados Total Soma de Quadrados Explicada Soma de Quadrados dos Resíduos Isso no gráfico pode ser representado da seguinte forma MQO O coeficiente de Determinação R2 uma medida da qualidade do ajustamento Dividindo ambos os lados de SQT por SQT teremos Podemos então definir o como sendo MQO O coeficiente de Determinação R2 uma medida da qualidade do ajustamento Lembrando do nosso exemplo anterior vamos calcular o MQO Um exemplo numérico Vamos construir a tabela 33 do capitulo 3 seção 36 usando o software Gretl Os dados são referentes as despesas familiares de consumo semanal Y e renda familiar semanal X