Econometria - Modelo de Regressão Linear Simples e Método dos Mínimos Quadrados Ordinários MQO

Aula 4 Econometria Modelo de Regressão Linear Simples Capítulo 3 e 4 4 Econometria Básica Gujarati O Problema da Estimação O Método dos Mínimos Quadrados Ordinários MQO O Método dos Mínimos Quadrados Ordinários MQO Aqui iremos estimar a FRP a partir da FRA da maneira mais acurada possível Recorrendo a FRP de duas variáveis temos Yi β1 β2 Xi ui Porém como a FRP não pode ser observada diretamente Temos que estimála a partir da FRA Yi β1 β2Xi ûi Ŷi ûi sendo Ŷi o valor estimado de Yi O Método dos Mínimos Quadrados Ordinários MQO Como determinar a Própria FRA Para vermos isso faremos o seguinte Expressamos Yi como ûiYiŶi Yiβ1β2Xi Ou seja os resíduos são simplesmente a diferença entre os valores observados e estimados de Y Agora nosso objetivo é estimar a FRA de tal forma que a mesma fique o mais próximo possível do Y observado O Método dos Mínimos Quadrados Ordinários MQO Para tornar o valor de Y observado o mais próximo do estimado basta adotarmos o seguinte critério Σûi ΣYi Ŷi deve ser o menor possível Embora intuitivamente seja um bom critério ele não funciona pois a soma dos resíduos se anulam Para resolver esse problema utilizamos a soma do quadrado dos resíduos Σûi2 Σ Yi Ŷi2 Σ Yi β1 β2Xi2 O Método dos Mínimos Quadrados Ordinários MQO O princípio do MQO é escolher os estimadores de β₁ e β₂ de tal forma que para qualquer amostra ou conjunto de dados a uᵢ² seja a menor possível Aplicando um processo de otimização podemos verificar isso levando em conta que minβ₁ β₂ uᵢ² Considerando uᵢ² Q Cálculo dos estimadores por MQO Pelo método de MQO podemos encontrar os estimadores βis da regressão linear simples esses estimadores são dados por β₁ Ȳ β₂X E β₂ Xᵢyᵢ Xᵢ² nX² ou β₂ xᵢyᵢ xᵢ² MQO Propriedades Estatísticas do MQO i Os estimadores de MQO são expressos unicamente em termos de quantidades observáveis isto é amostra como X e Y Portanto podem ser calculados com facilidade ii São estimadores pontuais isto é dada a amostra cada estimador proporciona apenas um único valor ponto do parâmetro populacional relevante iii Uma vez obtidas as estimativas de MQO para os dados amostrais a linha de regressão amostral pode ser facilmente obtida tendo as seguintes propriedades MQO Propriedades Estatísticas do MQO a Passa pelas médias amostrais de Y e X Esse fato fica óbvio pela estimativa de β₁ b O valor médio do Y estimado Ŷ é igual ao valor médio do Y observado para Ŷᵢ β₁ β₂Xᵢ Y β₂Y β₂Xᵢ Y β₂Xᵢ X Somandose os dois lados da equação e dividindo por n teremos Y Ŷ Modelo clássico de regressão linear normal MCRLN O que é conhecido como teoria clássica da inferência estatística consiste em dois ramos a estimação e o teste de hipóteses Até agora abordamos o tema da estimação dos parâmetros do modelo de regressão linear com duas variáveis Utilizando o método dos MQO conseguimos estimar os parâmetros MQO Propriedades Estatísticas do MQO c O valor médio dos resíduos ûᵢ é igual a zero iv Os resíduos ûᵢ não estão correlacionados ao Yᵢ previsto ŷᵢûᵢ β₂ xᵢûᵢ β₂ xᵢyᵢ β₂xᵢ β₂ xᵢyᵢ β₂² xᵢ² β₂² xᵢ² β₂² xᵢ² 0 v Os resíduos ûᵢ não estão correlacionados com os Xᵢ isto é 2 Yᵢ β₁ β₂XᵢXᵢ ûᵢXᵢ 0 MQO Pressupostos do MQO 1 Modelo de Regressão Linear O modelo de regressão é linear nos parâmetros 2 Os valores de X são fixos em amostras repetidas Ou seja X é não estocástico Densidade de probabilidade de ui fu X1 X2 Xi Y β1 β2 Xi X MQO Pressupostos do MQO 5 Não há autocorrelação entre os termos de erro Dados quaisquer dois valores de X Xi e Xj ij a correlação entre quaisquer ui e ui ii é zero MRLM covuiujXiXj Eui EuiXiuj EujXj EuiXiujXj 0 6 Ausência de covariância entre ui e Xi ou EuiXi 0 covuiXi Eui EuiXi EXi EuiXi EXi já que Eui 0 EuiXi EXiEui já que EXi é não estocástico EuiXi já que Eui 0 0 por hipótese MQO Pressupostos do MQO 3 O valor médio do termo de erro ui é zero Dado o valor de X o valor médio ou esperado do distúrbio aleatório ui é zero Ou seja o valor médio condicional de ui é zero EuiXi 0 Homocedasticidade ou variância igual de ui A variância de ui é a mesma para todas as observações isto é as variâncias condicionais de ui são idênticas Simbolicamente temos varuiXi Eui EuiXi2 Eui2Xi em decorrência de 3 σ2 MQO Pressupostos do MQO 7 O número de observações n deve ser maior que o número de parâmetros a serem estimados Ou então o número de observações n deve ser maior que o número de variáveis MRLM 8 Variabilidade dos valores de X Os valores de X em uma dada amostra não devem ser os mesmos Tecnicamente VarX deve ser um número positivo finito 9 O modelo de regressão está especificado da forma correta Ou então não há viés ou erro de especificação no modelo empregado na análise empírica 10 Não há multicolinearidade perfeita Isto é não há relações lineares perfeitas entre as variáveis independentes MRLM MQO Precisão nas Estimativas Como verificamos cada FRA pode nos fornecer diferentes valores dos estimadores Betas da regressão por este motivo devemos sempre levar em consideração uma medida de confiabilidade ou precisão dos estimadores β₁ e β₂ Na estatística a precisão de uma estimativa é medida pelo seu erro padrão ep Podemos estimar os erros a partir das variâncias dos β que são varβ₂ σ²xᵢ² e epβ₂ σxᵢ² varβ₁ Xᵢ²nxᵢ² σ² e epβ₁ Xᵢ²nxᵢ²σ MQO Precisão nas Estimativas Uma estimativa viável da variância do erro σ² pode ser obtida pela Soma do Quadrado dos Resíduos SQR Assim temse σ² uᵢ²n2 Onde o valor de n2 é o grau de liberdade e o uᵢ² é a SQR MQO Precisão nas Estimativas Para um melhor entendimento podemos representar a SQR a partir da seguinte expressão Σ ui2 Σ yi2 β22 Σ xi2 Já verificamos que β2 Σ xi yi Σ xi2 que substituindo na expressão acima teremos Σ ui2 Σ yi2 Σ xi yi2 Σ xi2 Portanto podemos afirmar que a SQR é composta pela Soma de Quadrados Total SQT Σ yi2 menos a soma de quadrados explicada SQE Σ xi yi2 Σ xi2 Modelo clássico de regressão linear normal MCRLN Sob as hipóteses do modelo clássico de regressão linear demonstramos que os estimadores desses parâmetros satisfazem várias propriedades estatísticas desejáveis como a de não viés variância mínima etc Lembrese da propriedade de melhor estimador linear não viesado ou não tendencioso MELNT ou BLUE Note que como são estimadores seus valores mudarão de amostra para amostra Portanto esses estimadores são variáveis aleatórias Sabemos que os nossos estimadores de MQO irão mudar conforme a amostra Por isso precisamos de uma medida de PRECISÃO desses estimadores A medida de precisão utilizada é o ERROPADRÃO Modelo clássico de regressão linear normal MCRLN O Teorema de GaussMarkov é um dos mais importantes dentre da Econometria é a partir deste teorema que provamos três importantes propriedades dos estimadores que garantem a confiabilidade nas suas estimativas são elas 1 É Linear ou seja tratase de uma função linear de uma variável aleatória 2 É Não Viesado ou não TENDENCIOSO ou seja seu valor médio ou esperado é igual ao verdadeiro valor de 3 Tem VARIÂNCIA MÍNIMA na classe de todos os estimadores lineares não viesados um estimador não viesado com a menor variância é conhecido como ESTIMADOR EFICIENTE Modelo clássico de regressão linear normal MCRLN Na verdade o principal objetivo desse coeficiente é mostrar o quanto de X consegue explicar em Y podese verificar isso no seguinte diagrama de Venn Modelo clássico de regressão linear normal MCRLN Mas a estimação é metade do caminho A outra metade é o teste de hipóteses Lembrese de que na análise de regressão nosso objetivo é não apenas estimar a função de regressão amostral FRA mas também usála para fazer inferências sobre a função de regressão populacional FRP Como já foi enfatizado queremos saber até que ponto aproximase de 1 ou quanto está próximo do verdadeiro Portanto como são variáveis aleatórias precisamos descobrir suas distribuições de probabilidade pois sem esse conhecimento não seremos capazes de relacionálas a seus verdadeiros valores Modelo clássico de regressão linear normal MCRLN Portanto como são variáveis aleatórias precisamos descobrir suas distribuições de probabilidade pois sem esse conhecimento não seremos capazes de relacionálas a seus verdadeiros valores Vamos praticar um pouco gretl Arquivo Ferramentas Dados Ver Acrescentar Amostra Variável Modelo Ajuda Tabela Lista 1 Econometriacsv nº ID 0 1 2 3 Nome da variável const ANO Y X Descrição Mostrar valores Editar características Definir código para valores ausentes Estatísticas descritivas Teste de normalidade Distribuição de frequência Gráfico de densidade estimada Diagrama de caixa Gráfico QQ Normal Coeficiente de Gini Gráfico amplitudemédia Gráfico de série temporal Gráfico de painel Testes de raiz unitária Correlograma Periodograma Filtro Análise X12ARIMA Análise IRAMO Expoente de Hurst Utilizando os dados da Lista 1 Estatística Descritiva Estatísticas descritivas usando as observações 1960 2005 para a variável ANO 46 observações válidas Média 19825 Mediana 19825 Mínimo 19600 Máximo 20050 Desvio padrão 13423 CV 00067706 Enviesamento 000000 Curtose Ex 12011 percentil de 5 19613 percentil de 95 20037 Intervalo interquartil 23500 Obs ausentes 0 Ícones Gráfico das variáveis Gráficos múltiplos Estatísticas descritivas Matriz de correlação Tabulação cruzada Componentes principais Distâncias de Mahalanobis Correlograma cruzado corxY X 099917490 De acordo com a hipótese nula de não correlação t44 163188 com pvalor bicaudal 00000 Valores do coeficiente de correlação e qualificação da correlação Valor do coeficiente Interpretação 100 correlação negativa perfeita 095 correlação negativa forte 050 correlação negativa moderada 010 correlação negativa fraca 000 ausência de correlação 010 correlação positiva fraca 050 correlação positiva moderada 095 correlação positiva forte 100 correlação positiva perfeita Correlação Mensura o grau de associação entre duas variáveis No caso há um grau de cerca de 099 entre as variáveis x e y Em relação a essa correlação quanto mais próximo de 1 mais proporcionais mais associada entre as variáveis são as variáveis e quanto mais próximo de 1 mais inversamente proporcionais serão essas relações Obs A correlação mensura apenas o grau de associação entre duas variáveis gretl Arquivo Ferramentas Dados Ver Acrescentar Amostra Variável Modelo Ajuda Tabela Lista 1 Econometriacsv nº ID Nome da variável Descrição 0 const 1 ANO 2 Y 3 X Anual Intervalo completo 1960 2005 gretl modelo 1 Arquivo Editar Testes Salvar Gráficos Análise LaTe X Modelo 1 MQO usando as observações 19602005 T 46 Variável dependente Y coeficiente erro padrão razãot pvalor const 299591 287649 1042 188e013 X 0721834 000442333 1632 724e063 Média var dependente 4047976 DP var dependente 1791113 Soma resid quadrados 2381319 EP da regressão 7356689 Rquadrado 0998350 Rquadrado ajustado 0998313 F1 44 2663033 PvalorF 724e63 Log da verossimilhança 2619658 Critério de Akaike 5279315 Critério de Schwarz 5315888 Critério HannanQuinn 5293016 rô 0866693 DurbinWatson 0316146 O MQO estimou a RLS considerando T 46 observações no período de 1960 a 2005 A Regressão Linear Simples estimada acima ilustra a variável dependente consumo Y em função da variável explicativa PIB X Y 2995 0721X constante 2995 Caso tenha X 0 o consumo será 299 ou seja 2995 Coeficiente Angular 0721X Descreve a variação do Consumo dada a variação na renda Representa a inclinação da RLS Y 2995 0721X Interpretação Para cada aumento de R 100 na renda provocará em média um aumento de aproximadamente de R 072 são destinados ao consumo Os demais R 028 poderão ser destinados a outras modalidades financeiras como por exemplo a poupança A variável renda X Coeficiente Angular 0720 é significativa a ao nível de 1 de significância A variável Intercepto 2995 é significativa a ao nível de 1 de significância É uma medida de variação de uma média amostral em relação a média populacional Quanto mais próximo de zero os valores do erro padrão melhor será o modelo estimado se aproximando da média populacional Através do Erro Padrão se calcula o intervalo de Confiança IC O Teste t observado mostra se os coeficientes são significantes que são mostrados pelo p valor Vamos calcular futuramente o t futuramente na mão e entender o procedimento adotado O teste T observado mostra se os coeficientes B1 e B2 são significantes que são mostrados pelo Pvalor Média var dependente Soma resíd Quadrados e Rquadrado Média var dependente 4047976 Soma resíd quadrados 2381319 Rquadrado 0998350 Com a imagem acima podese afirmar que a SQR é composta pela soma de quadrados total menos a soma de quadrados explicada SQT𝑦𝑖² SQE𝑥𝑖𝑦𝑖²𝑥𝑖² menos Neste exemplo o somatório de resíduos é igual à 2381319 Coeficiente de determinação modelo de ajuste de um modelo de RLS e RLM É uma medida descritiva da qualidade do ajuste obtido O valor de Rquadrado depende do n de observações n e tende a crescer a medida que aumenta n as variáveis explicativas como é o caso de Regressão Linear Múltipla No caso a variável PIB explica cerca de 0998350 ou 998 de despesas com consumo DP Var dependente e EP da regressão DP var dependente 1791113 EP da regressão 7356689 O Desvio padrão Quanto mais próximo de zero indica que um conjunto de valores é bastante concentrado e homogêneo em relação a média Neste caso a DP var dependente foi de 1791113 acompanhado da E P da regressão que foi de 7356689 Arquivo Ferramentas Dados Ver Acrescentar Amostra Variável Modelo Ajuda Ícones Gráfico das variáveis Série temporal Gráficos múltiplos XY em dispersão Estatísticas descritivas XY com impulsos Matriz de correlação XY com separação fatorizada Tabulação cruzada XY com controles Componentes principais Diagramas de caixa Distâncias de Mahalanobis Diagrama de caixa fatorizado Correlograma cruzado Gráfico QQ Gráfico 3D Ano Intervalo completo 1960 2005 gretl definir gráfico Gráfico de dispersão XY ANO Y X Variável do eixo X X Variáveis do eixo Y Y Mostrar as variáveis com defasagens Ajuda Limpar Cancelar OK A reta de regressão está bem ajustada porque os erros estão bem próximos à minha reta de regressão estimada