Formulas Regressao Linear - Guia Completo UFAPE

Prof Antonio Ricardo S Andrade UFAPE FÓRMULAS REGRESSÃO LIENAR Sistema de equação linear equações normais da reta i xbˆ aˆ Yˆ XY X bˆ X aˆ Y X bˆ aˆ n 2 i Método da substituição adição n y x xy n y x xy n Sxy n x x n x x n Sxx 2 2 2 2 n y y n y y n Syy 2 2 2 2 n Y Ym média da variável Yi n Xm X média da variável Xi Sxx bˆ Sxy bˆ Xm Ym aˆ ii Método de Cremer X2 X X n D Matriz incompleta do sistema XY Y Dind Matriz dos termos independentes 2 a X XY X Y D Matriz incompleta do coeficiente a XY X Y n Db Matriz incompleta do coeficiente b 2 2 b X X n Y X XY n D D bˆ Prof Antonio Ricardo S Andrade UFAPE 2 2 2 a X X n Y X D D aˆ Coeficiente de correlação linear rxy e poder explicativo do modelo R2 Syy Sxx Sxy rxy n 1 i 2 i n 1 i 2 i xy Y Y Y Yˆ total Variação Variação explicada r Campo de variação de rxy rxy sempre será um valor entre 1 rxy 1 rXY 0 indica uma fraca dependência linear entre as duas variáveis Y e X rXY 1 indica uma relação linear forte e positiva entre duas variáveis Y e X rXY 1 indica uma relação linear forte e negativa entre duas variáveis O coeficiente de correlação linear rXY tem o mesmo sinal que o coeficiente estimado a na regressão linear Yi aXi b O teste tstudent pode ser usado para testar a hipótese de que o coeficiente de correlação entre duas variáveis Ho rXY 0 H1 rXY 0 GL 2 rxy 1 xy r cal t rXY é o valor calculado do coeficiente de correlação n é o tamanho da amostra GL n2 graus de liberdade Eq 1ªgrau Poder explicativo do modelo R2 Syy Sxy bˆ Syy Sxx bˆ R 2 2 2 xy 2 R r n 1 i 2 i n 1 i 2 i 2 Y Y Y Yˆ total Variação Variação explicada R Prof Antonio Ricardo S Andrade UFAPE SQtotal SQresid 1 SQtotal SQreg R 2 Campo de variação de R2 O campo de variação de R2 situase entre 0 e 1 1 R 0 2 o mesmo campo utilizado para o coeficiente de correlação rxy Portanto i Quando R2 0 a variação de Y explicada por X é zero ou seja a reta ajustada é paralela ao eixo da variável X o ajuste é muito fraco i Quando R2 1 a reta ajustada explicará toda a variação de Y o ajuste da reta é perfeito Erro padrão resíduo padrão da estimativa O erro padrão da estimativa determina o grau de confiança de uma modelo de regressão linear ou não linear i Erro padrão da estimativa da variância residual ESresid Supõese que o erro é uma variável aleatória de média zero e variância constante 2 Uma estimativa dessa variância residual é dada pelo quociente entre a soma de quadrados dos desvios ou resíduos por n2 graus de liberdade 2 é o número de parâmetros da reta de regressão k n Yˆ Y ES 2 n 1 i i i resid k n SQresid QMresid ESresid Sendo SQresid soma de quadrado dos resíduos ou resíduos ao quadrado MQresid Média quadrática dos resíduos ou quadrado médio dentro Onde k é o número de coeficientes inclusive o termo constante da equação de regressão GL n k 2 n Yest 2 obs Y resd ES GL n2 graus de liberdade Eq 1ªgrau Prof Antonio Ricardo S Andrade UFAPE Teste de significância para a existência de regressão linear Após o ajustamento da reta e o do cálculo do ESresid podemos avaliar a qualidade do modelo pela realização de inferência estatística sobre seus parâmetros aˆ bˆ utilizando teste de hipótese Procedimento para realização do teste i Formular as hipóteses a serem testadas são do tipo Ho bˆ bo contra H1 bˆ bo e bˆ bo bo é uma constante especifica Ho aˆ ao contra H1 bˆ ao e bˆ ao ao é uma constante especifica ii Fixar probabilidade de erro e escolher a variável do teste no caso a distribuição t de Student com GL n2 iii Com os dados amostrais calcular a estatística do teste para as hipóteses é a distribuição t de Student com n2 graus de liberdade Para o coeficiente angular bˆ 2 resid o cal X Xi ES b bˆ bˆt Para Ho bo 0 a estatística 2 resid cal X Xi ES bˆ bˆt Para o coeficiente linear aˆ 2 i 2 resid o cal X X Xi n ES a aˆ bˆt Para Ho ao 0 a estatística 2 i 2 resid cal X X Xi n ES aˆ bˆt iv Com auxilio da tabela t construir as regiões para rejeição e aceitação para Ho v Critério de decisão a Teste bilateral Prof Antonio Ricardo S Andrade UFAPE i se 2 cal t t ou 2 cal t t rejeitase Ho ii se 2 cal 2 t t t não se pode rejeitar Ho c Teste unilateral à direita i se t cal t rejeitase Ho ii se t cal t não se pode rejeitar Ho c Teste unilateral à esquerda i se t cal t rejeitase Ho ii se t cal t não se pode rejeitar Ho Intervalo de confiança para média populacional x e das estimativas de a e b i Intervalo de confiança para bˆ 2 2 i resid 2 n 2 X Xi n X ES t bˆ bˆ IC ii Intervalo de confiança para aˆ 2 resid 2n 2 α X Xi 1 ES t aˆ IC aˆ α Intervalo de confiança para média populacional x e para valores estimados de Y i Intervalo de confiança para x dado Xi Sxx X Xi n 1 ES t Yˆ i x IC 2 resid n 2 2 ii Intervalo de confiança para valores estimados de Y dado Xi 2 2 resid 2 n 2 X Xi X Xi n 1 1 ES t Yˆ i IC x Sendo Yˆ é o valor calculado pela expressão do modelo de ajustamento escolhida ESresid Erro padrão da estimativa da variância residual relativo ao modelo escolhida para o ajustamento dos dados Prof Antonio Ricardo S Andrade UFAPE Nota tα2ESresid est Y Y Para n 30 amostras Zα2ESresid est Y Y Para n 30 amostras Tabela de análise de variância ANOVA abreviação de ANalysis OF VAriance Para se decidir quão bem o modelo ajustado é adequado à natureza dos dados experimentais podese lançar mão da análise de variância da regressão ANOVAR por meio do teste F As operações processadas anteriormente para ajuste de modelo de regressão podem ser resumidas num quadro para facilitar a análise ilustrada na Tabela 3 A estatística QMresid F QMreg será discutida posteriormente Tabela da ANOVA para o modelo de regressão linear Fonte de variação GL SQ QM Fcal Regressão linear 1 Y 2 Yˆ i SQreg 1 QMreg SQreg Resíduo n2 2i Yˆ Yi SQresid ESresid 2 SQresid n QMresid Total n1 Y 2 Yi SQtotal EStotal 1 QMtotal SQtotal n Pelo teste F por meio da ANOVAR tomamos a seguinte decisão sobre a Hipótese Ho A equação de regressão não explica a variação da variável dependente Y em decorrência da variação da variável independente X ao nível de α de probabilidade H1 A equação de regressão explica a variação da variável dependente Y em decorrência da variação da variável independente X ao nível de de probabilidade Aceitando Ho podemos concluir que a equação de regressão ajustada explica a variação da variável Y em decorrência da variação da variável X ao nível de 5 de probabilidade pelo teste F Erro padrão resíduo padrão da estimativa O erro padrão da estimativa determina o grau de confiança de uma modelo de regressão linear ou não linear Erro padrão resíduo padrão da estimativa do modelo de regressão Y 2 Yˆ i ESreg Prof Antonio Ricardo S Andrade UFAPE Erro padrão da estimativa da variância residual ESresid Supõese que o erro é uma variável aleatória de média zero e variância constante 2 Uma estimativa dessa variância residual é dada pelo quociente entre a soma de quadrados dos desvios ou resíduos por n2 graus de liberdade 2 é o número de parâmetros da reta de regressão k n Yˆ Y ES 2 n 1 i i i resid k n SQresid MQresid ESresid Sendo SQresid soma de quadrado dos resíduos ou resíduos ao quadrado MQresid Média quadrática dos resíduos ou quadrado médio dentro Onde k é o número de coeficientes inclusive o termo constante da equação de regressão GL n k Erro padrão da estimativa da variância total EStotal 1 n Y Y ES 2 n 1 i i total 1 n SQtotal QMtotal EStotal Sendo SQtotal soma de quadrado total QMtotal Média quadrática total ou quadrado médio dentro