Econometria III - Processos Estocásticos e Espaço de Probabilidade

EAE1223 Econometria III Aula 2 Processos estocásticos Luis A F Alvarez 7 de agosto de 2024 Espaço de probabilidade Formalmente o conceito utilizado para se definir a noção de incerteza associada a um problema é o de espaço de probabilidade Um espaço de probabilidade é uma tripla Ω Σ P onde Ω é um conjunto denominado espaço amostral contendo todos as possíveis realizações da incerteza Σ é uma coleção de subconjuntos de Ω denominada σálgebra A cada subconjunto de Ω pertencente a Σ damos o nome de evento Os elementos de Σ são aqueles para os quais somos capazes de definir a incerteza uma lei de probabilidade P que atribui a cada conjunto E Σ um número PE entre 0 e 1 A lei de probabilidade satisfaz os axiomas de Kolmogorov Por que não definimos a probabilidade para todo subconjunto de Ω Resposta se Ω é complexo por exemplo 0 1 é impossível definir uma probabilidade que satisfaça todos os axiomas de Kolmogorov para todo subconjunto do espaço 2 35 ExemplO Considere um lançamento de um dado não viciado Nesse caso espaço amostral é Ω 1 2 3 4 5 6 Como lançamento é não viciado sabemos que P1 P2 P3 P4 P5 P6 16 Pelos axiomas da probabilidade segue que podemos tomar Σ como o conjunto de todos os subconjuntos de Ω e para qualquer E Σ PE PeEe eE Pe E6 onde E é o número de elementos de E Exemplo probabilidade de que o lançamento dê um número par é P246 36 12 VARIÁVEL ALEATÓRIA E PROCESSO ESTOCÁSTICO Uma variável aleatória Z é uma função com domínio no espaço amostral onde definimos a incerteza e valores em outro espaço para nossos fins os reais Por exemplo ΩΣP um espaço de probabilidade descrevendo a incerteza associada aos retornos de ativos financeiros e Z Ω ℝ é a variável aleatória que representa o retorno de um fundo Incerteza em ΩΣP traduzse em incerteza em Z ie Z é incerto pois o valor ω Ω que ocorre é incerto Um processo estocástico é uma coleção de variáveis aleatórias Xt t T com domínio no mesmo espaço de probabilidade e indexada por um conjunto T Uma série de tempo é um processo estocástico indexado no tempo ie T é um conjunto de períodos Sempre tomaremos T ℤ ou T ℕ Para cada ω Ω Xtω t T é uma trajetória possível da série de tempo Para cada t T Xt é uma variável aleatória Processo estocástico e incerteza From this point of view we may consider the total number of possible observations no nosso uma trajetória possível Xtω t T as result of a sampling procedure which Nature is carrying out and which we merely watch as passive observers Haavelmo 1944 5 35 Série de tempo estritamente estacionária Uma série de tempo Xt t T é dita estritamente estacionária se para todo t T j N Xt Xt1 Xtj d Xth Xt1h Xtjh h 0 onde d significa igualdade das distribuições conjuntas isto é PXt c1 Xt1 c2 Xtj cj PXth c1 Xt1h c2 Xtjh cj c1 c2 cj Estacionariedade estrita requer que distribuição de qualquer número finito de períodos do processo seja a mesma ao longo do tempo 6 35 Série de tempo fracamente estacionária Para modelos lineares de séries de tempo vamos considerar o conceito de processo fracamente estacionário Uma série de tempo Xt t T é dita fracamente estacionária se 1 EXt µ para todo t T 2 VXt σ2 para todo t T 3 covXt Xs ϕts para todo t s T Processo é fracamente estacionário se sua média e variância mantêmse constantes no tempo e covariância entre duas observações depende somente da distância entre as duas observações no tempo Estacionariedade fraca impõe um mínimo de estabilidade no processo ao longo do tempo para que análise estatística usual possa prosseguir De modo geral alguma noção de estacionariedade dependência fraca entre as observações observações muito distantes no tempo comportamse como observações independentes vai ser requerida das séries de tempo para o funcionamento padrão de estimadores Processo é dito não estacionário se não for fracamente estacionário 7 35 Ruído branco Um processo Zt t T é dito um ruído branco se 1 EZt 0 para todo t 2 VZt σ2 para todo t 3 covZt Zs 0 se t s Um ruído branco tem média zero variância constante finita e não apresenta correlação serial Por construção é um processo fracamente estacionário 8 35 Ruído branco gráfico Time rb 0 100 200 300 400 500 3 2 1 0 1 2 3 9 35 PROCESSO MAQ Um processo Zt t ℤ é dito de média movel de ordem q ou tão somente MAq se Zt μ ϵt i0q ψi ϵti onde ϵttℤ é um ruído branco com variância σ2ϵ Vamos verificar que o processo é fracamente estacionário De fato 1 EZt μ 2 VZt σ2ϵ 1 j1q ψj2 3 covZtj Zt σ2ϵ ψj ψj1ψ1 ψq ψqj se 0 j q 0 se j q Processo tem memória curta correlações desaparecem após q períodos Processo MA2 com ψ1 1 e ψ2 05 Time ma2 0 100 200 300 400 500 4 2 0 2 4 11 35 PROCESSO AR1 ESTACIONÁRIO Um processo Zt t Z é dito autorregressivo de ordem um estacionário ou tão somente AR1 estacionário se Zt α ρZt1 ut onde ρ 1 uttZ é ruído branco com Vut σu² existem S Z C R tais que EZt C para todo t S Vamos verificar que as condições acima garantem que o processo seja de fato estacionário Note que Zt α ρα ρZt2 ut1 ut α ρα ρ²α ρZt3 ut2 ut ρut1 j0τ1 ρj α ρτ Ztτ j0τ1 ρj utj PROCESSO AR1 ESTACIONÁRIO CONT Pelas hipóteses limτ ρτ EZtτ 0 Isso nos garante que ρτ Ztτ 0 e podemos escrever Zt j0 ρj α j0 ρj utj α 1 ρ j0 ρj utj AR1 estacionário se escreve como MA Usando representação acima podemos checar que o processo é estacionário De fato 1 EZt α 1ρ 2 VZt σu² 1 ρ² 3 corZt Zs ρts AR1 estacionário com ρ 07 gráfico Time ar1 0 100 200 300 400 500 2 0 2 4 14 35 Processo ARp estacionário Um processo Zt t Z é dito autorregressivo de ordem p estacionário ou tão somente ARp estacionário se Zt α β1Zt1 β2Zt2 βpZtp ut onde uttZ é ruído branco com Vut σ2 u existem S Z C R tais que EZt C para todo t S e os parâmetros β1 β2 βp são tais que processo resultante é estacionário No ARp processo se escreve como uma combinação linear do que aconteceu nos últimos p períodos mais uma inovação 15 35 OPERADOR DEFASAGEM Para a análise de séries de tempo é conveniente definir uma função L denominada operador defasagem que para uma dada série de tempo XttT nos devolve a série de tempo que consiste em XttT defasado em um período ie L Xt definição LXt Xt1 t T A notação Ld será usada para denotar a aplicação do operador L d vezes em sequência ie Ld Xt definição L L Xt d vezes Xtd t T Por fim definiremos L0 1 de modo que L0 Xt 1Xt Xt t T Propriedades do operador defasagem Lema Sejam Xtt in T e Ytt in T duas séries de tempo e α ℂ um número complexo Então 1 Linearidade LXt αYt LXt αLYt 2 Existência de soma infinita Se Xtt in T é estacionário e α 1 o processo Zt j0 αj Lj Xt j0 αj Xtj existe e é estacionário 3 Inversa Se Xtt in T é estacionário e α 1 1 αL1Xt j0 αj Lj Xt ARp em notação polinomial Usando a notação aprendida anteriormente podemos reescrever o ARp como ϕLZt α ut 1 onde ϕL 1 β1L β2L2 βpLp e utZ é ruído branco A equação 1 define uma equação a diferenças com parte estocástica Nesse ambiente dizemos que um processo ZttZ é uma solução a 1 se ZttZ satisfaz 1 e para todo t Zt é uma função tão somente dos uτ de períodos anteriores a t ie τ t Nossa definição de solução se restringe a processos em que o que ocorre com Zt é somente função do que já ocorreu no passado ou que ocorre no presente mas não do futuro No jargão probabilístico nosso conceito de solução se restringe a processo causais onde causalidade aqui não é no sentido econométrico e tão somente um jeito de dizer que a solução respeita a ordenação natural do tempo 18 35 Caracterizando as soluções Proposição Existe um processo Ztt ℤ fracamente estacionário que é solução a 1 se e somente se as p raízes da equação ϕx 0 se encontram fora do círculo unitário isto é ϕx 0 x 1 Neste caso o processo fracamente estacionário que satisfaz 1 é único e pode ser escrito como Zt ϕ1Lα ut τ j0 ωj utj Estacionariedade do ARp A proposição anterior nos provê uma caracterização para a existência de um Ztt estacionário que satisfaz 1 em termos das raízes do polinômio característico ϕx Note que a proposição fala de existência de uma solução Por quê Isso se deve ao fato de que também podem existir processos ZttZ não estacionários que satisfazem 1 mesmo quando as raízes estão todas fora do círculo Mas o teorema nos diz que se ao menos uma das raízes está dentro do círculo com certeza não há nenhuma solução estacionária A restrição que fazíamos na definição de ARp estacionário de que o passado não explodia justamente descartava as soluções não estacionárias garantindo que selecionássemos a solução estacionária No curso e na vida vamos seguir como tradicionalmente feito na literatura econométrica e implicitamente sempre descartar as soluções não estacionárias explosivas que existem mesmo quando todas as raízes estão fora do círculo Dessa forma diremos que um ARp é fracamente estacionário se e somente se todas as raízes de ϕx estão fora do círculo 20 35 Encontrando os coeficientes da representação MA As propriedades do operador defasagem podem ser utilizadas para encontrar a representação MA de um ARp estacionário De fato considere um AR2 estacionário 1 β1L β2L2yt α ut Da fatoração de polinômios podemos escrever 1 β1x β2x2 1λ1 x 11λ2 x 1 onde λ1 e λ2 são as raízes de 1 x β2x2 0 Portanto 1 β1L β2L2yt 1 1λ1 L1 1λ2 Lyt α ut Encontrando os coeficientes da representação MA Mas então yt 1 β1L β2L21 α ut 1 1λ2 L1 1 1λ1 L 1 α ut i0 to 1λ2i Lij0 to 1λ1j Ljα ut 11 λ111 λ21 α k0 to ωk utk onde ωk é a soma de termos 1λ1i λ2j tais que i j k ie ωk i0 to k 1λ2i λ2ki ARMApQ Um processo YttZ é dito ARMApq se Yt α j1 to p γj Ytj ϵt l1 to q πl ϵtl onde ϵttZ é ruído branco Processo ARMApq tem notação polinomial ΓL Yt α ΠL ϵt onde ΓL 1 γ1 L γ2 L2 γp Lp e ΠL 1 π1 L π2 L2 πq Lq Um ARMApq é dito em forma simplificada se Γ e Π não possuem raízes em comum ie Γx 0 Πx 0 e Πx 0 Γx 0 Sempre é possível colocar um ARMA em forma simplificada fatorando os dois polinômios em termos das raízes comuns e cortandoos dos dois lados Estacionariedade do ARMApq A estacionariedade do ARMApq depende fundamentalmente do comportamento da parte AR Proposição Considere um processo ARMApq Se as p raízes da equação característica Γx 0 estão todas fora do círculo unitário então o ARMApq é estacionário Por outro lado se o ARMApq está em forma simplificada e uma das raízes de Γx está dentro do círculo ie existe Γx 0 com x 1 o ARMApq não é estacionário 24 35 Processo ARMApQ invertível Um ARMApq estacionário é dito invertível se admite representação AR ie se pode ser escrito como Yt ω j1 to κj Ytj ϵt Invertibilidade depende do comportamento da parte MA Proposição Considere um processo ARMApq estacionário Se as q raízes da equação característica Πx 0 estão todas fora do círculo unitário então o ARMApq é invertível Por outro lado se o ARMApq está em forma simplificada e uma das raízes de Πx está dentro do círculo ie existe Πx 0 com x 1 o ARMApq não é invertível Invertibilidade será importante para distinguirmos entre processos ARMA Método para verificar estacionariedade e invertibilidade do ARMA Para verificar a estacionariedade do ARMApq 1 Calcular as p raízes de Γx 0 Se todas estão fora do círculo processo é estacionário 2 Se há raízes dentro do círculo calculálas tratar raízes em multiplicidade como distintas Se todas as raízes dentro do círculo de Γ aparecem como raízes de Πx 0 as raízes em multiplicidade precisam aparecer pelo menos o mesmo número de vezes repetidas em Π o processo ainda é estacionário Se não for o caso o processo é não estacionário Para verificar a invertibilidade do ARMApq estacionário 1 Calcular as q raízes de Πx 0 Se todas estão fora do círculo processo é invertível 2 Se há raízes dentro do círculo calculálas tratar raízes em multiplicidade como distintas Se todas as raízes dentro do círculo de Π aparecem como raízes de Γx 0 as raízes em multiplicidade precisam aparecer pelo menos o mesmo número de vezes repetidas em Γ o processo ainda é invertível Se não for o caso o processo não é invertível 26 35 ARMA12 gráfico Time arma12 0 100 200 300 400 500 5 0 5 10 27 35 Processo não estacionário tendência determinística Considere agora o processo Zt α β t ut 3 onde β 0 e utt é ruído branco Note que esse processo é não estacionário visto que EZt α β t varia no tempo Processo é estacionário em torno de uma tendência Dizemos que processos que incluem componentes determinísticos da forma f t onde f é uma função do tempo apresentam tendência determinística 28 35 Exemplo de processo com tendência determinística gráfico Figura Zt 005 t ut ut N0 1 Time det 0 100 200 300 400 500 0 2 4 6 29 35 Processo não estacionário tendência estocástica Considere agora um passeio aleatório simples definido como Zt Zt1 ut t 0 4 onde uttN é ruído branco e Z0 0 Nesse caso é possível verificar que Zt Σs1t us t 0 5 e vemos que o processo é não estacionário visto que VZt t σu2 De 5 notamos que o processo apresenta tendência estocástica choques têm efeito permanente no nível da série Exemplo de processo com tendência estocástica gráfico Figura Passeio aleatório simples Time rw 0 100 200 300 400 500 10 5 0 5 31 35 Processo não estacionário quebra estrutural Um terceiro tipo de processo não estacionário é dado por Yt μ0 ut se t T μ1 ut se t T 6 onde uttN é ruído branco e μ0 μ1 Processo apresenta quebra de nível média é μ0 até T e μ1 para a frente Outro tipo de processo com quebra de estrutura é dado por Yt ut se t T σut se t T 7 para σ 1 Processo apresenta quebra de escala ou na variância Processo não estacionário quebra estrutural gráfico Time meanbreak 0 100 200 300 400 500 2 0 2 4 a Quebra de nível Time sdbreak 0 100 200 300 400 500 4 2 0 2 4 b Quebra de escala 33 35 Removendo não estacionariedades Cada tipo de estacionariedade enseja um tratamento particular Podemos remover a tendência determinística do processo 3 ajustando um modelo linear de Zt em t e extraindo os resíduos Também é possível trabalhar com a série em primeira diferenças isto é trabalhar com a série Yt Zt Zt1 embora isso não seja a maneira mais eficiente de fazêlo e não funciona para tendências não lineares Por outro lado para remover a tendência estocástica em 4 devemos trabalhar com a série diferenciada Zt Zt Zt1 Observe que de 4 Zt Zt Zt1 é um processo estacionário Por fim para processos com quebra estrutural o ideal é analisar os processos em janelas separadas dentro das quais há estacionariedade O problema neste caso é identificar o ponto de quebra T 34 35 Os diferentes tipos de não estacionariedade Processos com tendência determínistica que se tornam estacionários após a subtração de uma f t são conhecidos como estacionários em torno de tendência trendstationary Processos com tendência estocástica que requerem diferenciação para se tornarem estacionários são conhecidos como I1 ou com uma raiz unitária Processos estacionários são conhecidos como I0 Nas próximas aulas desenvolveremos métodos estatísticos para distinguir entre os três processos Não vamos focar na detecção de quebra estrutural embora seja importante saber que esta é uma área ativa da Econometria Mas se der tempo veremos como quebras exógenas de variância podem ser usadas na identificação de efeitos causais 35 35