Fórmula ACF e PACF

Quero criar um código para plotagem do ACF e PACF a partir de dados de séries temporais. Assim como esse gráfico gerado no minitab (abaixo).

Eu tentei pesquisar a fórmula, mas ainda não a entendo bem. Você se importaria de me dizer a fórmula e como usá-la, por favor? Qual é a linha vermelha horizontal no gráfico ACF e PACF acima? Qual é a fórmula?

Obrigado,

Autocorrelações

A correlação entre duas variáveis $y_1, y_2$ é definida como:

$$\rho = \frac{\hbox{E}\left[(y_1-\mu_1)(y_2-\mu_2)\right]}{\sigma_1 \sigma_2} = \frac{\hbox{Cov}(y_1, y_2)}{\sigma_1 \sigma_2} \,,$$

onde E é o operador de expectativa, $\mu_1$ e $\mu_2$ são as médias respectivamente para $y_1$ e e são seus desvios padrão.$y_2$$\sigma_1, \sigma_2$

No contexto de uma única variável, ou seja, correlação automática , é a série original e é uma versão atrasada dela. Após a definição acima, autocorrelações amostra de ordem k = 0 , 1 , 2 , . . . pode ser obtido utilizando a seguinte expressão, com a série observada y t , t = 1 , 2 , . . . , n :$y_1$$y_2$$k=0,1,2,...$$y_t$$t=1,2,...,n$

$$\rho(k) = \frac{\frac{1}{n-k}\sum_{t=k+1}^n (y_t - \bar{y})(y_{t-k} - \bar{y})}{ \sqrt{\frac{1}{n}\sum_{t=1}^n (y_t - \bar{y})^2}\sqrt{\frac{1}{n-k}\sum_{t=k+1}^n (y_{t-k} - \bar{y})^2}} \,,$$

onde $\bar{y}$ é a média da amostra dos dados.

Autocorrelações parciais

Autocorrelações parciais medem a dependência linear de uma variável após remover o efeito de outras variáveis ​​que afetam as duas variáveis. Por exemplo, a autocorrelação parcial de ordem mede o efeito (dependência linear) de $y_{t-2}$ em $y_t$ após remover o efeito de $y_{t-1}$ em $y_t$ e $y_{t-2}$ .

Cada autocorrelação parcial pode ser obtida como uma série de regressões da forma:

$$\tilde{y}_t = \phi_{21} \tilde{y}_{t-1} + \phi_{22} \tilde{y}_{t-2} + e_t \,,$$

onde $\tilde{y}_t$ é a série original menos a média da amostra, $y_t - \bar{y}$ . A estimativa de $\phi_{22}$ fornecerá o valor da autocorrelação parcial da ordem 2. Estendendo a regressão com $k$ atrasos adicionais, a estimativa do último termo fornecerá a autocorrelação parcial da ordem $k$ .

Uma maneira alternativa de calcular as autocorrelações parciais da amostra é resolver o seguinte sistema para cada ordem $k$ :

$$\begin{eqnarray} \left(\begin{array}{cccc} \rho(0) & \rho(1) & \cdots & \rho(k-1) \\ \rho(1) & \rho(0) & \cdots & \rho(k-2) \\ \vdots & \vdots & \vdots & \vdots \\ \rho(k-1) & \rho(k-2) & \cdots & \rho(0) \\ \end{array}\right) \left(\begin{array}{c} \phi_{k1} \\ \phi_{k2} \\ \vdots \\ \phi_{kk} \\ \end{array}\right) = \left(\begin{array}{c} \rho(1) \\ \rho(2) \\ \vdots \\ \rho(k) \\ \end{array}\right) \,, \end{eqnarray}$$

onde $\rho(\cdot)$ são as autocorrelações da amostra. Esse mapeamento entre as autocorrelações da amostra e as autocorrelações parciais é conhecido como recursão de Durbin-Levinson . Essa abordagem é relativamente fácil de implementar para ilustração. Por exemplo, no software R, podemos obter a autocorrelação parcial da ordem 5 da seguinte maneira:

# sample data
x <- diff(AirPassengers)
# autocorrelations
sacf <- acf(x, lag.max = 10, plot = FALSE)$acf[,,1]
# solve the system of equations
res1 <- solve(toeplitz(sacf[1:5]), sacf[2:6])
res1
# [1]  0.29992688 -0.18784728 -0.08468517 -0.22463189  0.01008379
# benchmark result
res2 <- pacf(x, lag.max = 5, plot = FALSE)$acf[,,1]
res2
# [1]  0.30285526 -0.21344644 -0.16044680 -0.22163003  0.01008379
all.equal(res1[5], res2[5])
# [1] TRUE

Faixas de confiança

As faixas de confiança podem ser calculadas como o valor das autocorrelações da amostra $\pm \frac{z_{1-\alpha/2}}{\sqrt{n}}$ , onde$z_{1-\alpha/2}$é o quantil$1-\alpha/2$na distribuição gaussiana, por exemplo, 1,96 para faixas de confiança de 95%.

Às vezes, são usadas faixas de confiança que aumentam à medida que a ordem aumenta. Nesse caso, as bandas podem ser definidas como $\pm z_{1-\alpha/2}\sqrt{\frac{1}{n}\left(1 + 2\sum_{i=1}^k \rho(i)^2\right)}$.

"Quero criar um código para plotagem do ACF e PACF a partir de dados de séries temporais".

Embora o OP seja um pouco vago, ele pode ser mais direcionado a uma formulação de codificação no estilo "receita" do que a uma formulação de modelo de álgebra linear.

---

$t$$t-1$$ts_{t-3}$$3$$3$

Exemplo:

Vamos inventar uma série temporal com um padrão senoidal cíclico sobreposto a uma linha de tendência e ruído, e traçar o ACF gerado por R. Eu peguei este exemplo em um post online de Christoph Scherber e apenas adicionei o ruído a ele:

x=seq(pi, 10 * pi, 0.1)
y = 0.1 * x + sin(x) + rnorm(x)
y = ts(y, start=1800)

Normalmente, teríamos que testar os dados quanto à estacionariedade (ou apenas olhar para o gráfico acima), mas sabemos que há uma tendência, então vamos pular esta parte e ir diretamente para a etapa de descendência:

model=lm(y ~ I(1801:2083))
st.y = y - predict(model)

Agora, estamos prontos para resolver essa série cronológica, primeiro gerando o ACF com a acf()função em R e comparando os resultados com o loop improvisado que montei:

ACF = 0                  # Starting an empty vector to capture the auto-correlations.
ACF[1] = cor(st.y, st.y) # The first entry in the ACF is the correlation with itself (1).
for(i in 1:30){          # Took 30 points to parallel the output of `acf()`
  lag = st.y[-c(1:i)]    # Introducing lags in the stationary ts.
  clipped.y = st.y[1:length(lag)]    # Compensating by reducing length of ts.
  ACF[i + 1] = cor(clipped.y, lag)   # Storing each correlation.
}
acf(st.y)                            # Plotting the built-in function (left)
plot(ACF, type="h", main="ACF Manual calculation"); abline(h = 0) # and my results (right).

---

$ts_{t-4}$$ts_t$$ts_{t-1}$$ts_{t-2}$$ts_{t-3}$, as well as $ts_{t-4}$, and we regress $ts_t \sim ts_{t-1} + ts_{t-2} + ts_{t-3}+ts_{t-4}$ through the origin and keeping only the coefficient for $ts_{t-4}$:

PACF = 0          # Starting up an empty storage vector.
for(j in 2:25){   # Picked up 25 lag points to parallel R `pacf()` output.
  cols = j        
  rows = length(st.y) - j + 1 # To end up with equal length vectors we clip.

  lag = matrix(0, rows, j)    # The storage matrix for different groups of lagged vectors.

for(i in 1:cols){
  lag[ ,i] = st.y[i : (i + rows - 1)]  #Clipping progressively to get lagged ts's.
}
  lag = as.data.frame(lag)
  fit = lm(lag$V1 ~ . - 1, data = lag) # Running an OLS for every group.
  PACF[j] = coef(fit)[j - 1]           # Getting the slope for the last lagged ts.
}

And finally plotting again side-by-side, R-generated and manual calculations:

That the idea is correct, beside probable computational issues, can be seen comparing PACF to pacf(st.y, plot = F).

---

code here.

Well, in the practise we found error (noise) which is represented by $e_t$ the confidence bands help you to figure out if a level can be considerate as only noise (because about the 95% times will be into the bands).

Here is a python code to compute ACF:

def shift(x,b):
    if ( b <= 0 ):
        return x
    d = np.array(x);
    d1 = d
    d1[b:] = d[:-b]
    d1[0:b] = 0
    return d1

# One way of doing it using bare bones
# - you divide by first to normalize - because corr(x,x) = 1
x = np.arange(0,10)
xo = x - x.mean()

cors = [ np.correlate(xo,shift(xo,i))[0]  for i in range(len(x1)) ]
print (cors/cors[0] )

#-- Here is another way - you divide by first to normalize
cors = np.correlate(xo,xo,'full')[n-1:]
cors/cors[0]