시계열 분석 알고리즘 트레이딩 — AR·ARMA·ARIMA·VAR·VECM과 칼만 필터 정리

핵심 메시지

• 이 장의 목표는 미래 가격을 맞히는 것이 아니라 가격과 수익률에 남아 있는 반복적인 시간 패턴, 종목 사이의 관계, 관측되지 않는 숨은 추세를 찾는 것이다.
• 모델 선택의 출발점은 정상성이다. 평균과 분산이 일정하면 AR·ARMA를, 추세가 계속 오르거나 분산이 커지는 비정상 시계열이면 차분을 넣은 ARIMA를 쓴다.
• 차수를 크게 잡아 과거를 많이 볼수록 좋아지지 않는다. 과거 패턴에 과하게 맞춰지기 때문에, 베이지안 정보 기준처럼 복잡도에 벌점을 주는 점수로 차수를 고른다.
• 책 예제의 AR 모델 백테스트가 누적 수익 158%로 보였지만, 발표자는 체결가를 그대로 쓰면 매수·매도 호가 사이를 오가는 움직임이 평균 회귀처럼 보이는 착시가 생긴다며 호가 중간 가격으로 돌려야 한다고 지적했다.
• 상태공간 모델과 칼만 필터는 시장에서 관측되는 가격이 그 자산의 진짜 가치가 아닐 수 있다는 문제의식에서 출발해, 관측 뒤에 숨은 상태를 추정한다.

쉽게 이해하기

AI·ML·Quant 스터디의 머신 트레이딩 3장 발표는 시계열 모델 지도를 한 장으로 펼치는 것으로 시작한다. 책이 소개하는 모델은 AR, ARMA, ARIMA, VAR, VECM 그리고 상태공간 모델과 칼만 필터다. 발표자는 상태공간 모델과 칼만 필터를 한 묶음으로 보면 여섯 갈래 정도로 정리된다고 설명했다.

본론에 들어가기 전 발표자는 기술적 분석과 시계열 분석을 구분했다. 기술적 분석은 차트와 패턴에서 매매 신호를 찾는 것이 목적이고 이동평균이나 볼린저 밴드 같은 기법을 쓴다. 시계열 분석은 통계 기법으로 가격·거래량·금리·환율 같은 시간 데이터를 분석해 미래를 예측하는 쪽이다. 그는 시계열 분석이 기술적 분석의 하위 범주에 가깝게 보인다면서도, 요점은 통계 기법을 투자에 적용하는 것이라고 정리했다.

이어 정상성과 공적분을 짚는다. 주가가 계속 오르는 추세라면 비정상이지만, 오르내림 속에서도 수익률이 일정한 범위를 유지하면 정상으로 볼 수 있다. 공적분은 두 종목이 비슷한 방향으로 움직이면서 그 차이, 즉 스프레드가 일정하게 유지되는 관계다. 발표자는 삼성전자와 하이닉스의 가격 차이를 예로 들었고, 이 개념이 뒤의 VAR과 VECM에서 다시 쓰인다고 예고했다.

AR 모델은 자기 자신의 과거 가격만 보고 미래를 예측한다. AR(1)은 하루 전 가격 하나만, AR(2)는 이틀 전까지 본다. 여기에 기업 악재처럼 추세와 무관하게 가격을 흔드는 요인을 오차항으로 넣고 정규분포를 가정하는데, 책에서는 이 항을 혁신이라고 부른다. 차수를 늘려 과거를 많이 볼수록 좋아질 것 같지만 오히려 과거 패턴에 과적합되기 때문에, 적합도에 복잡도 벌점을 더한 베이지안 정보 기준으로 점수가 가장 낮은 차수를 고른다. 책의 예에서는 AR(5)가 선택됐다.

ARMA는 과거 가격을 잔뜩 넣는 대신 과거 예측 오차를 함께 보는 방식으로, 발표자는 가격 10개 대신 가격 2개와 오차 5개면 비슷한 일을 할 수 있어 모델이 단순해진다고 설명했다. 다만 여기서의 MA는 흔히 아는 3일 이동평균선과는 다른 개념이고, ARIMA는 여기에 차분을 더한 것으로 로그 수익률이 곧 로그 가격의 차분이라 적용이 편해진다. VAR은 여러 종목을 벡터로 묶어 대각 성분에 자기 자신의 과거를, 비대각 성분에 다른 종목이 주는 영향을 담는데, 같은 테마에서 한쪽이 먼저 오르고 다른 쪽이 뒤따르면 오른 쪽을 팔고 덜 오른 쪽을 사는 신호를 찾는 식이다. VECM은 가격 자체가 아니라 변화량을 예측하도록 식을 바꿔, 중심 수준에서 얼마나 벗어났는지를 항으로 담는다.

주요 인사이트

• 시계열 분석은 펀더멘털 자료가 부족한 자산일수록 상대적으로 유리하다. 발표자는 매출이나 영업이익 같은 기초 정보가 없는 비트코인을 예로 들었고, 실적 정보가 풍부한 주식에서도 단기 움직임이나 종목 간 상호작용, 숨은 추세를 볼 때는 여전히 쓸모가 있다고 정리했다.
• 백테스트 수익률과 모델의 예측력은 다른 문제다. AR 모델 백테스트가 158%라는 누적 수익을 보여 줬지만 발표자는 그것을 성능의 증거로 받아들이지 않았다. 체결가만 보면 매수 호가와 매도 호가를 오가는 움직임이 특정 값 주위를 오가는 평균 회귀처럼 보이기 때문이다.
• AR 모델의 계수는 그 자체로 시장 해석을 담는다. 계수가 1보다 작으면 가격이 평균으로 회귀하고, 1이면 무작위 걷기처럼 오를지 내릴지 알 수 없으며, 1보다 크면 지표가 계속 커지는 방향으로 간다.
• 상태공간 모델은 관측 가격과 숨은 상태를 분리한다. 상태 전이 방정식이 이전 상태에서 현재 상태를 만들고, 측정 방정식이 그 숨은 상태와 실제로 관측된 가격을 잇는다. 이 숨은 상태를 추정하는 과정에서 칼만 필터가 쓰인다.
• 발표자가 내린 결론은 제약을 많이 걸라는 것이다. ARMA와 VAR은 시차를 1로 제한해 과거를 과하게 보지 않게 하고, 상태공간 모델에서는 잡음끼리의 교차 상관을 보지 않도록 해 과적합을 줄인다. 책의 상태공간 시뮬레이션 결과가 좋지 않았던 이유도 구조가 잡음에 맞춰진 과적합으로 언급됐다.

자주 묻는 질문

관련 AI 소식