인공지능(AI)은 그 동안 금융 분야의 보배 같은 존재로 평가받았다. 이런 AI의 잠재력을 주식 거래를 통한 수익 창출에도 활용할 수 있을까? 그동안 다양한 기업이 이를 시도해 일정 부분 성공을 거둔 바 있다. 일례로 세계적 자산운용사인 블랙록은 자체 개발한 AI 알고리즘의 추천 주식종목들이 포트폴리오 관리 인력들의 추천 주식종목들과 비교해 수익률이 꾸준히 높았다고 밝혔다.

그러나 홍콩중문대(CUHK)가 최근 내놓은 연구 결과에 따르면 이 같은 머신러닝 기법의 효율성에 대해 꼼꼼한 재검토가 필요한 것으로 나타났다.

이 연구(제목: 머신러닝 대 경제적 제약: 주식 수익률 예측성을 통한 분석)는 1987년부터 2017년 기간 동안 거래된 미국 주식을 거대 표본으로 삼고 분석했다. 연구진은 잘 알려진 딥러닝 기법 3가지를 활용해 월간 가치가중, 위험조정 수익률을 0.75%에서 1.87%까지 기록했다. 이는 머신러닝을 활용한 수익률이 그만큼 우수하다는 점을 보여준다. 그러나 머신러닝 알고리즘의 능력이 상대적으로 거래가 쉽고 가격이 낮은 주식에 대한 분석에 한정될 경우 이 같은 성과가 가지는 의미는 그만큼 희석된다는 것이 연구진의 판단이다.

청스(程斯) 홍콩중문대 경영대학원 조교수는 “딥러닝 기법의 수익 예측 능력은 마이크로캡이나 부실기업 등 실증적 금융 분야의 일반적인 경제적 제약으로 인해 상당 부분 약화되는 것으로 나타났다”고 말했다.

사라지는 수익

청 교수는 도론 아프라모프 IDC 허질랴 교수와 히브리대 연구생인 리오르 메츠커와 공동으로 진행한 이번 연구에서 머신러닝 포트폴리오 수익률이 마이크로캡(주가총액이 작아 거래가 어려운 주식)을 제외할 경우 62%, 투자 의견이 없는(스탠다드 & 푸어스의 기업신용등급을 획득하지 못한) 기업을 제외할 경우 68%, 신용등급이 하락한 부실기업을 제외할 경우 80%가 낮은 것으로 나타났다.

연구에 따르면 머신러닝 기반 거래 전략은 투자자심리지수가 높고 시장 변동성이 크며 유동성이 낮은 등 즉 차익 거래가 어려운 시기에 수익률이 더 높았다.

이 연구가 머신러닝 기반 전략과 관련해 주의를 당부하는 대표적 사항이 바로 거래 비용이 높다는 점이다. 청 교수는 “머신러닝 기법은 주식 회전율이 높아야 하고 해당 주식을 대량으로 보유하고 있어야 한다. 평범한 투자자들은 거래비용을 제외할 경우 의미 있는 초과수익을 확보하기 힘들 것”이라고 말했다. 다만 이 같은 결과는 머신러닝 기반 전략이 모든 트레이더들에게 수익이 제공하지 않는다는 점을 의미하지는 않는다고 덧붙였다.

청 교수는 “이 연구가 분석한 머신러닝 기법은 거래비용을 감안한다면 통계적, 경제적으로 의미있는 위험조정 수익을 내기가 어려울 수 있다는 점이 드러났다. 따라서 투자자들은 수수료 대비 투자 성과에 대한 기대치를 조정할 필요가 있다”고 밝혔다.

머신러닝의 미래

다만 청 교수는 “이 연구가 머신러닝 기술을 활용한 정량투자에 반대하는 근거로 활용되어서는 안 된다”면서 “오히려 머신러닝 기반 전략은 자산관리 분야에서 매우 유망하다 할 수 있다”고 덧붙였다. 일례로 머신러닝 기술은 미약한 주식 거래 신호들을 취합, 처리해 일관성 있는 거래 전략으로 활용 가능한 의미 있는 정보로 만들 수 있다.

머신러닝 기반 전략은 다양한 경제 위기 시기에 하방 위험이 낮았고 지속적으로 플러스 수익을 창출했다. 연구에 따르면 1987년 주식시장 붕괴, 러시아 디폴트 사태, 테크주 거품붕괴 사태, 최근의 글로벌 금융위기 등 여러 시장 하락기에 걸쳐 머신러닝 투자 기법을 적용한 주식들의 월간 가치가중, 위험조정 수익률은 최대 3.56%(마이크로캡 제외)였으며 같은 시간 전체 시장 수익율은 마이너스 6.91%였다.

청 교수는 개별 주식 시장의 이례적 현상(주식이 전통적인 자본시장 가격책정 이론 예측에 역행하는 경우)에 기반한 각종 거래 전략들이 거두는 수익률은 주로 숏포지션이 주도하며 이 같은 추세는 수년간 감소했다고 설명했다. 그러나 머신러닝 기반 전략은 롱포지션에서 수익률이 높았으며 2001년 이후 시장에 적용해도 성공적이었다고 덧붙였다.

청 교수는 “이 같은 전략은 특히 실시간 거래, 위험 관리, 롱온리 기관들에게 가치가 높다. 머신러닝 기법은 또한 산업별 편입 비중을 시장 상황에 따라 적절히 조정해 다음번 경기 순환에 맞춰 수익성을 추구하는 인더스트리 로테이션보다 주식 추천 분야에서 더욱 높은 전문성을 발휘할 것으로 전망된다”고 말했다.

이 연구는 머신러닝 기법의 경제적 중요성에 대한 대규모 증거를 제시한 최초의 사례라고 청 교수는 밝혔다.

청 교수는 “여러가지 증거를 분석한 결과 대부분의 머신러닝 기술들은 산업간 수익률 예측에 어려움을 겪고 있으며 이례적 현상에 따른 수익 패턴은 주로 차익거래가 어렵거나 매우 제한적인 주식에 집중되어 있었다”면서 “따라서 머신러닝이 자산 가격 결정 원리를 새롭게 이해하는 기회를 제공하지만, 새롭게 개발된 기법들의 성공을 평가하는 데 따른 일반적인 경제적 제약을 고려하는 한편 머신러닝 모델 적용 전 외적 타당성을 검증하는 작업을 중요하다”고 말했다.