트레이더가 돈을 잃는 이유: 연구가 실제로 말하는 것

손실을 본 모든 트레이더가 결국 던지는 질문

계좌를 날려본 거의 모든 트레이더는 언젠가 같은 질문을 던지게 됩니다. 전략 때문이었을까, 아니면 나 때문이었을까? 실제 증권 계좌를 대상으로 한 20년간의 학술 연구가 뒷받침하는 정직한 답은 대개 둘 다이지만, 대부분의 트레이더가 인정하고 싶어하지 않을 만큼 “나”라는 요인이 훨씬 더 큰 비중을 차지하며, 그것은 막연한 “규율”이라는 개념보다 훨씬 구체적입니다.

이것은 동기부여성 주장이 아닙니다. 설문조사나 자기 보고가 아니라 수백만 개의 실제 계좌, 실제 체결 내역, 실제 비용 등 연구자들이 실제 거래 기록에 접근했을 때 나타나는 결과를 요약한 것입니다. 여러 시장과 수십 년에 걸쳐 일관되게 드러나는 그림은, 개인 트레이더 집단이 시장 지식이 부족해서가 아니라 데이터에서 측정 가능한 특정하고 반복적인 행동 패턴 때문에 저조한 성과를 낸다는 것입니다.

기초가 되는 연구: Barber와 Odean

이 분야에서 가장 많이 인용되는 논문은 Brad Barber와 Terrance Odean의 2000년 연구 Trading Is Hazardous to Your Wealth로, 한 대형 할인 증권사의 6만 가구 이상의 거래 기록을 분석했습니다. 가장 자주 인용되는 발견은 다음과 같습니다. 표본에서 가장 활발하게 거래한 트레이더들의 평균 연간 수익률은 약 11.4%였던 반면, 같은 기간 시장 자체는 약 17.9%의 수익률을 기록했습니다.

이 연구를 단순히 “트레이더는 저조한 성과를 낸다”는 헤드라인보다 더 유용하게 만드는 것은, 이 연구가 그 메커니즘을 분리해냈다는 점입니다. 비용을 제외하면, 가장 활발한 트레이더들의 종목 선택은 시장보다 의미 있게 나쁘지 않았습니다. 그들의 총수익률은 벤치마크에 근접했습니다. 격차는 비용, 즉 수수료, 스프레드, 그리고 거래 빈도 자체를 반영한 후에야 거의 전적으로 벌어졌습니다. 다시 말해, 손실의 주된 원인은 종목 선정 판단의 실패가 아니었습니다. 그것은 자제력의 실패였습니다. Barber와 Odean은 과도한 매매 자체를 과신 탓으로 돌렸는데, 이는 사람들이 자신의 정보의 정확성을 과대평가하고 근거가 정당화하는 것보다 더 자주 행동에 옮기는, 잘 문서화된 경향입니다.

이 구분은 여러분 자신의 결과를 어떻게 바라볼지에 있어 매우 중요합니다. 비용을 제외하면 여러분의 선택이 대략 손익분기점 수준인데도 여전히 돈을 잃고 있다면, 문제는 여러분의 분석이 아니라 여러분의 방아쇠 손가락입니다.

데이트레이더 전체 집단을 관찰하면 무슨 일이 벌어지는가

Barber와 Odean의 연구는 증권사 고객 전반을 폭넓게 살펴본 것이었습니다. 별도의, 그리고 어쩌면 더 뼈아픈 연구 흐름은 대만의 포괄적인 시장 데이터를 활용해 데이트레이더만을 구체적으로 살펴보았는데, 이 데이터는 연구자들이 한 국가 전체 시장에서 사실상 모든 데이트레이딩 활동을 식별할 수 있게 해주는 독보적인 자료였습니다.

여러 논문(Barber, Lee, Liu, Odean)에 걸쳐 그 패턴은 냉혹합니다. 일반적인 6개월 기간 동안 데이트레이더의 80% 이상이 돈을 잃었습니다. 데이트레이딩을 실현 가능한 소득원으로 삼을 만큼 꾸준히 수익을 낸 사람은 극소수에 불과했습니다. 흥미롭게도, 가장 활발하게 거래한 데이트레이더들은 종종 총수익 기준으로는 수익을 냈습니다. 수수료 이전의 원시 거래 결정은 양(+)의 수익률을 냈지만, 거래 비용을 적용하면 순손실로 전환되었습니다. Barber와 Odean의 더 폭넓은 연구에서 나타난 것과 같은 비용 잠식 메커니즘이 여기서도 다시 나타나며, 데이트레이딩 특유의 훨씬 높은 거래 빈도로 인해 그 효과가 증폭됩니다.

브라질 주식 선물 시장을 대상으로 한 2019년 연구(Chague, De-Losso, Giovannetti)는 같은 패턴의 훨씬 더 극단적인 버전을 발견했습니다. 300일 이상 선물을 데이트레이딩한 개인들, 즉 개인 데이트레이더 중에서도 가장 헌신적이고 경험이 많다고 볼 수 있는 집단 중 97%가 돈을 잃었고, 트레이딩으로 브라질 최저임금 이상을 번 사람은 단 1.1%에 불과했습니다. 이는 1년에 몇 번 거래하는 초보자 집단이 아니었습니다. 이들은 장기간에 걸쳐 거의 매일 거래한 사람들이었으며, 그럼에도 결과는 여전히 압도적으로 부정적이었습니다.

이 연구들을 함께 읽어보면, 손쉬운 변명 하나를 배제할 수 있습니다. 즉, 데이트레이더들이 단순히 연습이 부족했던 것이 아니라는 것입니다. 결함 있는 프로세스를 오래 반복한다고 해서 그 프로세스가 고쳐지지는 않습니다. 그저 그것이 통하지 않는다는 것을 확인해주는 데이터가 더 쌓일 뿐입니다.

행동 격차: 돈을 벌어다 주는 투자에서 돈을 잃는 것

별도의 연구들은 거의 역설적인 무언가를 기록하고 있습니다. 투자자들이 자신이 투자한 바로 그 펀드와 전략보다도 자주 더 저조한 성과를 낸다는 것입니다. Dalbar의 오랫동안 이어져 온 투자자 행동 정량 분석(QAIB) 연구는 뮤추얼펀드가 보고하는 수익률과 그 펀드를 보유한 평균 투자자가 실제로 실현한 수익률 사이의 격차를 반복적으로 발견했는데, 이는 흔히 시점을 잘못 맞춘 매수·매도, 즉 상승랠리 이후에 몰려들어가고 하락 이후에 공황 매도하는 행동 때문으로 여겨집니다.

신뢰성을 위해 여기서 실제 존재하는 방법론적 비판을 짚어둘 필요가 있습니다. 특히 Michael Kitces를 비롯한 일부 분석가들은 Dalbar의 방법론이 서로 다른 것을 비교하고 있다고, 즉 행동 격차의 크기를 과장할 수 있는 벤치마크 계산법을 사용한다고 주장해왔습니다. 격차의 정확한 크기에 대해서는 논쟁이 있습니다. 그러나 이 연구의 거의 모든 버전에 걸쳐 진지하게 반박되지 않는 것은 그 방향입니다. 즉 투자자들은 집단적으로 가격이 이미 오른 뒤에 매수하고 이미 내린 뒤에 매도하는 경향이 있으며, 이는 수익성 있는 트레이딩 프로세스가 요구하는 것과 정반대입니다.

이 패턴의 이면에 있는 메커니즘은 Dalbar의 연구와는 별개로, 이미 수십 년 전에 설명되었습니다. 1998년 Terrance Odean은 오늘날 처분 효과(disposition effect)라 불리는 것을 기록했습니다. 투자자는 손실 중인 포지션보다 수익 중인 포지션을 매도할 확률이 약 1.5배 더 높다는 것입니다. 이익은 소중하게 느껴지고 트레이더는 그것을 되돌려주는 것을 두려워하기 때문에 수익 포지션은 일찍 청산됩니다. 손실 포지션은 원래 계획했던 것보다 훨씬 오래 보유되는데, 이는 그것을 청산하는 순간 손실이 확정되기 때문이며, 그 손실은 아직 실현되지 않았음에도 여전히 피할 수 있는 것처럼 느껴지기 때문입니다. 그 결과는 작은 수익과 큰 손실 쪽으로 구조적으로 편향된 포트폴리오이며, 이는 유리한 리스크 대비 보상 산식이 요구하는 것과 정반대입니다.

왜 이런 일이 일어나는가: 전망 이론

처분 효과와 행동 격차는 무작위적인 특이 현상이 아닙니다. 이는 인간이 이익과 손실을 처리하는 방식으로부터 직접적으로 비롯되며, 이는 Daniel Kahneman과 Amos Tversky의 1979년 전망 이론(prospect theory)으로 공식화되었습니다. 이 연구의 두 가지 발견이 위에서 설명한 트레이딩 행동 대부분을 설명해줍니다.

첫째, 손실은 동등한 크기의 이익보다 약 두 배 강렬하게 느껴집니다. 500달러를 잃는 고통은 500달러를 얻는 기쁨의 약 두 배입니다. 이러한 비대칭성, 즉 손실 회피(loss aversion)는 왜 사전에 계획한 손절가에서 손실 포지션을 정리하는 것이 마땅히 그래야 할 것보다 훨씬 더 어렵게 느껴지는지를 설명해줍니다. 뇌가 실제 걸려 있는 금액에 비해 불균형적으로 큰 고통 신호를 등록하고 있는 것입니다.

둘째, 처분 효과와 더 구체적으로 관련된 것으로, 사람들은 이미 손실에 직면했을 때 위험 회피적이 아니라 위험 추구적으로 변합니다. 확실한 소액 손실과 같은 기댓값을 가진 도박 중 하나를 선택하라고 하면, 대부분의 사람은 도박을 선택합니다. 확실하지만 더 작은 손실을 받아들이기보다는, 본전을 만회할 기회를 위해 상황을 더 악화시킬 위험을 감수하는 것을 선호합니다. 이는 손절가에서 청산하는 대신 “다시 돌아올지도 모른다”는 이유로 손실 포지션을 보유하는 심리적 함정과 정확히 일치합니다. 그 포지션은 확실하지만 더 작은 고통을 피하기 위한 도박이 되어버렸으며, 이는 훨씬 더 클 수도 있는 고통을 대가로 치르는 것입니다.

정직한 뉘앙스: 심리는 주요 원인이지, 이야기의 전부는 아니다

이 모든 것으로부터 트레이딩이 “90%는 심리다”라고 결론짓는 것은 편리하지만 틀린 것입니다. 이 주장은 바로 같은 증거의 검증을 견뎌내지 못합니다. Barber와 Odean의 핵심 결과는 비용이 대략 손익분기점 수준이던 총수익 전략을 순손실 전략으로 바꿔놓았다는 데 의존했습니다. 즉 비용 구조가 그 결과에서 실제로, 그리고 어떤 감정적 실패와도 무관하게 측정 가능한 영향을 미쳤다는 것입니다. 심리적 약점이 전혀 없지만 통계적 엣지도 없는 트레이더, 혹은 초단타 전략에서 높은 스프레드와 수수료를 지불하는 트레이더는 시간이 지나면 여전히 돈을 잃을 것입니다. 규율은 기대값이 음수인 접근법을 구제할 수 없습니다. 규율은 오직 여러분이 나쁜 상황을 더 나쁘게 만드는 것을 막아줄 뿐입니다.

증거와 일치하는 정직한 프레이밍은 이렇습니다. 심리는 그저 그런 전략, 혹은 본전 수준의 전략을 손실 전략으로 가장 확실하게 바꿔놓는 메커니즘이며, 대개는 고쳐야 할 가장 먼저이자 가장 비용이 적게 드는 것입니다. 왜냐하면 “엣지를 찾는 것”과 달리, 이것은 오늘부터 대부분 여러분의 통제 안에 있기 때문입니다. 하지만 심리는 비용, 엣지, 표본 크기라는 더 평범한 산술과 별개가 아니라 그와 함께 작동합니다. 연속된 손실을 전부 자신의 행동 탓으로 돌리기 전에, 애초에 그 전략이 진짜 통계적 엣지를 가지고 있는지부터 확인할 가치가 있습니다. 기대값 계산기와 같은 도구가 바로 이런 이유로 존재합니다.

이 정보를 어떻게 활용할 것인가

위의 연구는 그 자체로는 실행 가능하지 않습니다. 과신과 손실 회피가 존재한다는 것을 안다고 해서 자동으로 그것들이 무력화되지는 않습니다. 도움이 되는 것은 연구가 짚어낸 구체적인 실패 지점 주위에 구조를 세우는 것입니다.

• 거래 빈도를 줄이고, 정의된 셋업의 일부가 아닌 모든 “추가” 거래에 의문을 제기하세요. 과잉매매는 Barber와 Odean의 데이터 전반에서 가장 일관된 단일 원흉입니다.
• 진입 전에 청산 지점을 미리 정해두세요. 처분 효과는 청산 결정이 그 순간까지 열려 있을 때만 작동할 여지가 생기기 때문입니다.
• 실제 총수익과 순수익을 따로 추적해, 손실 구간이 비용 문제인지, 엣지 문제인지, 아니면 행동 문제인지 구분하세요. 이들은 서로 다른 해결책을 필요로 합니다.
• 충동적으로 거래하는 대신 매매 전 프로세스를 거치세요. 매매 전 체크리스트는 과신과 FOMO가 가장 잡히기 쉬운 그 멈춤의 순간을 강제로 만들어줍니다.

관련된 구체적인 정신적 함정을 더 깊이 파고들고 싶다면, 인지 편향 가이드가 가장 해로운 열두 가지 패턴을 하나하나 분석합니다. 그리고 손실이 촉발한 충동적 매매가 여러분의 구체적인 문제라면, 복수 매매: 손실 추격의 악순환을 끊는 법이 이를 직접 다루는 회로 차단 규칙들을 다룹니다. 더 폭넓은 프레임워크와 도구를 원한다면, 트레이딩 심리 허브가 출발점입니다.

핵심 요약

• Barber와 Odean(2000)은 가장 활발한 개인 트레이더들이 연 약 11.4%의 수익률을 올린 반면 시장은 약 17.9%였으며, 그 격차는 종목 선정이 더 나빠서가 아니라 주로 비용 이후에 벌어졌다는 것을 발견했습니다.
• 대만 데이트레이더 연구에서는 일반적인 6개월 기간 동안 데이트레이더의 80% 이상이 돈을 잃었으며, 활발한 트레이더들은 종종 총수익 기준으로는 수익을 냈지만 수수료 이후에는 순손실을 기록했습니다.
• 2019년 브라질 연구에서는 300일 이상 주식 선물을 데이트레이딩한 개인 중 97%가 돈을 잃었고, 트레이딩으로 최저임금 이상을 번 사람은 단 1.1%에 불과했습니다.
• Odean(1998)은 처분 효과를 기록했습니다. 투자자는 손실 포지션보다 수익 포지션을 매도할 확률이 약 1.5배 더 높으며, 이는 포트폴리오를 작은 수익과 큰 손실 쪽으로 왜곡시킵니다.
• 전망 이론(Kahneman & Tversky, 1979)은 그 메커니즘을 설명합니다. 손실은 동등한 이익보다 약 두 배 더 고통스럽게 느껴지며, 사람들은 손실에 직면했을 때 위험 추구적으로 변하는데, 이것이 바로 손실 포지션이 너무 오래 보유되는 이유입니다.
• 비용과 진정한 통계적 엣지의 부재는 손실에 독립적으로 기여하는 요인들입니다. 규율만으로는 기대값이 음수인 전략을 구제할 수 없습니다.