직감이 세 번 연속 틀린 이야기 — 자동매매 필터·손절 백테스트 실패기

이제 안전장치를 붙여볼 차례였다

40종목 기준 백테스트로 다시 보니, 순수 전략은 그냥 사서 보유하기를 못 이겼다. 그럼 여기에 "안전장치"를 몇 개 붙이면 나아지지 않을까 싶었다. 상식적으로 생각하면 다 맞는 소리였다. 하락장이 예상되면 매수를 막고, 손실이 커지면 손절하고, 기관 자금이 잘 안 들어가는 중소형주를 노리면 더 유리할 거라고.

세 개 다 시도했다. 세 개 다 틀렸다.

첫 번째: "하락 예상되면 매수 금지"

주가가 200일 이동평균선 아래에 있으면 신규 매수를 하지 않는 필터를 넣었다. 하락 추세에서는 사지 않겠다는, 지극히 상식적인 규칙이었다.

평균 수익률평균 최대낙폭수익 종목 비율

기본 전략	+83.4%	-50.7%	57%
+ 하락장 필터	+54.1%	-43.2%	60%

최대낙폭은 확실히 줄었다(-50.7% → -43.2%). 그런데 수익률이 그보다 더 크게 깎였다(+83.4% → +54.1%). 위험은 조금 줄었는데 수익은 훨씬 많이 잃은 셈이다. 밑지는 장사였다.

두 번째: "손실이 커지면 판다"

고점 대비 일정 비율 이상 떨어지면 자동으로 손절하는 규칙을 추가했다. 리스크 관리의 기본 중의 기본이라고 생각했다.

결과는 더 나빴다. 하락장 필터에 손절까지 더하자 수익률이 절반 넘게 깎였다. 왜 이런 일이 벌어지는지 찾아보니, 원인은 한국 시장의 특징에 있었다. 코로나 폭락 때를 생각해보면, 3주 만에 -35%가 났다가 그 뒤로 V자 반등이 나왔다. 손절 규칙은 정확히 바닥 근처에서 팔고 나가게 만들었고, 그 직후에 오는 반등은 고스란히 놓쳤다. "빠지면 판다"가 이 시장에서는 "제일 안 좋은 타이밍에 팔고, 회복은 못 먹는다"로 작동했다.

세 번째: "중소형주가 더 유리할 것"

여기서는 가설이 좀 더 그럴듯했다. 대형주는 이미 기관과 외국인 자금이 다 들어가 있어서 남은 기회가 적을 거고, 중소형주는 상대적으로 덜 알려져서 추세를 따라가는 전략(모멘텀)이 더 잘 먹힐 거라고 생각했다. 실제로 이런 논리를 펴는 투자서도 많이 봤다.

시가총액 구간별로 나눠서 최근 6개월 많이 오른 종목을 사는 전략을 테스트했다.

시가총액 구간모멘텀 전략 CAGR최대낙폭

대형주 (1~50위)	+10.6%	-46.5%
중형주 (51~200위)	-3.5%	-57.3%
소형주 (201~500위)	-17.2%	-88.5%

소형주로 갈수록 나아지긴커녕 재앙에 가까워졌다. 최대낙폭 -88.5%는 1억을 넣었으면 1,200만 원만 남는다는 뜻이다. 이유를 뜯어보니, 소형주의 "최근 6개월 급등 종목"은 대부분 테마성 단기 급등이었다. 그런 종목을 계속 사들이는 전략은 매번 상투를 잡는 꼴이 됐다. 게다가 소형주라고 딱히 저평가돼 있지도 않았다 — 그냥 사서 보유하는 것조차 대형주보다 성적이 나빴다.

세 번 다 실패한 이유를 다시 보니

세 시도의 공통점을 짚어보면 전부 "안전장치를 추가했다"는 점이었다. 그런데 안전장치가 작동하려면 그게 필요한 순간을 정확히 짚어내야 하는데, 한국 시장은 급락과 급반등이 짧은 시간에 같이 오는 경우가 많았다. 안전장치는 위험을 피하게 해주는 대신, 회복까지 같이 피하게 만들었다.

직감으로는 셋 다 "당연히 도움될 것"처럼 보였다. 그런데 상식이 통하는 시장과 이 시장의 실제 움직임이 달랐다. 백테스트로 확인하지 않았다면, 지금도 이 세 가지를 다 넣은 채로 운영하고 있었을 거다.

다음 편 예고

그래도 하나는 제대로 먹히는 걸 찾았다. 하락장에서 오히려 수익을 낸 전략이었다. 그런데 이것도 다시 의심해봐야 했다. 자세히 들여다보니 진짜 수익이 아니라 데이터 착시일 수도 있다는 신호가 보였다 — 다음 편에서 그 착시를 어떻게 잡아냈는지 이어간다.

---

이 글은 투자 권유가 아니며, 개인적인 AI·자동매매 시스템 개발 과정의 기록입니다.