진짜 퀀트의 세계: 파멸의 수학을 넘어서는 생존과 볼록성(Convexity)의 비밀
대부분의 투자자가 '퀀트(Quant)'라는 단어에서 재무제표를 분석해 저평가된 우량주를 찾는 알고리즘을 떠올릴 때, 진짜 퀀트의 세계는 이미 '가격의 함수'를 계산하며 0.01초의 승부를 벌이고 있습니다.
진짜 퀀트의 역사는 기업의 재무제표가 아닌, 카지노의 블랙잭 테이블과 파생상품의 가격 결정 공식에서 시작되었습니다. 에드워드 소프가 개척하고 나심 탈레브가 비판하며, 시타델과 제인 스트리트가 완성해 가고 있는 이 거대한 계보. 그리고 그 속에서 작동하는 '파멸의 수학'을 통제하는 법을 추적해 봅니다.
1. 직선 vs 곡선: 그 차이가 돈이 된다 (Convexity)
일반 대중에게 '파생상품'이나 '옵션'은 곧 위험하고 난해한 도박으로 여겨집니다. 하지만 진짜 퀀트들이 파생상품을 다루는 이유는 단 하나, 바로 볼록성(Convexity, 비대칭성) 때문입니다.
일반적인 주식 매수는 선형(Linear) 수익 구조입니다.
- 주가가 +10% 오르면 내 수익도 +10%
- 주가가 -10% 내리면 내 손실도 -10%
이는 일한 만큼 버는 '월급'과 같습니다.
반면, 퀀트들이 활용하는 옵션 매수는 볼록한(Convex) 수익 구조를 가집니다.
- 주가가 폭등하여 +30%가 되면 내 수익은 +300% 이상 비선형적으로 폭증합니다.
- 주가가 폭락하여 -30%가 되더라도 내 손실은 딱 -100%(옵션을 살 때 지불한 프리미엄 전액)로 제한됩니다.
여기서 일반인들은 "-100% 손실"이라는 단어에 공포를 느낍니다. 하지만 퀀트에게 이 -100%는 계좌의 파멸이 아니라, '미리 정해둔 보험료의 소멸'일 뿐입니다. 잃을 때는 정해진 몫(프리미엄)만 잃고, 벌 때는 기하급수적으로 버는 것. 퀀트들의 파생 거래는 본질적으로 "기대값이 양(+)인 복권을 체계적으로 사는 행위"입니다. 일반 복권은 기대값이 마이너스지만, 시장이 꼬리 위험(Tail Risk)을 과소평가할 때 그들이 매수하는 옵션은 기대값이 플러스가 됩니다.
2. 카지노에서 온 수학자: 에드워드 소프와 켈리 기준
'딜러를 이겨라'의 저자이자 퀀트의 아버지, 에드워드 소프(Edward Thorp)는 카지노에서 증명한 확률적 우위를 월스트리트로 가져왔습니다. 벤자민 그레이엄이 기업의 '가치'를 보았다면, 소프는 시장의 '수학적 왜곡'을 보았습니다.
그가 개척한 전환사채 차익거래(CB Arbitrage)는 주식 전환 옵션이 내장된 채권을 사고 주식을 공매도하여, 시장 방향과 무관하게 '잘못 매겨진 Convexity' 자체를 사들이는 기법이었습니다. 하지만 소프가 퀀트의 제왕으로 군림한 진짜 비결은, 얼마를 베팅할 것인가(Position Sizing)를 철저히 통제했다는 점입니다.
💡 파멸의 수학과 켈리 공식
10년 동안 매년 20%씩 꾸준히 벌던 투자자도, 무분별한 레버리지를 쓰다가 단 한 번의 예외 국면에서 계좌 전체에 -100%의 타격을 입으면 어떻게 될까요?
1.2 × 1.2 × 1.2 × ... × 0 = 0
이것이 바로 복리의 세계에서 가장 끔찍한 '0의 곱셈'이자 경로 의존성(Path Dependency)의 공포입니다.
이를 막기 위해 소프는 켈리 기준(Kelly Criterion)을 사용했습니다. 확률과 배당률을 계산해 최적의 베팅 규모를 산출하는 이 공식을 통해, 그는 실전에서 늘 계산된 값의 절반인 'Half-Kelly(켈리의 절반)'만 베팅했습니다. 눈앞의 수익률을 좇아 올인하는 대신, 단 1%의 파산 확률(0의 곱셈)조차 완벽히 통제한 것입니다.
3. 오코너: 블랙-숄즈 공식의 '맹점'을 사냥하다
현대 퀀트 역사에서 가장 신비로운 위치를 차지하는 곳이자, 시카고의 전설적인 파생상품 거래회사인 오코너(O'Connor & Associates)를 빼놓을 수 없습니다. 훗날 시타델을 세운 케네스 그리핀 등 수많은 거물이 이곳의 철학을 물려받았습니다.
💡 참고: 오코너 & 어소시에이츠(O'Connor & Associates)란?
대중에게는 낯설 수 있으나, 1977년 에드먼드(Edmund J. O'Connor)와 윌리엄 오코너(William O'Connor) 형제가 시카고에 설립한 금융 파생상품의 명가입니다. 1992년 당시 이미 500명 이상의 직원을 거느린 세계 최대 규모의 옵션 거래 회사였으며, 미국 내 옵션 거래 역량 확장을 꾀하던 스위스 뱅크 코퍼레이션(SBC)에 인수되었습니다. 흥미로운 점은 인수 당시 이 회사의 진정한 가치가 눈에 보이는 자산이 아닌 '트레이더들의 뇌'에 있었다고 평가받았다는 것입니다. 이후 1998년 SBC가 스위스 연방 은행(UBS)과 합병하면서, 현재는 거대 투자은행 UBS의 핵심 부문인 UBS 오코너(UBS O'Connor)로 그 명맥과 퀀트 철학을 이어가고 있습니다.
이들은 블랙-숄즈 모델(Black-Scholes Model)이 학계의 전유물일 때 이를 가장 먼저 실전에 접목했습니다. 하지만 오코너의 진짜 무서움은 단순히 남들처럼 블랙-숄즈 공식을 사용해 가격을 매긴 데 있는 것이 아니라, 경쟁자들이 쓰는 순정(Vanilla) 공식의 약점을 역으로 찔렀다는 데 있습니다.
💡 남들의 공식을 역이용한 볼록성 거래
순정 블랙-숄즈 모델은 시장의 변동성이 '정규분포'를 따른다고 가정합니다. 이 때문에 극단적인 폭락이나 폭등(꼬리 위험)이 일어날 확률을 수학적으로 매우 낮게(싸게) 계산합니다.
월스트리트의 다른 하우스들이 순정 공식이 뱉어내는 가격을 믿고 평범한 평균 회귀 거래를 할 때, 오코너의 트레이더들은 이 모델이 현실의 꼬리 위험을 과소평가한다는 사실을 간파했습니다.
그들은 순정 공식을 버리고, 극단적 변동성(Fat-tail)의 확률을 높여 잡은 '자신들만의 변형된 공식'을 운용했습니다. 그리고 경쟁자들이 "이 가격이면 폭락 확률에 비해 너무 비싸다"며 버리거나 싸게 던지는 외가격(OTM) 옵션들을 무자비하게 사들였습니다. 남들의 공식이 놓친 볼록성(Convexity)을 가장 싼값에 매집한 것입니다.
4. 탈레브의 비판: 가우스의 함정과 칠면조의 비극
오코너가 실전에서 증명한 '순정 모델의 치명적 결함'은 훗날 나심 탈레브(Nassim Taleb)의 입을 통해 주류 금융공학에 대한 가장 뼈아픈 비판으로 완성됩니다. 탈레브는 주류 학계가 맹신하는 '정규분포(Gaussian Distribution)' 가정을 오만이라고 질타했습니다.
정규분포 모델에 따르면, 주가가 하루에 20% 이상 폭락할 확률은 우주 탄생 이후 한 번 일어날까 말까 한 확률입니다. 하지만 1987년 블랙 먼데이 당시 주가는 하루 만에 -22.6% 폭락했습니다. 주류 금융공학이 상정하지 못한 '자기 실현적 붕괴(알고리즘들의 연쇄 매도 도미노)'가 터진 것입니다.
실제 금융 시장의 확률 분포는 얌전한 종 모양이 아니라, 극단적 사건이 생각보다 훨씬 자주 일어나는 '살찐 꼬리(Fat-tail)' 형태를 띱니다.
🦃 칠면조의 비극
1,000일 동안 모이를 준 주인이 있습니다. 정규분포 모델을 맹신하는 칠면조는 1,000일째 되는 날 "내일도 안전할 확률 99.9%"라고 계산합니다. 하지만 1,001일째, 주인이 추수감사절을 위해 칼을 드는 순간 과거의 모든 데이터는 치명적인 오답이 됩니다.
https://youtu.be/cMd1vlJyxxg?si=lfQsXkp-yl76JhJu
5. 현대 퀀트의 삼국지: 유동성, 수학, 통계의 충돌
오늘날의 시장은 이 거인들의 유산을 물려받은 초고도화된 전장입니다.
| 구분 | 시타델 (Citadel) | 제인 스트리트 (Jane St) | 정통 AQR |
| 핵심 무기 | 유동성 장악과 IT 인프라 우위 | 복잡한 수학과 파생상품 지배 | 학문적 팩터(Factor)의 체계화 |
| 수익 원천 | 호가 스프레드, HFT | 차익거래, 변동성 포착 | 시장 프리미엄 (Value, Momentum) |
| 특징 | 다크풀 등 유동성 독점 논란 | 비밀주의 천재 수학자 집단 | 퀀트의 표준을 제시하는 학자들 |
- 시타델은 초단기(HFT) 인프라로 매수-매도 호가 차이(스프레드)를 초당 수백만 번씩 긁어모아 천문학적인 수익을 냅니다.
- 반면 제인 스트리트는 오코너의 후예답게 고난도 파생상품 설계에 집중합니다. 이들은 시장이 평온할 때보다 충격이 발생하여 변동성이 폭발할 때(Volatility Spike) 옵션 가치의 볼록한 증가분을 수확하는 데 탁월한 능력을 보입니다.
6. 결론: 바벨 전략, 촛불이 아닌 모닥불이 되어라
탈레브의 철학을 실제 펀드로 완성한 마크 스피치나겔은 2020년 팬데믹 폭락 당시 4,144%라는 경이로운 수익률을 기록했습니다. 하루아침에 누군가는 10년 치 자산을 날릴 때, 그는 어떻게 엄청난 부를 거머쥐었을까요? 비결은 바로 '바벨 전략(Barbell Strategy)'입니다.
이들은 자산의 대부분(90% 이상)을 극도로 안전한 곳에 두어 어떤 폭락장에서도 계좌 전체가 파멸(0의 곱셈)하는 것을 막습니다. 그리고 나머지 극소수(1~2%)의 자산만으로, 시장이 꼬리 위험을 과소평가하여 풋옵션을 헐값에 던질 때 이를 '보험료' 명목으로 지속해서 사들입니다(Convexity 매집).
이것이 충격에 무너지는 '유리잔(Fragile)'이나 충격을 버티기만 하는 '바위(Robust)'를 넘어, 충격을 받을수록 오히려 더 강해지는 안티프래질(Antifragile) 포트폴리오의 실체입니다. 바람이 불 때 꺼지는 촛불이 아니라, 바람이 불수록 더 거세게 타오르는 모닥불 같은 투자를 설계하는 것.
현대 시장은 알고리즘이 지배하며, 과거보다 훨씬 빠르고 파괴적인 '플래시 크래시(Flash Crash)'가 일상화되었습니다. 퀀트 거인들의 역사가 우리에게 주는 교훈은 명확합니다.
경쟁자들과 똑같은 지표(선형적 수익률)에 취해 무리한 레버리지를 끌어 쓰지 마십시오. 당신의 포트폴리오에는 내일 당장 시장이 30% 폭락해도 잃는 돈은 엄격하게 제한되어 있고, 벌 때는 기하급수적으로 버는 '생존의 수학(Convexity)'이 장착되어 있어야 합니다.
