주식시장은 예측불허란 말이 있다. 그만큼 복잡하고 그 움직임이 어디로 튈지 모르는 경우가 많다. 국내 연구팀이 수학적으로 분석한 결과 주식시장은 ‘U’자형 거래량을 보이는 것으로 분석됐다. 장 초반과 후반에 거래량이 많다는 것이다.

불확실한 주식시장을 예측하는 수학적 모형이 개발됐다. 경쟁상대와 상호작용을 통해 가장 이익이 되는 행위를 선택한다는 게임이론을 적용한 새로운 모형이다. 기관 투자자와 제한된 정보를 가지고 있는 대규모 투자자가 전체 시장에 어떤 영향을 주는지 분석해 눈길을 끌고 있다.

국내 연구팀이 해외 연구팀과 공동으로 대규모 투자자들의 포트폴리오 조정 행위가 주식시장 거래량이나 가격 변동성, 유동성 등에 어떤 영향을 주는지 설명하는 수학적 모형을 내놓았다. 포트폴리오는 주식투자에서 위험을 줄이고 투자수익을 극대화하기 위한 목적으로 여러 종목에 분산 투자하는 방법 또는 분산 투자된 주식의 구성을 이르는 말이다.

주식시장의 변동을 설명할 때는 주로 ‘내부정보를 가진 투자자’를 주요 변수로 활용해왔다. 반면 이번 모형은 국민연금과 같은 기관 투자자처럼 ‘주문분할방식(order splitting)’을 통해 포트폴리오를 재조정하는 투자자 역할을 추가했다. 주문분할방식은 대량 주문으로 인한 주식가격의 변동을 줄이기 위해 일정 기간 거래할 물량(상위거래 물량)을 작은 단위(하위거래 물량)로 쪼개 거래하도록 관리하는 방식을 일컫는다.

이번 모형을 보면 주식시장의 주체(이 모형에서 주식시장은 내부정보를 가진 투자자-헤지펀드 투자자, 제한된 정보를 가진 포트폴리오 재조정자-국민연금과 같은 기관 투자자, 유동성 거래자-개인투자자, 시장조성자 등) 중 하나인 포트폴리오 재조정자와 내부정보를 가진 투자자 간의 상호작용으로 주식시장 거래 패턴이 장 초반과 장 후반에 거래량이 많은 U자형을 이룬다는 것을 보여준다.

포트폴리오 재조정자는 장 후반의 가격 변동을 줄이기 위해 주식시장이 열리는 초반(장 초반)에 일부러 공격적으로 거래해 자신이 세운 목표치를 시장이 인식하게끔 한다. 또한 ‘정보를 가진 투자자’들도 초반에 포트폴리오 조정자를 경쟁자로 인식해 거래량을 늘리면서 주식시장 장 초반에 전체 거래량이 큰 것으로 파악됐다.

장 중반으로 갈수록 ‘정보를 가진 투자자’는 ‘포트폴리오 재조정자’에 대한 정보를 업데이트하게 된다. 거래량은 줄어든다. 이어 장 후반이 되면 상위거래 물량을 채우려는 포트폴리오 재조정자에 의한 거래량이 증가해 주식시장 거래 패턴이 U자형을 만든다. 연구팀은 게임이론(경쟁상대 반응을 고려해 자신의 최적 행위를 결정해야 하는 상황에서 의사결정 행태를 연구하는 경제학과 수학 이론)을 적용한 확률 수리모형으로 이와 같은 현상을 설명했다.

이번 연구는 유니스트(UNIST) 자연과학부 최진혁 교수팀이 미국 럿거스대(Rutgers University), 카네기멜런대(Carnegie Mellon University) 연구팀과 공동으로 진행했다.

최 교수는 “기관 투자자처럼 주식을 대량으로 매도하거나 나눠 판매하는 등 포트폴리오를 조절하는 투자자(포트폴리오 재조정자)가 주식의 거래량이나 가격 변동성 등에 어떤 변화를 유발하는지 수학적으로 보여준 연구”라며 “추가 실증연구를 통해 주식시장에 대해 더욱 이해를 높일 것”이라고 기대했다.

한편 이번 연구결과는 재무경제학 분야 학술지인 ‘금융 경제학 저널(Journal of Financial Economics)’ 6월호에 실렸다.