거래비용(Transaction Cost Analysis) 분석 모형 및 최적주문전략

January 2011
코스콤
IB 솔루션 TF팀 황석주

1. 서론

시장이 전자화되고 정보통신 기술이 발달하면서 계량적 기법을 이용한 전략적 주문 방식은 끊
임없이 발달해왔다. 최근에는 수수료나 세금 등의 명목적 비용을 절감하는데 그치지 않고 기회비
용이나 주문 스프레드, 시장충격비용 등 묵시적인 비용 항목을 개발하여 이를 최소화하는 주문
기법들도 등장했다.

펀드매니저가 특정 종목의 매매 의사 결정을 내린 후(혹은 증권사로 주문을 전달한 후)에 실제
100% 체결을 달성하기 까지 감수해야 하는 비용은 매매수수료와 거래세 등의 명목적인 비용 외
에도 시장충격비용과 기회비용이라는 숨겨진 비용 항목들이 있다. 주문 실행의 구조는 결국 이
시장충격비용과 기회비용을 최소화하는 구조를 의미하며, 이를 ‘주문 최적화(Optimal Execution)’
라 부른다.

거래비용을 계산할 때 일반적으로 증권사에서 100% 체결을 시킨 이후에 실제 체결가격과 기준
가격을 비교해 증권사의 수행 능력을 평가하는 것을 “사후거래분석(Post-trade analysis)”이라고 부
르고, 주문을 내기 전에 미리 예상비용을 계산해 주문에 참고하는 것을 “사전거래분석(Pre-trade
analysis)”이라고 부른다. 사후거래분석은 증권사의 능력을 평가하는 기준으로 사용하고, 사전거래
분석은 증권사에서 제공하는 주문전략의 적정성을 평가하는 기준으로 사용한다. 사전거래분석을
통해 계산되는 예상비용은 곧 해당 주문에 대한 보유 risk로 생각할 수 있다. 이때의 risk 유형을
특별히 유동성 위험(liquidity risk), 혹은 기존 시장risk에 포함된 유동성 위험과 구분하기 위해 유
동화 위험(liquidities risk)으로 부른다.

거래비용은 주로 Perold가 사용한 “Implementation Shortfall” 1 의 개념이 사용된다. Perold는
Implementation shortfall을 “The difference between your performance on paper and in reality is
what we call the implementation shortfall (or just shortfall)” 이라 정의했는데, 여기서 paper
portfolio란 투자자의 기준 포트폴리오, 혹은 의사결정 순간의 포트폴리오를 말하고, real portfolio
1

“The Implementation Shortfall:Paper versus Reality” Andre. F. Perold, 1988

1

란 실제 시장에서 체결된 포트폴리오를 말한다.

본 보고서에서는 산술랜덤워크로 가정된 주식 가격 모형을 기초로 Implementation Shortfall 에
대한 기대값과 분산 모형을 작성한다. 이 모형 하에서 트레이더가 감수할 수 있는 일정한 분산
수준 하에서 비용에 대한 기대값을 최소화할 수 있는 주문 전략을 구성한다.

2. 거래비용(Transaction Cost)

거래비용은 주문에 대한 의사결정을 내린 시점부터 시장에서 최종적으로 체결이 이루어지기 까
지의 비용을 말한다. 거래비용은 명시적 비용과 묵시적 비용으로 나눌 수 있는데, 명시적 비용이
란 사전에 고정되어 있는 비용으로 수수료, 세금 등의 제반 비용을 말하고, 묵시적 비용이란 매수
-매도 스프레드, 가격 위험, 기회비용, 가격충격(시장충격) 등을 포함한다.

[그림 1] 거래비용의 구성

1) 매수-매도 스프레드(Bid-Ask spread)
매수-매도 스프레드란 최우선 가격(즉 매수/매도 1호가)간의 차이를 말한다.

2) 가격위험(Price risk)
가격위험이란 주문이 처리되고 체결되는 동안 시장에서 가격이 원하지 않는 방향으로 움직일
가능성을 말한다. 현실적으로 대형 주문(주문 수량이 큰 주문)의 경우 해당 주문이 시장 가격을
크게 움직일 가능성이 높으므로, 주문 수량을 작게 나누어 시간 간격을 두고 주문을 실행하는데,
이때 시장의 움직임이 커질 가능성이 높다.

2

[그림 2] 가격위험
3) 가격충격비용(Price Impact Cost)
가격충격은 시장충격(Market Impact)로 통칭하기도 하는데, 시장에서 특정 거래나 주문으로 야
기된 주식 가격의 움직임을 말한다. 사전적으로 정의할 때에는 시장충격을 특정 주문이 실행되었
을 때 시장에서 가격의 움직임과, 만약 해당 주문이 실행되지 않았다면 예상되는 가격의 움직임
의 차이이다2. 가격 위험과 가격충격비용의 차이는 아래 그림을 통해 알 수 있다.

[그림 3] 가격비용과 가격충격비용3

현실적으로 ‘주문이 실행되지 않았을 때의 예상되는 가격 변화’는 측정이 불가능하다. 이를 해
결하기 위해 가격충격 모델은 여러가지가 제시되어 있는데, 그 중에서 Holthausen, Leftwich, and
2
3

Robert Kissel and Morton Glantz, “Optimal Trading Strategies”, Amacom, 2003, pp97
Sofianos, G., “Trading Cost Analysis and Order Execution Strategies”, Goldman Sachs, 2004, PPT 자료

3

Mayers4는 가격충격비용을 일시적 충격(temporary impact)와 영구적 충격(permanent impact)으로
나누어 분석했다. 매도 주문의 경우 주문이 실행되고 나서는 시장 가격은 하락할 것인데, 가격의
하락 정도는 영구적 충격만큼 하락하고 나서 바로 일시적 충격만큼 가격이 회복되는 것으로 생각
하여 영구적 충격과 일시적 충격에 대한 모형을 세웠다.

[그림 4] 가격충격비용의 구조5

각각의 비용 항목들은 개념상으로는 구분지어질 수 있지만 실제 항목별 측정은 현실적으로 쉽
지 않다. 이후 분석에서는 위 항목들 중 가격충격비용을 최소화하는 주문 전략을 최적주문전략으
로 상정하고 진행한다.

3. 거래비용 분석 모형6
거래비용 분석 모형의 도출을 위해 주식 종목을 X주 만큼 매도하는 경우를 생각해보자. X 주
만큼의 수량을 매도할 때, X가 상대적으로 큰 수량이라면 한꺼번에 X를 매도하는 것은 앞에서 언
급한 price impact cost를 발생시킨다. 이를 방지하기 위해서는 X를 일정 시간간격동안 작게 분할
하여 주문을 실행해야 한다.

총 X 만큼의 수량을 T 기간동안 N 회 분할해서 매도하고, 각각의 분할 시간은
라고

한다.

이때,

t 0 , t1 , ... , t N 이

t 0 = 0, t N = T 이다. 편의상 시간간격은 τ 로 동일하다고 가정하면,

t k = kτ for k = 0,..., N 이 성립한다. 매 회차마다 보유하게 되는 주식의 수량은 x0 , x1 , ... , x N
이라 두면,

x0 = X , x N = 0 이 된다. 매 회차의 주식 거래 가격은 S 0 , ... , S N 이라 둔다. 이를 도

4
Holthausen, Leftwich, and Mayers, “The Effect of Large Block Transactions on Security Prices: A Cross-Sectional
Analysis”, Journal of Fianacial Economics 19, 1987 (Kolja Loebnitz, 2006에서 재인용)

5

Yoshifumi Hisata and Yasuhiro Yamai, “Research toward the practical application of liquidity risk evaluation
methods”, Bank of Japan, 2000
6
본 장의 모형은 Almgren and Chriss, “Optimal Execution of Portfolio Transactions”, 1999 에서 사용된 모형을 설명
한 것이다.

4

식해보면 아래와 같다.

회차

0

k

N

보유수량

x0 = X

xk

xN = 0

거래시간

t0 = 0

t k = kτ

tN = T

시장가격

S0

Sk

SN

~

거래가격

Sk
[표 1] 주문 모형

각 회차의 거래수량을

n1 , ... , n N 이라 두면, 단위시간동안 거래되는 거래수량은 아래와 같다.
vk =

nk

τ

주식의 가격은 arithmetic random walk를 한다고 가정하고, 영구적 충격비용

n 
g k  을
τ 

고려하면 아래와 같은 식이 성립한다.
1

n 
S k = S k −1 + στ 2 ξ k − τg  k 
τ 
σ : stock price volatility
---------- (1)
ξ j : random var iable ~ Z
n 
g  k  : permenant impact
τ 
위 식에서는 일반적인 arithmetic random walk에서 나타나는 drift term과 residual 이 없다.
이는 충격비용이 작용하는 가격 변화는 아주 짧은 시간에 나타나기 때문에 가격 변화의 trend를
의미하는 drift는 무시할 수 있다고 가정하고, 새로운 정보의 유입에 의한 가격의 변화를 의미하는
residual 의 경우에도 무시한다.
단위거래량

vk 에 대한 일시적 충격비용을 h(v) 라 두면 실제 거래가격은 아래와 같다.
~
n 
S k = S k −1 − h k  ---------- (2)
τ 

총 체결금액을

X S 라고 둔다면, 아래와 같은 식이 성립한다.

5

N

~

X S = ∑ nk S k
k =1
1
N 
n
= XS 0 + ∑  στ 2 ξ k − τg  k
τ
k =1 

N
 
n 
  x k − ∑ n k h k 

τ 
k =1

총 거래비용은 주문전 금액과 총 체결금액의 차이이므로,

C = XS 0 − X S
1
N
n  N 
n
= ∑ n k h k  − ∑  στ 2 ξ k − τg  k
 τ  k =1 
τ
k =1

여기서,

ξk 는

 
  xk


표준정규분포를 따르는 확률변수이므로, C 역시 정규분포를 따르는 확률변수가

된다. 따라서, C 의 기대값과 분산을 아래와 같이 구할 수 있다.
N
n  N
n 
E (C ) = ∑τx k g  k  + ∑ nk h k 
 τ  k =1
τ 
k =1
N

V (C ) = σ 2 ∑τx k2
k =1

편의상, 시장충격함수는 단위시간에 거래하는 거래량
영구적 시장충격함수의 선형 계수를

γ

라고 두면,

v=

nk

τ

에 대한 선형 함수라고 가정하자.

g (v ) = γv 라 둘 수 있고 아래와 같은 식이

성립한다.
N

n
 nk  N
 = ∑τx k γ k
τ
 τ  k =1

∑τxk g 
k =1

N

= ∑ x k γ ( x k −1 − x k )
k =1

1 N
1 N
2
2
2
= γ ∑ x k −1 − x k − γ ∑ ( x k −1 − x k )
2 k =1
2 k =1

(

=

)

---------- (3)

1 2 1 N 2
γX − γ ∑ n k
2
2 k =1

비슷한 방법으로, 일시적 시장충격함수의 선형 계수를

η

이라 두고,

h(v ) = εsign(n k ) +

η
nk
τ

라고 정의하면 아래와 같이 쓸 수 있다.

6

∑ n h(v ) = ∑ n
k

k

η

 εsign(n k ) +  nk
τ

---------- (4)

= ε ∑ nk +

η
2
∑ nk
τ

(3, 4)를 이용해서 거래비용에 대한 기대값을 다시 써보면,

N
n  N
n 
E (C ) = ∑τx k g  k  + ∑ n k h k 
 τ  k =1
τ 
k =1
N
η N 2
1
1
2
= γX 2 − γ ∑ n k + ε ∑ nk + ∑ n k
τ k =1
2
2 k =1

1 2
1 1 N

γX + ε ∑ nk + η − γτ  ∑ nk 2
2
2  τ k =1

η~ N 2
1
= γX 2 + ε ∑ nk + ∑ nk
τ k =1
2

=

1
2

η~ = η − γτ

여기서,

거래비용을

최소화할

거래비용에 대한 효용함수를 설정하고,

있는

조건을

찾기

U (C ) = E (C ) + λV (C ) 라는

위해

∂U
= 0 을 만족시키는 조건을 찾는다 7 . (직관적으로,
∂x j

기대값과 분산 식을 보면 x에 대한 convex 형태이므로, U 역시 convex 형태. U를 최소화하는 x
값을 찾을 수 있다. 또한,

λ

는 트레이더가 감수할 수 있는 거래비용에 대한 분산의 정도를

나타내므로, 쉽게 트레이더의 위험에 대한 선호도로 생각할 수 있다.)

x j −1 − 2 x j + x j +1 

∂U
= 2τ λσ 2 x j − η~

∂x j
τ2


for j = 1, ... , N − 1

7

합리적인 트레이더라면 거래비용에 대한 위험 수준을 고정시키고, 위험수준 내에서 거래비용에 대한 기대값을 최소화하

려고 한다. 즉, 거래비용에 대한 최적주문 전략은

min E (x )

x:V ( x )≤V*

를 만족시키는 조건부 최적화 문제(constrained

optimal problem)의 해를 찾는 것과 같은 과정이다. 이 조건을 만족시키는 영역을 efficient frontier of optimal trading
stratigies라고 부른다. 해를 찾기 위해 Lagrange multiplier

λ > 0 이라면 E ( x ) + λV ( x ) 는 convex
시키는 x 의 family를 구할 수 있다.

이므로, 유일해

λ를

도입해

x* (λ ) 를

min (E ( x ) + λV ( x )) 의

해를 찾는다.

x

갖는다. 즉,

λ가

결정되면

V ( x* ) = V* 를

만족

7

여기서

∂U
= 0 을 풀면, 아래와 같은 식을 구할 수 있다.
∂x j
x j −1 − 2 x j + x j +1

τ2

= κ 2xj

λσ 2

λσ 2

with κ 2 = ~ =
η
 γτ 
η 1 − 
 2η 
위 식은 선형차분방정식으로, 초기조건

x0 = X , x N = 0 를 만족하는 해를 찾으면 아래와 같다.
xj =

sinh (κ (T − t j ))
sinh (κT )

이를 바탕으로 기대값과 분산을 구해보면 아래와 같다.

1 
tanh  κτ (τ sinh (2κτ ) + 2T sinh (κτ ))
1
2 
E ( X ) = γX 2 + εX + η~X 2
2
2τ 2 sinh 2 (κτ )

τ sinh (κτ ) cosh (κ (T − τ )) − T sinh (κτ )
1
V (X ) = σ 2 X 2
2
sinh 2 (κτ ) sinh (κτ )

8

4. Optimal strategy
앞의 조건을 만족하는 최적 주문 전략을 찾아보기 위해 적절한 트레이딩 모형의 예를
구성해보자.

6

스프레드

100/20,000=0.005

보유수량

x0 = X =100,000

ADV

5,000,000

거래시간

t 0 = 0 , t N = T =6(hr)

η

0.002 / 0.01 × 5 × 10 6 = 4 × 10 −8

시장가격

S 0 =20,000

γ

0.002 / 0.1 × 5 × 10 6 = 4 × 10 −9

변동성

30%

λ

10 −13

회차(

N)

[표 2] 트레이딩 모형

시작가격이 20,000원이고 일평균거래량(ADV)이 5백만주인 주식 100,000주에 대해 9시~3시까지
6시간동안 1시간 간격으로 총 6회 주문을 실행하는 것으로 하여 전략을 구성한다. 연변동성은
30%이므로,

일변동성으로

계산하면

0.3 / 250 = 0.019

이고,

금액으로

환산해주면

0.019 × 20,000 = 380 이 된다. ε 은 일시적 충격 함수에서 고정비용을 의미하므로, 스프레드/2를
추정치로 사용하여 0.001을 사용한다.

η와 γ

,

λ

를 추정하는 것이 본 모형의 핵심이 되겠으나, 편의상 경험적인 룰을 사용한다.

일반적으로 일시적 충격 비용은 ADV의 1%를 거래했을 때 스프레드의 1%를 비용으로 사용하는
것으로 보고, 영구적 충격 비용은 ADV의 10%를 거래했을 때 스프레드의 1%를 비용으로
사용하는 것으로 본다.

λ는

트레이더의 위험에 대한 선호도를 사용한다.

위 모형에 따라 주문 전략을 구성해보면 아래 그림과 같다.

9

[그림 5] 최적 주문 전략

보유기간

0

1

2

3

4

5

보유수량

100000

33397

24004

13657

6179

0

주문수량

0

60603

15393

10347

7478

6179

4682

640

206

58

11

0

0

8.61

2.19

1.47

1.06

8.78

0

34.44

8.75

5.88

4.25

3.51

기대거래비용
영구적 충격비용( 10

−9

)

일시적 충격비용

[표 3] 최적 주문 전략

5. 결론
본 보고서에서는 거래비용에 대한 모형과 이를 최소화하는 최적 주문 전략에 대해 설명하고
있다. 주가의 변동을 산술 랜덤워크 과정으로 가정하고, 시장충격비용을 일시적 충격과 영구적
충격으로 나누어 선형 함수로 가정하여 모형을 전개했고, 거래비용을 최소화 시키는 조건을 찾기
위해 평균과 분산에 Lagrange multiplier를 도입해 거래비용에 대한 기대값과 분산의 closed
form을 구했다.
향후

모형에서

사용되는

계수들에

대한

추정

방법과

실증적인

연구가

필요하며,

시장충격함수가 비선형인 경우와 가격 변화에 있어 correlation이 존재하는 경우, 또한 포트폴리오
내에 종목간의 correlation이 있는 경우에 대한 추가적인 연구가 필요하다.

10

[참고문헌]

Almgren, “Optimal Execution with Nonlinear Impact Functions and Trading-Enhanced Risk”, 2001

Almgren and Chriss, “Optimal Execution of Portfolio Transactions”, 1999

Almgren and Julian Lorenz, “Adaptive Arrival Price”, 2006

Andre. F. Perold ,“The Implementation Shortfall:Paper versus Reality”, 1988

Holthausen, Leftwich, and Mayers, “The Effect of Large Block Transactions on Security Prices: A
Cross-Sectional Analysis”, Journal of Fianacial Economics 19, 1987

Kolja Loebnitz, “Market Liquidity Risk: Elusive No More”, 2006

Robert Kissel and Morton Glantz, “Optimal Trading Strategies”, Amacom, 2003

Sofianos, G., “Trading Cost Analysis and Order Execution Strategies”, Goldman Sachs, 2004, PPT
자료

Yoshifumi Hisata and Yasuhiro Yamai, “Research toward the practical application of liquidity risk
evaluation methods”, Bank of Japan, 2000

11

Sign up to vote on this title
UsefulNot useful