본문 바로가기
카테고리 없음

코스의 정리 (거래비용, 외부효과, 시장실패)

by Be-Giver 2026. 6. 1.

자원은 언제나 가장 필요한 곳으로 흘러간다고 믿으십니까? 저도 한때는 그렇게 믿었습니다. 그런데 뉴스를 보다 보면 그 믿음이 흔들리는 순간이 꼭 옵니다. 어딘가에서는 음식이 버려지고, 어딘가에서는 한 조각의 빵이 없어 굶주리는 아이들이 있습니다. 경제학 이론이 현실을 얼마나 설명할 수 있는지, 코스의 정리를 통해 한번 따져봤습니다.

코스의 정리와 시장실패

거래비용 없는 세상, 가능하긴 한 걸까요

코스의 정리(Coase theorem)는 1991년 노벨 경제학상을 수상한 로널드 코스(Ronald H. Coase)가 제시한 이론입니다. 핵심은 간단합니다. 재산권(property rights)이 명확하고 거래비용(transaction cost)이 없다면, 시장 참여자들이 스스로 협상해서 자원을 효율적으로 배분할 수 있다는 것입니다.

여기서 거래비용이란 협상 과정에서 발생하는 모든 비용, 즉 정보 수집 비용, 협상 비용, 계약 이행 비용, 소송 비용 등을 통칭하는 개념입니다. 쉽게 말해 거래가 이루어지기까지 드는 '보이지 않는 비용' 전부를 가리킵니다.

이 이론이 가정하는 "거래비용이 없는 환경"을 처음 접했을 때, 저는 솔직히 피식 웃었습니다. 경제학에서 기회비용(opportunity cost)을 이야기할 때도 그렇지만, 현실에서 비용이 전혀 없는 거래는 존재하지 않습니다. 기회비용이란 어떤 선택을 했을 때 포기해야 하는 다음으로 좋은 대안의 가치를 뜻하는데, 이처럼 어떤 행위든 비용이 붙습니다. 무중력 상태를 가정하고 설계한 기계가 지구에서 제대로 작동하지 않듯, 거래비용이 없는 시장은 이론 밖에서는 찾기 어렵습니다.

코스 본인도 1937년 논문 《기업의 본질(The Nature of the Firm)》에서 거래비용의 존재를 전제로 기업 조직이 왜 생겨나는지를 설명했습니다. 개인들이 1대 1로 거래할 때보다 기업 내부에서 처리하는 비용이 더 낮기 때문에 기업이 존재한다는 논리입니다. 아이러니하게도, 정리 자체는 거래비용이 없을 때를 가정하면서, 그 이론의 배경이 된 논문은 거래비용의 존재를 전제로 합니다.

외부효과, 이웃집 강아지 문제로 풀어보면

코스의 정리를 가장 잘 보여주는 사례가 바로 외부효과(externality) 문제입니다. 외부효과란 어떤 경제 주체의 행위가 시장 거래를 거치지 않고 제3자에게 의도치 않은 영향을 미치는 현상을 말합니다. 이웃집 강아지 짖는 소리가 내 수면을 방해하는 것처럼요.

구체적인 예를 들어봅시다. 갑은 강아지를 키우면서 500의 가치를 얻고, 을은 개 짖는 소리로 800의 피해를 입고 있습니다. 이 상황에서 코스의 정리는 두 가지 경우를 제시합니다.

  • 갑에게 사육권이 있는 경우: 을은 갑에게 500~800 사이 금액을 제시해 강아지를 처분하도록 협상할 수 있습니다. 갑은 받는 보상이 500 이상이면 수락할 것이고, 을은 800 이하이면 지불할 의사가 있으므로 협상이 성립합니다.
  • 을에게 수면권이 있는 경우: 갑이 강아지를 계속 키우려면 을의 피해 800 이상을 보상해야 하는데, 갑이 얻는 가치는 500이므로 보상이 불가능합니다. 결국 강아지를 처분하는 결론에 이릅니다.

흥미로운 점은, 누구에게 권리가 있든 최종 결과(강아지 처분)는 같다는 것입니다. 다만 경제적 후생(economic welfare), 즉 각자가 누리는 경제적 만족의 총량이 어떻게 배분되느냐는 권리의 귀속에 따라 달라집니다.

제 경험상 이 부분이 실생활에서 가장 팽팽한 지점입니다. 아파트 층간소음 문제를 생각해 보십시오. 법적으로 어느 쪽에 권리가 있느냐보다, 소송 비용, 시간, 감정 소모 같은 거래비용이 협상 자체를 막아버리는 경우가 훨씬 많습니다. 결국 이론이 예측한 효율적인 결과에 도달하지 못하고 양쪽 모두 소진되는 형태로 끝납니다(출처: 한국소비자원).

시장실패와 인간의 제한된 합리성, 이론이 놓친 것들

코스의 정리가 가장 많이 비판받는 지점이 바로 시장실패(market failure)와 관련된 부분입니다. 시장실패란 시장 메커니즘이 자원을 효율적으로 배분하지 못하는 상태를 뜻합니다. 공공재(public goods) 문제가 대표적인데, 공공재란 비배제성과 비경합성을 동시에 가진 재화로 국방이나 가로등처럼 누군가 소비해도 다른 사람의 소비가 줄지 않는 재화를 말합니다. 이런 영역에서는 시장이 과소 공급하는 경향이 있고, 결국 정부 개입이 필요해집니다.

행동경제학(behavioral economics)의 시각에서도 코스의 정리는 흔들립니다. 행동경제학이란 심리학적 요소를 경제 분석에 결합한 학문으로, 인간이 항상 합리적으로 행동하지 않는다는 점을 실증적으로 보여줍니다. 특히 보유 효과(endowment effect)가 문제입니다. 보유 효과란 자신이 현재 보유하고 있는 것에 더 높은 가치를 부여하는 심리적 경향으로, 이로 인해 수취 의사액(willingness to accept)과 지불 의사액(willingness to pay) 사이에 큰 괴리가 생깁니다. 코스의 정리는 이 두 금액이 사실상 같다고 전제하지만, 실제 인간은 그렇게 움직이지 않습니다.

최후통첩 게임(ultimatum game) 실험이 이를 잘 보여줍니다. 최후통첩 게임이란 한 사람이 일정 금액의 분배 방식을 제안하면 상대가 수락 또는 거절을 결정하는 실험으로, 제안이 불공정하다고 느끼면 자신도 손해를 보면서 거절하는 경향이 나타납니다. 저도 이 결과를 처음 접했을 때 꽤 인상적이었습니다. 이론적으로는 1원이라도 받는 게 이득이지만, 사람은 불공정한 제안에 분노합니다. 법적 소송 이후 패자가 결과에 더 분개하는 것도 같은 맥락입니다.

현재 진행 중인 미국-이란 갈등 상황을 보면 이 점이 더욱 와닿습니다. 이란의 해협봉쇄로 충분히 존재하는 석유가 이동하지 못하고, 전 세계 유가가 급등하며 경제 전반에 충격이 퍼지고 있습니다. 자원이 가장 효율적인 곳으로 흘러간다는 전제가, 정치적 갈등과 인간의 감정 앞에서 얼마나 쉽게 무너지는지를 보여주는 사례입니다. 인간의 제한된 합리성(bounded rationality)이라는 개념, 즉 인간은 정보와 인지 능력의 한계로 완전히 합리적인 결정을 내릴 수 없다는 행동경제학의 핵심 개념이 여기서도 그대로 적용됩니다(출처: 한국은행 경제연구원).

코스의 정리는 분명 경제학사에서 중요한 이정표입니다. 특히 정부 규제의 역할을 경제적으로 분석하는 법경제학(law and economics) 분야에서 지금도 활발하게 활용됩니다. 그러나 "거래비용 제로"와 "언제나 효율적인 결과"라는 두 전제는, 이론이 현실을 설명하는 데 분명한 한계를 만들어냅니다. 지드래곤 노래 가사처럼 영원한 것은 없고, 예외 없는 이론도 없습니다. 이 정리를 공부하면서 저는 오히려 인간의 제한된 합리성을 이해하는 것이 경제 이론보다 인간관계를 훨씬 부드럽게 만드는 윤활유가 될 수 있겠다는 생각을 했습니다. 이론의 한계를 아는 것이 이론을 제대로 쓰는 출발점입니다.

이 글은 개인적인 경험과 의견을 공유한 것이며, 전문적인 경제학적 조언이 아닙니다.


참고: https://ko.wikipedia.org/wiki/%EC%BD%94%EC%8A%A4%EC%9D%98_%EC%A0%95%EB%A6%AC


소개 및 문의 · 개인정보처리방침 · 면책조항

© 2026 블로그 이름