미국의 콘텐츠 규제 한국과의 차이점은 : All Things in Moderation 2017 컨퍼런스를 다녀와서

1. 들어가며

흔히 미국하면 표현의 자유가 우선인 ‘수정헌법 1조의 나라’ 로 기억한다. 실제로 미국은 표현의 자유가 중요한 가치로 받아들여지고 있고, 시민사회의 폭넓은 이를 지지하는 문화가 있는 나라임에는 틀림이 없다. 이런 미국에서도 인터넷 상에서 ‘무조건 표현의 자유’ 만을 지지할 수는 없을 것이다. 인터넷 게시판 등 이용자가 작성한 콘텐츠는 수많은 사람이 콘텐츠를 작성한다. 그리고 한국과 마찬가지로 훌륭하고 재미있는 콘텐츠를 제공하는 이용자 뿐만 아니라 타인에게 강한 욕설을 하는 이용자, 확인되지 않은 명예훼손적인 발언을 하는 이용자, 성인물을 올리는 소위 ‘불량 이용자’와 ‘불량 콘텐츠’가 존재할 것이기 때문이다. 이러한 ‘불량 이용자 작성 콘텐츠’에 대해 아무도 관리하지 않는다면, 양질의 콘텐츠를 작성하는 이용자들도 떠나가게 되고, 그렇다면 어떠한 서비스라도 제대로 운영되기 어려울 것이다.

그럼 미국은 어떻게 이러한 ‘불량 이용자’를 관리할까? 당연히도 미국에서는 표현의 자유를 중시하는 풍토상 온라인 서비스의 운영인력이 콘텐츠의 관리/제외업무를 수행한다는 사실 자체에 대한 사회적 인식이 낮았다. 하지만 이용자 작성 콘텐츠가 다양하게 작성되는 현재와 같은 시기에 이러한 관리의 중요성은 강화될 수밖에 없었고, 미국 UCLA의 정보학부 새라 T 로버츠(Sarah. T. Roberts) 교수는 이를 ‘상업적 콘텐츠 관리(Commercial Contents Moderation)라는 조어를 통해 설명했다. CCM 업무는 소셜미디어 등의 이용자 들이 업로드하는 사진/영상/텍스트 등을 검토하고 필터링하는 업무 등을 통칭하는 것으로 받아들여지고 있다. 이러한 CCM에 관련된 최초의 학회가 지난 2017년 12월 6일에서 7일까지 미국 로스엔젤레스에 위치한 UCLA에서 개최되었다. 필자는 한국의 검색어 서비스 운영 공정성을 위한 노력이라는 주제로 KISO의 검색어 검증위원회 사례를 발표하기 위해 참여하였다.

 2. 실증적인 논의

UN 표현의 자유 특별보고관인 데이비드 케이(David Kaye)의 기조연설로 시작된 1박 2일의 컨퍼런스가 시작되었다. 주요 세션이 개최된 UCLA의 찰스 영 연구도서관(Charles E. Young Reserch Library)에서는 미국 각지에서 도착한 다양한 참가자들로 인산인해를 이루었다. 본 컨퍼런스의 큰 특징은, 한국과는 달리 규제에 대한 법학적 규제적 관점에 대한 검토가 거의 이루어지지 않았다는 점이다. 데이비드 케이(David Kaye)의 기조연설에서는 콘텐츠 관리가 표현의 자유를 해치지 않게 하기 위한 원칙 등에 대한 설명이 진행되었으나 이뿐이었다. 이후 컨퍼런스에서는 말그대로 실증적인 논의 위주로 진행되었다.

실제적인 사례로서 가장 필자의 관심을 끈 사안은 이용자의 콘텐츠 관리 위한 툴의 개발 실제 사례에 대한 소개와, 이용자의 자발적 콘텐츠 관리의 한계를 설명한 사안이다. 미국 MIT의 클라우디아 로(Claudia Lo)가 발표한 콘텐츠 관리 툴의 개발 실제 사례의 경우 이용자의 자발적인 참여를 바탕으로 온라인 스트리밍 방송인 Twitch에서 악성 댓글을 작성하는 이용자를 차단(Ban)하기 위한 툴을 실제 개발하고, 이를 사용한 결과를 보고한 사례였다. 특히 인터넷 방송의 특성상 댓글이 실시간으로 작성되고 공개되는 측면이 있어 빠른 선택이 필요하다. 클라우디아 로는 복수의 자발적 관리자가 합의된 실시간 투표 시스템을 통해 이용자의 글을 검토하고 빠르게 이를 검토할 수 있는 프로그램을 소개하였다. 실제로 기존의 운영 툴을 통한 방식보다 20%정도 더 효율적으로 악성 댓글을 막을 수 있다는 실증결과도 제시하였다.

또한, 미국의 거대 커뮤니티 래딧(Raddit)의 역사 채널(AskHistorian)에서 이루어진 자발적 콘텐츠 관리에 대한 내용 역시 이용자들이 어떻게 조직되어 자발적으로 콘텐츠를 관리하자는 목표를 세우는지부터, 그들이 어떻게 규칙을 만들고 어떠한 방식으로 제재를 취하는지에 대한 실증적인 사안을 검토하여 이를 발표하였다. 커뮤니티의 특성상 역사에 대한 질문과 답변이 있는 공간으로 운영된다. 그러나 지나친 가상 질문, 학생들의 숙제를 위한 질문, 스팸이나 특정인을 공격하는 질문 등이 지속적으로 작성되어 원래 취지에서 벗어나고 있다는 검토에 따라 자발적으로 조직된 관리자(Moderator) 집단이 규칙을 정하고 이에 대해 집행하는 방식을 보여준다. 민주적이고 자발적인 이용에 대한 좋은 관리 사례를 보여주는 것이라고 생각되었다.

3. 누가 콘텐츠를 관리하는가?

본 컨퍼런스에서 중요하게 다루어진 사안은 또한 콘텐츠 관리 업무에 대한 고찰이다. 미국의 소셜 미디어의 성공에는 이러한 콘텐츠 관리자의 역할이 있었다는데, 누구도 이견을 제시하지 않았다. 하지만 실제 관리하는 콘텐츠 관리자는 과도하게 폭력적이거나 부적절한 콘텐츠에 노출되어 있으며, 노동 상황은 매우 열악하다는 지적이 있었으며 (특히 저렴한 인건비를 바탕으로 하는) 제3국에 위치하는 관리자들이 적절한 처우를 받고 있지 못하다는 지적이 이어졌다.

이에 대한 대안으로는 자발적 콘텐츠 관리. AI를 통한 관리 등이 검토되었다. 사람에 콘텐츠 관리의 단점 즉 사람으로서의 편견(Bias)를 가질 수밖에 없다는 문제를 해결하기 위해 AI등 콘텐츠 자동화가 폭넓게 논의되었으나, 한국에서와 마찬가지로 콘텐츠 관리의 책임을 누가 질 것인가? 과연 AI는 편견이 없는가에 대한 문제에 다양한 논의가 이루어졌다. 현재 기술로서 콘텐츠 관리를 위한 보조적인 수단으로서의 자동화는 가능하지만, 전적으로 자동화를 통한 콘텐츠 관리를 일정부분의 한계가 있다는데 참석자들은 공감하는 것으로 보였다.

 4. 한국의 사례에 대한 관심

데이비드 케이(David Kaye)는 기조연설에서 인터넷 공간에서 누구나 시민의 권리로서 표현의 자유를 영위하여야 하기 때문에, 사기업은 1. 이용자의 권리를 보호하는 규칙을 제정하고, 2. 이용자의 자치, 이용자에 의한 제어가 가능한 시스템을 구축하며, 3. 투명성을 확보하고, 4. 업계의 자율규제를 통해 콘텐츠를 규제하는 것이 적절하다고 발제한바 있다.

이런 측면에서 KISO가 발표한 ‘네이버 검색어 검증위원회’ 관련 사항에 대해 높은 관심을 보였다. KISO는 업계 공통 정책규정(Code of Conduct)을 마련하여 검색어 규정을 공동으로 만들었는데 그 원칙은 이용자와 피해자의 권리를 모두 합리적으로 보호할 수 있는 방향이었고, 투명성을 확보하기 위해 네이버 자체가 아닌 KISO를 통해 검색어에 대한 검증을 수행하고 있기 때문이다. 일반적으로, 콘텐츠 관리는 이용자를 위한 일정의 서비스를 제공하는 측면이 있는 만큼, 그 세부적인 사안에 대해서는 기본적으로 영업 비밀에 해당한다고 판단하는 것이 적절할 것이다. 그런 측면에서 KISO에서 발표한 검색어 검증위원회 관련 사안에 대해 신선하다는 반응이 많았다. 기업의 콘텐츠 관리 원칙을 공개하는 것을 넘어 실제 제외사례를 외부 전문가를 통해 검증 받고 이를 공개하는 방식으로 투명성을 확보하려는 측면에 높은 관심을 보였다. 다만 데이비드 케이가 기조연설에서 말한 이용자의 자치(Autonomy)에는 일정 부분 한계가 있다는 의견도 존재하였다.

5. 한국과의 큰 차이점

발표를 비롯해 이틀간의 9시부터 6시까지 계속되는 빡빡한 컨퍼런스 일정에서, AI 자치, 투명성, 공정성 등 다양한 이슈가 논의되다 보니 막상 컨퍼런스를 참여할 때는 느끼지 못한 사항이지만, 마치고 나서 보니 한국과의 큰 차이점이 느껴졌다. 이 학계와 업계, 언론계를 아우르는 다양한 논의 속에 정부의 역할이나 정부의 참여자, 정부 규제에 관한 논의는 애초에 다루어지지 않았다는 것이다. 업계는 서비스에서 양질의 콘텐츠를 제공하는 것이 일종의 사회적 책임이자 사업의 주요 모델로 받아들여지고 있어 자체 콘텐츠 자율규제에 적극적이고, 언론과 학계는 이에 대한 다양한 모델과 정보를 제공하고 있었다. 다만 이에 대해 공적규제나 정부 차원에서의 규제가 필요하다는 논의는 찾아보기 힘들었다. 미국은 콘텐츠의 규제가 오히려 다양한 이용자들이 더 폭넓은 의미의 표현의 자유 등의 권리를 보장 받을 수 있기 때문에 필요하다는 전제에서 접근하고 있었기 때문이다. 따라서, 정부에 의한 표현의 자유 규제는 (연방헌법상 불가능하다고 할지라도) 애초에 검토나 논의대상이 되는 사안이 아니었다는 점이 한국과의 큰 차이로 느껴졌다. 오히려 거대화된 소셜 미디어 회사가 콘텐츠 관리라는 목표 하에 사적검열을 행해서는 안 된다는 경고가 이루어지고 있는 실정이었다.

이에 반해 한국은 국가 주도하에 법률을 통해 어떠한 규제를 수행하는 방식을 우선적으로 도입해왔다. 모든 사이트는 서비스 특성과 무관하게 임시조치 제도를 마련해야하고, 일정한 불법 콘텐츠를 삭제해야 할 책임이 있다. 심지어 최근에는 다시 실명제를 도입하는 법안도 상정되어 국회에서 계류 중이다. 이러한 규제방식은 분명 통일되고 안정된 권리침해를 막는 방안을 제시한다는 점에서 그 장점이 있을 것이다. 하지만, 콘텐츠의 관리도 중요한 사업의 수단이자 사회적 책임이라는 인식은 분명 낮을 것이다. 한국에서도 컨퍼런스에서 발표된, 자치를 통한 규제, 서비스 성격에 맞는 다양한 기술적 방식을 통한 규제 등 콘텐츠 관리의 혁신이 가능한 환경이라 믿는다. 오히려 이러한 혁신을 저해하는 것은 공적 규제가 아닌지 다시 한 번 생각하게 되었다.