인터넷 사업자의 음란물 자율규제 현황

1. 개요

음란물에 대한 문제를 온라인서비스 제공자에 입장에서 조금 살펴보면, 이용자들의 인터넷서비스이용에 대한 부정적인 파급효과를 봤을 때 연령구분 없이 전 국민이 사용하는 인터넷 서비스에서 음란물은 큰 문제가 된다. 음란물 유포에 대한 문제도 크지만 음란물이 정상적인 정보의 유통을 방해하는데 더 큰 문제가 있다.

인터넷 상에서의 음란물은 대체로 한 쪽의 성을 나타내게 되는데 유통되는 음란물의 95%는 여성에 대한 주제이고, 이를 보게 되는 이용자는 자연스럽게 이용자층을 인식하게 되어 자기를 표현하는데 많은 제약을 받게 되고 적극적인 자기표현을 어렵게 해 다양한 정보생성과 유통에 방해가 된다.

통상적으로 인터넷에서 볼 수 있는 정보는 텍스트(Text), 이미지(Image), 동영상(Video)으로 나누어 질 수 있는데, 스팸(Spam)을 걸러내기 위한 필터링(Filtering)은 주로 텍스트에 집중되어 있고 관련 기술도 텍스트 쪽이 훨씬 발전되어 있다.

이용자에게 각인되는 음란물은 주로 이미지 또는 동영상을 통해서 보게 되고, 음란물의 90%이상은 이미지, 동영상을 통해 전파되게 된다. 음란물이 텍스트로 전달이 되는 경우에는 이미지나 동영상을 볼 수 있는 사이트를 링크하는 형태로 URL을 통해 전파 된다.

 

2. 해외 인터넷서비스 업체의 음란물규제

해외 인터넷서비스 업체는 음란물에 대해서 어떻게 대응 하는지를 잠깐 살펴보면, 단순히 정보를 모아서 보여주는 구글의 경우 간단한 몇 개의 키워드를 통해 이미지검색 탭에서 음란물을 손쉽게 찾을 수 있는 구조를 가지고 있다. 다만 성과 관련된 특정 키워드는 성인 인증을 거치고 있고, 이용자가 원하는 경우 “세이프 서치”라는 필터링 기능을 제공해 원하지 않는 이용자에게는 음란물의 노출을 선택적으로 제어할 수 있도록 이용자 기능을 제공하고 있다.

음란물_그림1

구글이 음란물에 대해서 이용자의 선택권을 좀 더 부여한 반면, 이용자들의 관계성에 의해 서비스를 유지하는 페이스북의 경우는 좀 더 적극적으로 제어를 하고 있는 쪽이다. 지난 2105년 4월에도 보도가 되었지만 리뉴얼된 페이스북 커뮤니티 표준(https://www.facebook.com/communitystandards)에 의하면 모호한 삭제기준을 보완하여 이전보다 명확하게 모니터링에 대한 기준을 명시하고 있다. 공시사항을 보면 음란물에 대한 부분도 그 기준을 명확하게 제시하고 있다.

음란물_표1

해당 부분을 살펴보면 페이스북이 인수한 인스타그램(http://www.instargram.com/)에서도 페이스북이 제시한 기준과 가이드라인을 가지고 게시물과 이용자를 제한함을 알 수 있다. 특히 페이스북과 인스타그램 공통으로 음란물에 대한 신고절차를 가지고 있고 둘 다 음란물에 대한 부분을 신고 사유에 포함하고 있다.

음란물_그림2

글로벌한 이용자를 가진 서비스임에도 신고절차를 마련해 두고 음란물에 대한 게시글 삭제와 이용자에 대한 제한 절차가 명확하게 이루어짐을 확인할 수 있었다.

음란물_그림3

커뮤니티성 서비스를 지향하는 글로벌 기업에서는 음란물에 대해 단호한 대처를 하고 있었는데 이는 음란물이 이용자 간의 정상적인 커뮤니케이션을 어렵게 하는 주요 요소로 인식되고 있음을 간접적으로 확인할 수 있다.

음란물을 보는 기준은 국내와 해외의 사례가 크게 다르지 않고, 보편적으로 성행위와 노출을 기준으로 가져가고 있다. 다만 성인물에 대한 부분은 문화적인 배경이나 지역에 따라 인식에 차이가 발견되었다.

특히 관계형서비스를 지향하는 해외사업자는 음란물을 보는 기준과 정책이 국내사업자와 크게 다르지 않고, 이미지, 동영상이 주요 서비스인 인스타그램의 경우는 통상의 해외서비스와 달리 음란물을 게시한 이용자에게 적극적인 서비스 제한을 하고 있었다.

 

3. 음란물에 대한 기술적 조치

대체로 필터링이나 모니터링(Monitoring)은 콘텐츠 운영 핵심 기술에 포함되는 부분으로 실제 해외에서는 어떤 기술적인 조치를 하는지 확인할 방법은 없지만 현실적으로 음란물은 그 특성상 제어하기 어려운 특성이 있어 국내의 대응 방법과 크게 차이가 있으리라 생각되지는 않는다.

음란물이 제어하기 어려운 이유는 크게 두 가지로 볼 수 있는데,

첫 번째는 모바일화를 통해 개인화된 매체가 발달됨에 따라 음란물에 대한 유통 및 확대가 더욱 손쉽게 일어날 수 있다는 점이다. SNS나 메신저, 다양한 퍼가기 구조의 서비스, URL 링크를 통해 한번 생산된 음란물은 순식간에 동일한 공간을 사용하는 이용자들에게 확대 전파될 수 있는 구조를 지니고 있다.

두 번째는 필터링 기술인데 현재의 기술로는 인간의 다양한 욕망(?)을 표현한 음란물을 컴퓨터가 정확히 인지하고 그 여부를 판별하기는 정말 어렵다.

두 가지 사실을 종합해 보면 수많은 정보 중에서 무엇이 음란물인지를 찾기도 어렵고 발견하더라도 순식간에 확산될 수 있어 확산 전 빠른 조치가 필요한 아주 까다로운 유형의 컨텐츠 임을 알 수 있다. 하지만 문제를 조금 더 심층적으로 보면 음란물이 생성되고 대량으로 양성화되는 단계를 추적하는 프로파일링(Profiling) 과정을 통해 조금은 그 실마리가 풀리게 된다.

일반적으로 기술적 조치를 논할 때는 음란물을 인식하는 ACR(Auto Content Recognition)을 먼저 떠올리기 쉬우나, 실제로 음란물을 정확하게 인식할 수 있고 대량의 이미지를 신속하게 처리할 수 있는 시스템의 자원을 적게 사용하는 기술을 찾아 적용하기는 쉽지 않다.1

음란물에 대한 통제는 고도화된 인식기술로만 처리하기 어렵고, 단계적으로 음란물의 특성을 고려해 신속하게 찾아내고 확산을 방지하는 시스템을 갖추는 것으로 그 대응의 완성도를 가져갈 수 있다.

자사의 음란물처리 Process는 크게 3단계로 구성되어 있다.

음란물_그림4

1) 신속대응

일상적인 용어지만 가장 중요한 부분이다. 이용자들이 인식하기 전에 빠르게 음란물을 찾고 조치를 해야 하는데 여기서는 자사의 빅데이터(BigData) 분석기법이 활용된다. 빅데이터가 좋은 정보와 이용자의 패턴을 구분하는데도 사용될 수 있지만, 특정영역에서 발생되는 음란물을 찾는 데도 매우 유용하게 쓰이고 있다.

사회심리학에서 보면 사람들의 행동과 사고는 반복되는 유사한 흐름을 가지고 있고 특정사항에 대한 위반이 재발할 비율이 85~95%에 이르고 있다.2 이를 조금 더 활용해서 특정 이용자가 모이고 유사데이터가 발생되는 곳에 모니터링과 신고처리를 집중화해 음란물을 발생초기에 발견하는 것이 가능하다. 음란물은 확산되기 전 얼마나 빨리 발견하는가에 그 핵심요소가 있다.

2) 확산방지

확산을 방지하기 위해서는 발견된 음란물에 대한 신속한 필터링이 그 핵심요소가 된다. 대량의 데이터를 필터링해야 하므로 그 속도와 성능이 충분히 보장되어야 한다. 음란물을 필터링하는데 사용되는 기술이 특별하지 않아도 되는데 음란물은 그 성격상 형태를 변형하지 않고 원본이 그대로 전파되는 특징이 있다. 따라서 이미 검토된 음란물에 대해서만 차단하는 것으로 일상적인 기술을 사용하더라도 문제는 없으나, 중요한 점은 빠져나가는 곳 없이 모든 부분에 대해서 철저하게 체크하는게 중요한 요소이다.

3) 재발방지

심리학에서 탈개인화에 대한 부분을 보면 자기의식을 버린 상태에서 탈개인화는 쾌감정(feeling of pleasure)을(Zimbardo. P. G., 1969) 얻게 된다고 말하고 있다. 이를 현대적으로 해석하면 자신을 쉽게 숨길 수 있는 인터넷이라는 공간의 특징상 탈개인화는 일상적인 공간보다 훨씬 쉽게 일어나게 되며 음란물을 올리는 이용자는 이 과정에서 일정한 쾌감정을 가지게 된다.

인터넷상에서 음란물을 올리는 특성은 일반적인 탈개인화를 위한 사회생활과 비슷한 패턴을 가지게 된다. 예를 들어 탈개인화를 위해 통상적으로 대도시를 좋아하거나 남들이 다 잠든 밤에 행동을 하는 경향이 있는데, 비슷하게 인터넷공간에서도 음란물이 개인공간에 올라오는 것이 아니라 여럿이 공유하는 게시판공간에 등장하며, 주로 저녁 시간대에 올라오는 특징들이 비슷한 성향을 보이고 있다.

탈개인화를 방지하는 아주 유용한 재발방지 책은 음란물을 올린 사람에게 우리는 당신이 누구인지 알고 있다고 알려주는 방법이다. 당사에서는 유해 게시물을 올리는 이용자에게 반복된 약관위반으로 인한 이용제한 전에 계도프로세스를 주고 있는데 계도프로세스를 통해 음란물의 유입을 현재하게 줄일 수 있었고, 2014년도 방송통신심의위원 불법정보 게시글 시정조치 건(4,866 건)을 보면 2013년도 시정조치 건(8,675 건)에 비해 절반정도 낮아진 것을 볼 수 있다.3

 

4. KISO 온청위(온라인 청소년 보호체계 구축위원회) 활동

음란물을 통제하는데 가장 중요한 부분은 음란물에 대한 빠른 발견과 빠짐없이 노출되는 공간을 필터링하여 확산을 방지하는 부분인데, 장벽이 없이 넘나드는 인터넷이라는 거대 공간에서는 한 사업자의 음란물 대응은 한계가 있을 수밖에 없고, 대응에 대한 부작용으로 예측하지 못한 음란물에 대한 어뷰징 풍선효과(A서비스에서 스팸을 억제하면 유사한 B서비스에서 스팸이 늘어나는 현상)가 발생할 수 있다.

음란물 대응에 대해 고민이 있던 차에 2013년 7월 KISO를 통한 “인터넷 음란물 근절을 위한 대응방안”이 발표되고 각 사업자에서 개별 대응하던 음란물에 대한 정보를 모아 공동으로 대응하자는 의견이 모아졌다. 여기에 당사도 적극적으로 참여하여 음란물에 대한 모니터링 기준표준화 및 기술적 조치를 위한 필터링 DB(DataBase)구축을 2014년 2월 완료하고 네이버에서 차단한 음란물을 다른 포털이나 인터넷서비스업체에서 사용할 수 있는 길이 열렸다.

음란물 등 유해 게시물은 어뷰징 풍선효과에 의해 서비스를 넘나드는 속성이 있으므로 가능한 많은 사업자가 본 사업에 참여할수록 통제의 효과는 더 크게 나타날 것으로 예측된다.

음란물_그림5

—————————————————————————-

  1. 네이버에 올라오는 이미지 수는 일간 600만 개 수준이다. [본문으로]
  2. Lawence Taylor, 범죄 행동은 유전적인가?, 홍성열․임영식 역, 성원사, 1991 [본문으로]
  3. 연합뉴스, 2015년 6월 17일자, available: http://news.naver.com/main/read.nhn?mode=LSD&mid=sec&oid=001&aid=0007665477&sid1=001a [본문으로]
저자 : 오경수

네이버 서비스운영지원실 부장