국내 포털의 ‘아동·청소년 보호’ 자율규제 정책

1. 들어가며

미성년자 성(性) 착취물 제작·공유 텔레그램 ‘n번방’ 사건은 우리 사회에 많은 고민을 던져주었다.

국제 사회에서는 인터넷상 아동·청소년 보호를 위한 각종 활동의 중요성이 커지고 있다. 미국 국립실종착취아동센터(NCMEC)에 따르면 2015년 650만 건이던 아동 성착취 관련 영상과 이미지는 2019년 6920만 건으로 10배 이상 급증했다.

인터넷을 통해 국경을 넘나드는 현재 상황에서 법적인 규제를 강화한다 하더라도 해외 사이트에는 적용되지 않기 때문에 국내 이용자 및 온라인 서비스 제공자들의 우려가 크다. 인터넷의 빠른 콘텐츠 유통 속도 및 초국적인 이용자 특성상 현행 규제 체계로는 효과적인 규제가 어려운 실정이다.

국내 인터넷 사업자들은 ‘n번방’ 사건이 화두가 되기 훨씬 전부터 관련 정책을 정비하고 아동·청소년 보호를 위해 노력해왔으며 그 기조는 계속 이어지고 있다. 이에 더해 국내 포털들은 운영정책에 이용자들이 참여하는 아동·청소년 보호를 적극적으로 끌어내는 것으로 진화하고 있다. 국내 대표 포털들의 아동·청소년 보호 자율규제 정책에 대해 살펴보고자 한다.

2. 네이버 ‘아동·청소년 특별한 보호’ 정책

네이버는 '그린 인터넷' 캠페인 페이지를 리뉴얼했다.
네이버는 지난 10월 20일 ‘그린 인터넷’ 캠페인 페이지를 리뉴얼했다.

이용자에게 실질적인 정보를 제공하고, 안전하고 바른 인터넷 사용 정보를 담은 ‘그린인터넷’ 페이지를 운영 중인 네이버는 그동안 인터넷의 건강한 문화 정착을 위해 노력해왔다. 또한, 불법적이고 유해한 게시물에 대해서는 일관된 정책(약관, 운영정책, 청소년 보호정책 등)을 펴나가고 있다. ​

네이버는 지난 10월 12일 공지사항을 통해 네이버 게시물 운영정책에 ‘아동·청소년에 대한 보호정책’이 추가됐다고 밝혔다. 기존에도 네이버에는 아동·청소년에 대한 정책이 있었기에 새로운 것은 아니나, ‘아동·청소년의 특별한 보호’ 항목을 추가한 점이 달라진 점이다. 인터넷의 주인인 이용자들에게 아동·청소년에 대한 특별한 보호를 적극적으로 안내하고, 그 보호에 같이 동참할 수 있도록 유도하는 노력의 일환이라는 점에서 의미가 있다.

운영정책과 그린인터넷 페이지 변경을 통해 일반 이용자에서 아동 청소년을 ‘특별히’ 구분하는 시도를 한 것이다.

‘아동과 청소년의 특별한 보호’란 인터넷 공간에서 아동과 청소년의 보호를 최우선으로 하며, 아동과 청소년의 신체와 성을 대상화하는 행위를 금지하고, 아동과 청소년을 대상으로 비인격화하는 그 어떠한 행위도 허용하지 않는 정책을 골자로 한다.

여기에서 네이버는 단 한 번의 위반 행위도 단호하게 대처한다는 분명한 태도를 취하고 있다. 또한, 위반 게시물을 발견할 경우 누구나 신고센터에 제보할 수 있도록 했다. 아동과 청소년이 안전하게 누릴 수 있는 인터넷 환경 조성을 위해서 앞장서는 노력에 동참해달라고 참여를 이끌었다.

​이는 아동·청소년이 성인과 달리 더 많은 주의와 관심, 보호가 필요한 대상이며, 상대적으로 큰 노력과 시도가 필요하다는 판단에 따른 것으로 보인다. 국내 대표 포털로서 모범을 보이며, 실행력을 강화하고자 하는 측면으로도 해석된다.

확인 즉시 삭제되고, 게시자에 대해 글쓰기 및 로그인 제한, 서비스 이용이 해지되는 게시물은 아래와 같다.

· 아동과 청소년의 신체를 촬영하거나 성적 대상화 하는 내용의 게시물
· 아동과 청소년의 일상적 사진을 성적인 사진과 합성한 게시물
· 아동과 청소년을 대상으로 한 성적 괴롭힘으로 보이는 내용의 게시물
· 아동과 청소년의 성착취물을 제작하거나 제공, 광고, 소개 등에 이용하는 내용의 게시물
· 아동과 청소년이 성착취물의 제작에 이용되도록 돕는 내용의 게시물
· 아동과 청소년에게 음란물 또는 성착취물을 제공하는 내용의 게시물
· 아동과 청소년의 성을 매매하는 행위 또는 그와 유사해 보이는 내용의 게시물
· 현행 성폭력처벌법과 정보통신망법 등 관련 법률에서 금지하는 내용의 게시물
· 아동과 청소년을 과도하게 비인격화하는 내용의 게시물
· 네이버 서비스에서 제공한 기술적 도구와 인터넷 환경을 매개로 아동 또는 청소년을 등장시켜 신체와 성을 대상화하는 내용의 게시물

아울러 네이버는 기존 음란물 정책을 강화해 ‘스리아웃(3-OUT)제’로 제재 강도를 높였다. 특히, 성착취물, 불법촬영물 등 디지털 성범죄에 대해서는 1차 적발(1-OUT)시 전 서비스에서 영구적으로 글쓰기가 제한되는 강력한 제재 정책을 신설 적용하였다.

네이버는 인공지능 ‘엑스아이(X-eye)’로 음란 게시물을 실시간 차단하고 있다. 이용자가 음란 게시물을 업로드하면 게시물에 포함된 사진, 동영상이 엑스아이의 딥러닝 기술을 통해 실시간으로 검수 되고, 현행법 또는 이용약관·운영정책에서 금지하는 음란물로 판별된 게시물은 즉시 삭제된다. 현재 네이버는 엑스아이 실시간 인공지능(AI) 이미지 필터링 시스템 적용을 확대 조치했다.

이밖에도 네이버는 이용자의 건전한 인터넷 공간 만들기를 위해 ‘이용자의 정보 접근성’도 강화했다. 아동·청소년 보호 캠페인의 취지를 더욱 고취시키고자 사용자 인터페이스(UI)를 개선해 세부 운영에 관한 지침들을 그린페이지에 반영하는 리뉴얼을 마쳤다.

디자인 측면에서는 아동·청소년 페이지를 추가했고, 음란물과 불법게시물 페이지를 분리하여 가독성을 높인 것이 눈에 띈다. 구체적으로 개별 카테고리를 대표하는 아이콘을 통해 각 페이지의 주제를 단순하고, 직관적으로 알 수 있도록 변경하였다.

3. 카카오 아동 청소년 대상 성범죄 ‘무관용 원칙’ 적용

카카오는 2020년 7월 아동·청소년 성보호 정책을 신설하고, 아동·청소년 대상의 성범죄에 대해 무관용 원칙으로 대응한다고 밝혔다.

카카오 역시 이전부터 청소년이 정신적·신체적으로 유해한 환경으로부터 보호받고 유익한 환경을 조성하도록 노력하며, 안전하게 인터넷을 이용할 수 있는 서비스를 제공하는 것을 기본 원칙으로 하는 청소년 보호 정책을 운영해왔다.

여기에 더해 카카오는 올해 7월 선제적으로 아동·청소년 성보호 정책 수립과 동시에 ‘아동과 청소년에 대한 보호’ 조항을 추가했다. 특히, ‘아동과 청소년 대상 성범죄에 대해서는 무관용 원칙을 적용한다’는 조항을 명문화해 강력한 제재를 시사했다.

이용자의 적극적인 신고 및 모니터링을 통해 이러한 정책에 위반되는 콘텐츠나 커뮤니케이션을 발견할 경우, 누적 정도(기존 정책위반 이력)와 관계없이 즉시 해당 계정과 서비스 이용을 영구적으로 제한하는 강력한 제재를 적용한 것이다. 심각한 이슈가 발생하면 수사기관 신고 등 사법적 대응을 연계해 적극적 조치를 취할 것이라고 설명했다.

카카오는 아동과 청소년이 건강한 인격체로 성장할 수 있는 인터넷 환경을 만들고자 하는 노력에 이용자들의 적극적인 관심과 참여를 당부했다.

이는 기존의 청소년 보호 정책을 한층 강화한 것으로, 아동·청소년 대상 성범죄 또는 성범죄 조장 행위는 물론 관련 콘텐츠를 이용하려는 적극적인 의사 표현까지 무관용 원칙 적용 대상에 해당한다.

카카오가 무관용 원칙으로 대응하는 아동・청소년 대상 성범죄 또는 성범죄 조장 행위는 다음과 같다.

① 아동・청소년 성착취물을 제작 및 제공하거나 광고・소개하는 행위
② 아동・청소년 성착취물임을 알면서도 소지하거나 이용하는 행위
③ 아동・청소년이 성착취물의 제작에 이용되도록 돕는 행위
④ 아동・청소년에게 음란물이나 성착취물을 제공하는 행위
⑤ 아동・청소년의 성을 매매하는 행위
⑥ 아동・청소년 대상 성범죄를 모의하거나 묘사하는 행위
⑦ 아동・청소년을 대상으로 한 그루밍(grooming, 길들이기) 행위
⑧ 아동・청소년의 성적 대상화
⑨ 그외 아동・청소년 대상 성범죄를 조장하는 행위

그루밍을 금지행위에 반영한 것이 눈에 띄는 시도다. 그루밍은 상대와 형성한 신뢰 및 친밀감을 이용해 성적 행위를 조장·권유·강요·요청하는 것을 의미한다.

온라인상의 그루밍은 디지털 세상의 확장과 더불어 최근 사회 문제로 부상했고, 학계에서는 여러 논의가 이뤄지고 있지만, 법 제도적 차원의 정의는 아직 확정되지 않은 상태다.

카카오는 그루밍을 금지 행위로 명시함으로써 사회 구성원들이 그루밍을 모두 함께 대응해야 할 문제로 인식하고 예방과 구제를 위한 활동에 적극적으로 참여하게 되길 기대한다고 밝혔다.

카카오는 이번 정책을 수립하는 과정에서 정책의 엄밀성을 높이고 사회적 공감대를 확인하기 위해 국회, 부처, 언론, 학계, 시민단체 전문가의 의견을 수렴하는 절차를 거쳤다.

한편, 카카오는 유해 콘텐츠로부터 이용자들을 지키기 위해 유해 콘텐츠 필터링 기술을 적용하고 있다.

스마트한 유해 콘텐츠 차단을 위해 AI 기술을 도입하고 있으며, 현재 카카오에서는 이미지 외에 글, 동영상, 음악, 파일 등 다양한 콘텐츠의 유해성을 관리하고 있다.

4. 나가며

한국 인터넷 산업의 발전을 함께 이끌어 온 국내 인터넷 사업자들은 이용자 보호를 위해 업계의 자율적인 노력이 필요하다는 데 의견을 같이 하고 있다.

법에 따라 규율된 규제만으로는 언어나 문화, 생활과 같이 청소년의 정서에 영향을 주는 요소로부터 그들을 보호하기 어렵다.

이용자에 대한 인식 제고 활동을 바탕으로 하는 미디어 리터러시 제고 방안, 아동·청소년 보호를 위한 자율규제 및 정규 교육 과정에서의 교육 강화, 자발적으로 인터넷 정화 활동에 참여하는 시민을 양성하는 것이 장기적으로 어떤 규제도 불필요하게 만드는 가장 이상적인 대안일 것이다.

정부뿐만 아니라 교육계, 산업계를 포함한 모두가 노력하고, 이용자의 동의와 참여를 통한 아동·청소년 보호 방안을 고민해야 할 시기다.

[참고 문헌]

  • 황창근, “개정 청소년보호법 및 아동·청소년성보호법의 쟁점 및 개선방안”, KISO저널 제5호(2012)
  • 전윤정, “디지털 아동·청소년성착취 근절 제도개선 현황 및 과제”, 현안분석, 제161호, (2020.09.04.)
저자 : 박엘리

한국인터넷자율정책기구(KISO) 기획팀장