테러리즘 대응을 위한 국제 인터넷 포럼(GIFCT)

지난 21일, 유엔 총회에선 이례적인 부속 모임이 하나 열렸다. 영국, 프랑스, 네덜란드 등 주요 유럽 국가의 총리가 참여한 이 모임의 이름은 ‘테러리스트의 인터넷 이용을 방지하기 위한 정상 회의’(Leaders Meeting on Preventing Terrorist Use of the Internet)였다. 테레사 메이 영국 총리는 이 자리에서 발언의 상당 부분을 인터넷 기업을 압박하는 데 집중했다. 그는 “업계는 테러리즘 관련 콘텐츠를 발견하고 삭제하는데 더 큰 노력을 기울여야 한다”고 힘주어 말했다. 지하철 사제폭탄 테러를 포함해 영국이 수도 런던에서 최근 모두 다섯 차례의 경악할 만한 테러 공격을 당했음은 잘 알려진 사실이다. 영국 정부는 이슬람국가(ISIS)를 비롯한 테러리즘 세력이 인터넷을 활용해 극단주의 사상을 전파하고 젊은이를 유혹하는 것이 이런 테러의 중요한 바탕이 되고 있다고 보고 있다. 이날 영국뿐만 아니라 참여 국가 대부분의 정상은 한 목소리로 인터넷 기업의 보다 큰 책임과 대응을 강조했다. 각국 정부는 인터넷을 통한 정보의 공급을 양분으로 자라나는 자생적인 테러리스트, 이른바 ‘고독한 늑대’의 테러 위협에 대응해야 할 큰 압박을 받고 있다.

이런 배경 속에서 페이스북, 트위터, 마이크로소프트, 구글(유튜브) 등 주요 인터넷 기업들은 지난 6월 자율적인 대응 기구 ‘테러리즘 대응을 위한 국제 인터넷 포럼’(Global Internet Forum to Counter Terrorism, 이하 테러 대응 포럼)을 창설했다. 이용 인구 20억에 육박하는 페이스북을 비롯해 미국 실리콘밸리 태생의 이들 기업이 제공하는 서비스는 이용자에게 미치는 영향력이 넓고 깊은 만큼 테러리스트 그룹에게도 중요한 선전 도구로서 쓰이고 있다. 테러와 비교적 무관하다고 여겨진 우리나라에서도 지난 2015년 트위터를 매개로 해서 한 고등학생이 이슬람국가에 가입한 것이 알려져 충격을 던진 바 있다.

테러리즘 확산의 공포가 증대되고 있음에도 불구하고 정부가 이런 정보의 전파를 막기 위해 보다 강제적이고 직접적인 대책의 도입을 서두르지 못하는 배경에는, 이 문제가 표현의 자유와 프라이버시라는 민주주의 사회의 기본적인 시민 권리와 서로 긴장 관계에 있기 때문이다. 특정 표현을 강제적으로 금지하는 규정은 표현에 대한 차별이라는 시민사회의 비판으로부터 자유롭기 어렵다. 이런 규정은 ‘무엇을 어디까지 금지할 것이냐’는 어려운 질문에 대한 답을 좀처럼 내기 어렵기 때문이다. 예컨대, 이슬람 극단주의 세력의 프로파간다를 제거한다는 명분은 합당하게 보이지만, 코란(이슬람교 경전)의 해석에 대한 동영상이나 모호하게 무슬림의 단결을 호소하는 글도 함께 삭제될 가능성도 필연적으로 따라 붙는 것이다. 또한 테러리스트를 효과적으로 색출하기 위한 기술은 다른 이들의 프라이버시 침해에도 얼마든지 응용될 위험이 있다. 이런 이유 때문에 인터넷 기업의 자발적인 대응이 정책적으로 더 선호된다.

동시에 자율 정책은 두 가지 점에서 강점을 지닌다. 첫째, 인터넷 플랫폼 기업은 기업 내부의 데이터와 알고리즘을 이용한 통제가 가능하다. 대부분의 인터넷 기업은 기업 비밀이라는 이유로 자사 서비스의 여러 영역에 대한 데이터와 알고리즘을 외부에 비밀로 하고 있다. 이들이 보유하고 있는 이용자 표현물에 대한 데이터와 분석 노하우는 테러리즘 콘텐츠를 색출하는데 큰 가치를 지니고 있다. 또한 이들은 자체 알고리즘을 적절히 수정해 효과적인 대응책을 도입·집행할 능력을 지니고 있다. 하지만 외부에선 이런 부분에 영향을 미치거나 기본적인 내용을 확인하는 길도 매우 어려운 일이다. 둘째, 신속한 대응이 가능하다. 인터넷을 통한 정보의 전파는 초와 분 단위로 신속하게 이뤄진다. 반면 법이나 제도를 통한 이런 콘텐츠에 대한 대응은 행정 당국과 민간 기업, 대중의 참여 등을 중요한 동력으로 삼고 있지만 여러 행위자가 효력의 전개에 개입하는 만큼 속도가 느릴 수밖에 없다. 플랫폼 기업의 직접 개입은 전자적인 속도의 대응이 가능하다.

이런 바탕에서 테러 대응 포럼의 멤버들은 창립에 대한 알림 문서에서 “테러리즘의 전파와 폭력적 극단주의가 심각한 세계적 문제”임에 공감하고 “이 문제를 매우 심각하게 받아들인다”고 밝혔다.1

이와 함께 다음과 같은 대응을 주요 골자로 제시하였다. 하지만 테러리스트 그룹의 프로파간다 기법이 수시로 변하는 만큼 대응도 이에 맞추어 앞으로 계속적으로 변화·진화하리라고 덧붙여 두었다.

표
제안된 정책 가운데 두 가지는 부연이 추가될 필요가 있다. 기술적 해법 가운데 ‘업계 공유 해시 데이터베이스'(Shared Industry Hash Database)는 이번 테러 대응 포럼 창립에 앞서 회원사들이 지난해 12월에 이미 실행에 옮긴 가장 첫 번째 공동 대응책이다.2

여기서 말하는 “해시”란 ‘독특한 디지털 지문’을 말한다. 예컨대 테러리스트가 올린 신병 모집 비디오와 같은 곳에 남겨져 있는 특이한 흔적 같은 것을 말한다. 해시 데이터베이스란 각 기업이 보유하고 있는 이런 정보를 한 곳에 모아 서로 공유하는 틀이다. 이를 통해 전체 회원사가 테러리스트 콘텐츠를 보다 효과적으로 탐지, 대응할 수 있게 된다.

지식 공유에서 인터넷 기업이 운영 중인 테러리즘에 대한 반대 담론(counterspeech) 캠페인에는 다음과 같은 것들이 있다. 유튜브의 ‘변화를 위한 제작자’(Creators for Change), 직소(Jigsaw)의 ‘다른 방향의 접근법’(Redirected method), 페이스북의 피투피와 오시시아이(P2P and OCCI), 마이크로소프트의 전략대화연구소(ISD)와 협업한 카운터-내러티브 온 빙(counter-narrative on Bing), 트위터의 국제 비정부기구 훈련 프로그램(global NGO training programme) 등이다.

인터넷 기업의 자율적인 대응이 강점을 지니고 있음은 분명한 사실이지만 여기에 너무 의존하는 대응에 대한 우려도 존재한다. 판단이 모호한 회색지대에 존재하는 콘텐츠에 대한 표현의 자유 억압 가능성은 앞서 소개한 바 있다. 나아가 이들 기업의 이런 콘텐츠 규제책을 주로 인공지능의 기계학습에 의존하고 있는 바가 크다. 그런데 이런 인공지능은 외연상의 차이를 주로 학습하기 때문에 의미에 의한 미묘한 차이를 구분하는 데 약점을 보인다. 예컨대 테러리스트의 잔인한 처형 동영상과 인권단체의 이런 처형을 규탄하는 동영상은 기계의 눈에는 매우 비슷하게 보이지만 그 의미는 전혀 다르다. 이런 차이를 어떻게 극복할 것인가가 과제로 남는다. 또한 최근 테러리스트 그룹이 신입을 모집하는 데에 보안이 보다 철저한 ‘텔레그램’으로 이동하는 사례에서 보듯이 얼마든지 이런 대책을 우회하는 새로운 방법을 찾아내어 실효가 떨어지리라는 지적도 제기된다.

테러리즘 공격으로부터 비교적 안전한 국가인 한국에서 이런 테러 대응 노력은 아직 먼 나라 이야기처럼 들릴 수 있다. 하지만 이슬람국가가 지난해 한국을 테러 대상국 가운데 하나로 지목한 것과 고등학생의 이 단체 가입 사례 등을 보았을 때 전혀 무관하다고 볼 수만은 없는 상황이다. 또한 테러 대응 자율기구의 활동은 테러 뿐 아니라 이와 유사한 문제 콘텐츠에 대한 자율 대응, 예컨대 가짜뉴스에 대한 대응 등에 대한 참고로서도 가치를 지닌다. 테러 대응 포럼의 향후 활동과 성과 및 한계에 대해 앞으로도 지속적인 관심이 필요한 이유다.

  1. 트위터 블로그. https://blog.twitter.com/official/en_us/topics/company/2017/Global-Internet-Forum-to-Counter-Terrorism.html [본문으로]
  2. 구글 블로그, https://www.blog.google/topics/google-europe/partnering-help-curb-spread-terrorist-content-online/ [본문으로]
저자 : 권오성

한겨레신문사 기자