‘딥페이크 성범죄 방지법’에 관한 시사점

1. AI와 딥페이크, 그리고 음란물

1943년 미국 워렌 맥컬록(Warren Sturgis McCulloch)과 월터 피츠(Walter Harry Pitts, Jr.)가 사람의 뇌처럼 작동하는 인공 신경망(MCP Neuron)을 이론적으로 증명한 후, 오늘날 인공지능(artificial intelligence) 기술은 무섭게 발전·확산되고 있다. 텍스트는 물론 이미지, 오디오, 비디오 등 다양한 데이터의 학습이 가능해진 AI는 더욱 입체적이고 포괄적인 표현을 생성하고, 보다 더 정확한 예측을 구현하기 시작했다. 앞으로 AI는 인간의 생산성 향상을 위한 도구 수준을 넘어서서 인간을 대체할 수도 있다는 장밋빛 전망과 우려가 공존하고 있다.

‘Super Intelligence’의 저자인 철학자 닉 보스트롬(Nick Bostrom)은 인공지능이 도구(Tools), 신탁(Oracle), 지니(Genie), 주권(Sovereign) 단계로 발전할 것으로 예측했다. 종래 AI는 인간의 활동을 편리하게 도와주는 도구 정도의 역할을 했다면 오늘날 유행처럼 출시되는 생성형 AI(generative AI)는 인간의 질문에 답을 하는 수준까지 발전했다. 마치 신에게 문제의 해답을 구하는 신탁에 비유되는 수준까지 AI 기술이 발전된 것이다. AI가 더 진화하면 마치 마법 램프의 지니처럼 AI가 스스로 문제를 찾아 해결할 수 있을 것으로 예측된다. 종국에는 인간의 주권이 AI에게 이양되는 끔찍한 단계까지 갈 수도 있다는 무서운 예측도 가능하다. 아무튼 오늘날 AI는 우리가 상상하는 것보다 더 급진적으로 발전하고 있음을 부인할 수 없다.

딥페이크(deepfake)란 딥러닝(deep learning)과 가짜(fake)의 합성어로 인공지능을 기반으로 한 이미지 합성기술을 말한다. 딥페이크는 도구적 개념의 낮은 수준의 AI에서도 충분히 구현될 수 있는 기술이다. 그런데 오늘날 AI는 신탁을 넘어 지니의 수준까지 그 기술이 발전됐다. 이로 인해 종래에는 전문가들만이 할 수 있었던 딥페이크 제작을 지금은 누구나 너무나 쉽게 활용할 수 있게 됐다. 심지어는 초등학생들까지 딥페이크 기술을 활용하여 친구들 얼굴을 합성할 수 있을 정도로 대중화됐다. 얼마 전까지만 해도 전문적 지식이나 기술을 가진 사람이 많은 시간을 투입해야만 만들 수 있었던 딥페이크 사진이나 영상을 이제는 누구나 쉽고 빠르게 만들 수 있다는 것이다.

딥페이크를 쉽고 빠르게 만들 수 있다는 이른바 ‘용이성’과 ‘신속성’보다 더 문제가 되는 것은 기술의 진보에 따라 진짜와 가짜를 구분하는 것이 사실상 불가능할 정도로 ‘정교성’ 역시 갈수록 발전한다는 것이다. 이처럼 AI 기술의 진보에 따라 누구나 쉽고 빠르게 딥페이크 기술을 사용할 수 있게 되고, 특히 사실과 구별이 곤란할 정도로 정교하게 만들어지는 환경이 조성될수록 딥페이크 기술을 이용한 음란물의 제작·유통으로 누구나 피해자가 될 수 있고 부지불식간에 가해자가 될 수도 있다.

최근 딥페이크로 인한 성범죄 피해가 빠르게 늘어나자 국회는 딥페이크 성범죄 방지를 위한 관련법을 개정하였고, 정부도 여러 가지 대책들을 내놓고 있다. 이하에서는 현재 국회와 정부에 의해 추진 중인 딥페이크 성범죄 관련 법제 동향과 해당 대책들의 문제점과 그 개선방안을 제시하고자 한다.

2. 딥페이크 음란물 관련법의 한계

딥페이크 음란물 제작이나 배포 행위에 대해 형사처벌할 수 있는 현행법상의 규정으로는 형법상 음화제조죄, 음화반포죄, 그리고 성폭력처벌법상 디지털성범죄 정도라는 것은 앞에서 살펴봤다. 그런데 이러한 법 규정들은 딥페이크 기술이 세상에 나오기 전에 제정됐기 때문에 딥페이크 음란물의 제작 또는 배포 행위에 대한 적용에 한계가 있다.

딥페이크 음란물과 관련한 최근의 대법원 판결(대법원 2023. 12. 14. 선고 2020도1669 판결)을 들여다보면 이러한 한계를 쉽게 이해할 수 있다. 어떤 사람(피고인)이 딥페이크 제작자인 A에게 자신의 지인인 여성(피해자)의 사진과 이름, 나이, 주소 등을 제공하고 나체사진과 합성해 줄 것을 17회에 걸쳐 요청했다. 이에 A는 피고인의 요청대로 피해자의 얼굴과 나체사진을 합성한 사진 파일을 만들어 피고인에게 파일을 17회 걸쳐 전송했다. 이러한 범죄사실에 따라 피고인은 음화제조교사죄로 기소돼 재판을 받았다.

형법 제243조는 ‘음란한 문서, 도화, 필름 기타 물건을 반포, 판매 또는 임대하거나 공연히 전시 또는 상영한 자는 1년 이하의 징역 또는 500만원 이하의 벌금에 처한다.’고 규정하고 있다. 따라서 대법원은 먼저 피고인이 제작의뢰한 음란 합성사진 ‘파일’이 형법 제243조에서 규정하고 있는 ‘음란한 물건’에 해당하는지 여부에 관하여 판단했는데, 놀랍게도 “컴퓨터 프로그램파일은 위 규정에서 규정하고 있는 문서, 도화, 필름 기타 물건에 해당한다고 할 수 없다.”고 해석하여 피고인의 음화제조교사죄는 성립하지 않는다고 판결하였다. 물론 정보통신망법에 의한 명예훼손 등으로 피고인을 처벌하기는 했으나 음화제조교사죄는 성립하지 않으며, 그 이유가 음란물 ‘파일’은 음란한 ‘물건’으로 볼 수 없다는 것이 대법원의 판단이었다.

당연히 형법 제243조는 컴퓨터가 상용화되기 전 인쇄 매체물 등에 의한 음란물 제작을 염두에 두고 만들어진 규정이다. 따라서 눈에 보이는 ‘물건’을 대상으로 규정했던 것은 사실이다. 하지만 음란한 사진 또는 영상이 수록된 프로그램은 ‘음란한 물건’으로 볼 수 없다는 대법원의 엄격한 태도가 일반인들의 생각과는 괴리가 있어 보인다.

법학자로서 대법원의 이러한 태도를 전혀 이해할 수 없는 것은 아니다. 인권을 지탱하는 헌법상 기본이념인 죄형법정주의는 형법 규정을 가능한 엄격하게 해석해야 한다는 원칙이다. 범죄와 형법은 법률로서 정해야 하며, 법률에서 정하고 있는 사항이 명확하지 아니함에도 불구하고 해석을 통해서 형벌을 부과해서는 안 된다는 것이다. 따라서 형법 조항이 만들어질 당시에는 분명히 프로그램 파일을 상상하지 못했을 것인데, 지금 해석을 통해 프로그램 파일도 ‘음란한 물건’으로 해석하는 것은 죄형법정주의에 반한다고 판단한 대법원을 무조건 비난하기는 어렵다.

그래서 ‘성폭력범죄의 처벌 등에 관한 특례법(약칭 : 성폭력처벌법)’이 제정됐다. 성폭력처벌법상 디지털 성범죄 조항으로는 제13조 통신매체를 이용한 음란행위, 제14조 카메라 등을 이용한 촬영 등이 있다.

제13조 통신매체를 이용한 음란행위란 ‘자기 또는 다른 사람의 성적 욕망을 유발하거나 만족시킬 목적으로 전화, 우편, 컴퓨터, 그 밖의 통신매체를 통하여 성적 수치심이나 혐오감을 일으키는 말, 음향, 글, 그림, 영상 또는 물건을 상대방에게 도달하게 한 것’을 말하며 이러한 사람은 2년 이하의 징역 또는 2천만원 이하의 벌금에 처한다.

제14조 제1항은 ‘카메라나 그 밖에 이와 유사한 기능을 갖춘 기계장치를 이용하여 성적 욕망 또는 수치심을 유발할 수 있는 사람의 신체를 촬영대상자의 의사에 반하여 촬영한 행위’에 대해 7년 이하의 징역 또는 5천만원 이하의 벌금에 처할 수 있도록 규정하고 있다. 또한 제2항은 이러한 촬영물 또는 복제물을 반포·판매·임대·제공 또는 공공연하게 전시·상영한 자도 7년 이하의 징역 또는 5천만원 이하의 벌금에 처하도록 규정하고 있다.

촬영 당시에는 촬영대상자의 동의하에 촬영했다 하더라도 사후에 그 촬영물 또는 복제물을 촬영대상자의 의사에 반하여 반포·판매·임대·제공 또는 공공연하게 전시·상영한 자도 처벌할 수 있다. 영리 목적으로 촬영대상자의 의사에 반해 정보통신망(인터넷 등)을 이용하여 이러한 불법적 행위를 범한 자는 3년 이상의 유기징역에 처하도록 매우 강한 형벌을 규정하고 있다. 인터넷 등 정보통신망을 이용해서 불법촬영물이 유통될 경우 걷잡을 수 없이 피해가 확산될 수 있기에 이처럼 강력한 처벌 규정을 둔 것으로 보인다.

아울러 이러한 불법 촬영물 또는 복제물을 소지·구입·저장 또는 시청만 하여도 3년 이하의 징역 또는 3천만원 이하의 벌금에 처할 수 있도록 규정하고 있다. 미국의 경우 아동 포르노의 경우에는 단지 이를 소지한 것만으로 처벌을 하고 있다. 하지만 타인의 ‘신체’에는 얼굴은 물론 팔, 다리 등 몸 전체가 모두 해당하여 그 범위가 매우 넓은데 이러한 촬영물을 소지한 것만으로도 처벌이 가능한 것은 지나친 감이 있다. 물론 n번방 사건이나 몰카 등 불법 촬영물로 고통받는 피해자를 생각하면 이러한 불법 촬영물의 유통을 근원적으로 차단하려는 입법취지에 충분히 공감한다. 하지만 지금처럼 복잡한 네트워크 환경에서는 자신도 모르는 사이에 타인의 신체 일부분이 촬영된 사진이나 영상물이 다운로드 또는 저장될 수도 있는데 이러한 것을 원칙적으로 모두 처벌한다는 것이 죄형법정주의의 이념에 합치되는 것인지 의문이다.

3. 최근 법 개정의 주요 내용과 문제점

성폭력처벌법의 제정으로 종래 형법이 안고 있던 한계는 어느 정도 해결됐다. 그런데 성폭력처벌법이 제정될 때만 하더라도 딥페이크 범죄가 크게 문제되지 않았으나 점차 딥페이크 음란물이 확산되고 피해자가 연예인 등 유명인에만 국한되지 않고 일반인들까지 피해에 노출되기 시작하자 정부와 국회는 성폭력처벌법 제14조의2를 신설해 ‘허위영상물’에 대한 처벌 규정을 마련했다.

성폭력처벌법 제14조의2는 ‘반포 등을 할 목적으로 사람의 얼굴·신체 또는 음성을 대상으로 한 촬영물·영상물 또는 음성물을 대상자의 의사에 반하여 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성 또는 가공한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금에 처한다.’라고 규정하여, 비록 ‘촬영 행위’가 없어도 편집·합성 또는 가공만한 경우에도 처벌이 가능하도록 하였다. 딥페이크 음란물에 대한 처벌 근거를 명확히 했다는 점에서 매우 의미가 크다. 그런데 여전히 이 규정에 문제점이 있다. ‘반포 목적’이 있는 경우에만 처벌이 가능하다는 것이다. 다시 말해서 반포 목적 없이 그저 재미 삼아 자신만이 향유할 목적으로 타인의 얼굴을 음란물에 합성해 딥페이크 음란물을 제작해도 여전히 처벌이 불가능하다는 것이다.

비록 자신의 컴퓨터에 저장해서 자신만 향유할 목적이었을지라도 다른 사람들이 고의 또는 우연히 이러한 영상물을 볼 수도 있고, 해킹 등으로 다른 사람이 탈취할 수 있는 가능성은 얼마든지 있다. 만약 이러한 일이 발생했을 경우 피해자가 겪어야 할 고통은 누가 책임질 것인가? 물론 은밀하게 자신만의 향유를 위해 딥페이크를 제작한 경우 이를 발각하는 것이 쉽지 않다. 발각할 수 없으니 처벌도 어려울 것이다. 그러나 이러한 것들이 유출된 경우에는 제작자에게 강력한 책임을 물어야 한다. 따라서 딥페이크 음란물 제작자를 처벌할 때에는 ‘반포 목적’과 같은 목적 여부를 처벌의 요건으로 할 것이 아니라 이러한 딥페이크 음란물을 제작하여 유출(고의든 과실이든 관계 없이)한 자를 처벌하는 것으로 법 개정이 필요했다. 국회는 최근 법률을 개정해서 ‘반포 등을 할 목적’ 부분을 삭제했다. 따라서 이제는 제3자에게 반포 목적이 있었는지 여부에 관계 없이 딥페이크 음란물 제작자를 처벌할 수 있게 됐다. ‘반포 목적’ 여부에 관계 없이 딥페이크 음란물 제작자로 처벌하도록 규정한 것은 매우 의미가 큰 입법적 개선으로 보인다.

이번에 성폭력처벌법 제14조의2를 개정하면서 제3항을 신설하였는데, 그 내용은 딥페이크 음란물을 소지·구입·저장·시청만 하여도 3년이하의 징역 또는 3천만원 이하의 벌금에 처할 수 있도록 하였다. 이에 따라 사람의 신체를 불법으로 촬영한 촬영물과 마찬가지로 딥페이크로 만들어진 음란물을 단순 소지·구입·저장·시청만하여도 처벌될 수 있다. 불법 촬영물과 딥페이크 음란물의 폐해를 철저히 차단하기 위한 강력한 조치로 보인다.

또한 이번에 제14조의3도 개정됐는데, 그 내용은 신체를 불법으로 촬영한 촬영물이나 딥페이크 음란물을 이용하여 다른 사람을 협박한 자는 1년 이상의 유기징역에 처하도록 하였다.

그런데 앞에서 언급한 것처럼 불법 촬영물 또는 복제물을 단순 소지·시청만 한 경우에도 처벌하는 것과 마찬가지로 딥페이크 음란물을 단순 소지·시청만 한 경우에 처벌하도록 법을 개정한 것이 죄형법정주의 이념에 합치되는지 의문이다. 왜냐하면 지금처럼 복잡하고 다원적인 네트워크 환경에서 스팸이나 해킹 등으로 인해 부지불식간에 내가 알지 못하는 정보가 디바이스에 저장되는 경우도 발생 가능성이 전혀 없는 것이 아니며, 딥페이크 음란물을 단순 시청한 형사 미성년자에게는 이 규정의 효과성이 전혀 없다는 문제도 있다. 아울러 ‘실제로 촬영된 음란물’(실사 음란물)은 단순 소지·시청한 경우 처벌하지 않는데 ‘페이크 음란물’은 단순 소지·시청한 경우에도 처벌하는 것이 법의 균형과 형평에도 맞지 않아 보인다.

4. 딥페이크 긴급수사 법적 근거 마련

지난 2024년 11월 14일 국회는 성폭력처벌법을 또다시 개정해서 신분비공개수사와 신분위장수사의 특례를 성인을 대상으로 하는 촬영물ㆍ허위영상물 등 관련 범죄에도 적용할 수 있도록 했다. 현행 「아동ㆍ청소년의 성보호에 관한 법률」은 사법경찰관리로 하여금 아동ㆍ청소년 대상 디지털 성범죄에 한정하여 신분을 비공개하거나 위장하여 범죄행위 등에 접근하거나 관여하여 수사하도록 하는 이른바 신분비공개수사와 신분위장수사의 특례를 두고 있다. 하지만 성인 대상 디지털 성범죄의 경우에도 일반적인 수사만으로는 증거 확보가 어렵고 범죄자를 검거하기가 곤란함에도 불구하고 지금까지는 신분비공개수사ㆍ위장수사에 대한 근거가 없어 적극적인 수사와 처벌이 어려운 실정이었다. 이에 신분비공개수사와 신분위장수사의 특례를 성인을 대상으로 하는 촬영물ㆍ허위영상물 등 관련 범죄에도 적용할 수 있도록 함으로써 수사 대응력을 강화했다. 그 주요내용을 살펴보면 다음과 같다.

사법경찰관리는 디지털 성범죄에 대하여 신분을 비공개하고 범죄현장에 접근하여 증거 및 자료 등을 수집하는 신분비공개수사를 할 수 있고, 부득이한 경우에는 위장 신분을 사용하는 등의 신분위장수사를 할 수 있도록 하였다.(법 제22조의2 신설)

사법경찰관리가 디지털 성범죄에 대하여 신분비공개수사를 할 때에는 사전에 상급 수사부서의 장의 승인을 받아야 하고, 신분위장수사를 하려는 경우에는 검사에게 허가를 신청하고 검사는 법원에 그 허가를 청구하도록 하였다.(법 제22조의3 신설).

사법경찰관리가 디지털 성범죄에 대하여 긴급을 요하는 때에는 긴급 신분비공개수사 또는 긴급 신분위장수사를 할 수 있도록 하였다.(법 제22조의4, 제22조의5 신설).

사법경찰관리가 신분비공개수사 및 신분위장수사 등으로 수집한 증거 및 자료 등은 관련 범죄에 대한 수사 및 소추, 징계절차 등외에는 사용할 수 없도록 하였다.(법 제22조의6 신설).

사법경찰관리가 신분비공개수사 또는 신분위장수사를 할 때에는 수사 관련 법령을 준수하고 본래 범의(犯意)를 가지지 아니한 자의 범의를 유발하지 않는 등 적법한 절차 및 방식을 따르도록 하였다.(법 제22조의9 신설).

사법경찰관리가 신분비공개수사 또는 신분위장수사 중 부득이한 사유로 위법행위를 한 경우 고의나 중대한 과실이 없는 한 형사처벌, 징계, 손해배상 책임을 면하도록 하였다.(법 제22조의10 신설).

5. 제언

아무리 제도를 정비해도 기술의 진보를 따라갈 수 없다. 딥페이크 음란물은 물론 인터넷의 역기능을 해소하는 근본적인 해결 수단은 결국 이용자의 교육이다. 어린 청소년들은 여전히 딥페이크를 ‘놀이’와 ‘게임’ 정도로 안일하게 생각하는 경향이 있다. 교육의 필요성이 강조되는 이유다. 디지털을 올바르게 사용할 수 있도록 사용 행동을 도와주는 ‘퍼실리테이터(facilitator)’ 교육이 절실히 필요하다.

디지털 플랫폼에는 수많은 개인정보가 집중될 수밖에 없는데, 플랫폼이나 앱의 기능만을 교육하고 개인정보의 중요성과 침해 예방을 위한 교육은 소홀히 한다면 정보 주체인 개인은 해킹이나 불법적인 개인정보 취급으로 인해 커다란 피해를 입을 수도 있다. SNS에 무심코 올린 사진이 범죄 피해로 이어질 수 있고, 음란물 제작에 이용될 수도 있다는 사실을 이용자가 인식할 수 있도록 교육하는 것이 매우 중요하다. 이용자의 연령이 낮을수록 이러한 리터러시 교육의 필요성은 더욱 커진다. 이러한 리터러시는 피해자 관점에서만 중요한 것이 아니다. 청소년들은 SNS에서 커다란 고민 없이 무심코 한 행동이 타인의 인격을 침해하는 범죄가 될 수 있다는 사실을 모를 수도 있다. 청소년이나 미성년자들이 이러한 디지털 리터러시의 사각지대에 놓여 피해자도 되고 가해자도 될 수 있다는 사실을 잊지 않아야 한다. 사이버 불링과 같은 새로운 폭력에 대해 이를 예방하고 피해가 발생할 때 이에 대처할 수 있는 디지털 리터러시 교육은 학교를 중심으로 확산돼야 한다.

호기심 수준에서 장난스럽게 딥페이크 음란물을 제작하고 유통했다 할지라도 피해자가 부담해야 할 고통의 무게가 얼마나 큰 것이며 회복하기 어려운 것인지에 대한 실증적 교육이 강화돼야 한다. 다소 시간이 걸리고 그 효과가 즉시 나타나지 않을 수 있으나 딥페이크 음란물에 대한 근원적 대책은 디지털 리터러시의 강화라고 생각한다. 아무리 형사처벌을 강화해도 이를 회피할 수 있는 방법은 존재하며, 특히 국경이 없는 인터넷 환경에서는 더욱 그 회피 방법이 다양하다. 글로벌 인터넷 서비스 제공자에 대한 우리 정부나 사법당국의 집행력도 한계가 있어서 형사처벌 등 제도적 정치만으로 딥페이크 음란물의 피해를 막을 수 없다.

지금 아이들 사이에서 딥페이크(deepfake) 성범죄가 심상치 않다. 중고등학생은 물론 초등학생까지 같은 학교 여학생, 선생님의 사진과 영상을 나체 사진과 합성한 음란물을 재미 삼아 제작하고 돌려 본다고 한다. 초등학생까지 딥페이크 음란물에 노출되는 이유는 텔레그램과 같은 글로벌 SNS 공간에서 동급생이나 선생님의 사진을 쉽게 내려받을 수 있고 간단한 명령어 몇 개만 누르면 단 몇 초 만에 음란물이 제작되는 앱이 넘쳐 나기 때문이다. 사실 딥페이크 성범죄가 갑자기 등장한 건 아니다. 10여 년 전부터 ‘아헤가오’라고 유명 연예인의 얼굴 사진을 합성해 만드는 놀이 문화가 청소년들 사이에 퍼졌다. 아헤가오는 성관계 시 여성의 표정을 비하한 합성어다. 하지만 이때까지만 해도 편집 기술이 저급해서 생성물의 수준이 조악했다. 그러던 중 사진 편집을 쉽게 해 주는 앱이 쏟아져 나오면서 일부 청소년들 사이에 ‘지인 능욕’이라는 놀이(?)가 유행했다. 그런데 이제는 편집을 쉽게 해주는 정도가 아니라 전문가 수준의 품질까지 가능해진 딥페이크 기술이 보급됨에 따라 지인 얼굴을 합성한 음란물의 제작과 유통이 또래들 사이의 일탈 수준을 넘어 범죄로까지 확대될 수 있다. 다시 말해서 비록 초등학생이라도 이러한 딥페이크 음란물을 제작할 경우 중대한 성범죄자가 될 수 있고, 그 상대방 동급생이나 선생님도 회복할 수 없는 피해자가 될 수 있다는 사실이 끔찍하다는 것이다.

그럼에도 어린 청소년들은 여전히 딥페이크를 ‘놀이’와 ‘게임’ 정도로 안일하게 생각하는 경향이 있다. 교육의 필요성이 강조되는 이유다. 아이들에게 ‘디지털의 양면성’을 이해하도록 해야 한다. 딥페이크가 무조건 나쁘다는 방식의 교육은 자칫 아이에게 디지털 혐오를 유발할 수 있으므로, 디지털은 어떻게 사용하느냐에 따라 그 효과가 다를 수 있다는 점을 가르쳐야 한다. 다시 말해서 디지털을 올바르게 사용할 수 있도록 사용 행동을 도와주는 ‘퍼실리테이터(facilitator)’ 교육이 절실히 필요하다.