여름날의 신기루와 디지털 신뢰의 나침반 : 플랫폼 허위정보 대응을 위한 자율규제와 디지털포용

작성일 : 2026년 6월 2일 작성자 : 윤수정 in KISO위원 칼럼, KISO저널 제63호

1. 한여름의 신기루와 디지털 플랫폼의 착시

한여름 아스팔트 위나 뜨거운 모래사장 위를 걷다 보면, 존재하지 않는 물웅덩이가 눈앞에 일렁이는 ‘신기루(Mirage)’ 현상을 목격하게 된다. 빛의 굴절이 만들어낸 이 정교한 착시는 환영(幻影)처럼 인간의 감각을 기만한다. 오늘날 우리가 매일 숨 쉬듯이 드나드는 디지털 플랫폼 공간 역시 이와 닮아 있다.

생성형 인공지능(Artificial Intelligence, 이하 AI) 기술의 보편화와 알고리즘의 고도화는 단순한 텍스트 형태의 가짜뉴스를 넘어, 실재와 구분이 불가능한 딥페이크(Deepfake)와 정교하게 조작된 허위정보를 실시간으로 양산하고 있다. 이용자들은 디지털 바다 위에서 일렁이는 한여름의 신기루를 진실로 오인하며 정보 왜곡의 위험에 노출되어 있다.

실제로 최근 선거 국면에서 발생한 주요 정치인의 딥페이크 가짜 목소리 음성 파일 유포 사건이나, 유명 공인의 이미지를 무단 합성한 사기성 리딩방 광고 등은 플랫폼 공간이 얼마나 쉽게 교란될 수 있는지를 여실히 보여준다. 이러한 허위정보는 단순히 개인의 명예를 훼손하는 차원을 넘어, 사회적 신뢰를 약화시키고 민주주의의 근간인 합리적 공론장을 오염시킨다는 점에서 중대한 공법적 과제라 할 수 있다.

그러나 국가 권력이 법적 규제의 칼날을 들이대며 무엇이 진실이고 무엇이 허위인지 직접 판가름하려 할 때, 우리는 또 다른 헌법적 위기에 직면하게 된다. 허위정보에 대한 대응은 필요하지만, 그 대응 방식이 국가에 의한 일방적 사실 판정과 표현 통제로 귀결되어서는 곤란하기 때문이다. 문제는 허위정보를 ‘방치할 것인가’ 혹은 ‘규제할 것인가’의 이분법적 양자택일이 아니다. 표현의 자유를 최대한 존중하면서도 정보질서의 신뢰를 회복할 수 있는 중용(中庸)의 규율 방안을 어떻게 설계할 것인가에 있다.

이러한 맥락에서 이 글은 시민의 기본권 보장과 공권력 오남용의 통제, 그리고 포용적 기술 복지의 다각적 시각을 교차하여, 허위정보라는 디지털 신기루를 걷어내기 위한 법치주의적 해법을 모색하고자 한다.

2. 표현의 자유와 공익의 긴장: 국가규제의 한계와 자율규제의 헌법적 정당성

가. 표현의 자유 위축 효과(Chilling Effect)와 공권력 개입의 한계

헌법 제21조 제1항이 보장하는 표현의 자유는 민주적 기본질서의 존립과 발전을 위한 필수불가결한 기본권이다. 허위의 표현이라 할지라도 그것이 공적 관심사에 관한 것일 때에는 헌법상 표현의 자유의 보호영역에서 당연히 배제된다고 볼 수 없다. 헌법재판소도 이른바 ‘미네르바 사건’에서 ‘허위사실의 표현’ 역시 언론·출판의 자유의 보호영역에 포함될 수 있으며, 이에 대한 제한은 헌법 제37조 제2항에 따른 과잉금지원칙을 준수해야 한다는 취지로 판단한 바 있다.

만약 국가권력이 주도하여 플랫폼상의 특정 정보에 대해 일방적인 삭제 명령이나 제재를 가한다면, 이는 과잉금지원칙을 위반할 소지가 있다. 특히 무엇이 ‘허위’인가에 대한 기준은 사안에 따라 지극히 유동적이고 정치적·사회적 가치판단이 개입될 가능성도 크다. 따라서 공권력의 직접적 개입은 필연적으로 언론과 시민사회의 ‘위축 효과(Chilling Effect)’를 초래하여 공론장을 마비시킬 위험이 있다.

물론 허위정보가 언제나 조건 없이 보호되어야 한다는 의미는 아니다. 선거의 공정성, 공중보건, 금융질서, 개인의 명예와 사생활을 중대하게 침해하는 허위정보에 대해서는 일정한 규율이 필요하다. 다만 그 규율은 명확성, 비례성, 절차적 정당성을 갖추어야 하며, 국가의 직접적 삭제·차단 중심 모델보다는 표현의 자유 침해를 최소화하는 단계적 대응 방식을 우선해야 한다.

나. 미국 연방대법원 Murthy v. Missouri 사건의 시사점

이러한 국가 개입의 위험성을 둘러싼 논쟁을 잘 보여주는 최신 사례가 미국 연방대법원의 Murthy v. Missouri 사건이다. 이 사건은 2022년 5월 루이지애나·미주리주 법무장관과 소셜미디어 이용자들이 백악관, 질병통제예방센터(Centers for Disease Control and Prevention, CDC), 연방수사국(Federal Bureau of Investigation, FBI) 등을 상대로 소송을 제기하며 시작되었다. 원고들은 정부가 코로나19 백신 및 선거 관련 허위정보에 대응하는 과정에서 플랫폼 기업들을 압박해 사회관계망서비스(SNS, Social Network Service) 게시물을 삭제하게 한 행위가 미 연방 수정헌법 제1조상 표현의 자유를 침해하는 위헌적 검열이라고 주장했다.

제1심 연방법원과 제5순회 연방 항소법원은 정부 행위의 위헌성을 인정하고 고강도 접촉 금지 가처분 명령을 내렸으나, 2024년 6월 26일 미국 연방대법원은 6대3의 의견으로 하급심 판결을 뒤집으며 본안 각하 결정을 내렸다.

다만 이 판결을 ‘연방대법원이 정부의 플랫폼 허위정보 대응을 위헌이라고 판단한 사건’으로 단정해서는 곤란하다. 에이미 코니 배럿(Amy Coney Barrett) 대법관이 집필한 법정 의견의 핵심은 원고들이 미 연방헌법 제3조상 사법권 관할의 전제조건인 원고적격을 입증하지 못했다는 점이다. 즉, 대법원은 정부 행위의 위헌 여부를 판단한 것이 아니라, 소송요건 흠결을 이유로 본안 심리 자체를 각하했다. 특히 대법원은 플랫폼들이 공권력에 굴복한 것이 아니라 자율적 정책에 따라 허위정보에 대응해 왔다는 점을 명확히 짚었다. 반면 사무엘 알리토(Samuel A. Alito Jr.) 대법관 등 3인의 반대의견은 정부의 우회적 검열 위험성을 경고하며 대법원이 사법부의 책무를 회피했다고 강하게 비판했다.

그럼에도 이 사건은 허위정보 대응 체계에서 국가와 플랫폼의 관계 설정이 얼마나 섬세해야 하는지를 보여준다. 정부의 정보제공, 설득, 협력 요청은 그 자체로 곧바로 위헌적 검열이 되는 것은 아니지만, 그것이 사실상 플랫폼의 콘텐츠에 대한 조치 결정을 강제하거나 특정 표현을 배제하도록 압박하는 방식으로 작동한다면 헌법적 위기를 초래할 수 있다. 따라서 허위정보 대응의 핵심은 국가가 전면에 나서서 무엇이 진실인지를 독점적으로 판정하는 것이 아니라, 공적 권력과 민간 플랫폼 사이의 관계를 투명하고 비강제적인 방식으로 거버넌스화하는 데 있다.

다. 자율 거버넌스로서 KISO 정책결정의 유연성

국가 규제의 경직성과 오남용 위험을 극복하는 공법적 대안이 바로 인터넷 자율규제 기구이다. 공법적 관점에서 보더라도, 사회적 자율성이 기능할 수 있는 영역에서는 국가의 개입을 최소화하고 민간의 자율적 교정 메커니즘을 우선적으로 존중하는 것이 바람직하다.

한국인터넷자율정책기구(이하 KISO)의 자율규제 가이드라인은 사법부의 사후적 판단이나 행정기관의 획일적인 처분과 달리, 플랫폼 생태계의 특수성과 기술적 변화를 비교적 신속하게 반영할 수 있는 독보적인 유연성을 지닌다. 특히 허위정보 대응에서 필요한 것은 언제나 삭제라는 극단적이고 단일한 결론이 아니다. 사안에 따라 AI 생성물 표시(라벨링), 허위 가능성 고지, 신뢰가능한 반론정보 연결, 검색 노출 알고리즘 조정, 신고·심의 절차의 활성화 등 다양한 중간적·완충적 수단이 자율적으로 활용될 수 있다.

이 점에서 자율규제는 표현의 자유와 공익 보호 사이의 긴장을 완화할 수 있는 가장 균형 잡힌 규율 방식이다. 다만 자율규제가 헌법적 정당성을 갖기 위해서는 몇 가지 조건이 충족되어야 한다. 첫째, 자율규제의 기준과 심의 절차가 이용자에게 예측가능해야 한다. 둘째, 게시물 조치 시 이용자에게 적정한 통지와 실질적인 이의제기 기회가 보장되어야 한다. 셋째, 삭제·차단과 같은 고강도 조치에 앞서 라벨링, 노출 조정, 반론정보 제공 등 덜 침해적인 수단이 우선적으로 고려되어야 한다. 넷째, 자율규제의 운영 결과가 일정한 방식으로 공개되어 사회적 검증을 받을 수 있어야 한다.

결국 자율규제는 국가규제를 회피하기 위한 사적 방어막이 아니라, 표현의 자유와 이용자 보호를 동시에 실현하기 위한 고도화된 절차적 거버넌스여야 한다.

3. 지능정보사회의 새로운 위험과 디지털 사회보장의 확장

가. 허위정보 확산이라는 새로운 사회적 위험

전통적인 사회보장법은 질병, 노령, 실업, 빈곤 등 물리적인 삶의 영역에서 발생하는 사회적 위험으로부터 시민을 보호하는 것을 목적으로 삼아왔다. 그러나 지능정보사회로 진입한 오늘날, 정보의 비대칭성과 허위정보의 무차별적 확산은 시민의 정신적 안녕과 사회적 연대감을 파괴하는 ‘새로운 형태의 사회적 위험’으로 대두되었다.

딥페이크 기술을 악용한 정교한 피싱 범죄나 가짜 의료·금융 정보의 확산은 사회적 약자와 정보 취약계층에게 물질적·정신적 피해를 입힌다. 정보 접근 능력, 정보 검증 능력, 디지털 리터러시(Digital Literacy)가 충분하지 않은 이용자일수록 조작된 신기루의 덫에 더 쉽게 노출될 수 있기 때문이다.

따라서 지능정보사회의 기본권 보장 체계는 단순히 인터넷 접속 기회를 제공하는 차원을 넘어, 시민이 신뢰할 수 있는 정보 환경 속에서 안전하게 디지털 서비스를 이용할 수 있도록 하는 방향으로 확장되어야 한다. 이 지점에서 허위정보 대응은 단순한 표현규제의 논리를 넘어, 지능정보사회가 책임져야 할 실질적인 ‘디지털포용’의 문제로 격상된다.

나. 디지털 안심망으로서 자율규제기구의 사회적 책무

이러한 맥락에서 KISO의 역할은 단순한 인터넷 게시물의 당부를 심의하는 소극적 기구에 머물지 않는다. KISO는 플랫폼 사업자, 전문가, 그리고 시민사회가 함께 참여하는 자율규제의 장(場)으로서, 디지털 사회의 공동체적 신뢰 기반을 형성하는 핵심 주체이다.

디지털포용의 관점에서 보면, 허위정보 대응은 정보취약계층을 포함한 모든 이용자가 소외 없이 보다 안전하고 신뢰할 수 있는 온라인 환경을 누릴 수 있도록 하는 필수적인 제도적 복지 조건이다. 특히 AI 생성물과 딥페이크가 일상화된 초지능 환경에서 이용자 개인이 독자적으로 모든 정보의 진위 여부를 검증하라고 요구하는 것은 현실적으로 불가능하다. 플랫폼과 자율규제기구가 함께 최소한의 ‘디지털 안전 인프라’를 구축해야 한다.

플랫폼 사업자들이 KISO라는 자율적 틀 안에서 공동으로 허위정보 모니터링을 강화하고 유통 방지 대책을 세우는 것은 기업의 시혜적 조치에 그치지 않는다. 그것은 지능정보사회의 지속가능성을 담보하기 위한 공익적 책무의 이행이며, 디지털 위험으로부터 시민을 구하는 ‘디지털 안전망’을 구축하는 작업이다.

자율규제 기구가 마련하는 정교한 가이드라인은 이용자가 허위정보의 함정에 빠지지 않도록 돕는 구명조끼이자 진실을 향해 나아갈 수 있도록 돕는 디지털 이정표가 될 수 있다. 다만 그 이정표가 신뢰를 얻기 위해서는 자율규제의 과정 자체가 투명하고, 비례적이며, 이용자 친화적으로 설계되어야 한다.

4. 진정한 정보 민주주의를 향한 자율적 여정

여름날의 신기루가 뜨거운 태양이 저물고 대지가 안정을 찾으면 자연스럽게 사라지듯이, 플랫폼 공간의 허위정보 역시 법적인 강제와 억압만으로는 완전히 해소되기 어렵다.

「디지털포용법」 체제가 본격화된 지금, 국가가 직접적 규제의 고삐를 과도하게 당기기보다 민간의 자율적 역량을 존중하고 이를 제도적으로 견인하는 포용적 지원에 집중해야 하는 이유도 여기에 있다. 우리가 지향해야 할 공법적 방향은 규제의 강도를 높이는 것만이 아니다. 표현의 자유를 온전히 존중하면서도 허위정보의 사회적 해악을 자정(自淨)할 수 있는 정교한 자율규제 체계를 안착시키는 것이다. 그 핵심은 투명성, 비례성, 절차성, 그리고 디지털포용이다.

이번 여름, KISO가 제시하는 자율적 정책과 선제적 가이드라인이 디지털 공간을 항해하는 모든 시민에게 신뢰할 수 있는 안전한 나침반이 되기를 기대한다. 규제가 아닌 책임이, 통제가 아닌 자율이 중심이 되는 플랫폼 생태계야말로 우리가 지향해야 할 정보 민주주의의 진정한 미래이자, 법치주의가 도달해야 할 궁극적인 지향점일 것이다.

<참고문헌>