생성형 인공지능 시대의 ‘다크 마케팅’ – 건강한 소비문화를 만들기 위한 당면과제

생성형 인공지능의 보편화와 함께 디지털 마케팅 환경이 보다 복잡해지고 있다. 본고에서는 ‘다크 마케팅’이라고 통칭할 수 있는 기만적 마케팅과 관련해 이용자가 처한 문제들을 살펴보고 관련한 산업 및 정책적 대응 방향을 제시하려고 한다. 구체적으로 본고에서는 다크 마케팅이 우리 사회에 얼마나 만연되어 있으며 ‘광고사기’와 ‘보이스 피싱’과는 어떤 연관관계에서 이해하고 규제할 수 있을지를 살펴보려고 한다. 또한, 마케팅 분야에서 소비자 권익을 보장하는 동시에 산업의 경쟁력을 유지할 수 있는 ‘건강한 광고/마케팅 산업’ 육성 방향을 다루려고 한다.

다크 마케팅 – 과연 무엇이 문제인가?

디지털 상거래 중에 소비자는 다양한 형태의 마케팅 속임수, 즉 서비스 이용자 자신의 이익에 반하는 선택을 하도록 조종당하는 경우가 많다. “다크 마케팅(dark marketing)”으로 알려진 이런 현상은 주로 온라인 웹사이트나 모바일 앱으로 대표되는 디지털 인터페이스를 악용하여 사용자를 기만하거나 더 나아가 소비자의 맥락과 관련 없는 미끼 광고를 통해 소비자가 원하지 않는 상거래를 조장하기도 한다. 최근 생성형 인공지능을 이용해 실시간으로 제작되는 기만적 광고와 허위광고 역시 다크 마케팅의 일종이다. 생성형 인공지능을 활용하면 광고주는 AI 시스템에 의해 즉석에서 생성되는 맞춤형 광고(이미지 또는 비디오)를 생성하여 광고효과를 최적화할 수 있다. 이런 강력한 소비자 맞춤 최적화 기능을 활용하면 소비자를 쉽게 현혹시킬 다크 마케팅을 쉽게 집행할 수 있다.

다크 마케팅은 흔히 사용자가 의도하지 않은 선택을 하도록 속이는 디지털 플랫폼의 조작 디자인 요소인 “다크 패턴(dark patten)”으로 대표된다. 예를 들어, 서비스를 거부하는 것에 대한 죄책감을 유발하는 방식으로 표현되는 ‘컨펌쉐이밍(confirmshaming)’과 사용자가 특정 서비스에 가입하기는 쉽지만 해제하기는 매우 어렵게 만드는 ‘로치모텔(roach motels)’이 유명하다. 비슷한 개념으로 넛지 마케팅이 있다. “팔꿈치로 슬쩍 찌른다”라는 뜻으로, 넛지(Nudge) 마케팅은 마케터가 소비자에게 직접적으로 제품을 강요하지 않고 유연하게 슬쩍 옆구리를 찌르듯이 개입하여 구매 결정을 유도하는 마케팅 기법을 말한다. 소비자의 취약한 심리적 기제를 활용한다는 차원에서 다크 마케팅은 넛지 마케팅과 일면 유사해서 구분이 힘들다. 하지만 다크 마케팅은 기만적이고 의도적인 사기성이 명확하다는 점에서 다르다. 예를 들어 소비자 정보의 불법적 취득이나 활용, 유소년 및 노인과 같은 인지적 취약계층에 대한 기만적 설득, 부당한 금액에 대한 불법적 청구가 다크 마케팅의 대표적인 특징이다.

다크 마케팅이 상업 마케팅을 넘어서 정치 캠페인에 활용될 때 그 심각성은 상당하다. 스탠포드 대학의 한 연구에 따르면 유권자 얼굴의 일부가 정치인의 얼굴에 섞인 이미지를 제시할 때 후보자에게 투표할 가능성이 20% 더 높았다.¹ 다른 연구에서는 유권자의 표정이나 제스처를 능동적으로 모방하는 정치인에 더 호의적임이 밝혀졌다.² 이런 소비자의 심리적인 기제가 생성형 인공지능에 이용되는 것은 그리 어렵지 않아 보인다.³ 위와 같은 다크 마케팅은 소비자(또는 유권자) 의사결정에 광범위한 영향을 미쳐 ‘기업과 소비자 간 신뢰’를 훼손하고 브랜드 명성을 떨어트리며 종국에는 소비자에게 재정적, 정서적인 피해를 준다.

디지털 플랫폼과 다크 마케팅

다크 마케팅 관련 주목할 만한 사례 중 하나는 2018년 노르웨이 소비자 위원회(Norwegian Consumer Council)의 보고서 언급한 Facebook 사례다. 페이스북의 설정과 디자인은 본질적으로 조작적이어서 사용자가 개인정보 동의에 있어서 “동의하고 계속하기” 옵션을 선택하도록 유도하는 동시에 개인 정보 보호를 위한 선택을 복잡하고 시간 소모적으로 만들었다.⁴ 이 사례는 글로벌 빅테크 기업 조차도 어떻게 다크 마케팅을 이용하고 있는지를 보여주었으며 적합한 규제와 소비자 인식의 중요함을 알려주었다.

또 다른 사례는 사용자를 프라임 회원으로 가입하게 만드는 Amazon의 다크 마케팅이다. 컬러와 모양 등 시각적으로 강조된 ‘계속(continue)’ 버튼이 있는 체크아웃 프로세스 중에 일련의 이미지들을 보면 사용자가 구매를 진행하고 있다고 믿게 하지만 실제로는 프라임 멤버십에 가입하는 것이었다. 일단 아마존 프라임에 가입한 이후에 취소하는 것을 어렵게 만들어서 소비자의 포기를 조장하는 것도 역시 심각한 문제로 거론되었다. 이러한 기만적 마케팅 관행은 소비자 단체로부터 상당한 비판의 대상이 되었다. 이와 같은 문제에 대한 자발적 대처로 Google은 2020년에 기만적 방식을 사용하여 소비자가 서비스에 가입하거나 의도하지 않은 상품을 구매하도록 속이는 마케팅을 Chrome 브라우저에서 금지하겠다고 발표한 바 있다.⁵ 이러한 자정 노력은 디지털 마케팅 산업에 긍정적인 신호로 보이지만 보다 일관된 윤리적 기준을 보장하기 위해서는 산업 전반을 포괄하는 규정이 필요하다.

Facebook의 소비자 개인정보 취득을 위한 다크패턴

Amazon의 프라임 멤버십 취소를 어렵게 만든 다크패턴

다크 마케팅에 대한 규제와 소비자 광고 리터러시

다크 마케팅에 대응하기 위해서는 두 갈래의 상이한 접근 방식이 필요하다. 광고 산업을 위한 강력한 윤리적 프레임워크와 소비자의 높은 수준의 광고 문해력이다. 첫째, 광고에 강력한 윤리적 프레임워크를 설정하는 것이 필수적이다. 다수 기업이 산업 성장의 규제로 인해 피해를 본다고 주장하고 있지만 타당한 규제는 소비자의 신뢰를 구축하고 경쟁의 장을 공평하게 만들어 기업이 기만적인 전략이 아닌 제품 또는 서비스 품질을 기반으로 경쟁하도록 장려한다. 진실한 광고.마케팅, 소비자 자율성 보장, 소비자 개인 정보 보호 및 공정 경쟁과 같은 법적 및 윤리적 원칙은 이러한 규제에 핵심 원칙이 되어야 한다. 소비자 권리 보장과 비윤리적 관행에 대한 강력한 대응을 통해 건강하고 지속 가능한 산업에 기여할 수 있다. 구체적으로 명확한 기만을 목적으로 소비자의 감정과 행동을 조작하는 마케팅을 금지하고, 명확한 옵트아웃(opt-out) 프로세스를 시행하며, 소비자 제공 정보의 완전한 공개를 의무화해야 한다. 또, 우수한 광고/마케팅 사례에 대한 포상을 확대함으로써 좋은 광고/마케팅이 사회적으로 인정받는 마케팅 문화를 만들어야 할 것이다.

다음으로, 소비자의 광고 리터러시(literacy: 문해력)를 육성하는 것이 중요하다. 이는 소비자에게 다크 마케팅의 개념과 사례에 대해 교육하고 이러한 기만적 조작을 제대로 식별하고 피할 수 있도록 문해력을 기르는 것을 의미한다. 기업은 ESG경영의 일환으로 광고 문해력 교육에 참여할 수 있다. 이를 통해 소비자는 사실 정보에 입각한 결정을 내릴 수 있을 뿐만 아니라 기업은 교육을 통해 브랜드 명성과 고객 충성도를 높일 수 있다. 결론적으로 다크 마케팅에 대응해 건강한 마케팅 산업을 일구기 위해서는 기업, 규제 기관 및 소비자 모두의 공동 노력이 필요하다. 타당한 규제와 진흥을 통해 건강한 광고 문화를 만드는 동시에 소비자의 광고 문해력을 증진해야 한다.

다크 마케팅에 대한 통합적 대응이 필요하다

다크 마케팅은 제품이나 서비스의 속성을 모호하게 하거나 왜곡해서 소비자의 판단을 조작하는 방식으로 운영된다. 반면, 광고사기(ad fraud)는 광고주에게 광고 효과나 서비스에 대해 허위 청구를 해서 금전적 이득을 취하는 행위를 말한다. 보이스 피싱(voice phishing)은 ‘개인정보(private data)를 낚는다(fishing)’라는 의미의 합성어로 금전적 이익을 얻기 위해 전화나 채팅을 통해 소비자를 속이는 방법이다. 다크 마케팅, 광고사기, 보이스 피싱은 일면 관련이 없어 보이지만 소비자의 정보 비대칭성과 심리적 취약성을 악용하는 교묘한 수법이라는 면에서 동일하다. 즉, 이들 모두는 광고 및 마케팅 영역에서 소비자를 오도하거나 혼란스럽게 하여 비윤리적인 이득을 취하려는 불법적 행위다. 광고사기 역시 광고주에게 불법적 광고비 청구를 위해 소비자 광고참여 정보를 조작(예: 소비자의 클릭, 노출, 공유 등)한다는 점에서 간접적 소비자 기만으로 이해할 수 있다. 이러한 불법 행위들은 소비자 신뢰를 배신하고 소비자의 구매 결정을 왜곡하기 때문에 소비자는 광고나 마케팅 메시지에 대한 신뢰를 잃게 되고, 결국에는 시장의 원활한 기능을 저해하게 된다.

다크 마케팅, 광고사기, 보이스 피싱에 대한 정책적 대응은 ‘소비자-미디어-상거래 관련한 정부 부처’의 벽을 넘어 통합적으로 이루어져야 한다. 단순히 개별 다크 마케팅 사건에 대한 대응책을 마련하는 것만으로는 연관된 문제들을 해결할 수 없다. 특히, 기존에 발생한 이슈에 대응하는 것뿐만 아니라 잠재적인 문제를 예측할 수 있는 정책 수립의 필요하다. 생성형 인공지능을 통해 날로 빠르게 진화하는 다양한 기만적 광고 및 마케팅 행위에 대응할 수 있는 전략이 필요하다. 또한, 실효성 있는 윤리/규제에 대한 기준을 개발하고 유지하는 데 있어 업계 협의체와 미디어/법/광고 전문가들의 참여가 요구된다. 이와 같은 포괄적이고 예방적인 접근 방식을 통해 보다 윤리적이고 지속 가능한 마케팅 생태계를 보장할 수 있을 것이다.

1. Bailenson, J. N., & Yee, N. (2005). Digital Chameleons. Psychological Science, 16(10), 814–819. https://doi.org/10.1111/j.1467-9280.2005.01619.x [본문으로]
2. Chartrand, T. L., & Bargh, J. A. (1999). The chameleon effect: The perception–behavior link and social interaction. Journal of Personality and Social Psychology, 76(6), 893–910. https://doi.org/10.1037/0022-3514.76.6.893 [본문으로]
3. Rense, S. (2021, November 2). AI Tech Generated All These Fake Celebrities. Esquire. https://www.esquire.com/lifestyle/a13125500/ai-fake-celebrity-faces/ [본문으로]
4. Vedat Sevincer. (n.d.). https://www.tnp.no/norway/panorama/consumer-council-of-norway-files-a-complaint-against-facebook/ [본문으로]
5. Misrepresentation – Advertising Policies Help. (n.d.). https://support.google.com/adspolicy/answer/6020955?hl=en [본문으로]