추천 시스템에 의한 선택적 노출과 편향

1. 콘텐츠 추천 시스템

디지털 뉴미디어의 등장과 함께 급격하게 성장한 산업이 플랫폼 산업이다. 플랫폼은 다양한 콘텐츠 제공자와 이용자들이 만날 수 있도록 해주는 매개자의 역할을 한다. 2005년에 시작된 유튜브는 사용자들이 업로드 하는 수많은 영상을 통해 성장한 플랫폼에 해당한다. 2004년에 서비스를 시작하고 2009년부터 인기를 얻기 시작한 페이스북(Facebook)도 플랫폼에 해당한다. 플랫폼의 특징은 사업자 스스로 콘텐츠를 생산하기보다는 다양한 콘텐츠 생산자와 소비자들을 연결시켜 주는 역할을 한다는 것이다.

플랫폼 사업자들은 이러한 연결효과, 즉 네트워크 효과(network effect)를 통해 사용자 수를 지속적으로 늘릴 수 있다. 그 결과 유튜브나 SNS 같은 플랫폼에서는 사용자 스스로 업로드 하는 콘텐츠의 양이 빠른 속도로 증가하게 된다. 이로 인해 플랫폼 이용자들은 어떻게 자신이 원하는 콘텐츠를 찾아 소비할 것인가에 대한 고민에 빠지게 된다. 이러한 상황에서 등장한 것이 인공지능을 이용한 콘텐츠 추천 시스템이다. 추천 시스템은 이용자 개개인에게 특화된 맞춤형 추천을 해준다.

2. 선택적 노출과 편향

인공지능 추천 시스템의 알고리즘은 다양한 방식으로 구성되지만 크게 두 가지로 나눠볼 수 있다. 하나는 특정 사용자가 과거에 이용한 콘텐츠와 유사한 콘텐츠를 추천하는 콘텐츠 기반 추천(contents-based recommendation) 방식이다. 다른 하나는 사용자와 유사한 특징을 지닌 다른 사람들이 선호했던 콘텐츠를 추천하는 협업 필터링(collaborative filtering) 방식이다. 이들 두 가지 방식에서 공통적으로 발견되는 것은 바로 ‘유사성’이다. 콘텐츠 혹은 사용자 간의 유사성에 의해 추천이 이루어지는 것이다.

이 같은 유사성 기반의 추천 시스템은 의도하지 않았던 결과를 낳게 된다. 사용자로 하여금 (어떠한 측면에서건) 유사한 콘텐츠를 반복적으로 사용하게 만든다는 것이다. 이러한 과정이 반복되면 사용자의 기호에 맞지 않는 부류의 콘텐츠를 접할 가능성이 자연스레 줄어든다. 그 대신 개인 자신이 좋아하는 콘텐츠만 소비하는 이른바 선택적 노출(selective exposure)이 나타나게 된다. 국내 연구에 의하면, 새로 개설된 유튜브 계정으로 특정 정치적 관점의 영상을 시청하자 3일만에 80% 이상의 추천 콘텐츠가 해당 정치적 관점의 콘텐츠로 채워졌다(신유진·이상우, 2021). 이는 인공지능 알고리즘이 선택적 노출을 더욱 가속화함을 극명하게 보여주는 사례에 해당한다.

학자들은 추천 시스템에 의해 나타나는 선택적 노출에 대해 우려를 표하고 있다(이재신, 2022). 장기적 관점에서 볼 때, 추천 시스템에 의한 선택적 노출은 미디어 이용의 다양성을 훼손하고 개인에게 편향된 사고를 유도할 수 있기 때문이다. 최근 사회적 이슈가 되었던 필터 버블(filter bubble) 현상이 이러한 예에 해당한다. 추천 알고리즘은 사용자가 선호하는 정보만을 선별하여 제공함으로써 사용자를 자신의 신념이나 관점에 동의하지 않는 정보로부터 분리시키게 된다. 필터 버블은 이러한 과정을 통해 개인이 자신만의 문화적, 이념적 거품에 갇히게 되는 것을 의미한다. 이처럼 선택적 노출은 사용자를 자신만의 거품 안에 머물게 하며 그 결과 세상에 대한 편향된 시각을 지니게 된다고 설명되고 있다.

3. 추천 알고리즘과 의외성

이러한 점을 인식하여, 방송통신위원회는 ‘인공지능 기반 미디어 추천 서비스 이용자 보호 기본원칙’을 발표한 바 있다(방송통신위원회, 2021). 이 원칙에서는 편향성을 추천 서비스에 의한 잠재적 위험으로 간주하고 있다. 또한 ‘공정성’ 원칙을 통해 추천 서비스가 이용자의 권익이나 미디어 다양성을 훼손하지 않도록 사업자의 자율적 조치가 취해져야 할 필요가 있음을 언급하고 있다. 이를 통해 플랫폼 사업자들이 미디어의 객관성과 균형성을 추구해야 한다는 것이다.

사업자들은 추천 시스템 알고리즘에 ‘의외성(serendipity)’을 포함하는 것으로 이러한 문제에 대응하고 있다(Kotkov, Wang, & Veijalainen, 2016). 의외성이란 추천 시스템이 이용자가 기대하지 않던 뜻밖의 콘텐츠를 추천하는 것을 의미한다. 이를 통해 사용자가 필터 버블에 갇히지 않고 새로운 관점의 콘텐츠를 소비할 수 있도록 하는 것이다. 문제는 정작 이용자들은 추천 시스템의 의외성에 만족스러운 반응을 보이지 않고 있다는 것이다(배현진ㆍ이상우, 2020). 즉 추천된 의외의 콘텐츠에 대한 만족도가 낮은 것이다.

보다 최근의 연구에서도 추천 시스템의 의외성이 추천 콘텐츠 시청의도에 별다른 영향을 주지 못하는 것으로 보고되었다(이재신ㆍ김백민, 2021). 아무리 의외의 콘텐츠를 추천해도 사용자가 이를 이용하지 않으면 별다른 효과를 기대하기 어렵다. 이는 단순히 의외의 콘텐츠를 추천하는 것만으로는 필터 버블이나 편향의 문제가 쉽게 해결되기는 어렵다는 것을 시사한다.

4. 미디어 이용과 개인화된 획일성

현재의 미디어 이용 상황은 아이러니하다. 과거 일방향적 대중 미디어 시대에는 획일화된 미디어 이용이 문제가 되었다. 양방향적 디지털 뉴미디어의 등장으로 이러한 문제가 해결될 것으로 기대되었지만 이제는 개인의 편향된 콘텐츠 소비가 문제가 되고 있다. 과거의 미디어 이용이 사회적 수준에서 획일성의 문제를 야기했다면 이제는 개인적 수준에서 획일성이 문제가 되고 있다. 언뜻 과거와 달리 사람들이 자신만의 방법으로 미디어를 이용하고 있는 것으로 보이지만 실제로는 자신만의 획일화된 방법으로 선택적 노출을 하고 있다. 이른바 ‘획일화된 다양성(diversified uniformity)’이 나타나고 있는 것이다(이재신, 2022).

다행히 최근의 연구에서 선택적 노출이 반드시 편향적 행동으로만 이어지지는 않을 수 있다는 사실이 보고되었다(이한종ㆍ이재신, 2022). 예를 들어, 특정 정치적 관점을 지닌 사람이 선택적 노출을 통해 정치 콘텐츠를 소비하는 경우, 자신의 견해와 다른 견해를 지닌 사람들과 정치적 토론을 진행할 가능성이 높아진다는 것이다. 이는 개인이 자신의 정치적 견해에 대해 어느 정도 자신감을 지니게 되는 경우, 반대쪽 의견의 사람들과 기꺼이 토론을 할 가능성이 높아지기 때문인 것으로 설명된다. 하지만 비록 이러한 토론이 새로운 견해에 대한 노출을 증가시킬 수는 있어도, 토론 자체가 반드시 새로운 견해를 수용하는 것을 의미하지는 않는다는 점에 주목할 필요가 있다.

5. 앞으로의 과제

그렇다면 현재의 상황에서 플랫폼 사업자들에게 무엇을 해야 할까? 분명 콘텐츠 추천 시스템은 사업자들에게 안정적인 수익을 제공해주는 소중한 도구가 된다. 하지만 사용자가 유사한 콘텐츠만을 소비하려 하는 경우 사업자는 그러한 콘텐츠를 지속적으로 공급해야 한다는 부담도 존재한다. 가령 액션 영화만을 고집하는 사용자에게는 지속적으로 액션 영화를 제공해야 한다. 사업자의 입장에서 이것이 반드시 바람직한 상황은 아니다. 사용자 선호의 폭이 넓어져야 추천할 콘텐츠가 많아질 수 있기 때문이다.

이는 추천 시스템의 의외성 알고리즘이 이용자의 편향을 감소시키기 위한 하나의 방안인 동시에 사업자의 콘텐츠 부족 해소에도 도움이 되는 방안이 될 수 있음을 의미한다. 이에 더해, 사업자들의 사회적 책무와 자율규제의 관점에서 볼 때 사용자의 선택적 노출과 그로 인해 나타나는 편향의 문제는 결코 가볍게 볼 문제가 아니다. 이는 장기적으로 민주 시민사회의 단합과 다양성 유지에 부정적인 영향을 줄 수 있기 때문이다.

이용자들 역시 이러한 인식에 기반한 현명한 콘텐츠 소비가 요구된다. 추천 시스템에만 의지하지 말고 스스로 능동적으로 검색하여 자신이 원하는 콘텐츠를 찾아가는 것도 필요하다. 또한 특정 앱을 이용해 자신의 콘텐츠 소비 이력을 지워나가는 것도 한 가지 방법이다. 이에 더해, 가끔은 자신의 선호와 상관없는 콘텐츠를 소비함으로써 추천의 다양성을 이용자 스스로 확대하는 것도 좋을 것이다. 이용자들이 자신을 스스로가 만든 필터 버블에 가두지 않고, 보다 넓고 다양한 관점을 지닐 수 있도록 노력할 필요가 있다고 본다.

참고문헌

[1] 방송통신위원회(2021). 「인공지능 기반 미디어 추천 서비스 이용자 보호 기본원칙 해설서」. KISDI.

[2] 배현진ㆍ이상우(2020). 콘텐츠 특성에 따른 개인화 추천서비스 플랫폼에 대한 사용자 인식 연구. 「한국방송학보」, 34(3), 5-42.

[3] 신유진ㆍ이상우(2021). 텍스트마이닝 기법을 이용한 유튜브 추천 알고리즘의 필터버블 현상 분석. 「한국콘텐츠학회논문지」, 21권 5호, 1-10.

[4] 이재신(2022). 「인공지능 알고리즘과 다양성 그리고 편향」. 서울: 커뮤니케이션북스.

[5] 이재신ㆍ김백민(2021). 유료 OTT 서비스 추천 콘텐츠 시청의도의 영향 요인 탐구. 「인터넷전자상거래연구」, 21권 1호, 69-88.

[6] 이한종ㆍ이재신(2022). 20·30대의 SNS 네트워크 이질성과 선택적 노출이 이견관여와 투표의도에 미치는 영향: 정향욕구의 조절적 역할을 중심으로. 「의정연구」, 28권 3호, 213-242.

[7] Kotkov, D., Wang, S., & Veijalainen, J. (2016). A survey of serendipity in recommender systems. Knowledge-Based Systems, 111, 180-192.