EU AI 법안의 추진 경과 및 향후 전망

1. 들어가며

2022. 11. 30. OpenAI가 chatGPT를 공개한 이후 생성형 AI에 기반한 신기술ㆍ신서비스가 말 그대로 폭포수처럼 ‘쏟아지고’ 있다.¹ 혹자는 작금의 시점을 약 5억년 전 생물 다양성이 폭발한 시기인 캄브리아기에 빗대어 ‘디지털 캄브리아기(digial cambrian period)’라고 부르기도 하고,² 어떤 이는 AI의 ‘위대한 변곡점(great inflection point)’이라고 명명하기도 한다.³ 그 표현이 무엇이건 chatGPT(2023. 3. 14.에 공개된 버전은 아예 ‘chat’이라는 단어를 제거하고 ‘GPT-4’라는 명칭을 사용한다. 더 이상 채팅이라는 영역에 한정되지 않는다는 OpenAI의 자신감을 극명하게 보여주는 것이라 하겠다), 나아가 생성형 AI가 인류 문명에 큰 충격과 경이를 안겨주었다는 사실은 변하지 않는다. 개인적으로도 채팅이라는 단순하고 직관적인 인터페이스를 통하여 전에 없던 글, 그림, 음악은 물론이거니와 프로그램 소스 코드나 심지어 농담까지 마치 인간이 만든 것처럼 자연스럽게 ‘생성’해 내는 AI를 바라보고 있노라면 경이로움을 넘어 두려움이 들 정도이다.

chatGPT의 출현 이후 AI는 특정 분야나 특정 집단에 속한 사람들이 사용하는 기술이 아니라 일반 대중들이 일상생활에서 손쉽게 사용할 수 있는 기술로 자리매김했다. 마치 1990년대 중반 이후 인터넷이, 그리고 2000년대 중반 이후 스마트폰이 전 세계적으로 보편화된 것과 마찬가지로 AI의 일상화는 특단의 사정이 없는 한 되돌릴 수 없는 인류 문명의 비가역적(irreversible) 변화라고 생각한다. 그런데 AI는 인터넷이나 스마트폰과는 달리 학습을 통하여 끊임없이 변화하는 동적인(dynamic) 기술이고, AI를 구성하는 하드웨어, 소프트웨어 및 학습 데이터는 하루가 다르게 발전하고 있으므로, 인간이 AI의 현재 모습을 이해하기 어려운 것은 물론 AI의 미래 양상을 예측하는 것 역시 사실상 불가능에 가깝다. 이러한 이유로 AI의 명(明)이 아닌 암(暗)에 주목하여 AI가 인류 문명에 초래할 수 있는 위험에 관하여 강력한 법적 규제가 필요하다는 주장이 다시금 힘을 얻고 있다.⁴

주요국 중 AI 규제에 가장 발 빠르게 대응하고 있는 곳은 유럽연합(‘EU’)이다. EU는 chatGPT가 출현하기 이전인 2021. 4. 21.에 이미 AI 규제 법안(‘EU AI 법안’)을 발의하였고,⁵ 지금까지 2년이 넘도록 위 법안에 관하여 깊이 있는 논의를 진행하여 왔다. 위 법안의 주요 내용을 다룬 기존 연구는 이미 존재하지만,⁶ 기존 연구의 상당수는 발의 시점의 내용을 소개하고 있고, 발의 이후 논의를 거쳐 수정된 현시점의 내용 및 향후 추진 경과는 다루고 있지 않다. 이하 EU AI 법안의 추진 경과와 향후 입법 전망을 간략히 살펴본다.

2. EU AI 법안의 추진 경과

가. 그간 논의의 쟁점

EU AI 법안은 AI가 초래할 수 있는 위험을 예방하고 AI의 안정성과 책임성을 담보함과 동시에 관련 기술과 산업 혁신을 뒷받침할 수 있는 제도적 기반을 마련하겠다는 취지에서 제안된 법안이다. EU AI 법안의 핵심은 AI가 초래할 수 있는 위험(risk)을 평가하여 AI를 ‘수용불가능한 AI(unacceptable AI)’, ‘고위험 AI(high risk AI)’, ‘제한적 위험 AI(limited risk AI)’, ‘저위험 AI(minimal risk AI)’의 4단계로 분류하고, 위험도에 따라 <그림 1>과 같이 서로 다른 규제를 적용함에 있다.

<그림 1: EU AI 법안의 AI 위험 분류 체계>

EU AI 법안은 말 그대로 AI에 적용되며, AI를 위험 기반 접근법(risk-based approach)에 따라 4단계로 분류하여 차등화된 규제를 적용하기 때문에, AI의 개념 정의와 위험성 분류 기준이 그간 핵심 쟁점으로 부상하였다. 우선 AI 정의와 관련하여서는 머신러닝 기반 AI 시스템에만 한정하자는 의견과 자동화된 의사결정 등을 포함하여 광범위하게 규정하자는 의견이 대립하여 왔다. 위험성 분류 기준에 관하는 ‘수용 불가능한 AI’와 ‘고위험 AI’가 주로 논란이 되어 왔다. 수용 불가능한 AI는 제품이나 서비스의 출시 및 그 이용이 모두 절대적으로 금지되며, 고위험 AI는 제품이나 서비스의 공급자에게 무거운 법정 의무가 지워지기 때문이다. 여기에 더하여 2022. 11. 30. chatGPT가 공개되면서 생성형 AI를 EU AI 법안에서 어떻게 규제할 것인지가 새로운 쟁점으로 부상하였다.

나. 논의 경과

EU AI 법안이 제안된 지 약 1년 8개월 뒤인 2022. 12. 6. EU 이사회(European Council)⁷ 는 AI 개념 정의, 금지되는 AI 사용 영역, 고위험 AI의 분류 기준 및 그에 따른 요구 사항, 범용 목적 AI(general-purpose AI) 규제 등을 담은 수정안을 채택하였다.⁸

이후 EU 의회(European Paliament)는 2023. 5. 11. 내부시장위원회(Internal Market Committe)와 시민자유위원회(Civil Liberties Committee)의 논의를 거쳐 EU AI 법안 수정안(이하 ‘수정안’)을 마련하였다.⁹

초안과 비교하여 수정안에서 추가되거나 변경된 주요 내용은 chatGPT와 같은 소위 ‘파운데이션 모델’¹⁰ 에 대한 규제 신설, AI 개념을 OECD 기준에 부합하도록 수정, 수용불가능한 AI 및 고위험 AI의 범위 확대 등이다.¹¹

3. 향후 전망

2. 에서 살펴본 수정안은 2023년 6월부터 시작되는 EU 의회 회기에서 표결에 부쳐질 예정이다.¹² 현재로서는 특별한 사정이 없는 한 EU 의회를 통과할 것으로 예상된다. EU의 입법 절차상 EU 의회를 통과한 이후에도 향후에도 EU 의회와 EU 이사회간 법안 내용에 관한 상호 협의 및 가중다수결에 의한 결의 등 복잡한 절차를 거쳐야만 입법 절차가 마무리되어 제정에 이르게 된다.¹³ 절차가 순조롭게 진행된다는 가정하에 EU AI 법안은 빠르면 2023년 말이나 2024년 초에 입법이 마무리될 수 있을 것으로 예상된다.

1. 엔비디아 창업자이자 CEO인 젠슨 황은 2023년 GTC 컨퍼런스 기조연설에서 생성형 AI로 다양한 기회가 열린 것을 “AI의 아이폰 순간(The iPhone moment of AI)”이라고 표현하기도 하였다.https://www.nvidia.com/gtc/keynote/ (2023. 6. 5. 최종방문. 이하 이 글에서 언급한 URL의 최종 방문일은 2023. 6. 5.이다.) [본문으로]
2. 일례로, https://www.chosun.com/opinion/specialist_column/2023/03/29/2J3S7S4U7JF2LEIKCURG2UOIJA/ 참조. 참고로 국내에서 ‘디지털 캄브리아기’라는 표현은 2016. 3. 알파고가 이세돌 9단을 꺾은 시점에 잠깐 언급되었다가 사라졌으나, 최근 chatGTP 등장 이후 다시 회자되고 있다. [본문으로]
3. 일례로,https://news.mit.edu/2023/mit-congress-inflection-point-ai-0310 참조. [본문으로]
4. 일례로 AI의 대부라고 불리는 토론토대학의 제프리 힌튼(Geoffrey Hinton) 교수의 다음 칼럼 참조. https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html [본문으로]
5. European Commission, Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL LAYING DOWN HARMONISED RULES ON ARTIFICIAL INTELLIGENCE (ARTIFICIAL INTELLIGENCE ACT) AND AMENDING CERTAIN UNION LEGISLATIVE ACTS, COM(2021) 206 final, (2021. 4. 21.). [본문으로]
6. KISO 저널에서도 EU AI 법안의 주요 내용을 다루었다. 김병일, “EU AI 법안이 주는 시사점”, KISO 저널 제44호, (2021. 9. 27.). https://journal.kiso.or.kr/?p=11212 [본문으로]
7. European Council은 ‘유럽연합 이사회’ 혹은 ‘유럽연합 각료 이사회’로 번역되며, EU 회원국마다 1명의 각료로 구성되는 EU의 최고 입법기관이자 주요 정책 결정기구이다. [본문으로]
8. https://www.consilium.europa.eu/en/press/press-releases/2022/12/06/artificial-intelligence-act-council-calls-for-promoting-safe-ai-that-respects-fundamental-rights/ [본문으로]
9. https://www.europarl.europa.eu/news/en/press-room/20230505IPR84904/ai-act-a-step-closer-to-the-first-rules-on-artificial-intelligence [본문으로]
10. 대규모 데이터를 통하여 학습되고, 범용적인 출력 결과를 생성하며, 다양한 작업에 적용할 수 있는 AI 모델을 말한다. [본문으로]
11. 초안과 수정안을 비교, 분석한 자료로는 https://www.lawtimes.co.kr/news/188029 참조. [본문으로]
12. 이 글의 작성 시점인 2023. 6. 5. 기준으로 아직까지 표결에 이르지 않았다. 참고로 2023. 6. 12.부터 EU 의회 회기가 시작될 예정이다. [본문으로]
13. EU AI 법안은 EU 집행위원회와 EU 의회의 공동결정절차(codecision)로 진행된다. EU 입법절차의 개요는 이재훈, “EU의 입법절차와 현황”, 법제연구원 이슈페이퍼 2017-02-02, 1-32쪽.EU AI 법안은 EU 집행위원회와 EU 의회의 공동결정절차(codecision)로 진행된다. EU 입법절차의 개요는 이재훈, “EU의 입법절차와 현황”, 법제연구원 이슈페이퍼 2017-02-02, 1-32쪽. [본문으로]