인공지능 기술을 윤리적으로 탐하다: 영국의 데이터윤리혁신센터 설치 사례

‘데이터 주도 혁신(data driven innovation)’이 유행어에서 패러다임으로 안착된 2018년은 그 원천이 되는 ‘데이터’에 대하여, 적어도 법적 관점에서, 한 획이 그어진 해다. 2016년 4월 14일 제정된 유럽연합의 개인정보 보호규정(General Data Protection Regulation, 이하 ‘GDPR’)이 시행 준비기간을 거쳐 5월 25일을 기해 효력을 발하였기 때문이다. 유럽 현지에서 체감하는 GDPR의 영향력은 상당히 강력한데 소수의 한인들이 모이는 작은 교회에서조차 예배 중에 GDPR의 얼개와 그에 따른 변화에 대해 개관을 할 정도이다. GDPR은 지구촌의 한 지역에서 시행되는 일개 법제에 머무르지 않고, 적정성 평가제도 등 여러 경로를 통해 우리나라를 비롯한 비유럽국가의 법제와 기업, 국민에게 상당히 큰 영향력을 행사하고 있다.

유사하게 지난 11월 8일 유럽연합과 선긋기에 나선 영국에서 ‘혁신’의 원천기술이 되는 인공지능에 대하여, 적어도 거버넌스의 관점에서, 한 획을 긋기 위한 붓놀림이 시도되었다. 영국 정부는 인공지능 기술 개발의 국제적 경주에서 선두에 서기 위해 세계 최초로 ‘데이터윤리혁신센터(Centre for Data Ethics and Innovation, 이하 ‘센터’)’를 설치하였다. 센터는 영국 정부가 인공지능에 관한 거버넌스 환경을 강화하기 위해 새롭게 설치한 세 개의 인공지능 기관들¹중 하나이다. 독립 자문기관인 데이터윤리혁신센터는 데이터에 의해 주도되고 인공지능을 기반으로 하는 기술들에 의한 혁신이 안전하고 윤리적으로 이루어질 수 있도록 필요한 조치에 관하여 정부에 전문적인 자문을 제공하는 역할을 한다.

데이터윤리혁신센터 설치기획안은 2017년 영국 정부가 가을 예산안(Autumn Budget)을 다루는 과정에서 처음 공표되었다. 센터의 설치는 국가 재정 10억 파운드를 투자하여 인공지능과 빅데이터 프로젝트를 지원하기로 한 “인공지능부문 합의(AI Sector Deal)”의 일부이다. 전통적으로 기술혁신 장려정책을 적극적으로 추진해 온 영국은 인공지능 기술에 있어서도 국제적 리더십을 확보하기 위하여 그동안 한편으로는 인공지능 기술의 발전과 혁신을 촉진하기 위해 적절한 규제체계를 정립하기 위한 노력을, 다른 한편으로는 특히 옥스퍼드 대학을 중심으로 인공지능의 윤리적 이용에 관한 연구 지원을 지속해 왔다. 데이터윤리혁신센터의 설치는 이러한 노력의 산물이라고 평가할 수 있다.

영국이 데이터윤리혁신센터 설치 사례는 인공지능 기술의 혁신과 안전하고 윤리적인 이용의 조화를 모색하기 위한 수단일 뿐만 아니라 세계 최초의 거버넌스적 조치라는 이유로 주목받고 있다. 핀테크 부문에 도입된 규제샌드박스제도나 규제기술(RegTec)과 같이 영국이 기술 혁신의 안전한 시장 도입을 위해 최근 세계 최초로 시도하고 있는 일련의 조치들이 상당한 파급력을 가지고 신속하게 전파되었다는 사실에 비추어볼 때 센터에 대한 세간의 관심이나 검토는 의미가 있다. 이하에서는 센터의 설치과정, 조직적 위상, 기능 및 역할, 한계 등을 개괄적으로 살펴보기로 한다.

데이터윤리혁신센터의 설치 과정

영국 정부는 2017년 11월 데이터윤리혁신센터의 개념을 공표한 후, 2018년 6월 13일 센터 설치를 위한 의견수렴절차를 개시하였다. 디지털문화미디어체육부에서 주도한 의견수렴절차는 센터의 운영 방식과 업무의 우선순위에 관한 관점을 모색하기 위해 추진된 것으로, 정부는 센터 설치 제안서를 요약한 내용을 바탕으로 8개의 설문을 설계하고, 전문가, 연구소, 기업, 시민, 시민단체 등 데이터의 이용과 인공지능 규제에 이해관계가 있는 모든 사람들의 적극적인 절차 참여를 장려하였다. 의견수렴절차는 12주 동안 진행되었으며, 2018년 9월 5일 종료되었다. 영국 정부는 이 절차를 통해 총 104개의 서면 의견을 취합하였고, 이외에도 난상 토론회를 여러 차례 개최하여 다양한 제안과 피드백을 수렴하였다.

데이터윤리혁신센터 설치에 관한 대국민 의견수렴절차 설문 요약² 

영국 정부는 의견수렴절차를 통해 취합된 제안과 의견을 모두 면밀하게 검토·평가하여 지난 11월 센터의 역할과 목표에 관한 의견수렴절차 결과보고서(government response)를³발표하였다. 이 결과보고서에서 영국 정부는 센터의 기능을 제안서에 제시된 내용보다 명확히 하고, 권고 기능을 강화하였으며, 센터의 임무수행 방식을 제시하였다.

데이터윤리혁신센터의 권한, 기능 및 조직적 위상

데이터윤리혁신센터의 역할 및 기능과 조직적 위상은 의견수렴절차 결과보고서를 통해 최종적으로 확정되었다.⁴이에 따르면, 센터는 데이터와 인공지능이 영국 사회와 경제에 미치는 편익을 극대화하기 위하여 (i) 리스크와 기회를 분석 및 예측하고(Analyse and anticipate), (ii) 모범 행위기준(best practice)을 확인 및 제안하며(Agree and articulate), (iii) 정부에 자문을 제공하는(Advise) 역할을 수행한다.

센터의 첫 번째 기능과 역할은 데이터와 인공지능 이용에 따른 리스크와 기회를 분석하고 예측하는 것이다. 센터는 데이터와 인공지능의 윤리적 혁신적 이용을 강화하기 위한 기회를 다음과 같은 방식으로 파악하여야 한다.

• 데이터와 인공지능 이용의 윤리적, 경제적 영향에 대한 연구 및 분석을 의뢰하고 취합한다.
• 데이터와 인공지능 이용에 대한 대응의 격차와 윤리적 혁신에 대한 장벽을 파악하기 위하여 기존 규제체계를 검토한다.
• 데이터와 인공지능의 이용 및 거버넌스와 관련된 특정 문제에 대하여 규제기관, 산업, 공공기관 및 시민 사회와 상의한다.
• 데이터와 인공지능의 이용과 규제에 대한 사회적 반응의 범위를 이해하기 위해 시민과 소비자를 참여시킨다.
• 새로운 데이터 주도 인공지능 기반 기술과 이 기술이 거버넌스에 미치는 영향을 파악한다.

둘째, 센터는 모범적인 행위기준을 확인하고 제안하는 역할을 한다. 센터는 데이터와 인공지능의 책임 있는 이용을 위한 모범적인 행위기준을 다음과 같은 방식으로 확인하여야 한다.

• 산업계 단체, 공공서비스 제공사업자 및 소비자를 참여시켜 데이터와 인공지능 이용에 관한 세계 최고수준의 기준과 행동 강령(code of conduct)을 조율한다.
• 기준에 대한 국제적 논의에 대응하고, 이러한 논의를 형성하기 위해 노력한다.
• 이해당사자들과 협력하여 데이터 공유를 위한 효과적이고 윤리적인 체계를 식별하고 평가한다.
• 교육이나 조직 관리를 통해 데이터 이용자 간의 역량 강화 조치에 대한 자문을 제공한다.
• 공공 및 민간 부문과 협력하여 주요 과제에 대한 기술적 접근법의 효용을 조사한다.

셋째, 센터는 영국 정부에 필요한 조치에 관한 자문을 제공하는 기능을 수행한다. 센터는 데이터와 인공지능의 이용에 있어서 안전하고 윤리적 혁신이 가능할 수 있도록 다음과 같은 방식으로 정부를 지원한다.

• 법률, 규정 및 지침이 데이터에 의해 주도되고 인공지능을 기반으로 하는 기술의 발전에 부합할 수 있도록 필요한 조치들을 파악한다.
• 정부에 정책과 입법을 통해 데이터와 인공지능의 안전하고 윤리적 혁신을 지원할 수 있는 방법에 대하여 공개적으로 권고한다.
• 데이터와 인공지능 이용에 관한 국제 협약 및 규범체계를 알리고 영향을 미칠 수 있는 기회를 파악한다.
• 규제기관에 데이터와 인공지능 이용의 함의와 잠재적 위해 영역에 대한 전문적 자문과 지원을 제공한다.

센터는 위와 같은 기능과 역할을 수행함에 있어서 정부가 제시한 일정한 원칙을 준수하여야 한다. 첫째, 센터는 데이터와 인공지능의 윤리적 혁신적 이용이 사회와 경제에 최대 편익을 가져다 줄 수 있도록 이러한 목표들 간의 적절한 균형을 유지하여야 한다. 둘째, 센터는 데이터 주도 기술 개발에 대한 투자처로서 영국의 매력 등 센터가 제공하는 자문의 경제적 의미를 고려하여야 한다. 셋째, 센터는 독립적이고, 공정하며, 비례성을 갖추고, 증거에 기초한 자문을 제공하여야 하고, 마지막으로, 센터는 기존 규제기관 및 여타 정부 기관과 긴밀하게 협력하여 지침의 명확성과 일관성을 보장하여야 한다.

조직적 위상의 관점에서 센터는 비법정 기관이다. 이에 영국 정부는 법적 근거가 마련되기 전까지 초기 활동의 일부로서 센터에 추가적인 기능을 요청하였다. 이러한 요청에 따라 센터는 자원을 가장 효과적인 방식으로 배정할 수 있도록 센터의 기능들을 명시적으로 검토하여야 하고, 센터의 임무를 효과적으로 수행하기 위하여 필요한 추가 기능을 파악하여야 한다. 나아가 센터에 관한 입법을 추진할 때 센터의 기능 중 특정 권한을 부여하여 그 내용을 수정하거나 강화할 필요가 있는 기능에 대한 평가를 수행하여야 한다.

데이터윤리혁신센터의 이사회 구성 및 향후 계획

디지털문화미디어체육부는 지난 여름 공정하고 공개적인 경쟁을 통해 데이터윤리혁신센터 이사회를 구성하였다. 의료데이터기업 Dr. Foster의 공동 창업자인 Roger Taylor를 의장으로 하여 산업계, 학계, 연구계, 종교계, 정치계의 주요 인사 12명이 이사로 위촉되었다. 이들은 인공지능, 데이터 사이언스, 윤리 및 철학, 생명공학, 규제 등 다양한 분야의 전문성을 가진 전문가들이다. 이사의 임기는 2년으로 2018년 11월 26일 개시되었다.

영국 정부는 2018년 예산안 다루는 과정에서 데이터가 사람들의 온라인 경험에 어떻게 영향을 미치는지와 알고리즘에 의한 의사결정에서의 편견가능성에 관한 연구를 센터에 의뢰하였다. 센터는 이 연구 결과에 기초하여 기업과 사회가 데이터 주도 기술을 책임 있게 이용할 수 있도록 정부가 취할 수 있는 조치를 도출하여 정부에 보고할 예정이다.

데이터윤리혁신센터의 한계

데이터윤리혁신센터는 민주적 거버넌스의 관점에서 의미 있는 시도이기는 하지만 법적 근거를 마련하지 못했다는 점에서 기관의 독립성과 설치의도 및 목표에 초점을 맞춘 역할을 보장할 수 없다는 한계를 노정한다. 또한 이미 데이터, 인터넷 관련 수많은 규제 기관과 자문 기관이 존재하는 가운데 센터의 역할, 권위, 효용에 대하여 의문이 제기된다. 관련하여 디지털문화미디어체육부 그림자 장관인 노동당의 Liam Byrne은 “만약 이 새로운 센터가 단순히 자발적인 규약을 작성하고, 모범적인 행위기준을 발표하는 곳에 불과하다면, 솔직히 온라인 혐오 발언과 데이터 침해는 멈추지 않을 것이며, 새로운 알고리즘들이 오래된 부당함(injustice)을 새로운 부당함과 불평등으로 코딩하는 위험도 막지 못할 것”이라고 비판하였다.

영국 정부의 데이터윤리혁신센터 설치 사례는 일정한 한계를 가지고 있기는 하지만 사실상 교착상태에 있는 데이터와 인공지능의 유익한 활용을 위한 사회적 윤리적 문제와 기술 혁신 간의 갈등 조화의 문제를 법령의 차원에서가 아니라 거버넌스의 차원에서 타계하려는 시도를 했다는 점에서 시사성이 있다. 무엇보다 센터의 역할 수행과 이사회의 구성에 있어서 투명성, 다양성, 이해관계자 및 국민의 참여를 보장하고 있다는 점과 특히, 센터를 설치하기 위해 대국민 의견수렴절차를 실시하고 제안된 의견에 대한 충실한 검토를 통해 센터의 역할과 기능, 업무 수행방식, 향후 조직적, 법적 보완 사항 등을 식별하여 정립하였다는 점을 눈여겨볼 필요가 있다. 데이터윤리혁신센터 설치 사례는 데이터와 인공지능의 윤리적 혁신적 활용을 위한 정부의 대응과 관리에 있어서 민주적 절차적 정당성을 확보하려는 노력 외에도, 규제기관, 연구소 등 다양한 부문의 다양한 전문기관과의 폭넓은 협업을 공식적으로 모색하여 충분한 정보와 지식을 확보하고, 소통을 도모한다는 점에서도 시의성이 높다. 마지막으로, 정부의 직접적인 조치가 아닌 데이터와 인공지능의 유익한 활용을 위해 필요한 정책적, 입법적, 규제적 조치들을 충분한 연구와 검토를 통해 식별하여 정부 자문의 방식으로 권고하는 유연한 접근을 하고 있다는 점도 새겨볼 필요가 있다.

1. 다른 두 기관은 인공지능위원회(AI Council)와 인공지능사무국(Office for AI)이다. 인공지능위원회(위원장 Cognition X의 Tabitha Goldstaub)는 산업계와 학계의 주요 인사로 구성되며, 인공지능부문 합의(AI Sector Deal)의 이행을 감독하고, 산업계와 산업계의 협력을 증진하며, 업계에서의 인공지능에 대한 이해를 높이고, 성장과 혁신에 대한 장벽을 식별하는 등 전략적 리더십을 제시하고 인공지능의 성장을 촉진하는 기능을 수행한다. 인공지능위원회의 사무국인 인공지능사무국은 디지털·문화·미디어·체육부와 비즈니스·에너지·산업정책부의 합동 조직으로 공무원으로 구성된다. 인공지능 관련 정책 및 인공지능부문 합의를 이행하고, 인공지능에 관한 부처간 업무의 조정하며, 인공지능 관련 사업(AI Grand Challenge)을 개발하는 역할을 한다. 특히 인공지능사무국은 비영리단체인 오픈데이터연구소(Open Data Institute)와 협업하여 데이터 트러스트를 개발할 예정이다. 데이터 트러스트(data trust)란 두 개 이상의 조직이 데이터를 안전하고 공정하며 윤리적으로 공유할 수 있는 체계를 의미한다. [본문으로]

2. UK Department for Digital, Culture, Media & Sport, CENTRE FOR DATA ETHICS AND INNOVATION: CONSULTATION, June 2018, p.25 Annex C – Summary of Questions for Consultation. [본문으로]

3. UK Department for Digital, Culture, Media & Sport, CENTRE FOR DATA ETHICS AND INNOVATION GOVERNMENT RESPONSE TO CONSULTATION, November 2018. [본문으로]

4. UK Department for Digital, Culture, Media & Sport, CENTRE FOR DATA ETHICS AND INNOVATION GOVERNMENT RESPONSE TO CONSULTATION, November 2018, pp.16-18, Annex A: Final Terms of Reference. [본문으로]