[회원사가 바라본 KISO] ② 스캐터랩 하주영 변호사

-편집자주- <KISO, 자율규제를 말하다> 특집호에서는 KISO에서 활동하고 있는 회원사들의 인터뷰를 담았습니다. 회원사의 목소리는 KISO가 앞으로 나아가야 할 자율규제의 방향성을 제시합니다. KISO는 앞으로도 회원사의 목소리를 경청하고, 건강한 자율규제 시스템을 만들어 나가는데 앞장설 것입니다.

– 먼저 간단한 자기소개 부탁드립니다.

“안녕하세요, 스캐터랩에서 법무를 맡고 있는 하주영 변호사라고 합니다. 스타트업 특성상 법무 외에도 다양한 업무를 맡고 있는데요. 인공지능 윤리나 대외협력, 그리고 서비스 운영도 일부 다른 팀원분들과 함께 나누어서 담당하고 있습니다”

– KISO의 다양한 위원회와 활동에 직접 참여하신 적이 있다면 그 경험을 알려주세요.

“저희 스캐터랩은 2022년 6월 KISO에 신규 가입한 뒤 신기술 소위원회를 중심으로 활동에 참여하고 있습니다. 저희는 이용자와 친구 같은 관계를 지향하는 AI 챗봇 서비스인 ‘이루다’를 운영하는 스타트업입니다. 그러나 서비스를 운영하는 과정에서 광범위하고 지속적으로 ‘이루다’를 향한 부적절한 이용 시도가 있어 왔고, 저희는 이에 대응하기 위해서 끊임없이 노력하고 있습니다. 언론에 보도된 선정적인 언사나 특정 집단을 향한 혐오 및 차별적인 언사 외에도 공격적인 언사 등 다양한 방법의 부적절한 이용 시도 사례가 있었고, 이러한 사례가 챗봇 대화화면 캡처를 커뮤니티를 통해 불특정 다수와 공유하면서 확대 재생산되는 일도 있었습니다. 이에 대응하기 위해 저희는 부적절한 시도를 탐지하는 인공지능 모델을 도입하는 등 기술적인 예방조치를 최대한 강력한 수준으로 이행하였고, 운영 과정에서 확인되는 AI 챗봇의 부적절한 문장을 신속하게 인지하여 필터링하는 등 사후적 대응조치 역시 진행하고 있습니다”

“이러한 과정 속에서 KISO와 기존 회원사가 보유하고 있는 경험과 유해어 DB 등의 자산은 유사한 경로를 먼저 거치면서 쌓인 노하우로서 저희에게 큰 의미가 있을 것으로 기대되며, 저희 회사뿐만 아니라 기술 업계가 모두 사회적으로 인정받을 수 있는 높은 수준의 통일된 대처 방안을 도출하기 위해 노력하고 있습니다”

– KISO의 활동 또는 KISO 저널에 대해서 알고 계신지, 그 계기가 있다면 말씀해주세요. 그밖에도 KISO에 대한 인상이나 느낀 점이 있다면 자유롭게 말씀 부탁드립니다.

“인터넷에 관련된 법적 쟁점에 대해 전문적인 지식이 필요할때 검색을 통하여 KISO 저널을 수차례 접할 수 있었습니다. 각 분야의 전문가들을 모시고 업계가 필요로 하는 전문 지식을 기고 받아 저널로 발행함으로써 국내 인터넷 산업 전반에 긍정적인 영향을 주고 있다는 생각을 한 바 있습니다”

– 회원사의 입장에서 KISO 가입 전과 후를 논한다면 어떻게 평가할 수 있을까요?회원사의 서비스 운영이나 고민하고 있었던 부분에 힘을 얻는 부분은 있는지? 있다면 무엇인지?

“아직 가입한 지 얼마 되지 않아 조심스럽지만, 일단 인공지능 딥러닝이라는 신기술이 사회에 수용되면서 발생할 수 있는 문제들에 대해 유사한 경험을 갖고 있는 회원사들뿐 아니라 깊이 있는 전문성을 갖추신 위원님들과 함께 저희 회사의 문제를 논의하고 의견을 들어 볼 수 있다는 사실이 큰 도움이 됩니다”

– 인터넷서비스에는 특정 이슈가 생길 때 마다 입법규제, 즉 공적 규제를 받게 되는 경우가 많은 것 같습니다. 회원사로서는 공적규제와 자율규제에 관해 고민이 깊으실 것 같습니다. 회원사가 생각하는 바람직한 공적규제와 자율규제의 균형이나 방향은 어떠한지요?

“저희같은 소규모 스타트업에게는 상당히 어려운 질문입니다. 최근 들어 민간 주도 자율규제 방법이 각광을 받고 있는데, KISO와 같이 자율규제를 성공적으로 운영한 기관을 중심으로 사업자들에게도, 국가와 국민들에게도 인정받을 수 있는 좋은 규제 방안을 만들어낼 수 있다면 더할 나위 없이 좋을 것이라고 생각합니다”

– 마지막으로 KISO에 바라는 점이 있다면 말씀 부탁드립니다. 기대하는 점, 당부의 말씀 등

“KISO의 신규 가입 회원사로서 앞으로 많이 배우고, 기여할 수 있는 부분은 최대한 기여할 수 있기를 바랍니다. 앞으로도 잘 부탁드립니다”