제목: [우리말과 한국문학] 인공지능의 윤리 그리고 방언

매체: 영남일보

일자: 2020-12-10

전문: https://www.yeongnam.com/web/view.php?key=20201209010001228

性·인종 등 데이터의 편향성
사이코패스 AI 노먼도 등장
인공지능의 윤리 문제 야기
청각적 신호로 치매 진단 AI
언어 지역편향성 극복 과제 

알파고와 이세돌 9단의 대국이 벌어진 2016년, 터미네이터와 같은 SF영화에서나 등장하던 인공지능이 한국사회를 요동치게 했다. 당시에 이미 체스에서는 IBM의 딥블루라는 1세대 인공지능이 세계 1인자를 누른 상황이었으나 대국이 시작하기 전까지도 인간이 기계에 패배할 리 없다는 굳은 믿음이 지배적이었다.

바둑은 그 수의 한계가 무한한 게임이 아니던가? 체스와는 다르다. 하지만 최종 스코어 4대 1로 이세돌 9단의 완패였다. 이러한 결과는 한국인에게 충격과 공포에서 오는 불길함을, 또는 감탄과 전율에서 오는 호기심을 불러일으켰다. 오늘날 인간이 바둑으로 인공지능을 이길 수 없다는 것은 상식이 되었다.

지난 9월에 GPT-3(Generative Pre-Training3)의 등장은 알파고와는 다른 차원의 놀라움을 일으켰다. 필자도 정확히 이해하지 못하는 기술적 부분(개발 방식과 학습한 데이터 세트)은 미루어 두고 GPT-3가 할 수 있는 일을 몇 가지 알아보자. 우선 GPT-3는 말로 설명만 하면 그것을 바탕으로 코드를 짜서 앱을 작성하고 홈페이지를 만들며 다양한 언어들을 동시통역하고 문학작품을 번역할 수 있다. 무엇보다도 뛰어난 텍스트 생성과 요약 능력을 자랑한다.

예를 들어 '부탁을 거절한다'라는 핵심적인 문장을 제공하면 해당하는 내용을 격식에 맞게 e메일을 작성할 수 있고 장문의 연설문을 한 문장으로 요약할 줄도 안다. 종합해 보면 2020년에 인공지능은 자유로운 주제(기존의 인공지능은 특정한 주제에 한정해서 대화가 가능했다)에 대해 인간과 대화하는 수준에 접어들었다고 평가할 수 있다. 아마도 우리는 본격적인 인공지능 시대의 초입에 들어서 있는 듯하다.

인공지능 시대에 가장 각광을 받는 분야는 뜻밖에도 윤리학이다. 왜 첨단 인공지능 시대에 그리스 시대로부터 비롯된 학문이 그 중요성을 인정받는 것일까? 인공지능 채팅봇 테이(Tay)가 사용자들과 대화하면서 학습한 인종차별적 언행 때문에 서비스가 중단된 사건이나 MIT 연구팀에서 개발한 인공지능 노먼(Norman)이 드러낸 사이코패스 성향은 인공지능의 개발에 윤리적 고려가 얼마나 중요한지를 보여주는 예다. 그렇다면 왜 인공지능은 윤리적 문제를 일으킬까? 그 원인은 인공지능이 편향된 데이터를 바탕으로 학습하기 때문이다. 성, 인종, 지역을 포함한 데이터의 편향성으로부터 인공지능의 결함이 시작된다. 인공지능은 죄가 없다. 인공지능이 학습하는 데이터, 즉 인간이 문제다. 인공지능이 여성의 하이힐을 신발로 인식하지 못하는 예는 남성 중심의 사고를 대변하고 흑인을 범죄자 또는 고릴라로 인식하는 예는 뿌리 깊은 인종주의의 소산이다. 상대적으로 덜 알려진 편이지만, 언어의 지역적 편향성이 심각한 문제를 일으킨 사례가 보고된 바 있다.

윈터라이트 랩(Winterlight Labs)이라는 캐나다의 스타트업에서 청각적 신호로부터 알츠하이머병이나 파킨슨병을 진단하는 인공지능을 개발했다. 성능이 매우 획기적이어서 음성을 듣고 90% 가까운 정확도로 진단을 내릴 수 있다고 한다. 단점이라면 데이터를 온타리오 지역에서 수집한 까닭에 온타리오 방언(물론 영어이다) 사용자들만 진단이 가능하다는 점이다. 소소한 단점이라고 말할 수 있을까? 이와 유사한 데이터의 편향성 때문에 한국어 방언 사용자들이 인공지능의 혜택으로부터 소외될 가능성은 매우 높다. 인공지능이 방언을 이해하지 못한다고 부끄러워할 일이 아니다. 데이터 편향성을 극복하여 방언을 이해하는 인공지능을 개발하는 일은 개발자들의 윤리적 의무다.

김진웅 경북대 인문대학 국어국문학과 교수