'스캐터랩'에서 내놓은 페이스북 메신저 기반의 대화형 인공지능 챗봇 '이루다'는 작년 12월 정식으로 오픈하며 사람들의 많은 관심을 모은 바 있다. 공개 후 2주 만에 이루다의 사용자 수는 75만 명에 가깝게 늘었으며, 사람들의 관심은 사그라들지 않았다. 구글의 BERT, 메시 인코더라는 자연어 처리 기술이 적용된 이루다는 하지만 출시 이후에 다양한 논란에 휩싸이면서 한 달도 되지 않은 시점에서 서비스 잠정 중단에 이르게 된다.

외설, 그리고 혐오를 담은 인공지능 챗봇

LGBT, 소수자에 대한 질문을 받을 시에, 종종 이루다는 싫어한다거나 혐오한다는 답변을 내놓았다. 이로 인해 이루다는 혐오를 담고 있는 인공지능으로도 매체의 주목을 받게 된다. 개발사가 차별과 혐오에 대한 인공지능의 학습을 미리 대비하지 못했다는 점이 문제가 된 것이다. 여기에 외설적 목적으로 이루다를 사용하는 이들에 대한 문제도 불거졌다. 이루다의 이용약관에는 폭력적이거나 외설적인 메시지를 전송해서는 안 된다는 내용이 담겨있었지만, 이는 실제 외설적 이용을 목표로 하는 일부 이용자들의 서비스 이용행태에 영향을 주지 못했다. 이루다는 결국 다양한 문제가 불거지면서 올해 1월 11일 공식 입장문을 내고 서비스 중지를 발표했다.

▲ 서비스 초기 많은 주목을 받았던 인공지능 챗봇 '이루다'

더 커다란 문제, 개인정보에 관해

하지만 이런 문제들보다도 더 큰 논란이 후에 불거지게 된다. 개인정보를 무분별하게 처리한 것이 문제가 된 것이다. 서비스 초반에는 이름, 주소 등의 개인정보가 제대로 삭제되지 않는 점이 문제시됐으며, 서비스 잠정 중단 발표 이후에는 개인정보보호위원회가 관련 조사에 착수했다. 그리고 이 과정에서 인공지능 개발과 서비스 제공과정에서의 정보 처리현황, 법리적, 기술적 쟁점에 대해 산업계, 법학계, 시민단체의 의견을 수렴하고 논의를 거듭해 결론을 내게 된다.

▲ 서비스 한 달을 채우지 못하고 잠정 중단을 발표해야 했다

개인정보보호위원회의 조사 결과

4월 28일, 개인정보보호위원회는 서비스 제공사인 스캐터랩이 자사 서비스 '텍스트앳', '연애의과학'에서 수집한 약 60만 명의 카카오톡 대화 문장 약 94억 건을 작년 2월부터 올해 1월까지 이루다 인공지능 개발과 운영에 이용한 점을 발표했다. 이루다 서비스 운영과정에서도 20대 여성의 문장 약 1억 건을 데이터베이스로 구축하고, 이루다가 여기에서 한 문장을 선택해 발화할 수 있도록 운영한 점을 확인했다.

▲ 개인정보보호위원회가 나서서 조사한 결과가 발표되다

최고 수준의 과징금과 과태료 부과

개인정보보호위원회는 스캐터랩의 다른 서비스 이용자들이 타 서비스의 개인정보처리방침에 기재된 '신규 서비스 개발'에 동의한 것으로 간주하기 힘들며, 이를 통해 이용자의 개인정보 자기결정권이 제한되는 등 이용자가 예측할 수 없는 손해를 입을 우려가 있다고 밝혔다. 이를 토대로 개인정보보호위원회는 스캐터랩이 이용자의 개인정보를 수집한 목적을 벗어나 이용한 것으로 판단했다. 이로 인해 스캐터랩에 부과된 과징금과 과태료는 1억 330만 원이다. 개인정보에 대한 대중들의 관심이 높아진 현재의 시점에, 이루다의 개인정보 취급 사태는 개발사들의 경각심을 높이는 중요한 사건으로 남게될 것으로 보인다.

▲ 스캐터랩의 다른 앱 이용자 데이터를 이루다에 이용한 점이 문제시되다

최덕수 기자 press@appstory.co.kr