[ZDNet] 결국은 사람이 되지 못 한 '이루다'

# KeyPoint : AI 채팅봇(챗봇) ‘이루다’, 너무 방대한 양의 대화 데이터를 학습한 나머지 왜곡된 발언으로 사망선고.

• '이루다'는 사용자들의 방대한 대화 데이터를 수집하고 이를 꾸준히 학습함으로써 사람을 제법 그럴듯하게 흉내 내 이용자들의 호기심을 끌었다.

• 2014년 개봉된 영화인 ‘그녀’(Her)에 등장하는 AI ‘사만다’처럼 ‘이루다’가 다정한 가상의 연인이 되어주길 바란 듯 제법 진지한 대화 이어가.

• 그 중 일부는 ‘이루다’를 성적도구로 삼아 사람 앞에서는 차마 하지 못할 성적 농담을 건넸고, 이를 커뮤니티에 공유.

• ‘이루다’가 잘못된 학습 결과로 성소수자나 사회약자에 대한 왜곡된 발언을 하는 사례들이 공개되면서 사회적 파장
  -> 빅데이터를 활용한 AI 기계학습이 반드시 더 나은 결과를 가져올 거란 믿음에 금이 가는 계기
  -> 사전에 제대로 필터링 하지 않고 서비스 개선에 즉각 반영하지 않은 개발사의 책임

• 결국 개발사는 ‘이루다’ 서비스 잠정 중단 결정을 내리고, 나아가 정부가 개인정보유출과 관련한 조사에 착수하는 등 논란이 확산되자 ‘이루다’에 활용된 데이터베이스와 관련 대화 모델을 폐기. 최종 사망진단.

# 느낀점 : 철저히 이성적으로 판단하자면 이는 데이터를 처리하지 않고 무분별 습득시킨 개발자의 잘못이라고 생각된다. 다른 유저가 서비스를 이용할때 불편을 주지 않는 것도 서비스를 활성화 시킨 기업의 본분 중 하나임에도 출시한 후 많은 데이터를 그대로 학습시켜 사용한 점이 문제가 된 것이다. 물론 이 문제는 이것만으로 끝날 파장이 아니다. 지금까지 다양한 정보로 사람들과 AI가 점점 상용화되고 일상속에 들어올 것이라고 다가간 기대를 깨버리는 사건 중 하나로 자리잡을 수 있다. 즉 AI에 대해 호의적으로 다가오고 있던 사람들을 배신한 일 이라고 생각한다.

물론 좋은 서비스로 자리잡고 많은 사람들이 사용하도록 한 것 만으로도 좋은 서비스였겠지만 관리에 더욱 신경을 썼다면, 더욱 훌륭한 쳇봇이 되었을 것이다.

# 참고 : zdnet.co.kr/view/?no=20210115144635

사람이 되고픈 꿈 못 이룬 ‘이루다’