오픈도메인

[ZDNet] AI, '차별·편견'도 걸러낼 수 있을까

# KeyPoint: 대화형 인공지능(AI)이 사회에 내재된 소수자 혐오 및 차별까지 학습하는 문제를 해소할 수 있을지 주목 이 문제는 특히 마이크로소프트(MS) '테이', 스캐터랩 '이루다' 사례 등 챗봇 서비스에서 크게 주목. 일부 이용자에 의해 AI가 혐오·차별 성향이 담긴 발언을 학습하고, 이를 재생산하면서 사회에 부정적인 여파를 끼치게 된다는 우려. 사용 목적을 특정하지 않고, 사람처럼 다양한 주제로 대화할 수 있는 '오픈 도메인' 챗봇은 이같은 우려가 실제로 현실화되면서 서비스를 조기에 중단한 경우가 많음. 이런 문제를 해결하기 위해, 오픈AI는 직접 개발한 AI 자연어 처리 모델 'GPT-3'에 텍스트 샘플 80개를 조정해 AI의 혐오·차별 성향을 줄임. 학대, 폭력 및 위협, 정신적·신체적..