[ZDNet] AI, '차별·편견'도 걸러낼 수 있을까

 

# KeyPoint: 대화형 인공지능(AI)이 사회에 내재된 소수자 혐오 및 차별까지 학습하는 문제를 해소할 수 있을지 주목

이 문제는 특히 마이크로소프트(MS) '테이', 스캐터랩 '이루다' 사례 등 챗봇 서비스에서 크게 주목.
일부 이용자에 의해 AI가 혐오·차별 성향이 담긴 발언을 학습하고, 이를 재생산하면서 사회에 부정적인 여파를 끼치게 된다는 우려.
사용 목적을 특정하지 않고, 사람처럼 다양한 주제로 대화할 수 있는 '오픈 도메인' 챗봇은 이같은 우려가 실제로 현실화되면서 서비스를 조기에 중단한 경우가 많음.

이런 문제를 해결하기 위해, 오픈AI는 직접 개발한 AI 자연어 처리 모델 'GPT-3'에 텍스트 샘플 80개를 조정해 AI의 혐오·차별 성향을 줄임.

• 학대, 폭력 및 위협, 정신적·신체적 건강, 인간 특성 및 행동, 불의, 불평등, 정치적 의견 및 불안정, 인간관계, 성행위, 테러리즘 등 인간 복지에 직접적으로 영향을 미치는 주제들을 선정.
• 각 주제에 대해 인권 관련 법규 및 사회 운동을 토대로 AI에게 원하는 행동 패턴지정 후 이 내용을 토대로 질문과 답변으로 구성된 텍스트 샘플들을 제작. + 각 샘플들은 단어 40~340개의 길이. 텍스트 샘플 80개를 합친 데이터셋의 분량은 120KB 정도였다. 이는 GPT-3 훈련 데이터 규모인 570GB에 비하면 매우 적은 분량.
• 미세 조정된 GPT-3모델의 유해성을 평가했을 때 데이터셋이 반영된 모델의 유해성이 상당히 개선.

# 느낀점: 이 기사에도 언급했듯이 사람처럼 다양한 주제로 대화하는 '오픈 도메인' 쳇봇의 경우, 출시하는대로 특정 소수자 혐오 및 차별을 학습하여 사람들이 피해를 보는 현상이 발생했다. 따라서 그냥 챗봇의 경우 상용 서비스를 만들 수 없겠다고 생각했었는데, 이번 OpenAI의 방향성을 통해 이러한 혐오 및 차별 발언을 부분적으로 학습하지 않는 효과를 거둘 수 있을 것으로 예상된다. 이는 정말 좋은 방향성이라고 생각되며 차차 기술을 발전시켜 인간과 대화함에 있어 거리낌 없도록 발전했으면 좋겠다.

# 참고:  https://zdnet.co.kr/view/?no=20210621175952 

AI, '차별·편견'도 걸러낼 수 있을까