dl

[ZDNet] AI, '차별·편견'도 걸러낼 수 있을까

# KeyPoint: 대화형 인공지능(AI)이 사회에 내재된 소수자 혐오 및 차별까지 학습하는 문제를 해소할 수 있을지 주목 이 문제는 특히 마이크로소프트(MS) '테이', 스캐터랩 '이루다' 사례 등 챗봇 서비스에서 크게 주목. 일부 이용자에 의해 AI가 혐오·차별 성향이 담긴 발언을 학습하고, 이를 재생산하면서 사회에 부정적인 여파를 끼치게 된다는 우려. 사용 목적을 특정하지 않고, 사람처럼 다양한 주제로 대화할 수 있는 '오픈 도메인' 챗봇은 이같은 우려가 실제로 현실화되면서 서비스를 조기에 중단한 경우가 많음. 이런 문제를 해결하기 위해, 오픈AI는 직접 개발한 AI 자연어 처리 모델 'GPT-3'에 텍스트 샘플 80개를 조정해 AI의 혐오·차별 성향을 줄임. 학대, 폭력 및 위협, 정신적·신체적..

[ZDNet] 눈동자 자세히 보면 딥페이크 가려낼 수 있다

# KeyPoint: 눈동자에 반사되는 빛을 통해 특정 인물의 얼굴과 음성을 합성해 만든 가짜 영상물 ‘딥페이크’(주로 '적대적 생성 신경망(GAN·Generative Adversary Network)'을 통해 생성)를 가려낼 수 있다는 연구결과가 발표됐다고 미국 IT매체 씨넷이 최근 보도. 카메라로 촬영한 실제 사람 얼굴에서 두 눈동자에 비친 반사 이미지는 두 눈이 같은 것을 보고 있기 때문에 거의 비슷. 실제 얼굴을 촬영한 사진은 양쪽 눈동자에서 동일한 빛 반사를 보였지만, AI로 합성된 딥페이크 이미지에서 눈동자에 비친 빛 이미지는 모양과 색에서 일관성이 없음. 연구진은 이 점에 착안해 영상 속 얼굴 눈동자에서 반사되는 빛을 비교해 가짜 영상을 가려내는 툴을 개발. 초상화 스타일의 사진을 테스트한 ..