[ZDNet] '얼굴인식' 기술 강자 MS, 제품은 안 만드는 이유

# KeyPoint: 조장래 한국MS 전무 "AI, 속도감 있는 사업보다 올바른 방향성이 중요"

"AI를 설계할 때 가장 중요한 측면 중 하나가 기술이 오용될 모든 가능성을 보완해내는 것이 기술 기업의 의무라고 인식하게 됐다"
"MS는 AI 기술을 속도의 문제로 보지 않고, 천천히 나아가는 한이 있더라도 명확한 가이드라인과 좋은 의미를 담은 주제가 있어야 한다고 주장하고 있다"
"AI가 인류를 위한 기술이 되지 못한다면 모두를 '디스토피아'로 몰아넣게 될 것으로 확신한다"
"매우 느린 걸음으로 가고 있는 이유"
"AI 기술은 생활 전반에 안착하고 나면 바람직한 가치를 훼손하는 모습이 발견되더라도 기술 도입 이전으로 복구하기가 힘들다"

MS가 AI에 잠재된 부정적 영향을 중대하게 고려하게 된 가장 큰 계기: 지난 2016년 출시 하루 만에 서비스를 종료한 AI 챗봇 '테이'(성차별, 인종차별, 대량학살 옹호 발언 등이 나타나면서 서비스가 중단).

이후 MS는 AI 개발 전 단계에 대해 모니터링과 필요 시 비판을 제기하는 사내 자문 그룹인 '에터 위원회(aether committee)'을 운영.

신뢰 가능한 AI를 구현하기 위한 요건.

• 공정성: AI가 차별적으로 기술의 혜택을 제공하지 말아야 한다는 것(얼굴인식으로 예를 들면 백인에 대해서만 더 높은 정확도를 보이는 등의 사례).

• 신뢰성, 안전성: AI가 학습하는 데이터 및 올바른 동작 여부를 지속적으로 모니터링하면서 확보할 수 있는 가치(공개적으로 데이터 수집이 이뤄져야 하고, 정보 주체가 정보의 사용 목적을 명확히 인지하고 정보 제공 여부를 선택할 수 있어야 한다. 비식별화도 제대로 처리돼야 한다.)

• 포용성: 특정 집단을 배제하지 않도록 기술을 구현하는 것(기술 분야의 경우 특히 장애인을 충분히 포용할 수 있도록 고려).

• 투명성: AI의 의사결정 방식을 사람이 알 수 있어야 함(직원 채용 면접에 쓰이는 AI가 이를 지원하지 못할 경우 공정성 문제).

• 책임성: AI의 작동 방식에 대해 책임을 져야 한다는 것(기술 개발 기업의 경우 내부 심사위원회 운영 등의 노력을 고려).

바람직한 AI 규제는 반드시 필요하고, 이는 결과적으로 데이터 경제의 촉매제로도 기여할 수 있음.

AI 개발에 대한 핵심적인 질문은 '어떤 것을 만들 수 있는지'가 아닌, '인류를 위해 무엇을 할 수 있는지'.

# 느낀점: 이 기사를 읽으며 가장 마음에 들었던 말은 마지막에 적은 AI개발에 대한 핵심적인 질문이다. 너도나도 AI개발에 참여하는 이 시점에서 중요한 질문인 것 같다. 정말 생활 곳곳에 SW가 안들어간 곳이 없으며, 점점 AI를 도입하고 있는 추세이다. AI는 이점이 있는 만큼 파급력도 크다. 올바른 방향이라는 표현이 맞는지는 모르겠지만, AI를 올바른 방향으로 개발한다면 많은 사람들이 편해지고 도움이 될 것이다. 하지만 위에서 언급한 신뢰가능한 AI의 요건에 충족하지 않는 것을 개발한다면 파급력이 큰만큼 피해를 보는 사람이 상당할 것이다.
따라서 개발자라면 이에 대해 인지하고 있는 것이 필요할 것 같다. 

# 참고: zdnet.co.kr/view/?no=20210430112914

'얼굴인식' 기술 강자 MS, 제품은 안 만드는 이유