신뢰

[ZDNet] '얼굴인식' 기술 강자 MS, 제품은 안 만드는 이유

# KeyPoint: 조장래 한국MS 전무 "AI, 속도감 있는 사업보다 올바른 방향성이 중요" "AI를 설계할 때 가장 중요한 측면 중 하나가 기술이 오용될 모든 가능성을 보완해내는 것이 기술 기업의 의무라고 인식하게 됐다" "MS는 AI 기술을 속도의 문제로 보지 않고, 천천히 나아가는 한이 있더라도 명확한 가이드라인과 좋은 의미를 담은 주제가 있어야 한다고 주장하고 있다" "AI가 인류를 위한 기술이 되지 못한다면 모두를 '디스토피아'로 몰아넣게 될 것으로 확신한다" "매우 느린 걸음으로 가고 있는 이유" "AI 기술은 생활 전반에 안착하고 나면 바람직한 가치를 훼손하는 모습이 발견되더라도 기술 도입 이전으로 복구하기가 힘들다" MS가 AI에 잠재된 부정적 영향을 중대하게 고려하게 된 가장 큰 계기..

[ZDNet] IBM이 내건 '신뢰할 수 있는 AI' 구축 조건 세 가지

# KeyPoint: "모델 이해·규제 준수·편향 감지 역량 갖춰야" 도브린 박사는 전체적인 모델 구조에서 신뢰성과 투명성을 갖춘 AI를 '신뢰할 수 있는 AI'로 소개했다. ▲결과가 도출된 과정을 공개적으로 설명할 수 있고 ▲편향되거나 불공정한 답을 도출하지 않으며 ▲AI 채택 기업의 비즈니스와 철학을 이해하고 ▲무결성을 갖춘 데이터를 엄격하게 통제함으로써 제공되는 AI를 뜻한다. 먼저 '모델 이해 역량'의 중요성을 강조. AI 메타데이터(데이터들을 정의하는 데이터)를 자동으로 캡쳐하고, AI가 결과 도출에 어떤 데이터를 사용했는지 추적할 수 있어야 한다는 것. 또 AI가 지속적으로 학습함에 따라 나타나는 AI 모델의 변화를 문서로 관리할 수 있어야 한다. '모델의 신뢰성 확보 역량'도 필요. 이는 A..