개발능력

[ZDNet] IBM이 내건 '신뢰할 수 있는 AI' 구축 조건 세 가지

# KeyPoint: "모델 이해·규제 준수·편향 감지 역량 갖춰야" 도브린 박사는 전체적인 모델 구조에서 신뢰성과 투명성을 갖춘 AI를 '신뢰할 수 있는 AI'로 소개했다. ▲결과가 도출된 과정을 공개적으로 설명할 수 있고 ▲편향되거나 불공정한 답을 도출하지 않으며 ▲AI 채택 기업의 비즈니스와 철학을 이해하고 ▲무결성을 갖춘 데이터를 엄격하게 통제함으로써 제공되는 AI를 뜻한다. 먼저 '모델 이해 역량'의 중요성을 강조. AI 메타데이터(데이터들을 정의하는 데이터)를 자동으로 캡쳐하고, AI가 결과 도출에 어떤 데이터를 사용했는지 추적할 수 있어야 한다는 것. 또 AI가 지속적으로 학습함에 따라 나타나는 AI 모델의 변화를 문서로 관리할 수 있어야 한다. '모델의 신뢰성 확보 역량'도 필요. 이는 A..