[ZDNet] IBM이 내건 '신뢰할 수 있는 AI' 구축 조건 세 가지

# KeyPoint: "모델 이해·규제 준수·편향 감지 역량 갖춰야"

도브린 박사는 전체적인 모델 구조에서 신뢰성과 투명성을 갖춘 AI를 '신뢰할 수 있는 AI'로 소개했다.
▲결과가 도출된 과정을 공개적으로 설명할 수 있고
▲편향되거나 불공정한 답을 도출하지 않으며
▲AI 채택 기업의 비즈니스와 철학을 이해하고
▲무결성을 갖춘 데이터를 엄격하게 통제함으로써 제공되는 AI를 뜻한다.

먼저 '모델 이해 역량'의 중요성을 강조. AI 메타데이터(데이터들을 정의하는 데이터)를 자동으로 캡쳐하고, AI가 결과 도출에 어떤 데이터를 사용했는지 추적할 수 있어야 한다는 것. 또 AI가 지속적으로 학습함에 따라 나타나는 AI 모델의 변화를 문서로 관리할 수 있어야 한다.

'모델의 신뢰성 확보 역량'도 필요. 이는 AI를 사용하는 기업의 정책과 기준, 역할 등을 정의하고 AI 모델을 검증하기 위한 규칙들을 자동화된 방식으로 집행할 수 있어야 한다는 것. 아울러 해당 산업계 규제도 준수할 수 있도록 모델을 구성해야 한다는 의미.

'모델 사용 역량'은 AI 모델을 사용하는 동안 발생할 수 있는 불공정이나 편향, 편견 등을 정의한 뒤 이를 감지하고, 감지된 내용과 관련해 지속적으로 모델을 수정가능. 또한 구축된 모델을 공유하고, 문서화해서 공개해 모델을 검증가능.

# 느낀점 : AI를 개발해야하는 입장에서는 당연히 고려해야할 능력인 것 같다. 개발함에 있어 있는 모델을 끌어다가 쓰는 행위는 옳지 못한 것 같고, 적어도 그 모델의 부분부분이 어떤 역할을 하는지와 이를 수정할 수 있는 능력을 갖춰야할 것 같다. 또한 이에 잘 못된 데이터가 들어갈 수 있으니 이를 점검하고 복구할 수 있는 능력도 필요할 것이다. AI를 개발하기 위해서는 생각할 것이 적은 것 같으면서도 꽤 많다. 다양한 요소를 고려하는 최고의 ML개발자가 되고 싶다.

# 참고: zdnet.co.kr/view/?no=20210223132121

IBM이 내건 '신뢰할 수 있는 AI' 구축 조건 세 가지