'인공지능에 투명성을 부여하는, 설명가능한 인공지능(XAI)'을 읽고

원문 링크 (원문 작성 일자 : 2021년 11월 29일 10:26)

[출처] 인공지능에 투명성을 부여하는, 설명가능한 인공지능(XAI) | 작성자 과학기술정보통신부

내용 요약

설명가능한 인공지능(eXplainable Artificial Intelligence, XAI)는 사용자가 알고리즘에 의해 생성된 결과와 출력 과정을 이해하고 신뢰할 수 있도록 하는 일련의 프로세스 및 방법이다. 기존 AI와 다른 점은 결과가 어떻게 나왔는지에 대한 설명이 뒷받침되어 사용자에게 결과가 나온 원리와 결과를 좀 더 이해하게 쉽게 만든다는 부분이다.
XAI의 핵심은 '설명하려는 대상(사용자), 설명의 정확성과 정밀도, 설명 내용과 범위(전체 모델인지 특정 의사결정인지)', 이 3가지이다.
XAI는 질병 진단, 기후 예측, 데이터 위조 등 다양한 방면으로 활용이 가능하며, 여전히 활발하게 연구되고 있는 분야이다.

XAI에 대해 더 알아보고 싶다면...

1. Channel DeepFindr - Explainable AI explained!
2. Google Cloud의 AI Explanations 제품과 함께 제공되는 기술 참고 자료
3. 도서 : XAI 설명 가능한 인공지능, 인공지능을 해부하다 (2020)