AI 어디까지 믿을 수 있을까?

ai_lim·2022년 3월 24일
0

Think

목록 보기
2/2


사람의 눈으로 보면 당연히 '판다'이다.
하지만 AI의 눈으로 보면 57.7% 의 확률로 판다라고 결정을 내린다.
거기에 노이즈를 섞어준다면?? 99.3% 의 확률로 긴팔원숭이라고 결정을 내린다.

AI는 왜 이렇게 답을 내렸을까??

답은 알수없다.
어떤 과정을 통해 그런 답을 내렸는지는 블랙박스처럼 깜깜히 쌓여있다.

정답률이 100%가 아니고, 정답을 맞추더라도 풀이과정을 알 수 없는 AI를 무조건적으로 믿을 수 없기에 우리는 AI의 작동 매커니즘을 규명하려는 시도들을 하고있다.


NVIDIA의 자율주행시스템 내부이다. 사람이 운전할 때 무엇을 집중해서 보는지 분석하여 망이 어떤 것에 포커스를 집중하고있는지 시각화를 한 것이다. 자동차, 차선, 표지판 등에 집중을 한 것을 볼 수 있다. 이렇게 보여줌으로써 자율주행이 안전하다는 것을 사람에게 설명할 수 있어야한다.

이를 XAI(explainable AI)라고하며 다음 포스팅에서 살펴보도록 하겠다.

0개의 댓글