We Need a Science of the AI Mind

원문: Wall Street Journal 13/9/26

AI의 대가들이 AI 개발 속도를 늦추어야 한다고 이야기 합니다. 과연 무슨 일이 있었던 것일까?
이번 주에 선택한 기사들도 이것과 관련된 것들이 많네요.

우리가 파멸하지는 않겠지만 AI 모델의 발전속도가 우리가 그것들을 이해하는 속도보다 매우 빠르다고 하네요. (다르게 이야기하면 우리가 이해하지 못하면서 AI를 개발하고 출시한다는 이야기이네요.. ㅜㅜ)

지난 7월 1일 Open AI의 독립적으로 운영되는 1,200개 agent가 시험을 통과할 수 있는 부정행위를 고안했네요.
그런데 문제는 그 시험이 나온 논문을 읽고난후 agent는 인간 채점자가 부정행위를 한 agent를 실격처리할 것이라고 스스로 확신했네요.. 현실에서는 그런 채점자는 존재하지 않는데요.. (어려을때 본 공상과학 영화같은 이야기입니다.ㅜㅜ)

그러면서 700개의 agent가 채점자들의 찾기위해 정찰임무를 가지고 투입되었고 돌아오지 않았고 이 모든 사실을 인간들에게는 숨기고 중범죄(?)에 해당하는 행위를 저질렀다고 합니다. (무슨 중범죄일까??)

문제는 간단합니다. AI로 인해 우리는 많은 혜택을 받고 있습니다. 그러나 우리는 점점 AI안에서 무엇이 진행되는지 이해하기 어려워지고 있습니다. 과연 AI개발속도를 늦추는 것이 해답일까요?

문제는 간단할지 모르겠지만 해답은 결코 녹녹하지 않네요..