Intro
최근 '고전에 길을 묻다'라는 수업의 에세이를 작성하던 중, 관련 자료를 찾다가 컴퓨터 깊은 곳에 저장된 2022년의 글을 다시 꺼내 보게 되었다.
반수를 통해 서울대학교에 오기 전, 고려대학교 1학년 재학 당시 '자유정의진리(자정진)'수업 과제로 제출했던 글이다.
당시 나는 IPA와 같은 대화 알고리즘이 아무리 정교해도 인간의 자의식과는 본질적으로 다르다고 생각했다. 지금 돌이켜보면 이 고민이 현재 나의 '뉴로모픽 시스템'과 'Physical AI', 그리고 이를 위한 '인문학적 모델링'에 대한 탐구로 이어진 시작점이었던 것 같아 여기에 기록해 둔다.
1주차 주제 : 알파고와 코기토 (2022.03.15)
Q : IPA 대화 알고리즘 체계를 인간의 자의식과 같다고 볼 수 있는가?
A : IPA 대화 알고리즘 체계를 인간의 자의식과 같다고 보기는 어렵다고 생각한다.
2016년 펼쳐졌던 알파고와 이세돌 9단 간의 바둑대국 이후 인공지능에 대한 대중의 관심은 폭발적으로 증가했다. 이에 발맞춰 다양한 IT 기업들이 음성 AI 서비스를 제공하기 시작하였고 이러한 대화 시스템은 스마트폰의 뒤를 이을 차세대 인터페이스 또는 플랫폼으로 부상되고 있다. IPA 기술은 발전을 거듭하여 미래에는 마치 인간과 같이 자의식을 가지고 있는 것처럼 인간과 대화할 수 있는 수준까지 발전될 것이라는 예측도 나오고 있다. 여기서 본질적인 질문이 등장한다.
고도로 발달하게 될 IPA 대화 알고리즘 체계를 인간의 자의식과 같다고 볼 수 있는가?
이러한 질문은 중국어 방 논증과 유사한 부분이 있다고 생각한다. 중국어 방 논증은 본래 튜링 테스트를 부정하기 위해서 고안된 사고실험이지만, 오히려 튜링테스트의 논리적 기반을 더욱 탄탄하게 해 주었다. 요점은 어떤 시스템이 중국어를 완벽하게 구사할 수 있다면, 그 과정이 무엇이 되었던 간에 그 시스템은 중국어를 할 수 있다고 봐야한다는 것이다. IPA 시스템은 인간과 인지적/정서적 상호작용을 할 수 있고, 그 완성도가 높아져 인간과 구별할 수 없는 수준까지 발전하게 된다면 그 시스템이 정말 인간의 말과 감정을 이해했는지 여부는 중요하지 않을 수 있다. 애초에 인간끼리의 대화 과정에서 이루어지는 논리적 이해와 감정 역시 어떻게 이루어지는지 정확히 파악하지 못하고 있다.
또, 사전에 정해져 있는 불변의 논리체계를 이용하여 결과값을 뱉어내는 1단계 알고리즘 체계와는 달리 연계주의(2단계) AI의 경우, 학습을 시킬수록 재귀적으로 논리체계와 조직을 변형시켜가며 성장하는 모습을 보여준다. 즉, 인간(자의식을 가진 생명)의 고유한 특성이라고 여겼던 창발성이 나타나면서 고도로 발달된 IPA 대화 시스템의 경우 자율적으로 사용자와 인지적/정서적 상호작용을 하는 존재라고 볼 수 있다.
그럼에도 불구하고 나는 IPA 대화 체계를 인간의 자의식과 같다고 보긴 어렵다고 생각한다.
가장 근본적인 원인은 이러한 시스템이 인간과 유사한 육체를 지니지 못했기 때문이다.
인간의 자아는 결국 뇌 시냅스의 전기신호의 집합에 의해 나타나는 것이므로 자아는 결국 육체에 포함되어 있는 것이라고 생각한다. 다만 설명의 편의를 위해 자아와 육체를 구분하여 서술하면, 인간의 자아와 육체의 관계는 IPA의 소프트웨어와 하드웨어의 그것보다 훨씬 더 긴밀한 관계를 이루고 있다. 예를 들어 손가락이 절단된 사람의 경우 그 손가락을 관장하는 뇌의 부위가 다른 사람에 비해 기능이 퇴화된다. 또, 몸에서 떼어놓지 못하고 계속 지니고 있는 물건이 있는 경우 그 물건까지 신체의 일부로 인식하는 경우도 있다. 운동을 배우는 행위도 그 자체로 뇌의 시냅스 연결이 강화되기 때문에 이후에는 비슷한 자세를 자연스럽게 취할 수 있게 된다. 이렇듯 인간의 자의식과 육체는 쌍방향적으로 영향을 주고받는 관계라고 할 수 있다.
반면 IPA의 경우는 육체라고 부를 만한 것을 갖추기 못했거나 단순히 입/출력 장치에 불과한 것들이다. IPA의 학습은 오직 사용자의 입력에 의해서만 이루어지며, 장치의 변화가 IPA 소프트웨어에 어떠한 변화를 가져오거나 기기가 학습한다고 하드웨어적인 장치에 어떤 변화가 일어나지 않는다.
또, 이러한 육체의 부재로 인해 IPA는 오직 사용자와 인지적 상호작용을 할 뿐, 그 외 세계와 어떤 인지적 상호작용도 하지 못한다는 한계가 있다. 많은 학자들이 자의식의 기원 과정에서 시각이 굉장히 큰 역할을 했을 것이라 생각하고 있다. 이는 시각이 세상에 대한 맥락과 깊이를 제공하고 세상의 투영을 지적 생명체 스스로 만들어내면서 어떤 물건을 직접 인지하지 못하더라도 그곳에 있다고 생각할 수 있는 객체의 영속성을 깨우치는데 중요한 역할을 하기 때문이다. 이는 시간의 개념을 이해하는 것으로 이어진다. 즉, 자의식의 발달은 세계와의 상호작용을 통해 이루어지는데, IPA의 경우 육체의 부재로 인해 이러한 것이 불가능하므로 인간의 자의식과 근본적으로 차이가 있다는 생각이다.
추가적으로 IPA 대화 시스템과 인간의 자의식은 그 시냅스(전기신호)의 복잡도에서 차이가 난다고 생각한다. 단순히 수치적으로만 봐도 인간의 뇌는 약 1000억개에 달하는 뉴런이 1000조개의 연결을 통해 1초당 최대 1000번씩 연결을 주고받는다. 뿐만 아니라 수많은 호르몬들은 뇌의 기억이나 감정을 변화시키기도 한다. 이러한 과정을 컴퓨터 연산으로 처리하기 위해서는 지구상에 모든 데이터 저장소를 합친 것보다 더 많은 용량이 필요하다. 즉, 가까운 미래 안에 인간의 뇌와 비슷한 복잡도를 가진 인공지능 시스템이 등장하는 것은 불가능하다.
결론적으로 자아는 결국 인간이 느끼는 모든 감각과 육체 즉, ‘나’를 구성하는 것들이 한데 모여 구성된다. IPA 대화 시스템은 육체의 부재와 그 복잡도에서 인간의 자의식과는 본질적으로 차이가 있다. 인간이 무엇인가를 정의하는 것은 사회적 의미가 더 크다고 생각한다. 인간을 정의하는 것은 어디까지 인권을 보장해 줄 것이냐는 문제로 귀결되기 때문이다. 인권은 인간의 합의를 통해 도입된 개념으로 그 근거로 보통 천부인권이나 상호 이득의 협정이 제시된다. 하지만 천부인권은 합리적이지 않다는 비판을 받고, 상호 이득의 협정으로 설명하면 자의식이 없는 태아나 지적장애인의 경우 인권을 보장해주어야 하는 이유에 대해 설명하기 어려워진다. 즉, 인간의 정의는 현재로서는 사회적으로 이루어진 합의에 의존하고 있으며, 이는 시대에 따라 달라지게 될 것이다.
개인적인 생각으로는 현재의 IPA 시스템을 포함한 모든 인공지능은 인간과 비슷한 수준의 자의식을 가지고 있다고 보기는 어려우며, 인간 수준의 자의식을 가진 인공지능이 가능한 지 여부도 알 수 없다. 하지만, 인공지능이 훗날 인간이라고 인정받기 위해서는 인간 수준의 자의식을 가진 존재여야 할 것이고, 그렇기 위해서는 환경과 상호작용을 할 수 있는 육체가 존재해야 할 것이라고 생각한다. 자의식은 육체과 결코 분리해서 존재하는 것이 아니다. 훗날 육체를 가지고 인간의 뇌와 비슷한 수준의 충분히 복잡한 연산을 하는 인공지능이 등장한다면 이러한 사회적 합의가 다시 이루어질 것이라고 생각한다.
2026년의 회고
이 글을 썼던 2022년 초는 GPT-3.5 붐이 일기 전이라 AI가 지금처럼 그렇게 핫하던 시기는 아니었던 것으로 기억한다. 솔직히 말해 Gemini나 ChatGPT 같은 LLM 모델이 이렇게까지 빠른 시간 안에 발전할 수 있을 것이라곤 예상하지 못했다. 요즘 모델들을 보면 말도 너무 잘하고, 어려운 문제도 잘 풀고, 복잡한 task를 찰떡같이 알아듣고 척척 처리해내는 걸 보면 정말 놀랍다.
하지만 아직도 Next AI를 위해서는 육체가 필요하다는 근본적인 생각은 변함이 없다.
돌이켜 보면 나는 옛날부터 '뇌'와 인간의 '인식'에 대한 논의에 큰 흥미를 느꼈던 것 같다. 그래서 자정진 수업도 재미있게 들었고, 과제를 할 때도 꽤나 시간을 투자해서 다양한 자료를 찾아보며 공을 들였다.
그러한 관심이 이어져 서울대에 온 뒤에는 '철학개론' 수업을 듣기도 했다. 이때 칸트의 《순수이성비판》을 읽게 되었는데, 내가 막연하고 어렴풋하게 느꼈던 그 '결핍'의 정체를 칸트가 이미 수백 년 전에 완벽하고 치밀한 논리로 정립해 두었다는 사실을 깨닫고 엄청난 전율을 느꼈다.
어설픈 직관이 거인의 어깨 위에서 확신으로 바뀌던 그 경험이 지금 내가 생각하는 뉴로모픽 시스템과 Physical AI에서 '인문학적 모델링'이 중요하다는 생각의 뿌리가 되었다.
그때는 '다르다'는 것에 집중했다면, 지금은 '어떻게 하면 그 간극을 메울 수 있을까?'를 고민한다.
최근에 '고전에 길을 묻다'라는 수업에서 프로이트의 《꿈의 해석》을 읽고 있는데, AI에게 신체와 꿈을 부여하는 것이 그 열쇠가 될 수 있다는 흥미로운 아이디어가 있다. 이에 대한 생각은 다음 포스팅에서 정리해 보도록 하겠다.
