Abstract 부분을 읽으면, 이 논문은 인공지능의 엄청난 성장을 인정하면서도, 여전히 수학적 계산을 기반으로 한 기계의 '지능'은 복잡한 목표를 달성하는 능력이라는 정의에 기반하면 우수하지만 사람의 의식적 기능을 모방할 뿐이며, 인간의 뇌와 기계의 차이가 있음을 주장한다.
Introduction
~~ ChatGPT와 같은 현재 수준에서 가장 뛰어난 인공지능이 AGI(Artifitial General Intelligence), 즉 인간의 사고 수준에 도달하고 이를 능가할 수 있는지 여부에 대한 관심이 높다. AI가 가는 목표점(이정표)를 "특이점(singularity)라고 부르기도 한다. ~~
[필자의 주장]
기계가 인간의 지능 수준을 능가했다는 증거에는 심각한 방법론적 문제가 있다. 이를 증명하기 위해서는 인간이 생각할 수 있는 모든 목표에 대한 기계가 더 나은 성능을 달성했다는 증거가 필요하다. 지금까지 이는 특정 목표를 위해 인간 전문가와 기계의 직접적인 경쟁을 통해 달성했다. (체스, 바둑 등) 그러나 이러한 접근 방식은 셀 수 없니 많은 상황이 있으므로 적합하지 않다. 따라서 다른 방법론이 제시되지 않는 한 AGI에 도달했는지 여부를 입증하기는 어렵다.
기계가 AGI에 달성했다는 것을 입증하기 위해서는 인간이 사고하는 모든 분야에서 뛰어나야 하는데, 각 분야의 전문가 vs 기계 이런 방식으로 테스트를 해서 입증하기에는 분야가 너무 많음! 즉, 입증하는 방법론적 한계가 있다는 것
우선 지능에 대한 정의가 필요하다.
- Max Tegmark: 복잡한 목표를 달성하는 능력
- 옥스퍼드 사전: 지식과 기술을 습득하고 적용하는 능력
- Nobel Week Dialogue 2015: 문제 해결, 학습, 논리 및 계획 능력
[필자의 주장]
'복잡한 목표를 달성하는 능력'이라는 정의는 기계에 적합하지만, 인간 사고의 본질을 포착하지는 못한다. 장치나 엔지니어링 관행의 집합으로 정의될 수 있는 기술에 적합한 정의이다!
Understanding
지능의 정의에 대해서 이어서 설명한다.
[필자의 주장]
논증적으로는 Tegmark의 주장이 타당하더라도, 인간의 이해는 기계의 이해와 다르며 이는 기계가 인간보다 우월할 수 있는 목표의 유형(types of goals)에 심각한 영향을 미친다는 점을 유의해야 한다. 예를 들어, 기계 번역 분야에서 방대한 데이터를 학습한 뒤, 왕-왕비 쌍과 남편-아내 쌍이 유사한 특징을 갖는 다는 것을 이해(understand)할 수 있지만, 컴퓨터에 의해 확립된 관계 유형은 인간의 연상을 통해 확립된 관계와는 완전히 다른 성격을 갖는다.
Conscious and unconscious associations establish relations on the basis of deep understanding of the underlying constituent parts, whereas the computer does not understand the meaning of these parts.
Joseph Sifakis는 'AI를 통해 얻은 관계가 예측 가능성을 제공하지만, 뇌에서 생성된 과학적 지식과 달리 기본 프로세스에 대한 이해를 제공하지 못한다'라고 지적했다. 예를 들어, 컴퓨터는 언어와 관련해서 의미론적인 관계가 아닌 구문론적 관계를 형성한다. 이러한 이해는 인간을 속여서 사람과 대화하고 있다고 생각하게 할 만큼의 정교한 답변이 가능할 지에 대한 의문을 제시한다.
Implementation
목표를 실행하는 과정은 기계와 인간 사이에 분명히 큰 차이가 존재한다.
The embodied brain shares with artificial circuits the ability to store and process information, but in addition, the brain creates subjective experiences. An individual, while achieving a particular goal feels in a unique way an embodied fulfillment.
인간의 뇌는 정보를 저장할 뿐만 아니라 '주관적인 경험'도 생성함
Kasparov가 말한 '적어도 인공지능은 나를 이기는 것을 즐기지 않았다'에 따르면, 'emotional intellifence'와 'self-awareness'는 앞서 언급된 지능의 정의에 포함되지 않은 것이다.
이러한 인간의 근본적인 감정적 지능은 진화 과정의 목표와도 연관이 있으며, 인간의 지능은 매우 광범위한 유형을 갖는다. 또한 유기체는 특정 유형의 정보를 수신하기 위해 외부 에이전트에 의해 프로그래밍될 필요가 없고, 환경으로부터 직접 정보를 받을 수 있는 능력을 가지고 있다.
Creativity
필자는 다시 한 번 인간의 지능은 '복합한 목적을 달성하는 능력'이라는 것으로는 정의될 수 없음을 말하며, 지능의 가장 중요한 구성 요소인 '창의성(Creativity)' 을 살펴보면 더욱 명확해진다고 말한다.
creativity is not defined in terms of achieving a specific goal. On the contrary, it is measured by the distance of the final unexpected achievement from a starting vague idea. Indeed, the defining property of creative individuals is their capability of establishing far remote associations and generating completely unexpected relations between different topics. These topics had appeared until that point so distinct, that no one had thought of posing the goal of establishing a connection between them. As stated repeatedly in (3), the process of establishing such remote associations is mostly unconscious and therefore much more difficult to be “programmed.” In this sense, it can be claimed that the origin of human creativity is nonliteral and nonalgorithmic, rather, it is largely metaphorical, imaginative, and transcendental.
창의력은 기억 혹은 지식 저 한편의 것과 다른 한편의 것을 끄집어 내서 예상하지 못한 관계를 만들어내는 능력을 의미함. 거의 무의식에 가까운 수준에서 일어나기 때문에 프로그래밍하기는 너무 어려움.
선험적으로 정의된 목표나 전제 조건이 적을 수록, 기존의 것의 영향을 덜 받으므로 창의성은 높아진다. (예술 분야를 예시로 확인할 수 있음) 이는 수학이나 과학에서도 마찬가지이다.
- 수학
- 뇌전도(EEG)라는 영상 기법: 특정한 정신적 과정이 고유한 형태의 뇌 활성화와 연관되어 있으며, 이는 특정 신경 전류의 발생을 통해 나타난다는 사실에 기반을 두고 있음. 이 전류는 두피에서 측정할 수 있는 전위를 생성하며, EEG를 통해 측정된 전위를 바탕으로 신경 전류를 계산하는 “역수학 문제”가 도출됨. 이 문제를 해결하는 일반적인 알고리즘이 도입되었으며, 이 알고리즘을 수치적으로 구현하려면 특정 보조 함수를 계산해야 함. 이 명확한 목표는 두 층 신경망을 훈련시켜 달성할 수 있는데, 이는 머신러닝의 중요성을 또 다른 방식으로 보여줌
- 린델뢰프 가성에 의한 저자의 작업: 역사적 문제에 대한 새로운 접근 방법을 도입했는데, 이 접근 방법의 핵심 단계는 리만 제타 함수가 만족하는 새로운 항등식을 유도하는 것이다. 이러한 예상치 못한 항등식은 특정 목표의 결과물이 아니라, 리만 제타 함수를 더 큰 수학적 체계에 포함시키고자 하는 저자의 모호한 아이디어에서 비롯된 무의식적인 과정의 결과였다.
완벽하게 이해는 못했지만... 수학적 기법을 사용할 때에도 완벽하게 딱딱 맞춰서 모든 기법과 공식을 적용하는건 아니고, 무의적인 과정을 통해 정의되는 경우가 있다... 정도로 이해하면 될까?
- 과학: 특히 물리 분야에서, 어떤 것을 조사하러 갈 때, 무엇을 발견하게 될 지 미리 정해서는 안되고, 있는 그대로를 봐야한다!
From platonism to AI
AI는 수학, 알고리즘, 그리고 일반적으로 합리성의 정점을 제공한다. 이런 의미에서 그것은 플라톤주의의 핵심 요소에 대한 가장 강력한 지지를 나타낸다.
- Fokas: 플라톤은 이성에 대한 과도한 의존으로 인해 이론적 구성, 특히 그의 형식(Forms)을 현실(Reality)보다 높이게 되었다. 예를 들어, 플라톤에 따르면 별은 궤도보다 덜 중요한데, 그는 별은 직접적으로 관찰할 수 있기 때문에 '신뢰할 수 없는 감각'에 의해 수집된 잘못된 정보에 취약한 반면, 별의 궤도는 '완전한 이론적 추론'을 통해 추론할 수 있다고 주장했다. 합리성의 중요성을 궁극적인 한계까지 밀어붙인 플라톤은 유일한 '진정한 현실'은 특정 합리적 구성으로 구성된다는 잘못된 결론에 도달했다. 실제로 그에 따르면 그의 육체에서 벗어난 형상은 '사물의 본질'인 반면, 감각적 경험은 단순히 '현실의 그림자'이다.
실제로 육체적 감각을 통해 얻은 정보는 잘못될 수 있고(감각을 믿을 수 없기 때문에) 육체를 벗어난, 사고를 통한 이론적 추론이 사물의 본질이자 합리적인 것 (???)
일부 학자들은 구체화된 뇌(embodied brain)와 그와 관련된 놀라운 과정보다 환원주의(reductionism)과 계산 가능성(computability)를 높였다. 이들은 모든 현상을 적절한 구성 요소로 축소하여 완전히 이해할 수 있으며, 이를 강력한 컴퓨터로 시뮬레이션할 수 있다고 주장한다.
- John McCarthy: 학습이나 지능의 다른 모든 측면은 원칙적으로 기계가 시뮬레이션 할 수 있을 정도로 정확히 기술될 수 있다
Rodney Brooks(MIT 로보틱스 전문가)는 유물론적 환원주의자로서 동의~했지만, 이후 주장을 반박하면서 현재의 계산적 접근법이 불충분하다고 인정한다. 그는 '사물을 정보의 운유로 밀어 넣을 때, 우리가 뭔가를 놓지고 있는 것은 아닐까?(if we are pushing things into the information metaphor, are we missing things?)' 라는 질문을 한다. 그리고 평면동물(flatworms)을 대상으로 한 몇 가지 행동 실험을 검토한 후, 유기체의 뉴런은 현재의 AI 계산과 달리 적응력이 있음을 언급한다. 이후 계산과 미적분과 관련된 발견들이 어느 정도 자연스럽게 이루어진 것과 달리, 양자 역학과 일반 상대성 이론은 매우 특별한 '개념적 도약'이 필요했다는 점을 지적하며, 더 나은 정보 은유를 제공할 수 있는 것이 있을지에 대한 질문을 던진다.
현재의 AI 접근 방식이 뇌의 복잡한 적응성이나 신경과학적 현상들을 충분히 반영하지 못하고 있으며, 이러한 한계를 극복하지 위해 새로운 정보 은유나 접근 방식이 필요함 -> 정보 은유가 정확히 뭐지?
- Spinosa의 'conatus' 개념
진화 생물학에 따르면, 의도성(intensionality)은 국소 수준에서 시작되는데, 모든 개별 진핵 세포는 환경의 메세지에 반응하고 그에 따라 적응하여 생존할 수 있는 능력을 가지고 있음을 의미한다. 이 능력의 전 세계적인 발현은 Spinosa의 conatus로 설명되는데, conatus는 생명체가 자신의 존재를 유지하려는 경향을 의미한다. 의도성은 적응에 의해 촉진되며, 이는 적응할 수 없는 기계 시스템과 관련하여 또 다른 근본적인 차이점을 제공한다.
conatus는 생명체가 자신의 존재를 유지하려는 경향(자신의 존재란...?)을 의미하며, 이런 것이 의도성에 반영되는데, 기계는 이런 경향이 없으므로 적응성, 의도성을 갖지 못한다는 차이가 발생하는 것
필자는 AI가 인간의 뇌보다 우월하다고 주장하는 사람들은 대부분 물리학적 지식에 편향되었다고 주장한다. 물리학은 기본 법칙에 의해 예측 가능하고 불변이지만, 생물학적 진화 이론은 단지 생물학을 이해하는데 유용할 틀을 제공할 뿐, 예측 능력은 없다고 강조한다. 생물학적 진화는 '시행착오'를 통해 이루어지며, 기존의 구조 내에서 새로운 해결책을 찾는 방식으로 작동하는데, 이로 인해 생물학에서는 동일한 작업이 서로 다른 매커니즘으로 수행될 수 있는 중복성이 자주 나타난다.
~~
이 부분 진짜 모르겠음. 생물학적 진화처럼 시행착오를 겪으며 경험치가 누적되는 현상이 특정 문제를 해결하기 위한 최적인 알고리즘으로 진화되었다... 즉, 기계는 이러한 알고리즘을 갖지 못한다? 경험치를 누적해서 연속성있는 사고를 하지 못하므로?
The embodied brain, laterization, and the role of the glia
요약하면, AI가 인간의 복잡한 사고 과정을 대체할 수 없다는 주장의 내용임
구체화된 뇌, 편측화 및 신경교의 역할...
위 세가지는 일반적으로 AI 지수에 의해 간과된다. 무의식적인 과정의 대부분은 뇌가 아닌 신체에서 시작된다. 실제로 뇌의 기본 기능은 뇌의 명백한 위상적 속성, 즉 뇌가 구체화되어 있다는 사실에 큰 영향을 받는다. (뇌가 구체화되어 있다는 것이란?)
뇌는 복합한 연결성을 가지고, 세 가지 주요한 연결 유형을 가진다. (사상피질 시스템과 같은 전역적 연결, 소뇌, 기저핵, 해마에서 발견되는 병렬적이고 단방향의 연결, 뇌간과 시상하부의 다양한 집합에서 시작되어 노의 큰 부분에 퍼지는 복잡한 확산형 연결)
또한 신경세포 외에도 중요한 역할을 하는 교세포(Glia cells)가 있는데, 이들은 단순히 뉴런을 지지하는 역할만 하지 않고, 다양한 물질을 분비하며 뉴런 네트워크에 직접적, 간접적으로 영향을 준다. 이로 인해 뇌의 가소성이 강화되고 학습과 기억에 중요한 역할을 한다.
인간의 사고는 의식적인 과정과 무의식적인 과정이 상호작용하여 이루어지며, AI는 이러한 과정을 모방하지 못한다. 또한 모든 의식적 경험은 무의식적인 과정에 선행되며, 무의식이 의식에서 넘어갈 때 정보의 손실이 발생한다.
결론: AI의 발전을 과대평가 하지 말고 자연의 위대함을 존중해라~!
