시험기간에 들어서서 쓸데없는 생각이 많이 듭니다. 이 시리즈는 공부하기 싫을때마다 머릿속에 떠도는 생각들을 마구 쓰는 시리즈로 맞춤법, 띄어쓰기 고칠 생각없이 그냥 나의 의식의 흐름을 내뱉을 예정입니다.
요즘에 나의 사고력이 떨어지는 것 같은 느낌이 자주 든다. 옛날에는 코드에 버그가 발생하면 코드를 뒤지며 문제를 찾았다면, 요즘에 cursor 같은 인공지능이 들어간 편집기에 질문 하나면 대부분의 문제를 해결해준다.
이는 코딩에만 국한된 이야기가 아니다. PDF한 페이지를 읽을 집중력도 점점 사라져가는 것 같다. 요즘에는 너무 긴 텍스트가 있으면, LLM에게 요약해달라고 부탁부터 해본다.
옛날에 읽었던 테드 창의 Exhalation에 이런 내용이 나온다
It turned out that we and the essayist were both half correct: now that she’s an adult, Nicole can read as well as I can. But there is a sense in which she has lost the ability to write. She doesn’t dictate her messages and ask a virtual secretary to read back to her what she last said, the way that essayist predicted; Nicole subvocalizes, her retinal projector displays the words in her field of vision, and she makes revisions using a combination of gestures and eye movements. For all practical purposes, she can write. But take away the assistive software and give her nothing but a keyboard like the one I remain faithful to, and she’d have difficulty spelling out many of the words in this very sentence. […]”
이게 과연 좋은 방향의 발전이 맞을까? 외부적인 요소에 의존하며 인간의 두뇌 자체는 할 수 있는게 많이 없어져도 괜찮은걸까?
쉴새없이 발전하는 기술을 바라보며 정말 많은 생각이 든다.
나는 의식적으로 내 손가락 하나하나를 움직이며 타자를 치고 있지 않다. 나의 두뇌의 일부가 나의 의지를 손가락의 움직임으로 변환하고 있을 뿐이다.
만약 내가 문장을 생각하면 자동으로 타자를 쳐줄 수 있는 칩이 나온다면, 사람들은 이를 우리의 지능을 낮추는 행위라고 생각하지 않을 것이고, 혁신으로 여겨질 것이다.
하지만 문장을 만들어내고, 의도를 언어로 변환해주는 LLM이 나와 사람들이 글을 쓰는 능력을 잃어버리는 현실이 다가오기 시작하면 이를 긍정적으로 바라보지 않는 사람들도 많을 것이다.
어느정도까지 고등한 사고를 외부로 옮겨야지 나를 잃어버리기 시작하는 것일까? 수학적으로 정의할 수 있는 한계점이 있을까? 아니면 흐릿한 경계일까?
이러한 사고를 따라가다보면 결국 하나의 질문으로 이어진다. 어디까지가 나일까?
손가락을 움직여서 타자를 치게 만드는 뇌의 부분은 나라고 정의할 수 있을까? 만약 그렇다면 우리의 호흡을 조절하는 호흡중추는 나일까?
어디까지를 "나"라고 정의할 수 있을까? 일단 지금 이 글을 쓰고 있는 사람은 내가 맞다. 하지만 만약 내가 LLM의 도움을 받아야지만 글을 쓸 수 있는 상태가 된다면, LLM도 나의 일부가 되는걸까?
만약 생각으로 직접 LLM을 조종할 수 있다면 어떻게 정의해야 할까. 이건 심지어 미래도 아니고 현재기술로도 간단하게 구현할 수 있다. 뉴럴링크의 두뇌 칩에 연결만 해주면 지금 당장도 만들 수 있는 기술이다. 만약 이렇게 직접적인 소통이 가능해진다면 이건 나의 일부인걸까?
어쩌면 인간의 뇌의 범위가 넓어지고 있는 듯한 느낌도 든다. 가장 중요한 사고는 뇌의 내에서 일어나고, 귀찮은 것들은 모두 외부에서 서브프로세스로 돌리며 더 많을걸 할 수 있을까?
하지만 세부적인 것을 모르는 사람이 과연 옳은 방향으로 이런 프로세스들을 이끌어나갈 수 있는지도 의문이다. 많은 직장내의 갈등은 리드가 생각하는 방향이 직접 세부적인 파트를 맡고있는 담당자가 생각하기에는 말이 안되어서 벌어진다. 세부적인 것을 모르고 큰 그림을 그릴 수 있을까?
사람 두뇌에 들어갈 수 있는 이해의 한계는 있을까? 만약있다면 다양한 외부 지능을 사용해서 더 늘리는 것이 가능할까 아니면 그래도 한계가 있을까.
