GPT가 해석해줌.
“그게 장난 전화가 아니라는 걸 어떻게 확신할 수 있었을까요?”
2024년 물리학 노벨상 수상자 제프리 힌튼은 캘리포니아의 한 호텔 방에서 이른 아침 스톡홀름으로부터 전화를 받았고, 여러 스웨덴 억양의 목소리가 그의 노벨 물리학상 수상이 실제임을 확신하게 도와주었습니다. 상 수상 사실을 알게 된 직후에 녹음된 이 인터뷰에서 그는 머신러닝의 현 상태, 안전 연구의 긴급한 필요성, 그리고 그가 제기하는 우려를 사람들이 더 진지하게 받아들이기를 바라는 마음에 대해 이야기합니다.
인터뷰 전문
제프리 힌튼(GH): 여보세요?
아담 스미스(AS): 안녕하세요, 제프리 힌튼과 통화 중인가요?
GH: 그렇습니다.
AS: 저는 노벨상 웹사이트의 아담 스미스입니다.
GH: 아, 예. 오래 전에 누군가가 수상자들의 반응을 듣기 위해 전화를 한다는 것을 알게 되었습니다.
AS: 맞습니다. 몇 분만 이야기 나눌 수 있을까요?
GH: 네.
AS: 정말 감사합니다. 우선, 진심으로 축하드립니다.
GH: 감사합니다.
AS: 어디에 계셨나요? 소식을 어디서 들으셨나요?
GH: 저는 인터넷 연결이 되지 않는 캘리포니아의 저렴한 호텔에 있고, 전화 연결도 좋지 않습니다. 오늘 MRI 스캔을 받을 예정이었지만, 취소해야 할 것 같네요. 제가 물리학 노벨상 후보에 올랐다는 사실조차 전혀 몰랐습니다. 매우 놀랐습니다.
AS: 어떻게 보면 소식을 받기에 꽤 적절한 장소인 것 같네요. 조금은 고립되어서 하루의 폭풍우 전에 생각을 정리할 수 있으니까요.
GH: 네. 하지만 지금 새벽 2시입니다.
AS: 아, 그렇군요. 죄송합니다. 아, 이런.
GH: 지금은 아마 새벽 3시일 거예요.
AS: 이 상황에서 다시 잠자리에 들 수 있을지, 아니면 긴 하루를 받아들여야 할지 모르겠네요.
GH: 네, 그렇게 침착하지는 못한 것 같아요.
AS: 완전히 놀라셨겠네요. 처음에는 어떤 생각이 드셨나요?
GH: 가장 먼저 든 생각은 이게 장난 전화가 아니라는 것을 어떻게 확신할 수 있을까 하는 것이었어요.
AS: 그리고 어떻게 확신하셨나요?
GH: 전화가 스웨덴에서 걸려왔고, 상대방이 강한 스웨덴 억양을 가지고 있었으며, 여러 명이 있었습니다.
AS: 그렇군요. 그렇다면 여러 명이 함께 장난을 치는 것은 아닐 테니, 그럴 가능성은 낮겠네요.
GH: 네.
AS: 자신을 어떻게 설명하시겠어요? 컴퓨터 과학자라고 하시겠어요, 아니면 이 작업을 할 때 생물학을 이해하려는 물리학자였다고 하시겠어요?
GH: 저는 자신이 어떤 분야에 있는지 정확히 모르는 사람이지만, 뇌가 어떻게 작동하는지 이해하고 싶어하는 사람이라고 말하고 싶습니다. 뇌의 작동 방식을 이해하려는 시도에서, 저는 놀랍도록 잘 작동하는 기술을 만들어내는 데 기여했습니다.
AS: 당신이 이 기술이 가져올 수 있는 것에 대해 공개적으로 우려를 표명하신 것은 주목할 만합니다. 당신과 다른 사람들이 표현하는 우려를 해소하기 위해 무엇이 필요하다고 생각하시나요?
GH: 저는 이것이 기후 변화와는 다르다고 생각합니다. 기후 변화의 경우, 모두가 무엇을 해야 하는지 알고 있습니다. 우리는 탄소 배출을 멈춰야 합니다. 그것을 실행할 정치적 의지와 큰 이익을 내는 대기업들이 그것을 원하지 않는 것이 문제입니다. 그러나 무엇을 해야 하는지는 분명합니다. 여기서는 앞으로 무엇이 일어날지, 그리고 그것에 대해 무엇을 해야 할지에 대해 훨씬 더 적은 아이디어를 가지고 있습니다. 만약 여러분이 이렇게 하면 모든 것이 괜찮아질 거라는 간단한 레시피가 있으면 좋겠지만, 저는 가지고 있지 않습니다. 특히 이러한 것들이 통제를 벗어나 지배하게 될 수 있는 존재적 위협과 관련하여, 저는 우리가 역사적인 분기점에 있다고 생각합니다. 앞으로 몇 년 동안 우리가 그 위협을 다룰 방법을 찾아내야 합니다. 지금이 바로 우리가 통제를 유지하는 방법에 대해 많은 사람들이 작업해야 하는 중요한 시기라고 생각합니다. 우리는 여기에 많은 연구 노력을 기울여야 합니다. 정부가 할 수 있는 한 가지는 대기업들이 안전 연구에 더 많은 자원을 투입하도록 강제하는 것입니다. 예를 들어, OpenAI와 같은 회사들이 안전 연구를 뒷전으로 미룰 수 없도록 하는 것입니다.
AS: 생명공학 혁명과의 유사점이 있나요? 그 당시 생명공학자들이 아실로마 회의에서 모여 잠재적인 위험이 있으니 우리가 스스로 이를 관리해야 한다고 말한 것처럼요.
GH: 네, 그와 유사한 점이 있다고 생각합니다. 그리고 그들이 한 일은 매우 훌륭했다고 생각합니다. 불행히도, AI의 실용적인 응용 분야가 생물학자들이 통제하려던 클로닝과 같은 것들보다 훨씬 더 많습니다. 그래서 훨씬 더 어려울 것이라고 생각합니다. 하지만 생물학자들이 한 일은 좋은 모델이라고 생각합니다. 그들이 합의를 이끌어냈다는 것은 인상적이며, 과학자들이 그것을 해냈습니다.
AS: 예를 들어, 대형 언어 모델의 경우, 사람들이 생각하는 것보다 이 모델들이 이해에 훨씬 더 가깝다고 생각하시는 것이 당신의 우려에 기여하는 것 같습니다. 이 분야에서 노벨상의 영향에 대해 어떻게 생각하시나요? 차이를 만들 것이라고 생각하시나요?
GH: 네, 차이를 만들 것이라고 생각합니다. 희망컨대, 이것이 사람들이 제가 말하는 것들을 더 신뢰하게 만들어, 이 모델들이 정말로 자신이 말하는 것을 이해하고 있다는 것을 믿게 되길 바랍니다.
AS: 사람들이 당신을 진지하게 받아들이지 않는다고 걱정하시나요?
GH: 촘스키에서 비롯된 언어학의 한 학파가 있는데, 이 모델들이 이해한다는 것은 완전히 터무니없으며, 우리가 언어를 처리하는 방식과 전혀 다르게 언어를 처리한다고 생각합니다. 저는 그 학파가 틀렸다고 생각합니다. 이제 신경망이 촘스키 언어학 학파가 만들어낸 어떤 것보다 언어를 훨씬 더 잘 처리한다는 것이 분명하다고 생각합니다. 그러나 특히 언어학자들 사이에서는 여전히 많은 논쟁이 있습니다.
AS: 다시 당신이 이 소식을 받은 상황으로 돌아가고 싶습니다. 한밤중의 호텔 방에서 이 소식을 들으셨네요. 어떤 면에서는 소식을 듣기에 다소 외로운 장소입니다. 함께 껴안고 축하할 사람도 없고요.
GH: 아뇨, 제 파트너와 함께 있습니다. 그녀는 매우 흥분하고 있습니다.
AS: 아, 그렇군요. 네, 그렇습니다. 그럼, 다시 한 번 진심으로 축하드립니다.
GH: 감사합니다.
AS: 안녕히 계세요.
GH: 안녕히 계세요.
“아직도 약간은 충격 상태입니다”
“아래에서부터 쌓아올려야 합니다.” 발표 직후 이 인터뷰에서, 존 홉필드는 이메일을 확인하던 중 상을 받았다는 소식을 어떻게 알게 되었는지 이야기합니다. "네 번째 이메일에 도달할 때까지 실감이 나지 않았습니다!" 영국의 셀번 마을에 있는 그의 오두막에서, 존 홉필드는 마음이 어떻게 뇌의 배선에서 비롯되는지와 같은 큰 질문을 다루는 방법에 대해 회고합니다. 그는 좋은 문제를 선택하는 방법, 머신러닝의 미래에 대한 그의 두려움, 그리고 학제 간 접근의 필요성에 대해 이야기합니다.
인터뷰 전문
존 홉필드(JH): 여보세요?
아담 스미스(AS): 아, 안녕하세요. 존 홉필드와 통화 중인가요?
JH: 네, 존 홉필드입니다.
AS: 아, 안녕하세요. 저는 노벨상 웹사이트의 아담 스미스입니다. 메리가 친절하게도 이 시간에 통화할 수 있도록 설정해 주셨습니다. 괜찮으신가요?
JH: 네.
AS: 지금 스피커폰을 사용하고 계신가요?
JH: 제 쪽에서는 어떠신가요?
AS: 아주 완벽합니다. 정말 좋습니다. 정말 감사합니다. 우선, 노벨상 수상을 진심으로 축하드립니다.
JH: 아, 감사합니다. 감사합니다.
AS: 메리가 오늘 당신이 햄프셔에 계시다고 말씀해 주셨습니다.
JH: 맞습니다.
AS: 노벨상 소식을 듣기에 꽤 좋은 장소인 것 같네요. 약간 숨겨져 있으니까요.
JH: 우리는 말하자면, 인구 천 명도 안 되는 작은 마을에 따로 떨어져 있습니다.
AS: 이런 바쁜 날에 고독을 즐길 수 있겠네요.
JH: 셀번 마을에는 다른 물리학자가 없는 것 같아서, 소식이 천천히 퍼져나가고 있습니다. 하지만 여기에는 거리 행진은 없습니다.
AS: 노벨상을 수상하셨다는 소식을 실제로 어떻게 알게 되셨나요?
JH: 아내와 함께 독감 예방 주사를 맞고, 어딘가에서 커피 한 잔을 하고 돌아왔는데, 컴퓨터에 전혀 예상치 못한 엄청난 이메일 목록이 있었습니다. 첫 두세 개의 이메일을 읽으면서, 노벨상이 있다는 것을 깨달았습니다. 정말 놀라웠습니다. 처음에는 노벨상을 발표했다는 것이었는데, 그가 노벨상과 저를 같은 문장에 연결하지 않았습니다. 그래서 누군가에게 수여된 노벨상에 대한 이메일이라고 생각했습니다. 세 번째 이메일쯤에 이르러서야 그게 저에게 온 것이고, 맨 위의 이메일들은 그냥 예고편이었다는 것을 깨달았습니다. 네 번째 이메일에 도달할 때까지 실감이 나지 않았습니다.
AS: 그런 티저들이 마음에 드네요. 상은 머신러닝과 인공 신경망을 가능하게 한 것에 대해 수여되었지만, 이 도구들을 만들기 위해 이 작업을 시작한 것이 아니라, 뇌의 배선으로부터 마음이 어떻게 발생하는지를 이해하기 위해 시작하셨다고 알고 있습니다.
JH: 맞습니다. 제 동기는 실제로 뇌가 작동한다는 것을 보고, 생각이나 의식 등을 이해하려면 뇌가 어떻게 작동하는지를 더 이해해야 한다는 것이었습니다. 그리고 그것이 어떤 식으로든 네트워크의 집합적 현상과 관련되어 있다는 것이었습니다. 그래서 저는 뇌의 기능에 대한 관심에서 하드웨어나 소프트웨어, 또는 웻웨어(wetware)가 어떻게 그런 것을 만들어낼 수 있을까 하는 질문으로 천천히 나아갔습니다. 저의 지식과 이해의 중심은 점차 물리학 중심에서 신경생물학적인 것으로 이동했습니다. 그리고 그 과정에서 AI, 네트워크, 신경망과 물리학 사이의 연결이 발전했습니다.
AS: 수년간 물리학의 렌즈를 사용하여 생물학의 여러 다른 질문들을 다루셨습니다. 어떤 것이 당신을 끌어들이고, 물리학자로서 어떤 것이 좋은 문제를 만드는지 궁금합니다.
JH: 네. 좋은 물리학 문제에서는, 잘 정의된 시스템이 있고, 개별적인 작은 부분들보다 더 견고한 방식으로 집합적으로 어떻게 작동할 수 있는지 이해할 수 있습니다. 처음부터 문제에 뛰어들어 "마음이 어떻게 작동하는지 이해하고 싶다"고 말하는 것은 아닙니다. 아래에서부터 쌓아올려야 합니다. 날씨를 연구한다면, 상호 작용하는 질소 분자들로 돌아가지 않고도 폭풍이 무엇인지 이해하고 싶다고 말할 것입니다.
적절한 수준의 질문을 가져야 합니다. 그리고 그 수준의 질문이 무엇이어야 하는지는 명확하지 않습니다. 여러 가지 작업을 시도하면서 손을 더럽히게 되고, 그것들이 성과를 내지 못할 수도 있습니다.
AS: 그렇군요. 물리학자들이 뇌나 의식에 관심을 돌린 긴 역사가 있다고 생각합니다. 프랜시스 크릭이나 돈 글레이저 같은 사람들 말이죠. 질문의 수준을 정확히 맞추는 것이 중요하지 않나요?
JH: 저는 예를 들어 돈 글레이저가 쓴 것들을 읽었는데, 그것들은 상상력 있는 물리학이지만, 생물학으로서는 그다지 훌륭하지 않습니다. 물리학에서 손을 뻗어 다다르고 싶은 것들에 도달할 수 있어야 한다는 합의가 있었지만, 그럼에도 불구하고 전체가 말이 되도록 충분한 생물학을 알아야 합니다. 그리고 실제로 공동체가 형성되도록 것들을 제시해야 합니다. 그 당시에는 그것을 깨닫지 못했지만, 제가 한 일의 중요한 것 중 하나는 물리학에서 온 사람들이나 생물학에서 온 사람들이 한 가지 작은 문제나 조각이 아니라, 어떻게든 함께 일하면서 이해를 얻기 위해 노력하는 공동체를 형성하도록 한 것이었습니다.
AS: 그렇습니다. 그것은 공동체를 촉진시켰고, 홉필드 네트워크는 사람들이 붙잡고 발전시킬 수 있는 엄청난 진전이었습니다. 공동 수상자인 제프리 힌튼은 머신러닝과 그 잠재력에 대한 그의 우려를 매우 공개적으로 표현하고 있습니다. 그의 우려에 동의하시나요?
JH: 네, 그의 우려에 동의합니다. 무언가가 매우 강력해 보이고 왜 그런지 이해하지 못할 때 항상 걱정하게 됩니다. 즉, 그것들을 어떻게 통제해야 하는지, 통제가 문제가 되는지, 또는 그들의 잠재력이 무엇인지 이해하지 못한다는 것입니다. 깊이 있는 수학으로 들어가면 작동할 것이라고 말하지 않고는 그것들이 어떻게 작동하는지 이해하고 설명할 수 없다면, 그것은 만족스러운 답이 아닙니다. 미시적인 물리학이 어떻게 더 큰 시스템의 흥미로운 특성을 발생시키는지에 대한 더 많은 이해를 하고 싶습니다.
AS: 이번 노벨상이 어떤 메시지를 전하기를 바라시나요? 말하자면 인공지능 분야에서의 첫 번째 상입니다.
JH: 저는 이 상이 부분적으로 마음과 같은 깊은 문제를 이해하는 것이 뉴턴 역학과 같은 간단한 방식으로 나오지 않을 것이라는 사실을 인정하고 있다고 생각합니다. 그것은 실제로 구조와 특성, 구조 역학과 특성 사이의 관계에 대한 훨씬 더 많은 이해를 필요로 합니다. 그리고 그것은 물리학의 일부, 화학의 일부, 생물학의 일부가 함께 모여 하나의 연구 분야를 이해하고 만들어내는 것입니다.
AS: 감사합니다. 아주 잘 말씀해 주셨습니다. 마무리하면서, 당신이 이 소식을 셀번에서 듣고 있다는 것을 깨달았습니다. 길버트 화이트의 "셀번의 자연사"의 주제였죠.
JH: 아, 당신이 길버트 화이트를 발견하셨군요! 잘하셨습니다.
AS: 하지만 셀번에게 노벨상이 그 중심에서 발표되는 것은 멋진 일입니다. 자연과학과 깊고 오래된 연관성이 있으니까요.
JH: 길버트 화이트는 예리한 관찰자였습니다.
AS: 네. 당신과 이야기하게 되어 정말 큰 기쁨이었습니다. 정말 감사드립니다. 다시 한 번 오늘의 소식에 대해 축하드립니다.
JH: 감사합니다. 아직도 약간은 충격 상태여서 저를 인터뷰하려는 것이 간단하지 않다는 것을 알고 있습니다.
AS: 충분히 이해합니다. 정말 흥미로웠고, 앞으로 모든 것이 정리되면 더 긴 대화를 나누기를 기대합니다. 감사합니다.
JH: 네, 안녕히 계세요.
AS: 안녕히 계세요.
