서울 웨스틴 파르나스에서 열린 2026 Global AI Frontiers Symposium에 다녀온 후기를 공유해본다.
Leslie Pack Kaelbling(MIT 교수), Noam Brown(OpenAI 부사장)의 오프닝 키노트와 함께 LLM & Agentic AI, Multimodal AI 등 다양한 주제의 트랙이 진행됐다. 모두 듣고 싶었지만 동시에 진행되는 트랙이 있어, 오프닝 키노트와 LLM & Agentic AI, Trustworthy, Safe & Governed AI 트랙에 참여했다.
1. 행사 개요
- 행사명: 2026 Global AI Frontiers Symposium
- 일시 / 장소: 2026.7.3.(금) / 서울 웨스틴 파르나스
- 주제: AI Beyond Intelligence: Into the Real World
2. Keynote
2.1. Rational Robots
Leslie Pack Kaelbling 교수는 ‘Rational Robots’라는 주제로 미래 로봇이 나아가야 할 방향을 제시했다. 특히 인상적이었던 점은 인간의 행동을 모사할 때 단순히 행동 궤적을 따라 하는 것이 아니라, 인간 동작의 궁극적 목표와 규칙을 추론해야 한다는 내용이었다.
시연 영상에서는 보스턴 다이내믹스의 4족 보행 로봇이 사용자가 잠든 밤에 스스로 환경을 리셋하며 ‘공을 치우는 연습’을 반복하는 모습이 나왔다. 로봇은 반복 연습을 통해 점차 완벽하게 공을 치웠고, 나중에는 사람이 중간에 방해해도 끝까지 공을 치우는 모습을 보여주었다. 로봇이 단순히 정해진 동작을 반복하는 것이 아니라, 목표 달성을 위해 환경 변화에 적응하는 모습이 인상적이었다.
2.2. Implications of Large-Scale Test-Time Compute
Noam Brown 부사장은 모델이 더 길게 추론하고 더 많은 후보를 탐색할수록 어려운 문제 해결 능력이 높아질 수 있다고 설명했다. 장기 실행 에이전트가 1~2주 동안 문제 해결을 시도한 사례도 언급했다.
긴 추론 시간으로 인한 지연은 멀티 에이전트 구조를 통해 완화할 수 있다는 대안도 제시했다.
또한 앞으로의 모델 평가는 단순한 성능 점수뿐 아니라, 모델이 사용한 토큰 양과 추론 비용을 함께 제시해야 한다고 주장했다. AI 안전성 평가 역시 제한된 계산량에서만 확인할 것이 아니라, 추론을 충분히 수행해 모델의 능력치를 끝까지 끌어올린 상황에서도 안전한지를 평가해야 한다고 덧붙였다.
작년까지만 해도 모델의 추론이 지나치게 길어지면 어느 순간부터 성능이 오히려 떨어진다는 연구를 본 기억이 있는데, 기술 발전 속도가 매우 빠르다는 점을 다시 느꼈다.
Track A: LLM & Agentic AI
Track A에서는 LG AI Research에서 발표를 진행했다. EXAONE이 LG의 다양한 계열사에서 화학, 금융 등 여러 분야에 활용되고 있음을 설명했다.
에이전트가 반복적 분석과 실행을 맡게 되면, 인간의 역할은 단순 처리 업무에서 승인, 감독, 설계로 이동할 것이라고 전망했다.
다만 발표가 기술적 인사이트를 깊이 있게 공유하기보다는 자사 모델과 활용 사례를 소개하는 데 다소 집중되어 있었다는 점은 아쉬웠다.
이어진 패널 토론에서는 현업에서 “AI가 왜 이 결론을 내렸는가”를 요구한다는 점을 어떻게 해결할 것인가에 대한 논의가 이어졌다. 현재 LLM 기반 에이전트는 내부 추론 과정과 의사결정 경로를 완전히 설명하기 어렵다는 본질적 한계가 있다.
앞으로 기업용 에이전트는 단순한 답변 생성을 넘어, 사용한 근거, 도구 호출, 중간 산출물, 승인 이력 등을 남기는 관찰 가능성(observability)이 중요하다는 의견이 제시됐다.
Track F: Trustworthy, Safe & Governed AI
Track F에서는 한국 AI 안전연구소 김명주 원장이 ‘국가 AI 위험 프레임워크’를 주제로 발표했다.
에이전트 시스템이 도입되면서 외부 도구, 데이터베이스, 결제 시스템, 업무 시스템과 연결될 때 피해 범위가 커질 수 있다는 점을 언급했다. 이를 방지하기 위한 방안으로 AI Risk Map을 제시했다.
AI Risk Map은 원인과 영향을 나누어 분석하는 방식이었다. 원인 측면에서는 위험 주체, AI 수명 주기, 결함 발생 영역을 살펴보고, 영향 측면에서는 피해 유형과 책임 정부 부처를 연결해 분석한다. 향후에는 다중 에이전트 시스템과 물리적 AI·로봇까지 계층별로 위험을 평가할 수 있도록 프레임워크를 고도화할 계획이라고 설명했다.
이어서 진행된 패널 토론도 흥미로웠다. AI가 학습한 개인정보나 저작물을 나중에 삭제할 수 있는지, 즉 기계 언러닝(Machine Unlearning)이 가능한지에 대한 논의가 이어졌다.
그러나 지식은 여러 개념이 복잡하게 얽혀 형성되기 때문에, 특정 요소 하나만 삭제한다고 해서 해당 지식이 완전히 사라지는 것은 아니라는 의견이 지배적이었다. 예를 들어 모델에서 개인의 나이 정보를 삭제하는 데 성공하더라도, 사진이나 다른 정보를 조합해 나이를 다시 유추할 수 있다.
또한 일상 속 에이전트의 권한을 어떻게 통제할 것인가도 주요 주제로 다뤄졌다. 예를 들어 AI에게 300달러 이하의 호텔을 예약하라고 지시했는데, AI가 임의로 사용자에게 ‘힐링’을 제공한다는 이유로 500달러짜리 호텔을 예약하는 식의 의도 불일치가 발생할 수 있다.
이러한 문제를 방지하기 위해 에이전트에게 어디까지 권한을 위임할 것인지, 어떤 제약을 둘 것인지 경계를 명확히 설정하는 일이 향후 중요한 과제가 될 것이라는 인사이트가 제시됐다.
결론
이번 행사를 통해 AI 에이전트의 성능을 어떻게 끌어올릴 것인지, 그리고 이를 어떻게 안전하게 활용할 것인지에 대한 다양한 인사이트를 얻을 수 있었다.에이전트가 길게 추론할 수 있도록 환경을 구축하되, 위임과 규제의 경계를 더 명확히 수립해야 할 것이다.
