얀 르쿤, 학계에 “LLM 연구는 절대 하지 말라”

얀 르쿤(Yann LeCun)은 수년째 AI 업계에 대규모 언어 모델(LLM)은 우회로에 불과하다고 말해 왔다. 최근 X에서 화제가 된 강연 영상에서 튜링상 수상자인 그는 경고의 대상을 더 작고 취약한 집단, 즉 대학 연구실의 연구자들로 좁히며 더는 단서를 달지 않는다.

“LLM 연구는 하지 마세요. 적어도 학계에 있다면 LLM 연구는 절대 하지 말아야 합니다. 여러분이 기여할 수 있는 건 아무것도 없습니다. AI 분야에서 실질적인 진전을 이루고 싶다면, 현실 세계에 발 딛은 AI, 말하자면 물리적 AI에 관심이 있다면 LLM은 연구하지 마세요. 생성 모델도 연구하지 마세요.”

그는 5월 29일 ETH 취리히에서 열린 ‘Frontiers of Embodied AI’ 강연 시리즈에서 ‘World Models: Enabling the Next AI Revolution’이라는 제목으로 강연하며 이 말을 했다. AI 해설가 로한 폴(Rohan Paul)은 이번 주 이 영상을 르쿤의 ‘최신 강연’이라며 공유했지만, 실제로는 네 달 전 영상이다. 이어진 말에 청중은 웃음을 터뜨렸다. “아마 짐작하시겠지만, 이런 말을 하면 실리콘밸리에서 인기가 별로 없습니다.” 그의 뒤편 슬라이드에는 ‘동료 AI 과학자들에게 드리는 제안’이라는 제목 아래 마지막 문장이 붉은 대문자로 적혀 있다. “인간 수준의 AI에 관심이 있다면 LLM은 연구하지 마세요.”

전반부는 컴퓨팅 자원에 관한 이야기

도발적인 표현을 걷어 내고 보면, 학계에 건네는 조언의 핵심은 경제성이다. 대규모 언어 모델의 발전은 소수의 기업만 감당할 수 있는 컴퓨팅 클러스터에서 대규모 학습을 거듭해야 가능하다. 예산으로 승부가 갈리는 경쟁에서 박사과정 학생이 보탤 수 있는 것은 많지 않다. ‘기여할 수 있는 게 없다’는 말이 실제로 뜻하는 바다. 르쿤은 오래전부터 같은 주장을 해왔다. VentureBeat의 보도에 따르면, 그는 2024년 파리에서 열린 VivaTech에서 차세대 AI를 만들고 싶어 하는 학생들에게 LLM은 대기업의 영역이라고 말했다.

슬라이드에는 대신 무엇에 시간을 쏟아야 하는지도 나와 있다. 생성 모델 대신 공동 임베딩 아키텍처, 확률 모델 대신 에너지 기반 모델, 대조 학습 방식 대신 정규화 기법을 택하라는 것이다. 강화학습 대신 모델 예측 제어를 활용하고, 세상이 예측대로 움직이지 않을 때 계획을 수정하는 용도로만 강화학습을 남겨두라고도 한다. 이런 아이디어는 비교적 소박한 하드웨어로도 시험해 볼 수 있다. 대학 연구실이 여전히 우위를 점할 수 있는 분야가 바로 여기다.

후반부가 진짜 도발이다

“생성 모델도 연구하지 말라”는 말은 챗봇을 비판할 때 흔히 나오는 주장보다 훨씬 더 나아간다. 다음 단어나 픽셀을 예측해 지능을 구축한다는 발상, 즉 생성 자체를 거부하기 때문이다. 이 때문에 르쿤은 흔히 자신과 같은 범주로 묶이는 물리적 AI 분야의 상당수와 대립하게 된다. 지난주 AMD는 페이페이 리(Fei-Fei Li)의 World Labs를 약 82억 달러 가치로 평가한 전액 주식 교환 방식으로 인수하기로 합의했다. The Register는 이를 LLM이 막다른 길일 가능성에 대비한 포석이라고 설명하며, 르쿤도 같은 취지의 주장을 해왔다고 전했다. 하지만 World Labs는 3D 환경을 생성하고 시뮬레이션하는 모델을 만든다. NVIDIA의 Cosmos 3 역시 생성형 월드 모델이며, Physical Intelligence는 비전·언어 모델을 기반으로 로봇 모델을 구축한다. ‘말이 아니라 세계’를 향하는 자금의 대부분은 르쿤식 접근법으로 향하고 있지 않다.

지분을 가진 이의 조언

발언자의 위치도 고려해야 한다. 르쿤은 Meta를 떠나 현재 파리의 AMI Labs에서 집행 의장을 맡고 있다. 이 회사는 LLM의 대안으로 월드 모델을 만들기 위해 3월에 기업가치 35억 달러를 인정받고 10억 3천만 달러를 조달했다. 이는 유럽 역사상 최대 규모의 시드 투자 유치였다. 회사는 파리와 뉴욕, 몬트리올, 싱가포르에서 인력을 확충하고 있다. 그의 조언을 따르는 연구자는 잠재적인 입사 후보가 될 수 있다.

그렇다고 조언이 냉소적이라는 뜻은 아니다. AMI가 생기기 전부터 그는 같은 견해를 밝혀 왔고, 투자자들이 돈을 내기 훨씬 전부터 평판을 걸고 그 주장을 해왔다. 하지만 2026년에는 연구에 대한 권고와 사업 계획이 정확히 같은 방향을 가리킨다. 학생들은 그 점을 염두에 두고 판단해야 한다.

르쿤은 이런 발언 때문에 실리콘밸리에서 친구를 잃는다고 농담했다. 논문 주제를 고르는 학생에게 걸린 것은 훨씬 더 크다. 그가 입증하겠다며 방금 10억 달러를 조달한 아키텍처에 박사과정을 걸어야 하기 때문이다.

태그: Large Language Models, World models, AMI Labs, ETH Zurich, Yann LeCun