OpenAI, 88시간 만에 100만 달러짜리 수학 난제 해결 — 공로 논쟁 즉시 시작

오픈AI(OpenAI)가 배치한 AI 시스템이 수학의 7대 Millennium Prize Problems 중 하나인 나비에-스토크스 방정식(Navier-Stokes equations)에 대한 형식적이고 기계적으로 검증된 증명을 내놓았다. 이 방정식은 마찰이 있는 유체가 공간에서 어떻게 움직이는지를 설명하는 미분방정식이다. 이 결과는 공식적으로 20년 넘게 열려 있었고 100만 달러의 상금이 걸린 문제를 해결했으며, 이 방정식이 처음 기록된 지 약 2세기가 지난 지금까지 비공식적으로는 해결되지 않은 상태였다.

나비에-스토크스 방정식은 추상적인 호기심의 대상이 아니다. 이 방정식은 사실상 모든 유체의 물리 현상, 즉 날씨 패턴이 어떻게 형성되는지, 혈액이 동맥을 통해 어떻게 흐르는지, 항공기 날개가 어떻게 양력을 발생시키는지, 물이 강바닥 위에서 어떻게 소용돌이치는지 등을 설명한다. 수학자들이 결정할 수 없었던 것은 이 방정식이 항상 질서 있는 해를 산출하는지, 아니면 수학이 완전히 붕괴되는 지점에 도달할 수 있는지였다. 수학자들은 그 지점을 특이점(singularity), 즉 무한대로 치솟는 값이라고 부른다. Clay Mathematics Institute는 이 질문에 결정적인 답을 한 사람에게 100만 달러를 제시했다.

오픈AI의 답은 두 번째 선택지, 즉 방정식이 붕괴할 수 있다는 쪽이었다. 회사는 약 1만 개의 자율 AI 에이전트를 배치했고, 이 에이전트들은 88시간 동안 약 500만 개의 메시지를 주고받으며 3차원 나비에-스토크스 방정식에서 특이점이 형성될 수 있다는 증명을 공동으로 구성했다. 이후 증명은 Lean이라는 형식 증명 도우미를 사용해 검증되었는데, Lean은 수학적 논증을 단계별로 확인하여 검증 과정에서 인간의 오류 가능성을 제거한다. 이 계산에는 수백만 달러의 비용이 들었다.

이 해법은 형식 검증 기준으로 엄격하다. 그러나 엄격함과 저자성(authorship)은 같은 것이 아니며, 그 차이가 바로 이 이야기가 논쟁이 되는 지점이다. 증명의 핵심에 있는 분석 기법은 AI가 아니라 마드리드의 Institute of Mathematical Sciences 소속 수학자 디에고 코르도바(Diego Córdoba)와 코르도바 연구 그룹에서 일하는 최근 박사 졸업생 루이스 마르티네스-소로아(Luis Martínez-Zoroa)가 개발했다. 프린스턴대의 찰스 페퍼먼(Charles Fefferman)은 이 문제에 대한 세계 최고 권위자 중 한 명으로, 이 돌파구의 진정한 지적 영웅은 바로 이 두 연구자라고 단언했다. 뉴욕대학교의 수학자 트리스탄 벅마스터(Tristan Buckmaster)는 관련 문제에서 유사한 결론에 도달한 경쟁 팀을 이끌었는데, 마르티네스-소로아는 그 창의적인 작업으로 수학계 최고 영예인 필즈상(Fields Medal)을 받을 자격이 있다고 주장했다.

오픈AI의 에이전트가 한 일은 인간이 개발한 아이디어를 가져와 어떤 인간 팀도 따라올 수 없는 규모와 속도로 형식 검증을 실행한 것이다. 그것이 문제를 해결한 것인지 여부는 ‘해결’의 의미에 달려 있다. ‘AI, 거의 2세기 된 수학 미스터리를 정복하다’라는 헤드라인 버전은 틀리지 않았다. 하지만 핵심 통찰을 만들어낸 사람들은 빠져 있다. 오픈AI의 발표는 AI 에이전트를 두드러지게 언급했고, 코르도바와 마르티네스-소로아는 각주로 처리되었다. 이러한 비대칭성은 수학계에서 상당한 반발을 불러일으켰다.

또한 이 결과가 실제로 무엇을 바꾸지 않는지 주목할 필요가 있다. 증명에서 확인된 특이점은 유체가 연속적이라는 이상화된 수학적 세계에 존재한다. 실제 유체는 개별 분자로 구성되어 있으며, 방정식은 물리적 현실의 근사치일 뿐 직접적인 기술이 아니다. 수학적 폭발(blow-up)을 발견했다고 해서 실제 유체가 갑자기 무한 속도로 가속된다는 의미는 아니다. 조종사, 기상학자, 심장 전문의가 의존하는 엔지니어링 모델에는 영향이 없다.

Clay Mathematics Institute는 아직 공식적으로 100만 달러 상금을 수여하지 않았다. 증명된 내용이 문제가 요구한 것과 정확히 일치하는지 확인하는 공식적인 인간 검토가 아직 남아 있다. 연구소는 엄격한 기준을 적용한다. 이전에 해결된 Millennium Problem인 푸앵카레 추측(Poincaré conjecture)의 경우, 상금이 확정되기까지 3년의 커뮤니티 검토가 필요했다. 코르도바와 마르티네스-소로아가 공식적인 인정을 받을지, 그리고 100만 달러가 기업과 증명을 가능하게 한 수학적 아이디어를 만들어낸 인간들 사이에 어떻게 분배될지는 연구소가 아직 답하지 못한 질문이다.

태그: 인공지능, OpenAI, 나비에-스토크스 방정식, 밀레니엄 상, 수학