OpenAI와 Anthropic이 AI 속도를 늦추려는 이유, 그것은 그들의 해자다

인공지능 개발 속도를 늦추자는 갑작스러운 열기에 대해 가장 눈에 띄는 점은, 지금 AI를 만들고 있는 사람들이 브레이크를 원한다는 사실이 아니다. 그들이 말하는 브레이크가 오직 자신들만이 부담 없이 감당할 수 있는 것이란 점이다. 가장 가치 있는 AI 연구소의 지도자들이 거의 한목소리로 ‘AI 분야가 너무 빨리 움직이고 있다’고 동의할 때, 안전 논리는 실재한다. 그리고 그 밑에 조용히 자리 잡은 비즈니스 논리 역시 마찬가지다.

도화선이 된 것은 앤트로픽의 다리오 아모데이가 ‘프런티어 속도 조절’을 촉구한 것이었다. 즉 모델 성능이 개선되는 속도를 늦추고, 연구소 내부에 독립적인 평가 기관을 설치하며, 민주주의 국가의 주요 기업들이 공통 안전 기준에 합의하라는 것이다. 그는 AI에 대한 대중의 반발을 ‘신뢰의 위기’라고 규정했다. 얼마 지나지 않아 샘 올트먼이 동의한다고 밝히며 오픈AI도 정확히 이 문제를 논의해 왔다고 말했고, 일론 머스크는 ‘다리오의 말이 옳다’는 두 단어짜리 지지를 보냈다. 언론은 이를 때늦은 양심이 한꺼번에 도착한 사건으로 다뤘다.

같은 계획을 안전 담당자가 아닌 애널리스트의 눈으로 읽으면 또 다른 그림이 보인다. 내부에 배치된 제3자 검토자, 인증된 정렬 테스트, 공개된 위험 관리 체계, 사고 보고는 단순한 안전장치가 아니다. 그것들은 고정 비용이다. 그리고 고정 비용은 대기업이 가진 가장 확실한 경쟁 무기다. 모든 기업이 동일한 금액을 부담해야 하지만, 그 고통은 결코 동일하지 않기 때문이다.

산술적으로 따져 보자. 미국 최대 클라우드 및 AI 인프라 제공업체들은 향후 1년간 총 6600억~6900억 달러 규모의 자본 지출을 약속했다. 아마존만 해도 2000억 달러에 가깝고, 알파벳, 메타, 마이크로소프트는 각각 수천억 달러 또는 그에 근접한 규모다. 이런 재무제표에 비춰 보면, 규제 준수 체계 — 내부 평가 팀, 연간 안전 프레임워크, 캘리포니아가 위반 건당 100만 달러로 상한을 둔 벌금 — 는 반올림 오차에 불과하다. 스타트업이 프런티어에 도달하려는 입장에서는 그 비용이 곧 전체 활주로다.

이제 더 이상 가상의 시나리오가 아니다. 캘리포니아의 SB 53 법안은 이미 ‘대형 프런티어 개발자’를 두 가지 기준으로 정의한다. 매우 높은 컴퓨팅 임계값 이상으로 훈련된 모델, 그리고 5억 달러가 넘는 매출. 이들 기업은 안전 프레임워크를 공개하고 중대 사고를 엄격한 시한 내에 보고해야 한다. 유럽에서는 AI법 제55조가 가장 강력한 범용 모델 제공업체에게 적대적 테스트를 실시하고, 시스템적 위험을 완화하며, 중대 사고를 보고하도록 요구한다. 바닥이 깔리고 있다. 문제는 누가 그 위에 서서도 아무것도 느끼지 못할 만큼 키가 크냐는 것이다.

가장 분명한 신호는 누가 브레이크를 요구하지 않는지다. 이 계획은 자연스러운 패배자를 언급하지 않지만, 쉽게 식별할 수 있다. 가중치를 통째로 공개하는 것이 비즈니스 모델인 연구소들 — 메타, 프랑스의 미스트랄, 중국의 딥시크와 알리바바 — 이 바로 그들이다. 한 반대 분석은 이들을 ‘에세이가 결코 언급하지 않는 네 개의 이름’이라고 지적했다. 유료 고객이 API를 임대하는 대신 다운로드할 수 있는 무료 모델을 만드는 기업들이다. 누구나 오후에 수정할 수 있는 모델의 정렬을 인증할 수는 없다. 따라서 프런티어를 겨냥한 표준 체계는 오픈 가중치에 가장 큰 타격을 준다. 그리고 오픈 진영은 기존 기업들이 붙잡아 두고 싶어 하는 사용자들을 정확히 빼앗고 있다. 중국의 오픈 모델 큐원(Qwen)은 다운로드 수가 수십억 건에 달하는 반면, 메타의 라마(Llama)는 수억 건에 그친다.

이 모든 것은 새로운 것이 아니다. 규제 산업에서 가장 오래된 전략이다. 기존 기업은 자신이 감당할 수 있는 규칙을 환영한다. 그 비용이 자신의 장부에는 사소하지만, 경쟁자에게는 벽이 되기 때문이다. 경제학자들은 이를 ‘규제 포획’이라는 명확한 이름으로 부른다. 그리고 그것은 악의를 필요로 하지 않는다. 안전 논쟁은 완전히 진실될 수 있으며 동시에 진입 장벽으로 기능할 수 있다. 여기서 두 가지 모두 사실이다.

유럽에게 이 문제는 보기보다 더 예리하다. 유럽 대륙에서 유일하게 신뢰할 만한 프런티어 도전자인 미스트랄은 정확히 오픈 가중치 연구소다. 그리고 스페인을 포함한 유럽 전역의 고객들 — 저렴하고 수정 가능한 모델 위에 제품을 구축하는 스타트업들 — 은 글로벌 규제 기준이 미국의 4대 기업을 중심으로 만들어질 경우 가장 큰 손해를 보는 주체다. 샌프란시스코에서 설계되고 브뤼셀에서 비준된 규칙은 대중을 보호하는 동시에 선두 기업들 뒤에서 사다리를 걷어차는 일을 동시에 할 수 있다.

그러므로 안전 전환을 환영하자. 위험은 실재하고 평가 기관은 늦었지만 필요하다. 그러나 다음에 올 일을 주시하라. 만약 최종 규칙이 정확히 4대 기업은 지불할 수 있고 그보다 작은 기업은 지불할 수 없는 지점에 자리 잡는다면, 그 속도 조절은 프런티어를 늦춘 것이 아니라 울타리를 친 것에 가깝다.

태그: OpenAI, Anthropic, AI regulation, Mistral, open-weight models