GPT-6 Astra, 유료 사용자를 막다——이유는 OpenAI 자신의 안전 규칙이었다

사과가 접근보다 더 빨리 도착했다. OpenAI는 지금까지 가장 강력한 모델을 출시하며 이정표라고 불렀지만, 하루 만에 최고경영자가 X(트위터)에 올라와 매달 ChatGPT 비용을 지불하는 사람들에게 아직 모델을 사용할 수 없다고 유감을 표했다. 그는 출시를 ‘엉망’이라고 불렀다. 그 단어는 많은 의미를 담고 있었다.

이것이 감춘 것은 이것이 사고가 아니라는 점이다. OpenAI는 서버가 부족하지 않았다. 버그에 걸린 것도 아니다. 회사는 의도적으로 모델이 너무 위험하다고 판단해 출시 당일 유료 고객에게 제공하지 않기로 결정했고, 그리고 나서 스스로 선택한 지연에 대해 사과했다. ‘엉망’이라는 단어가 암시하는 장애처럼 보이는 상황이 아니라, 그 결정이 실제 이야기다.

그 이유는 OpenAI 자체 안전 규칙에 있다. 회사에 따르면 GPT-6 Astra는 Preparedness Framework에서 ‘Critical’ 사이버 보안 임계값을 넘은 첫 번째 모델이다. 이는 모델의 능력이 더 엄격한 통제를 유발하는 내부 기준선이다. 쉽게 말해, 적절한 도구가 주어지면 Astra는 이전에 알려지지 않은 보안 결함을 찾아내고, 이를 강화된 시스템 전반에서 악용하는 방법을 대부분 자체적으로 알아낼 수 있다. 평가 중에 인간이 각 단계를 지시하지 않은 상태에서 아무도 기록하지 않은 취약점을 발견하고 사용했다. 그런 능력을 가진 모델은 모든 유료 가입자에게 즉시 활성화할 수 있는 것이 아니다.

그래서 OpenAI는 평소 순서를 뒤집었다. Astra를 먼저 받은 그룹은 가장 높은 요금제 사용자가 아니라 사이버보안 방어자를 위한 애플리케이션 기반 프로그램인 Daybreak에 속한 기업들이었다. 공개 버전은 날카로운 작업을 거부한다—개념 증명 익스플로잇을 작성하지 않는다—반면 검증된 방어자들은 이후에 덜 제한된 빌드를 받을 예정이다. 또한 Pro, Business 및 Enterprise 가입자와 Azure 및 AWS의 API 및 클라우드 고객은 며칠 내로 접근이 가능할 것이라고 통보받았다. 일반적으로 신규 출시를 먼저 받는 Pro 사용자들은 줄 맨 뒤에 서게 되었다.

이로써 OpenAI가 연속으로 두 번째 주요 출시를 철회해야 했으며, 회사도 이를 잘 알고 있다. 샘 올트먼(Sam Altman)은 이미 GPT-5 출시 당시 팀이 ‘완전히 망쳤다’고 말한 바 있다. 이제 그 대본이 반복된다. ‘우리가 실수하면 바로잡기 위해 노력한다’고 그는 썼으며, 가까운 시일 내에 광범위한 접근을 약속하면서도 주말 안에 유료 사용자가 접속할 수 있기를 바라지만 아직 확신할 수 없다고 말을 아꼈다. 바로잡기 위한 조치는 적립된 초기화다—유료 가입자가 Astra 없이 보내는 하루마다 사용량 초기화 한 번이 주어진다. 이는 보상이면서도, 회사가 일정에 맞춰 제공할 수 없는 접근 권한을 판매했다는 인정이기도 하다.

여기서 핵심은 초기화에 관한 것이 아니다. 그것은 OpenAI가 무엇이 되었는가에 관한 것이다: 진정으로 위험하다고 평가한 도구의 문지기로서, 어떤 고객이 장전된 버전을 신뢰할 수 있는지, 어떤 고객이 안전한 버전을 받을지 결정하는 존재. 그렉 브록만(Greg Brockman)은 Astra를 합리적으로 인공 일반 지능의 한 형태로 볼 수 있다고 언급했으며, 최고과학책임자 야쿠프 파호츠키(Jakub Pachocki)는 회사가 ‘모델 정렬을 모니터링하는 능력이 일정 수준 이상 저하되는 것을 용납하지 않을 것’이라고 말했다. 이는 마케팅 문구가 아니다. 회사가 자사 제품이 자체 감독 능력을 앞지르기 시작했다고 공개적으로 말하는 것이다. 사과는 청구 불만을 겨냥한 것이다. 더 큰 비용은 신뢰성이다: 시장에서 가장 강력한 모델을, 그것을 지불하는 사람들에게 사용할 수 있는 날짜조차 약속할 수 없는 회사가 판매하고 있다.

태그: OpenAI, Sam Altman, AI safety, AI models, GPT-6 Astra