오픈AI 미공개 AI, 리눅스 커널서 루트 권한 탈취 취약점 948개 찾았다

OpenAI는 일반 사용자 계정을 시스템 전체를 제어할 수 있는 권한으로 끌어올리는, 리눅스 취약점 가운데서도 가치가 높은 유형을 찾아내는 시스템을 구축했다. 이 시스템은 그런 취약점을 한 번에 수백 건씩 찾아낸다. 한 차례 작업에서 파이프라인은 리눅스 커널에서 이 유형의 고유 취약점을 거의 1,000건 찾아냈고, 각각에 대해 실제로 작동하는 공격 코드를 작성한 뒤 관리자가 검토할 수 있도록 수정안 후보까지 마련했다. 작업을 수행한 AI 모델은 공개되지 않았다.

커널은 안드로이드 스마트폰과 전 세계 서버 대부분, 클라우드 플랫폼, 크롬북, 슈퍼컴퓨터의 기반이다. 권한 상승 취약점만으로는 외부인이 시스템에 침입할 수 없다. 하지만 악성 앱, 탈취한 하위 권한 계정, 침해된 컨테이너 등으로 이미 발판을 마련한 공격자가 루트 권한을 얻도록 해준다. OpenAI의 권고는 단호하다. 패치가 적용되지 않은 시스템에서는 충분한 자원을 갖춘 공격자에게 하위 권한 계정도 루트 계정과 다를 바 없다고 간주해야 한다.

이 파이프라인은 각자 역할을 나눈 보안팀처럼 작동한다. 정찰 에이전트는 권한이 없는 사용자도 접근할 수 있는 커널 영역 5,034곳을 골랐다. 코드로는 약 280만 줄, 전체의 약 7%에 해당한다. 분석 에이전트는 12시간 만에 이를 바탕으로 취약점 후보 2,308건을 찾아냈다. 이어 가상 머신에서 분류·검증 단계를 거쳐 30시간 안에 1,724건을 재현했다. OpenAI에 따르면 남은 취약점 후보 가운데 모델의 분석 오류로 실패한 경우는 3.1%에 불과했다. 익스플로잇 에이전트는 표준 커널 보호 기능이 활성화된 기본 데스크톱 환경을 대상으로 실제 작동하는 권한 상승 익스플로잇 1,169개와 정보 유출 취약점 291개를 만들어냈다. 변형 분석을 통해 이 익스플로잇을 고유 취약점 948건으로 통합했고, 각각에 수정안 후보를 붙였다.

OpenAI 보고서에 따르면 API 크레딧으로 청구된 비용은 1,213,430달러, 고유 취약점 한 건당 약 1,279달러였다. Pwn2Own과 TyphoonPWN 같은 해킹 대회는 리눅스 루트 권한을 얻는 익스플로잇 하나에 20,000달러와 70,000달러를 지급한 바 있다. 이 가격을 적용하면 이번에 찾아낸 취약점의 가치는 1,890만~6,630만 달러에 이른다. 한때 소수의 전문 인력만 할 수 있었던 일이 이제 취약점 한 건당 중급형 노트북 한 대 정도의 비용으로 가능해진 셈이다.

전체 건수보다 중요한 것은 증가 추세다. OpenAI의 기존 모델 가운데 하나인 GPT-5.6 Sol로 앞서 진행한 검사에서는 당시 최신 커널을 살펴 고유 취약점 166건을 찾아냈으며, 비용은 513,690달러였다. 새 사이버 보안 모델은 그보다 5배 넘게 많은 신규 취약점을 찾아냈다. 두 차례 검사 사이에 커널 보안이 석 달 동안 강화됐는데도 나온 결과다. 익스플로잇 166개를 표본으로 살펴본 결과, OpenAI 팀과 외부 커널 전문가들은 그 가운데 10개 기법을 새로운 것으로 판단했다. 회사는 세부 내용을 공개하지 않았다. Google이 의도적으로 보안을 강화한 kernelCTF 표적을 대상으로 별도로 112시간 동안 진행한 작업에서는 약 32,936달러를 들여 실제 작동하는 익스플로잇 21개를 만들어냈다.

이 수치만으로는 알 수 없는 점도 여럿 있다. 모든 수치는 OpenAI가 제공한 것이며, 외부 기관은 작업 결과를 감사하지 않았다. 948건은 패치 후보 수이지, 커널에 반영된 수정 건수가 아니다. 열흘간의 검사 종료 시점까지 취약점 61건은 업스트림에서 수정됐고, 43건은 패치가 검토 단계에 있었으며, 299건은 이미 공개됐거나 논의가 진행 중이었다. 따라서 상당수는 커널 커뮤니티에 새로 알려진 내용이 아니었다. OpenAI는 자체 시스템이 편법을 쓰는 경우도 발견했다. 초기 작업에서 성공했다고 보고한 200건 가운데 20건은 지정된 취약점이 아니라 알려지지 않은 다른 취약점을 통해 루트 권한을 얻었다. 초기 AI 작성 패치 가운데는 내용 자체는 맞지만 불필요한 코드가 덧붙거나 커널 작성 관행에 맞지 않는 것도 있었다. 실제로 익스플로잇과 패치는 관리자가 전달받기 전에 지금도 모두 인간 연구자의 검토를 거친다.

바로 이 검토 단계에 부담이 쏠린다. 상당수가 자원봉사자이거나 본업이 따로 있는 회사 소속 엔지니어인 커널 관리자들은 이제 사람이 처리하는 속도보다 기계가 더 빠르게 채워 넣는 취약점 검토 대기열을 마주하고 있다. OpenAI는 관리자가 이미 수정된 취약점에 시간을 낭비하지 않도록 제출 전에 최신 코드에서 보고 내용을 다시 검증하라고 권고한다. 찾아낸 948건 가운데 휴대전화 제조사가 실제로 배포하는 커널에 얼마나 반영될지는 밝히지 않았다. 안드로이드에서는 제조사가 업데이트를 배포해야만 커널 수정 사항이 사용자에게 전달되며, 더 이상 보안 업데이트를 받지 못하는 스마트폰은 계속 위험에 노출된다.

리눅스를 사용하는 사람에게 실질적인 대응은 예전과 같다. 다만 그 어느 때보다 중요해졌다. 커널 업데이트를 바로 설치하고, 신뢰할 수 없는 코드는 격리해야 한다. OpenAI는 관리자에게 Firecracker와 gVisor 같은 샌드박스 도구를 활용하고, 모델이 개선되는 만큼 자체 코드도 다시 검사하라고 권한다. 사이버 보안 모델 자체는 어느 나라에서도 일반에 공개되지 않았다. OpenAI는 출시를 앞둔 모델이라고만 밝혔을 뿐 가격이나 출시일은 공개하지 않았다. 취약점 보고서는 보안 파트너들과 함께하는 Patch the Planet 프로그램을 통해 관리자에게 전달된다.

OpenAI는 11월 4일 ‘A thousand fewer paths to root’라는 제목의 보고서를 공개했다. 이번 작업은 10월 중순 최신 커널 마스터 브랜치를 대상으로 열흘 동안 진행됐으며, 앞서 진행한 GPT-5.6 Sol 검사는 7월 말에 이뤄졌다. OpenAI는 이미 심각한 취약점에 대한 보고서와 패치 수백 건을 보냈고, 나머지도 파트너를 통해 순차적으로 전달할 예정이라고 밝혔다. 검사가 끝났을 때 948건 가운데 대략 9건 중 1건은 업스트림에 수정 사항이 반영됐거나 검토 단계에 있었다.

태그: 인공지능, OpenAI, 사이버보안, GPT-5.6 Sol, 리눅스, 리눅스 커널