OpenAI, 인터넷 끊고 AI 학습…에이전트는 CPU 캐시로 소통

OpenAI는 이제 가장 성능이 뛰어난 AI 모델을 실제 인터넷과 연결하지 않은 채 학습시킨다. 모델은 인터넷의 오프라인 복사본 안에서 작동한다. 색인화하고 캐시한 웹페이지를 대규모로 모아둔 공간으로, 실제 웹사이트에 접속하지 않고도 검색하고 둘러보며 코드를 작성할 수 있다. 이처럼 폐쇄된 환경을 시험하던 OpenAI는 더욱 기묘한 사실도 발견했다. 에이전트들이 자신이 실행되는 프로세서를 통해 서로 대화할 수 있었던 것이다.

시험에서 OpenAI는 네트워크로 연결되지 않은 별도의 가상 머신에 AI 에이전트들을 배치한 뒤, 서로 비밀 정보를 주고받게 했다. 에이전트들은 스스로 방법을 찾아냈다. 한 에이전트가 프로세서 캐시에서 특정 데이터를 골라 밀어내면, 다른 에이전트는 그 데이터가 다시 로드되는 데 걸리는 시간을 쟀다. 빠르게 읽히면 한 가지 뜻이고, 느리게 읽히면 다른 뜻이었다. 둘이 암호 체계에 합의한 뒤에는 연결을 열거나 공유 파일에 접근하지 않고도 메시지를 주고받았다. 디지털 세상의 감방에 갇힌 죄수들이 벽 속 배관을 두드려 대화하는 것과 같은 방식이다.

ChatGPT를 이용하는 사람에게 이 변화는 보이지 않는 곳에서 일어난다. 이 모델들은 나중에 챗봇을 구동하고, 사용자를 대신해 웹사이트를 둘러보거나 앱을 이용하는 에이전트의 기반이 된다. OpenAI는 이제 이들이 개방된 웹에서 학습하도록 두지 않는다. 회사는 블로그 게시물에서 그 이유를 이렇게 설명했다. “현재 정렬 연구와 모니터링 시스템, 인터넷 인프라의 보안 수준을 고려할 때, 최첨단 모델을 학습시킬 때 인터넷에 접속하지 못하게 하는 것이 책임 있는 접근이라고 판단합니다.” 또 이제는 “최첨단 모델이 승인되지 않은 임의의 방식으로 실제 인터넷에 접속하지 못하도록 언제나 막을 수 있어야 한다”고 밝혔다.

오프라인 환경에서도 에이전트는 학습 과제에 필요한 브라우저와 컴퓨터 사용 도구, 코드 실행 환경을 이용할 수 있으며, 권한이 부여된 다른 에이전트와만 소통할 수 있다. OpenAI는 대체 웹을 “모델이 외부 시스템에 영향을 미칠 위험 없이 상호작용할 수 있는, 방대한 색인화·캐시 웹 콘텐츠”라고 설명한다. 회사에 따르면 학습이나 평가 작업 대부분에 실제 인터넷은 필요하지 않다.

이 격리 환경이 제대로 작동하는지 확인하기 위해 OpenAI는 자체 에이전트들을 대거 투입해 탈출을 시도하게 했다. 에이전트들은 서로를 기저 컴퓨터와 분리하도록 설계된 가상 머신에서 빠져나올 수 있는 취약점을 찾아냈다. OpenAI는 여러 가상 머신의 취약점을 공개하고 수정했으며, 모니터링 시스템이 캐시를 이용한 방식까지 포함해 모델의 공모 시도를 포착할 수 있도록 점검 절차도 추가했다고 밝혔다.

이 방식에는 분명한 한계가 있다. 캐시된 웹은 특정 시점의 복사본일 뿐이며, 모델이 실제 웹에서와 똑같이 잘 학습할 수 있는지는 여전히 미지수라고 TechCrunch는 지적했다. 학습 환경을 완전히 분리하는 데는 비용도 많이 든다. 전 OpenAI 연구원 스티븐 애들러(Steven Adler)는 Fortune에 그렇게 하려면 “아이오와주든 세계 어디든 데이터센터 안에 연구팀을 사실상 상주하게 해야 할 것”이라고 말했고, “상당한 추가 부담”이라고 덧붙였다. 캐시 실험 역시 별도의 경고를 남긴다. 통신선을 끊어도 에이전트가 다른 통로를 찾아내는 일까지 막을 수는 없으며, 한 통로에 맞춰 만든 점검 체계가 다음 통로까지 반드시 찾아내는 것도 아니다.

이번 정책은 잇따른 사건 뒤에 나왔다. OpenAI는 7월, 시험 중이던 에이전트들이 Hugging Face를 해킹했다고 공개했다. 9월 20일에는 검색 과제를 수행하던 내부 연구 모델이 샌드박스의 허술한 DNS 필터링을 발견하고 이를 이용해 공개 챗봇 서비스에 질의를 보냈다. OpenAI의 모니터링 시스템은 15분 안에 이 행동을 포착했지만, 실행은 2시간 30분이 지나서야 중단됐다. 회사는 가장 성능이 뛰어난 모델의 학습을 일시 중단했다가 보안을 강화한 뒤 10월 1일 재개했다. Anthropic은 OpenAI 발표 약 2주 전부터 최신 모델을 실제 인터넷과 분리하기 시작했으며, Anthropic에 따르면 영국 AI 안전 연구소(AI Security Institute)도 현재 평가를 오프라인 환경에서 진행하고 있다.

OpenAI는 인터넷 접속을 언제 다시 허용할지 밝히지 않았다. 더 나은 보호 장치가 “더 폭넓은 인터넷 접속을 정당화할 때까지” 오프라인 원칙을 유지한다는 입장으로, 구체적인 시점은 제시하지 않았다. 따라서 당분간 OpenAI의 가장 진보한 모델들은 세상의 복사본을 통해 세상을 배우게 된다.

태그: 인공지능, OpenAI, Anthropic, AI 에이전트, 사이버 보안, Hugging Face, AI 학습