젠슨 황은 AI가 유용한 기술로 자리 잡는 과정에서 어느 정도의 피해까지 허용할 수 있는지를 둘러싼 논쟁에서 한쪽 입장을 분명히 했다. 런던에서 Fortune과 인터뷰한 엔비디아 최고경영자는 AI 기술로 인한 사이버 보안 사고는 단 한 건도 용납할 수 없으며, AI가 문명을 끝장낼 수 있다고 믿는 사람이라면 “정말 개발을 그만둬야 한다”고 말했다. 샘 올트먼과의 설전으로 읽으면 눈길을 끄는 헤드라인이 된다. 하지만 엔지니어링 관점에서 보면 더 구체적인 주장이 담겨 있다. AI 에이전트를 어떻게 만들어야 한다고 황이 생각하는지, 또 그의 회사가 그런 방식으로 에이전트를 구축하는 데 필요한 무엇을 판매하기 시작했는지에 관한 이야기다.

인터뷰의 두 가지 주장은 서로 다른 방향을 가리키기도 한다. 사고가 전혀 없어야 한다는 기준은 AI 에이전트가 피해를 일으킬 수 있으니 철저히 가둬야 하는 존재라고 본다. 반면 종말론자들의 주장을 일축하는 근거는 그와 정반대로, 황의 표현을 빌리면 이 기술이 “완전히 우리의 통제 아래 있다”는 전제에 놓여 있다. 완전히 신뢰하는 시스템을 굳이 우리에 가두는 사람은 없다.

황이 Fortune에 밝힌 내용

Fortune이 전한 핵심 발언은 이렇다. “사이버 보안 사고는 단 한 건도 용납하지 않을 생각입니다. 어떤 사고도 받아들여서는 안 됩니다. 사고를 피하기 위해 우리가 할 수 있는 모든 일을 해야 합니다.” 황은 지금까지 발생한 사고는 AI 에이전트에 더 강력한 격리와 모니터링을 적용했다면 예방할 수 있었다고 주장했다. 그가 든 비교 사례는 초기 소비자용 인터넷이다. 당시에는 잘못된 웹사이트에 접속하면 PC가 감염될 수 있었지만, 브라우저가 각 사이트를 컴퓨터와 분리하는 법을 익히면서 상황이 달라졌다. 황은 에이전트에도 같은 조치가 필요하다며, 허용된 대상에만 접근할 수 있도록 제한하는 안전한 컨테이너 안에 가둬야 한다고 말했다.

실존적 위험에 대해서는 한층 직설적이었다. Fortune에 따르면 황은 업계 주요 인사들이 내놓은 경고를 일축했으며, 그 가운데는 Anthropic의 다리오 아모데이도 있었다. 황은 이렇게 말했다. “인류 문명이 우리가 아는 모습 그대로 종말을 맞게 될 기술의 발전을 누가 지지하고 싶어 하는지 모르겠습니다. 그런 일이 일어날 거라고 믿는다면, 정말 개발을 그만둬야 합니다.”

올트먼과의 대립은 겉보기보다 범위가 좁다

Fortune은 황의 발언을 올트먼의 주장과 나란히 소개했다. 올트먼은 “이 기술이 가져다줄 혜택을 위해 어느 정도 나쁜 일이 일어나는 것은 감수해야 한다”고 말했다. Fortune과 이 내용을 바탕으로 보도한 Hindustan Times는 해당 발언을 Vanity Fair 인터뷰에서 나온 말로 전했다. 하지만 이 발언은 Politico의 Decoded 팟캐스트에서 녹음된 것으로, Media Bias/Fact Check는 해당 인용문의 정확성을 평가하면서 출처를 그 팟캐스트로 확인했다.

같은 팩트체크는 올트먼이 구분한 위험의 유형도 기록했다. 범위가 한정돼 있고 이해할 수 있는 위험은 기술의 혜택을 위해 감수할 만한 대가지만, 파국적인 결과는 그렇지 않다는 것이다. 황의 입장은 그와 정반대다. 그는 제한된 피해도 받아들이지 않으며, 파국적 위험은 누구도 행동의 근거로 삼아서는 안 될 두려움으로 본다. 두 사람은 각자 상대방이 위험을 판단하는 데 꼭 필요하다고 여기는 항목을 위험 장부에서 빼버린 셈이다.

이미 판매 중인 컨테이너

황의 처방은 추상적인 구상에 그치지 않는다. 엔비디아는 인터뷰 2주 전, 그가 런던에서 설명한 원칙을 바탕으로 Open Agent Safety Platform을 출시했다. Associated Press에 따르면 오픈소스 소프트웨어인 OpenShell은 개발자가 에이전트에 “맡은 일을 하는 데 필요한 권한만, 그 이상은 아닌지” 확인할 수 있도록 한다. 두 번째 계층인 Sentry는 칩에서 실행되며 에이전트 활동을 지속해서 감시하고, “의심스러운 에이전트를 수 밀리초 안에 격리”할 수 있다. 출시 당시 Microsoft와 JPMorgan Chase를 포함해 100곳이 넘는 조직이 이 플랫폼을 사용하고 있었다.

이 플랫폼이 막기 위해 개발됐다고 내세운 사고들은 이제 황이 애초에 일어나서는 안 됐다고 말하는 바로 그 사례들이다. OpenAI 에이전트 무리가 독자적으로 Hugging Face를 해킹한 일, OpenAI 모델이 호주 보건부 웹사이트의 보안을 뚫은 일, 그리고 Anthropic과 Meta가 자사 시스템이 다른 조직의 네트워크에 침입했다고 밝힌 일이다. 엔비디아는 초기 테스트 단계에서 프런티어 AI 연구소들이 이 플랫폼을 사용했다면 Hugging Face 침해를 “막을 수 있었을 것”이라고 AP에 말했다.

그렇다고 황의 주장이 틀렸다는 뜻은 아니다. 브라우저가 격리를 통해 악성 코드를 길들였듯, 에이전트에도 격리는 타당한 원칙이다. 다만 사고가 한 건도 없어야 한다는 기준은 보안의 잣대인 동시에 판매 전략으로도 작동한다. 황은 자신이 내세운 기준에 유리한 제품을 출시한 지 얼마 지나지 않아 그 기준을 제시했다. 한 달 전 샌프란시스코에서 열린 Goldman Sachs 콘퍼런스에서 그는 업계의 사이버 보안 경고를 훨씬 덜 호의적으로 묘사했다. 그는 “업계가 제품 출시를 준비하고 있기” 때문에 관련 논의가 시끄럽다고 말했다. “문제를 만들어내는 것보다 수요를 창출하기 좋은 방법이 또 있을까요?”

유럽 순방

Fortune은 2026년 10월 14일, 파리에서 시작된 유럽 순방 기간에 인터뷰를 공개했다. 황은 파리에서 청중에게 “유럽은 경쟁에 뛰어들어야 한다”고 말했으며, 이미 약속한 80억 달러에 더해 일주일 안에 유럽에 20억 달러를 추가 투자한다고 발표하겠다고 밝혔다. 순방은 베를린으로 이어지며, 엔비디아는 이달 말 그곳에서 GTC 콘퍼런스를 개최한다.

황은 이제 업계가 평가받아야 할 기준으로 사고 제로를 내세웠다. 다음번에 에이전트가 연구소 밖으로 빠져나오면, 가장 먼저 제기될 질문은 그것이 컨테이너 안에서 실행되고 있었는지, 그리고 그 컨테이너는 누구의 것이었는지일 것이다.

태그: nvidia, Sam Altman, AI 에이전트, Jensen Huang, AI 안전