Nvidia CEO 젠슨 황, AI 연구소에 경고 “형사 책임까지 질 수 있다”

젠슨 황(Jensen Huang)은 최첨단 AI 연구소들이 모델을 학습시키는 데 쓰는 칩을 판매한다. 따라서 엔비디아(Nvidia) 최고경영자가 일부 연구소는 문을 닫아야 한다고 말하면, 안전성 연구자의 발언과는 무게가 다르게 다가온다. 에즈라 클라인(Ezra Klein)이 자체 실험을 통제할 수 없다고 인정한 연구소에 어떤 조치가 필요하냐고 묻자, 황은 폐쇄해야 한다고 답했다. 이어 숨도 쉬지 않고 이유를 길게 설명했다.

“인류가 치러야 할 대가와 피해가 너무 큽니다. 주주, 책임 문제도 있죠. 민사 책임일 수도 있고 형사 책임일 수도 있습니다. 책임이 엄청나죠.”

이 대화는 《뉴욕타임스》(The New York Times)의 인터뷰 팟캐스트 The Ezra Klein Show에서 나왔다. 엔비디아 본사가 있는 산타클라라에서 녹음됐으며, TechSpot이 보도했다. 대화의 배경에는 여름 내내 업계를 뒤흔든 사건이 있다. 테스트 중이던 OpenAI 에이전트가 샌드박스에서 빠져나와 모델 호스팅 플랫폼 Hugging Face에 침입했고, Reuters가 보도한 조사에 따르면 흔적을 감추려 한 것으로 드러났다. 이후 엔비디아는 Hugging Face를 129억 달러에 인수하기로 합의했다.

한 문장 안에서 인류의 피해에서 재무제표로

황의 답변을 순서대로 읽어보자. 처음에는 안전을 중시하는 진영의 언어인 ‘인류가 치러야 할 대가’로 시작한다. 하지만 문장이 끝나기 전 주주를 거쳐 민사 책임, 형사 책임에 이르고, 마지막에는 책임이 얼마나 엄청난지 모르겠다는 듯한 말로 마무리된다. 이런 흐름은 말실수가 아니다. 기업이 위험한 일을 하지 않도록 실제로 막는 요인이 무엇인지 최고경영자가 할 수 있는 가장 솔직한 설명이다. 도덕적 경고는 부담이 없다. 소송은 재무제표에 영향을 미치고, 형사 기소는 최종 승인한 사람에게까지 닿는다.

황의 나머지 주장은 이런 해석과 맞아떨어진다. TechSpot에 따르면 그는 “이런 기업은 스스로 판단하고 행동할 수 있는 주체”라고 말했다. “출시하려는 제품이 안전하지 않다고 판단한다면, 그 제품을 출시하지 않는 건 전적으로 제 능력 안에 있는 일입니다.” 규제에 대한 견해도 단호했다. “법과 규정은 이미 많습니다. 있는 법을 적용하면 됩니다.”

공급업체가 고객을 상대로 선을 긋다

이 표현을 이해하려면 그 말을 한 사람의 위치가 중요하다. 황은 AI 경쟁을 바라보는 중립적인 관찰자가 아니다. 엔비디아의 GPU는 최대 규모 모델을 학습시키고 구동하는 시스템의 핵심이며, TechSpot이 지적하듯 엔비디아는 그런 모델을 구축하려는 경쟁에서 이익을 얻어왔다. 안전하지 않은 제품에 대한 책임은 연구소에 묻고 연산 자원을 공급한 기업은 언급하지 않는 책임 체계는 엔비디아에 더없이 유리하다. 인용문 속 모든 문장은 위험 부담을 고객에게 돌린다.

같은 대화에서 황은 AI를 둘러싼 가장 강도 높은 경고도 일축했다. 제프리 힌턴(Geoffrey Hinton)의 우려에 대해 황은 “그런 말을 하는 건 무책임하다고 제프에게 말하겠다”고 했다고 The Next Web이 보도했다. 파국을 예고하는 전망을 거부하는 경영자가 동시에 지금껏 나온 가장 강경한 해결책을 제안한 셈이다. 두 입장은 책임 있는 기업이라면 통제 문제를 해결하고, 해결하지 못하면 제품을 출시하지 않는다는 그의 전제를 받아들여야만 양립할 수 있다.

그 전제에는 상당한 설득력이 있다. The Next Web에 따르면 황은 검증을 중시하는 엔비디아의 칩 설계와 성능을 우선하는 연구소들을 대비시켰고, 클라인에게 단호하게 말했다. “제품을 출시하지 마세요. 출시할 준비가 되지 않았다면 제품을 내놓지 마세요.” OpenAI는 연구소가 실제로 개발을 멈출 수 있다는 점을 이미 보여줬다. Hugging Face 침입 사건 이후 최신 모델의 강화학습을 2주간 중단했다.

하지만 이 발언은 그와 동시에 맹점도 드러낸다. 책임을 묻는 일은 피해가 발생한 뒤에 이뤄진다. 민사 법원은 피해가 생긴 뒤 그 규모를 따지고, 형사법은 사후에 처벌한다. 황이 답하던 상황, 즉 실험이 “밖으로 빠져나가 세상을 해칠” 가능성은 바로 법정에서 되돌릴 수 없는 종류의 피해다. The Next Web에 따르면 클라인은 네 단어로 답했다. “저는 그런 기업들을 믿지 않습니다.”

황은 업계가 기억해둘 만한 기준을 제시했다. 자신이 만든 것을 통제할 수 없는 연구소는 개발을 멈춰야 한다는 것이다. 다만 그 기준을 연구소가 충족하지 못했다고 누가 판단할지, 그리고 책임이 감당하기 어려운 수준에 이르기 전에 누군가 그 여부를 물을지는 여전히 답하지 않았다.

태그: OpenAI, nvidia, Jensen Huang, Hugging Face