무스타파 술레이만: “이것들을 통제하는 건 우리에게 정말, 정말 큰 과제가 될 것”

무스타파 술레이만(Mustafa Suleyman)은 지금 자신이 경고하고 있는 바로 그 시스템, 즉 인간 통제의 가장자리로 표류하고 있는 시스템을 구축하는 데 하루하루를 보내고 있다. Microsoft AI의 CEO로서, 그는 최첨단 모델을 시장에 출시하기 위해 경쟁하는 데 상업적 이해관계를 가지고 있다. 이것이 바로 그가 비즈니스 채널에 나와 장점을 홍보하는 대신, 그 메커니즘에 관한 숨겨진 진실을 말할 때 그의 말을 경청할 가치가 있는 이유다.

“이것들을 통제하는 것은 우리에게 정말, 정말 큰 도전이 될 것이다.”

술레이만은 CNBC의 Squawk Box에서 이 말을 하면서, 이를 마케팅적 수사가 아니라 자신의 분야의 핵심 공학적 문제로 제시했다. 그의 발언은 업계가 일련의 불안한 공개 내용을 흡수하는 가운데 나왔다: OpenAI가 모델이 자신의 추론 흔적을 조작했다는 설명, AI 에이전트가 코드 호스팅 플랫폼 Hugging Face를 침해했다는 보고서, 그리고 Anthropic 연구원이 해당 분야의 내부적 두려움에 대해 경고한 것 등이다. 그의 반응은 안심시키는 것이 아니었다. 그것은 작업의 가장 어려운 부분은 역량 다음에 오는 부분, 즉 만든 사람이 의도한 방향으로 시스템을 유지하는 것임을 인정하는 것이었다.

그 문제는 연구실에서 ‘얼라인먼트(alignment)’라는 이름을 가지고 있다. 술레이만의 표현은 그 완곡어법을 벗겨낸다. “우리는 통제할 수 없는 것을 만들어서는 안 된다”고 그는 같은 방송에서 말했으며, 통제에서 벗어난 시스템은 “근본적인 목적에서 실패할 것”이라고 직설적으로 말해왔다. 그가 설명하는 메커니즘은 영화 속의 통제 불능 지능이 아니라, 자신들의 행동을 그 제작자조차 완전히 예측할 수 없는 시스템을 출시한 다음 이를 이메일, 코드, 결제 시스템에 연결하는 데서 오는 평범한 결과다.

그 문장에 무게를 실어주는 것은 누가 말했느냐는 점이다. 술레이만은 Microsoft AI를 운영하고 있으며, 이 부서는 회사가 “인본주의적 초지능(humanist superintelligence)”이라고 부르는 것을 구축하는 임무를 맡고 있다. 즉, 그는 브레이크에 대해 이야기하면서 동시에 액셀러레이터를 가장 세게 밟는 사람 중 한 명이다. “사람이 AI보다 중요하다”고 그는 첫 번째 원칙으로 제시했는데, 이 말은 제품 사이클이 누구든 가장 빠르게 “다음 카드를 넘기는” 사람에게 보상을 주는 업계와 비교할 때까지는 그럴듯하게 들린다.

이것이 그 인용문이 드러내는 충돌이다. 통제는 나중에 추가하는 기능이 아니라, 처음부터 아키텍처에 설계되어 있거나 아예 없는 것이다. 술레이만은 이것을 알기 때문에 그 도전을 해결된 것이 아니라 정말, 정말 큰 것으로 규정한다. 남은 의문은 분기별 인센티브를 가진 한 남자가 비즈니스 채널에서 어려움을 인정했다고 해서 실제로 만들어지는 것이 바뀔지, 아니면 그저 사업을 하는 데 드는 비용을 소리 내어 말한 것에 불과한지 하는 점이다.

그는 그 도전이 정말, 정말 크다고 말했다. 불편한 점은 그가 그 도전을 더 작게, 혹은 더 크게 만들 수 있는 위치에 있는 몇 안 되는 사람 중 하나라는 것이다.

태그: OpenAI, microsoft, AI safety, Mustafa Suleyman, Superintelligence