오픈AI 샘 올트먼, 유엔서 경고: “AI는 사람을 위해 만들어져야 하며, 그저 기계를 더 빨리 돌리기 위한 것이 아니다…”

샘 올트먼은 수년 동안 두 가지 역할을 동시에 해왔다. 시장에서 가장 강력한 인공지능을 만드는 인물이자, 그 인공지능이 초래할 수 있는 위험을 세상에 경고하는 인물이다. 유엔 안전보장이사회 앞에 선 OpenAI 최고경영자는 두 역할 사이에 선을 긋는 한 문장을 꺼냈다. 문장만 놓고 보면 꽤 설득력이 있다.

“AI는 기계를 그저 더 빨리 돌리기 위해서가 아니라, 사람을 위해 만들어야 합니다.”

Analytics Insight가 보도한 발언에서 그는 강력한 시스템을 인간의 통제 아래 두어야 하며, 관련 규칙은 연구소들만이 아니라 각국 정부가 만들어야 한다고 주장했다. 이 문장은 경계선을 긋는다. 한쪽에는 사람을 위해 만든 AI가 있고, 다른 한쪽에는 그저 더 빠르게 작동하는 것 자체를 목표로 만든 AI가 있다. 누가 말하든 명료한 원칙처럼 들릴 것이다. 하지만 그 기계를 가장 열심히 돌리고 있는 기업의 최고경영자가 한 말이라면, 그 경계선을 누가 어디에 그을 것인지에 관한 주장이기도 하다.

올트먼은 설계자이자 경고를 울리는 사람이라는 두 역할을 동시에 맡은 드문 인물이다. 안전장치를 요구하는 바로 그 연단에서, 그는 지난번 청문회를 불러온 시스템보다 더 뛰어난 시스템을 발표한다. 9월 23일 발언에서 그는 다보스 포럼 토론장과 미 상원 청문회장을 넘어 안전보장이사회로 무대를 옮겼지만, 기존의 패턴은 그대로 이어갔다. 말로는 신중함을 강조하면서도 로드맵은 가속하는 식이다. 그는 안전보장이사회에서 개발자들은 “인간의 통제 아래 둘 수 있다고 매우 강력하게 확신할 수 없는 모델은 훈련해서는 안 된다”고 주장했고, 가장 중요한 결정은 “샌프란시스코의 연구소들만으로 내려서는 안 된다”고 말했다.

바로 이 지점에서 그 문장은 흥미로워지고, 또 세심하게 읽어야 할 필요가 생긴다. 올트먼이 말하는 거버넌스는 그가 연설한 당사자인 각국 정부가 마련하게 된다. 그리고 ‘사람을 위해 만든다’는 말의 의미를 누가 정하느냐에 따라, 이미 기준을 충족한 개발자가 누구인지도 결정된다. 규칙을 만드는 데 참여하는 최첨단 연구소는 그 규칙을 둘러싼 중립적인 당사자가 아니다. 그렇다고 그의 경고가 공허해지는 것은 아니다. 그가 지적한 위험, 즉 시스템이 이를 감시해야 할 제도보다 빠르게 움직이고 의사결정권이 지나치게 적은 사람에게 집중되는 문제는 현실이다. 안전보장이사회에서 이를 공개적으로 말한 것은 이 문제를 모호한 상태로 두고 싶어 하는 모든 이에게 부담을 더한다. 다만 이제 메시지를 전하는 사람 역시 메시지의 일부가 됐다는 뜻이다.

호의적으로 읽으면 이 문장은 하나의 윤리다. 인간을 의사결정 과정에 남겨두고, AI를 사람을 그저 입력값으로 바꾸는 기계가 아니라 인간의 주체성을 돕는 도구로 대하라는 뜻이다. 반면 업계에서 가장 집중적인 감시를 받는 인물이 내놓은 입장 표명으로 읽으면, 방 안에서 가장 어른스러운 사람처럼 보이면서 다가올 규칙의 기준을 정하려는 시도이기도 하다. 두 해석은 동시에 참일 수 있다. 바로 그 점 때문에 올트먼의 말을 쉽게 무시하기도, 선뜻 믿기도 어렵다.

세상이 AI가 누구를 위한 것인지 결정하는 동안에도 기계는 계속 돌아간다. 이 문장이 얼마나 진실한지는 한 가지로만 판가름 날 것이다. ‘사람을 위한 것’과 ‘더 빠르게’가 마침내 서로 다른 방향을 가리킬 때, OpenAI가 속도를 늦출 수 있느냐는 것이다.

태그: OpenAI, Sam Altman, AI safety, AI governance