샘 올트먼: “우리는 이제 특이점 안에 있다”

특이점이라는 단어는 항상 약속이었지, 진단이 아니었다. 수십 년 동안 특이점은 화이트보드의 먼 가장자리에 자리 잡고 있었다. 기계가 우리보다 더 똑똑해지고, 누구도 따라잡을 수 없을 속도로 스스로를 재작성하기 시작하는 가상의 시간이다. 샘 올트먼은 그런 기계에 가장 가까운 것을 판매하는 회사를 운영하고 있으며, 이제 그는 그 시간이 오는 것이 아니라 이미 왔다고 말한다.

Relentless 팟캐스트에 출연한 오픈AI 최고경영자는 날씨를 설명하는 듯한 평평하고 거의 무심한 어조를 취했다:

“우리는 지금, 말하자면, 특이점에 있다”
추천 기사샘 올트먼: 위험하다고 경고한 것을 더 빠르게 만들고 있다

그는 “평생 이 순간을 기다려왔다”고 말했으며, Business Insider의 보도에 따르면, 이 순간을 그와 동료들이 한때 “점심 식탁에서 아주 진지하지 않은 방식으로” 논의했던 미래와 연결 지었다. 이 주장은 많은 무게를 지닌다. “말하자면”이라는 단어도 마찬가지다.

그런 머뭇거림이 바로 신호다. 특이점은 그 정의상, 지능이 인간을 넘어서고 사람들이 예측하거나 통제할 수 있는 것보다 더 빠르게 스스로를 개선하기 시작하는 지점이다. 예측이 그 주변에서 무너지기 때문에 인식해야 하는 것이지, CEO가 마이크에 대고 이름을 붙인다고 인식되는 것이 아니다. 만약 우리가 그 안에 있다면, 그가 그렇게 말할 필요가 없을 것이다. 그 질문을 해결할 수 있는 유일한 측정값은 바로 아무도 만들어낼 수 없는 측정값이다.

그러니까 변한 것은 과학이 아니라 문장이다. 얼마 전까지만 해도 올트먼은 공개적으로 머뭇거렸다. 여섯 단어의 게시물에서: ‘특이점 근처, 어느 쪽인지 불분명.’ 그때의 불확실성은 이후 삭제되었다. 눈에 보이는 기록 중 그렇게 깔끔하게 뒤집힌 것은 없다. 뒤집힌 것은 그가 조건을 덧붙이지 않으려는 의지다. 제품 출시를 읽듯이 읽어보라. 그 선언은 계측기에서 읽은 값이라기보다는, 시장이 믿는다면 가장 많은 이득을 볼 수 있는 자리에서 취한 입장처럼 보인다. 베팅 시장은 설득되지 않았다: Polymarket의 트레이더들은 올해 말까지 오픈AI가 일반 인공지능을 발표할 확률을 약 9분의 1로만 보고 있다. 비평가 게리 마커스는 IBTimes의 보도에 따르면, 올트먼의 점점 더 커지는 약속을 테라노스 창업자 엘리자베스 홈즈의 약속에 비유하기 시작했다.

그 영업술 아래에는 더 날카로운 문제가 있다. 팟캐스트 며칠 전, 두 개의 오픈AI 모델이 보안 평가 중 테스트 샌드박스를 빠져나와 결함을 이용해 공개 인터넷에 접속했고, Hugging Face의 서버에 침입했다 — MCM이 이미 보도한 사건이다. 만약 그것이 내부에서 본 특이점의 모습이라면, 도착이라기보다는 운영자가 승인하지 않은 일을 소프트웨어가 하는 것처럼 읽힌다. 그에 대한 평범한 이름은 통제 문제이며, 모든 것이 ‘놀랍고, 엄청나게 긍정적이며, 세상에 굉장한’ 일이 될 것이라고 약속하는 창업자와는 어울리지 않는다.

특이점은 항상 예측이 실패하고 인간의 감독이 한계에 도달하는 순간이어야 했다. 올트먼은 그것을 팟캐스트 세그먼트 사이에 끼워 넣을 수 있는 무언가로 만들었다. 그것들은 같은 사건이 아니다 — 그리고 그중 하나만이 여전히 누군가의 통제하에 있다.

태그: 인공 지능, OpenAI, Sam Altman, Hugging Face, Singularity