AI 안전 비용은 누가 낼 것인가, 데미스 허사비스: “자금은 상당해야 하고 대부분 업계에서 나와야 한다”

데미스 하사비스(Demis Hassabis)는 올해 내내 가장 강력한 AI 시스템이 대중 앞에 나오기 전에, 월스트리트 중개인들을 감시하는 기관을 본떠 만든 독립 기관의 사전 검증을 받아야 한다고 주장해 왔다. 더 어려운 질문은 그러한 심판자의 존재 여부가 아니다. 누가 그 비용을 부담하느냐는 것이다 — 그리고 구글 딥마인드(Google DeepMind)의 수장은 단 한 문장으로 그 답을 제시했다.

“자금 조달은 상당한 규모가 필요하며, 업계 최고 수준의 기술 인재를 유치하고 대규모 테스트에 필요한 컴퓨팅 자원을 제공하기 위해 대부분 업계에서 나와야 할 것입니다.”

하사비스는 말레이 메일(Malay Mail)이 인용한 제안서의 기본 개요 에세이에서 그 문장을 썼다. 대충 읽으면 책임감처럼 들린다. 즉, 안전장치에는 비용이 들고, 기술을 개발하는 기업들이 일반 대중이 정리 비용을 부담하게 두지 말고 그 청구서를 지불해야 한다는 것이다. 메커니즘으로 읽으면, 그것은 전체 계획의 핵심을 이루는 문장이다 — 즉, 심판자가 결국 누구의 이익을 보호하게 될지를 결정하는 문장이다.

그 긴장감은 문장 안에 자리 잡고 있다. 하사비스는 그 기관이 독립적이길 바란다. 또한 그는 그 기관이 “대부분” 자신이 심판해야 할 바로 그 업계로부터 자금을 조달받길 원한다. 이 두 목표는 서로 반대 방향으로 끌어당기며, 그가 선택한 모델의 역사는 어느 쪽이 승리하는 경향이 있는지를 보여준다. 그의 템플릿인 금융산업규제청(FINRA, Financial Industry Regulatory Authority)은 자기가 감독하는 중개회사들이 비용을 부담한다. 엘리자베스 워렌(Elizabeth Warren) 상원의원은 수년 동안 FINRA가 “자신이 도와 보호해야 하는 개인 투자자들보다 자기의 청구서를 지불하는 중개 회사의 이익에 더 부합하는 방식으로” 행동한다고 주장해 왔다.

이 반대는 주변부 의견이 아니다. 가트너(Gartner)의 부사장 겸 애널리스트인 나데르 헤네인(Nader Henein)은 자율 규제는 단순히 “실행 불가능”하다고 말하는데, 그 이유는 대부분의 공급업체에 그 역량이 부족하고 그러한 구조가 “필연적으로” 이해 상충을 낳기 때문이다. 독립 애널리스트 카르미 레비(Carmi Levy)는 더 나아가, 그 계획을 “피해를 무시한 채 질주하려는 업계를 위한 자기만족적 로드맵”이라고 묘사했다. 심지어 동조적인 목소리들도 방화벽을 원한다. 요슈아 벤지오(Yoshua Bengio)는 실용주의는 이해하지만 “자발적 모델에서 의무적 모델로 전환하기 위한 명확하고 정밀한 로드맵”을 주장한다.

이 중 어느 것도 하사비스를 악의적인 행위자로 만드는 것은 아니다. 그는 단백질 모양을 예측하고 생물학이 수행되는 방식을 재정의한 시스템인 알파폴드(AlphaFold)의 배후 연구소를 운영하고 있다 — 이러한 이력은 최첨단 역량에 대한 그의 경고에 실질적인 무게를 실어준다. 바로 그 점 때문에 그 문장을 곱씹어볼 가치가 있는 것이다. 이 분야에서 가장 신뢰할 수 있는 기술적 목소리가 바로 심판자를 제안하고, 그 규칙을 초안하며, 시험을 치를 바로 그 기업들로부터 예산을 편성하는 사람이기도 하다는 점이다. 자발적 제출, 출시 전 짧은 검토 기간, 업계 자금: 각각의 양보는 그 자체로 합리적이며, 함께 이는 연구소들이 편안하게 받아들일 수 있는 기관을 묘사한다.

안전 체계는 그 예산만큼만 독립적이다. 이 체계가 대중을 보호할지 연구소를 보호할지를 결정할 문장은 최첨단 모델 테스트에 관한 문장이 아니다. 그것은 누가 수표에 서명하는지에 관한 조용한 문장이다.

태그: AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA, frontier AI