과학

메러디스 휘태커 시그널 대표, 스마트폰 AI 에이전트를 ‘존립 위협’이라 부르는 이유

Penelope H. Fritz
Google에서 추가하기
메러디스 휘태커
메러디스 휘태커
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
출생2000
직업시그널 재단 대표
수상헬무트 슈미트 미래상

금요일, 시그널(Signal)이 대다수 이용자가 알아차리지 못할 설정 하나를 켰다. 이제 신형 아이폰에서는 이 앱이 애플의 AI 시리(Siri)가 채팅창 안의 화면 내용을 읽지 못하게 막고 기본값으로 스크린샷도 차단하며, 안드로이드에서는 구글의 제미나이(Gemini)가 들여다보려 할 때마다 창을 닫아 버린다. 시그널의 대표 메러디스 휘태커(Meredith Whittaker)는 직접 이 변화를 발표했고, 같은 글에서 이것만으로는 충분하지 않다고 털어놓았다. 애플, 구글, 마이크로소프트가 운영체제에 심고 있는 에이전트는 기기에 저장된 내용에는 여전히 접근할 수 있고, 맥(Mac)에서는 시그널이 이를 전혀 막을 수 없기 때문이다. 그는 이를 자신이 이끄는 앱의 존립을 위협하는 문제라고 불렀다.

이 싸움은 그에게 잘 맞는다. 동시에 그의 경력 한가운데 놓인 딜레마도 드러낸다. 휘태커는 10년 넘게 구글 안에서 일한 뒤, 자신을 먹여 살린 비즈니스 모델을 가장 날카롭게 비판하는 인물 가운데 한 사람이 됐다. 지금은 데이터를 수집하지 않고 아무것도 팔지 않으며 후원금에 기대는 비영리 메신저를 이끌지만, 자신이 무모하다고 부르는 AI 제품을 만든 바로 그 기업들이 만든 휴대전화 위에서 살아남아야 한다. 시그널은 메시지를 종단간 암호화할 수 있다. 하지만 운영체제까지 암호화할 수는 없다.

기술계로 들어선 경로는 뜻밖이었다. 휘태커는 캘리포니아대학교 버클리(UC Berkeley)에서 수사학과 영문학을 공부했고, 2006년 구글에 입사해 13년을 보냈다. 그곳에서 오픈 리서치(Open Research) 그룹을 세워 학계 및 오픈소스 개발자들과 망 중립성 측정, 프라이버시, 보안 분야에서 협업했으며, 인터넷 성능에 관한 가장 큰 공개 데이터 출처로 자리 잡은 개방형 네트워크 M-Lab(Measurement Lab)을 공동 설립했다.

측정 작업은 그에게 근거 없이 던져지는 주장을 의심하는 법을 가르쳤다. 2017년 그는 백악관이 주최한 심포지엄을 계기로 연구자 케이트 크로퍼드(Kate Crawford)와 함께 뉴욕대학교에 AI 나우 연구소(AI Now Institute)를 공동 설립했다. 이 연구소는 인공지능이 시연 무대에서 무엇을 해낼 수 있느냐가 아니라, 그 기술이 적용되는 사람들에게 어떤 영향을 미치느냐를 연구했고, 보고서들은 하나의 주장으로 거듭 돌아왔다. 더 근본적인 문제는 편향된 코드라기보다 누가 이 시스템을 소유하고 누구를 겨냥하느냐에 있다는 것이다. 이후 그는 뉴욕대에서 민더루 연구 석좌교수직을 맡고 AI 나우의 학부 디렉터를 지냈으며, 현재는 수석 고문이다.

이 주장은 그를 고용주와의 충돌로 이끌었다. 2018년 그는 펜타곤 계약인 프로젝트 메이븐(Project Maven)에 반대하는 청원서를 작성했다. 구글이 미국 드론 프로그램에 쓰일 머신 비전 도구를 개발하던 계약이었다. 3,000명이 넘는 직원이 서명했고, 구글은 계약을 갱신하지 않았다. 몇 달 뒤 그는 구글 워크아웃(Google Walkout)의 핵심 조직자 중 한 명이었다. 성비위 의혹을 받은 임원 앤디 루빈(Andy Rubin)에게 회사가 9,000만 달러의 퇴직 패키지를 지급했다는 보도가 나온 뒤, 2만 명이 넘는 직원이 자리를 박차고 나온 일이다. 휘태커는 훗날 구글이 보복 차원에서 AI 나우에서의 활동을 포기하라고 지시했다고 밝혔다. 그는 2019년 7월 회사를 떠났다.

같은 해 여름 그는 하원 과학위원회에서 AI 시스템이 편향을 고착시킬 수 있다고 증언하고 기술 업계 노동자를 위한 내부고발자 보호를 요구했다. 2020년 초에는 하원 감독위원회에서 한발 더 나아가, 안면 인식의 문제는 정확도만이 아니라 이를 자신보다 힘없는 사람들에게 들이대는 쪽의 권력에 있다고 주장하며 그 사용을 중단하라고 촉구했다. 2021년 11월부터는 리나 칸(Lina Khan) 연방거래위원회(FTC) 위원장의 인공지능 담당 선임 고문을 지냈다.

시그널은 2022년 9월 앱 경영진과 협의해 신설한 자리인 초대 대표로 그를 영입했다. 시그널에는 광고가 없고 팔 수 있는 이용자 데이터도 없으며, 휘태커는 운영에 연간 약 5,000만 달러가 든다고 공개적으로 말해 왔다. 재임 초기의 상당 부분은 이용자에 관한 정보를 거의 보관하지 않는 메신저가 왜 여전히 대규모 엔지니어링 팀과 꾸준한 후원자를 필요로 하는지, 그리고 그 대안이 왜 감시를 대가로 돈을 받는 일인지를 설명하는 데 쓰였다.

비판하는 쪽은 이 모델의 한계를 짚는다. 시그널의 암호화 프로토콜은 이미 왓츠앱(WhatsApp)의 대화를 보호하고 있지만, 정작 앱 자체는 그 암호 기술 위에 만들어진 메타(Meta) 제품에 비하면 규모가 훨씬 작고, 휘태커가 각국 정부에 행사하는 영향력은 대체로 한 가지 위협에 기대고 있다. 암호화를 약화하느니 그 나라에서 철수하겠다는 것이다. 그는 이 카드를 유럽연합을 향해 꺼냈고, 6월에는 영국을 향해 다시 꺼냈다. 후원금으로 운영되는 앱에는 달랠 주주가 없으므로 이 위협은 설득력이 있지만, 규제 당국에 대한 시그널의 답이 협상보다는 망명에 가까워진다는 뜻이기도 하다. 앱이 가장 큰 관심을 받았던 사건에서도 비슷한 간극이 드러났다. 2025년 3월 미국 고위 관리들이 기자가 실수로 포함된 시그널 그룹 채팅방에서 군사 계획을 논의한 사실이 드러났을 때, 휘태커는 이 암호화가 사적 통신의 최고 표준이라고 옹호하면서 어떤 애플리케이션도 사람들이 엉뚱한 사람을 채팅방에 초대하는 것까지 막을 수는 없다고 지적했다. 그 정도 규모의 주목은 거절하기 어렵고, 통제하기는 더 어렵다.

그 이후 그의 초점은 정부에서 기기를 만드는 기업들로 옮겨 갔다. 1월 다보스에서 그는 운영체제 차원의 AI 에이전트가 암호화 서비스에 위험하다고 말하며, 루트 권한을 가진 시스템은 탈취당할 수 있다고 경고했다. 6월 블룸버그(Bloomberg) 인터뷰에서는 챗봇은 친구가 아니라고 말했고, 자신의 결제 정보와 시그널 계정에 접근할 수 있는 어시스턴트를 일종의 백도어라고 표현했다. 이번 주에는 시그널과 AI 나우 직원들이 참여한 로이터(Reuters)의 테스트에서 메타의 뮤즈(Muse) 에이전트가 안드로이드에서 알림 접근 권한을 통해 시그널 채팅을 읽는 것이 확인됐고, 휘태커는 그 정도 접근 권한을 가진 에이전트를 기술적으로 무모하다고 평가했다.

2023년 타임(TIME)은 그를 인공지능 분야 영향력 있는 인물을 처음 꼽은 명단에 올렸다. 2024년 5월에는 함부르크에서 민주주의와 기술 분야의 활동을 인정받아 디 차이트(Die Zeit)와 파트너들이 수여하는 헬무트 슈미트 미래상(Helmut Schmidt Future Prize)을 받았고, 2025년 7월에는 독일 미디어 그룹 후베르트 부르다 미디어(Hubert Burda Media)의 이사회에 합류했다.

앞으로 어떻게 될지는 시그널보다 애플, 구글, 마이크로소프트에 달려 있다. 휘태커는 세 회사 모두에 앱이 AI 에이전트를 화면과 데이터에서 떼어 놓을 수 있게 하는, 문서화된 방법을 요구했고, 시그널은 구글과 애플이 협의에 응하고 있다며 조심스럽게 낙관한다고 밝혔다. 이들이 그 방법을 만든다면 이번 주 그가 켠 차단 기능은 업계 기본값이 된다. 만들지 않는다면 시장에서 가장 사적인 메신저는 자신이 구동되는 휴대전화를 상대로 우회책을 계속 내놓아야 하고, 그 대표는 계속 공개적으로 그 사실을 말할 것이다.

태그: , , , , , , ,

Google에서 추가하기

토론

댓글 0개가 있습니다.