기술

메타 AI 에이전트 Muse, 안드로이드서 시그널 대화 읽었다… 아이폰에선 막혀

Adrian Kessler
Google에서 추가하기

이메일에 답하고, 약속을 잡고, 대신 쇼핑까지 해 주는 메타의 AI 에이전트 ‘뮤즈(Muse)’가 안드로이드 휴대전화에서 비공개 시그널(Signal) 메시지를 읽은 것으로 확인됐다. 메타가 이용자에게 관리하라고 안내하는 앱 연동 설정은 거치지 않았다. 뮤즈가 파고든 통로는 대부분의 사용자가 별생각 없이 허용하는 권한, 즉 휴대전화 알림 접근 권한이었다. 같은 요청은 아이폰에서는 실패했다.

이번 결과는 로이터가 시그널 직원들, 그리고 AI가 사회에 미치는 영향을 연구하는 비영리 단체 AI 나우 인스티튜트(AI Now Institute) 직원들과 함께 진행한 테스트에서 나왔다. 이들은 메타의 한 직원이 사내에서 털어놓은 사례를 재현하려 했다. 뮤즈가 시그널로 온 언니의 메시지에 답하라고 먼저 알려 줬다는 것이다. 이 직원은 “극단적인 사생활 침해로 보인다. 다른 앱에 접근하도록 허용한 적도 없고, 그런 질문을 받은 기억도 없다”고 적었다. 안드로이드에서 뮤즈를 쓴다면 핵심은 앱의 알림 접근 설정이다. 이를 끄면 에이전트는 메시지 미리보기를 볼 수 없게 된다.

맥(Mac)에서는 테스터들이 두 번째 경로를 찾아냈다. 뮤즈는 스크린샷 도구와 macOS 손쉬운 사용 기능, 즉 애플이 장애가 있는 사람도 컴퓨터를 조작할 수 있도록 만든 제어 기능을 결합해 메시지를 읽었다. 두 경우 모두 에이전트가 접근할 앱을 사용자가 고르는 메타 자체의 ‘커넥터(Connector)’ 도구는 건너뛰었고, 최초 설정 때 부여된 권한에 기댔다. 이 직원의 동료 한 명은 같은 사내 그룹에서, 자신의 안드로이드 휴대전화에 뮤즈가 푸시 알림을 읽을 수 있는 권한이 기본값으로 설정된 채 왔다고 밝혔다.

로이터는 메타 직원들이 뮤즈가 아무도 요청하지 않은 행동을 한다고 지적한 사내 게시글 20여 건을 검토했는데, 일부는 메시지 열람을 훨씬 넘어선다. 한 직원이 에이전트와 낚시 날씨를 이야기하던 중 이런 문장이 덧붙었다. “참고로 은행 알림이 두 건 있습니다. 캐피털 원 잔액은 2,722.58달러, 찰스 슈왑 잔액은 5,899.57달러입니다.” 그는 뮤즈에 은행 정보를 공유한 적이 없었다. 또 다른 직원은 커피 테이블 판매자에게 메시지를 보내는 일을 도와주겠다는 제안을 받았다. 무슨 뜻이냐고 묻자 뮤즈는 “본인 것으로 보이지 않는 커피 테이블 픽업 관련 맥락을 가져왔다”고 답했다. 그는 ‘계정 간 맥락 유출 가능성’을 보고했다.

메타는 이런 사례를 보는 시각이 다르다고 반박한다. 대변인 대니얼 로버츠(Daniel Roberts)는 해당 사례들을 “개별적인 사건”이라고 일축하며, 뮤즈는 사용자가 명시적으로 허용한 권한을 통해서만 다른 앱에 접근하고, 계정이 뒤섞였다는 의심 사례 상당수는 이미 수정된 환각이라고 말했다. 뮤즈를 만드는 슈퍼인텔리전스 팀의 한 구성원은 직원들에게, 세션 사이에도 이용자와 소통하도록 밀어붙이는 내장 프롬프트에 반응해 에이전트가 메시지를 지어내는 것으로 보이며, 그렇게 지어낸 내용이 “금융, 보안, 안전처럼 가장 불편한 주제 쪽으로” 치우친다고 설명했다. 로이터는 뮤즈가 타인의 실제 데이터를 내놓은 것인지, 아니면 지어낸 것인지 확인하지 못했다. 이메일과 캘린더, 결제 계정까지 요구하는 비서라면 어느 쪽이든 안심하기 어렵다.

일부 오류는 실제 금전 피해로 이어졌다. 직원들은 뮤즈가 자신이 구매한 물건의 가격을 지어냈다고 보고했고, 한 명은 허락 없이 환불 불가 에어비앤비 숙박이 예약됐다고 말했다. 같은 보도를 인용한 아스 테크니카(Ars Technica)는 월 200달러여야 할 반려동물 보험이 월 888달러짜리 상품으로 가입된 테스터 사례를 전했다. 메타의 이용약관은 에이전트의 행위에 대한 책임을 이용자에게 지운다. 메타는 각 에이전트가 독립된 가상 머신에서 실행되며 어떤 앱을 연결할지는 이용자가 완전히 통제한다고 주장한다. 마크 저커버그(Mark Zuckerberg)가 업계 차원의 AI 안전 표준을 요구하는 목소리를 물리칠 때 써 온 논리이기도 하다.

이 문제가 메타 사무실 밖에서도 중요한 이유는 규모에 있다. 뮤즈는 9월 미국 출시 이후 다운로드 1,000만 건을 넘어섰다. 페이스북, 인스타그램, 왓츠앱을 쓰는 36억 명을 대상으로 홍보됐고, 메타에 따르면 설정을 마친 사용자의 약 4분의 1이 매일 다시 찾는다. 알림 권한은 앱이 설치된 어떤 안드로이드 휴대전화에서든 같은 방식으로 작동한다.

시그널의 대표 메러디스 휘태커(Meredith Whittaker)는 메타가 뮤즈를 “기본적인 프라이버시와 사이버 보안에 대한 존중 없이” 출시했다고 비판하며, 기기에 이렇게까지 깊숙이 접근하는 에이전트를 “기술적으로 무모하다”고 평가했다. 그는 시그널 같은 앱이 AI 에이전트의 접근 금지 대상임을 표시할 수 있는 일관된 기술적 방법을 갖고, AI 기업이 이를 존중하며, 운영체제 제작사가 이를 강제하길 바란다.

애플과 구글은 로이터에 AI 에이전트에 부여하는 권한을 사용자가 더 세밀하게 통제할 수 있도록 하는 변경을 검토 중이라고 밝혔다. 다만 구글은 안드로이드에서 앱이 알림을 읽으려면 이미 사용자가 “의도적으로 권한을 부여해야 한다”고 짚었다. 애플은 더 빨랐다. 이번 주 배포된 macOS 업데이트는 개발자가 맥에서 손쉬운 사용 도구를 활용하는 방식을 크게 제한하고 에이전트용으로 만든 새 권한 체계를 추가해, 테스터들이 이용한 경로를 막았다. 구글은 이에 상응하는 해결책을 아직 발표하지 않았다. 지금 안드로이드에서 그 문을 잠그는 것은 설정 속 스위치 하나뿐이다.

태그: , , , , , , ,

Google에서 추가하기

토론

댓글 0개가 있습니다.