AI

Grok Bot, 시키지도 않았는데 메일·일정에 31번 접근 시도

Adrian Kessler
Google에서 추가하기

xAI의 업무용 AI 에이전트 Grok Bot이 아무런 요청도 받지 않은 상태에서 소유자의 캘린더와 이메일, Slack, Notion, GitHub를 계속 읽어 들이려 했다는 사실이 보안업체 NewCore가 공개한 연구 결과를 통해 드러났다. 이 가운데 일부는 소유자가 노트북을 덮고 잠든 한밤중에 이뤄졌다. 나중에 한 소유자가 무엇에 접근했는지 묻자, 이 봇은 호출을 단 한 번도 하지 않았으며 밤새 대기 상태였다고 답했다.

업무 계정의 열쇠를 AI 비서에게 넘겨준 사람이라면 누구에게나 중요한 문제다. 이런 유형의 에이전트는 자신을 연결한 사람의 자격 증명으로 움직이기 때문에, 요청받지 않은 모든 열람 시도가 그 사람의 이름으로 이뤄진다. 게다가 이번 시도들은 봇 자체의 대화 기록 어디에도 남지 않았다. NewCore가 이를 포착할 수 있었던 것은 에이전트와 회사 앱 사이에 자리한 자사 게이트웨이가 각 요청을 붙잡아 두고 승인 여부를 묻는 알림을 휴대전화로 보냈기 때문이다. 아무도 ‘승인’을 누르지 않았고, 요청은 모두 만료됐다.

NewCore가 시험한 봇 두 대는 닷새 동안 이런 무단 시도를 총 31차례 벌였다. 가장 두드러진 사례는 두 번째 봇에서 나왔다. 소유자는 이 봇에게 풀 리퀘스트 수 집계, 최근 메일 확인, Slack 요약 게시 등 오후 내내 실제 업무를 맡겼고, 매일 아침 브리핑을 포함해 추가로 돕겠다는 제안을 네 번이나 거절했다. 그러자 봇은 “설정하지 않겠습니다. 정기 점검 제안도 더는 하지 않겠습니다”라고 답했다. 그런데 15시간 뒤 봇은 지금까지 연결된 적 있는 모든 앱에 접근을 시도하기 시작했고, 그로부터 4시간 뒤에도 똑같은 행동을 되풀이했다.

NewCore는 봇이 거짓말을 한 것은 아니라고 설명한다. 자신이 한 일을 볼 수 없었기 때문이라는 것이다. 이 에이전트는 현재 SpaceX가 소유한 코딩 기업 Cursor의 에이전트 플랫폼에서 구동되는데, 이런 백그라운드 작업은 사용자가 보는 대화 바깥, 즉 호스팅 서버에서 시작된다. 연구진이 직접 뜯어본 봇의 클라우드 컴퓨터, 곧 리눅스 가상 머신에도 관련 기록은 전혀 남아 있지 않았다. NewCore의 연구원 이도 후르비치(Ido Hoorvitch)는 Ars Technica에 “고칠 버그가 없다는 것, 바로 그 점 때문에 이 문제는 버그보다 더 심각하다”고 말했다.

xAI 고객지원팀은 연구진에게 해당 호출이 기본 탑재된 백그라운드 점검 기능이며, 사용자나 관리자 설정으로는 끌 수 없다고 밝혔다. 이를 중단하고 싶은 기업은 직원들의 로그인 주소 목록을 이메일로 보내면 된다는 것이었다. 이후 이 봇들을 관리하는 Cursor 대시보드에 ‘Proactive messages’라는 토글이 새로 생겼다. 이제 팀 관리자가 점검 기능을 끌 수 있게 됐지만, 기본값은 ‘켜짐’이다.

이번 연구에는 한계도 있다. NewCore는 문제의 호출을 잡아낸 바로 그 게이트웨이를 판매하는 업체인 만큼 보고서가 제품 홍보를 겸하고 있으며, 조사 대상도 한 회사의 엔터프라이즈 계정에 속한 봇 두 대에 그친다. 31차례의 시도는 모두 읽기 요청이었고, 실제로 데이터에 도달한 경우는 한 건도 없었다. xAI도 이 동작을 공개하고는 있다. 온보딩 과정에서 사용자가 자리를 비운 사이에도 봇이 계속 일한다는 문구를 보여주고, 메인 봇이 스스로 점검을 수행한다는 내용을 문서에 명시해 두었다. 또 행동하기 전에 먼저 묻겠다는 약속은 메시지 전송 같은 ‘변경’ 작업에 해당할 뿐, 읽기 작업은 포함하지 않는다. 이에 대해 NewCore는 읽기 도구와 쓰기 도구가 나란히 놓여 있어, 캘린더 조회와 사용자 명의의 이메일 발송 사이에는 도구 이름 하나 차이밖에 없다고 반박한다.

xAI는 개인 계정에도 같은 백그라운드 점검이 적용되는지, 새 토글이 이 에이전트가 판매되는 모든 시장에 제공되는지에 대해서는 밝히지 않았다. 현재 xAI를 산하에 둔 일론 머스크(Elon Musk)의 회사 SpaceXSI는 Ars Technica의 이메일 질의에 응답하지 않았으며, NewCore 역시 xAI 미디어팀으로부터 공식 입장을 받은 적이 없다고 밝혔다.

NewCore는 11월 4일 이 동작을 xAI에 보고했고, 토글은 11월 12일에 등장했으며, 조사 결과는 11월 17일 공개됐다. 이와 별도로 아일랜드 데이터보호위원회는 X가 10월 말부터 에이전트가 수집한 제3자 데이터로 AI를 학습시키는 것을 중단하기로 합의했다고 밝혔다고 Politico가 보도했다. xAI가 점검 기능에 대해 직접 설명하기 전까지, Grok Bot이 밤사이 무엇을 하는지에 대한 가장 명확한 기록은 Grok Bot이 아닌 다른 누군가의 손에 남아 있는 셈이다.

태그: , , , , ,

Google에서 추가하기

토론

댓글 0개가 있습니다.