기술

구글, 버그 수정 기한 단축… AI가 보안 패치를 공격으로 바꾸고 있다

Adrian Kessler
Google에서 추가하기

보안 업데이트가 나올 때마다 공격자에게는 취약점이 어디 있었는지 알려주는 셈이다. 이제는 그 내용을 대신 읽어주는 소프트웨어까지 등장했다. Google 위협 인텔리전스팀은 보안 수정 전후의 웹 애플리케이션을 대조해 무엇이 고쳐졌는지 알아내고, 실제로 작동하는 공격을 작성한 뒤 실행까지 사람의 개입 없이 처리하는 범죄 조직의 시스템을 발견했다. Google의 취약점 연구팀 Project Zero는 이에 대응해 소프트웨어 업체에 취약점을 수정할 시간을 줄이기로 했다.

업데이트 알림에서 ‘나중에 알림’을 누르는 사람이라면, 안전하게 미뤄둘 수 있는 시간은 거의 사라졌다고 봐야 한다. Project Zero는 패치가 배포되는 순간 공격이 시작되는 상황을 이제 범죄자들의 행동을 보여주는 현실적인 기준으로 삼는다. 수정이 이뤄진 뒤 사용자들이 업데이트를 설치할 때까지 잠시 여유가 있다는 기존의 생각은 더 이상 통하지 않는다. 대부분의 사용자가 설정 화면을 열기도 전에 기계가 패치를 역분석할 수 있기 때문이다.

2021년부터 Project Zero는 취약점을 제보한 뒤 업체가 이를 고칠 수 있도록 90일을 주고, 사용자가 패치를 설치할 수 있도록 ‘정착 기간(soak time)’ 30일을 추가로 부여해 왔다. 이제 그 한 달의 추가 기간은 사라진다. 취약점 세부 정보는 수정 여부와 관계없이 제보 후 90일이 지나면 공개되며, 공개 기한은 앞으로 두 차례 더 단축된다. 팀은 유예 기간을 포함해 대부분의 예외 조항도 없애고 있다. 과거에는 1년에 몇 건 발견하던 제품에서 AI를 활용한 뒤로는 매주 여러 건의 취약점을 찾아내게 돼, 일일이 기한을 협의하기에는 너무 많아졌다는 설명이다.

이런 취약점을 찾아내는 모델을 보유한 Anthropic도 같은 방향으로 움직이고 있다. Anthropic의 Frontier Red Team은 심각도 ‘높음’ 및 ‘치명적’인 취약점을 제보 후 90일이 아니라 30일 뒤 공개하고, 나머지 취약점은 45일 뒤 공개할 예정이다. 유지관리자가 첫 제보를 무시하면 30일이 아닌 15일 뒤 외부 조정 기관에 연락한다. 회사는 “취약점이 수개월 동안 비공개로 남아 있을 것으로 예상할 수 있었을 때는 90일의 기간이 합리적이었다. 이제는 그렇다고 믿지 않는다”고 밝혔다. 한 모델이 찾아낼 수 있는 버그를 다른 모델도 발견할 가능성이 점점 커지고 있다고 덧붙였다.

Google을 놀라게 한 공격 사례는 최신 AI 위협 추적 보고서에 담겼다. 조사팀은 exploit_agent라는 멀티 에이전트 프레임워크가 구동되는 외부 공개 스테이징 서버를 발견했다. 러시아어 기반 도구로 구축된 이 시스템은 상용 AI 모델과 로컬에서 실행하는 AI 모델을 모두 연결해 사용했다. 서버는 인기 웹 소프트웨어의 여러 버전을 지속해서 비교했고, 피해자에게서 훔친 데이터도 같은 서버에 보관돼 있었다. The Register에 따르면 텔레메트리 데이터에서 운영자가 프랑스의 미디어·엔터테인먼트·교육 분야 웹사이트를 노린 정황이 확인됐다. Google은 범죄에 쓰이는 다른 AI 공격 프레임워크로 ARTEX, CAIRN, HexStrike AI, PentAGI도 언급했다. 이 도구들은 금전적 이익을 노리는 범죄 조직은 물론, 간첩 활동이 의심되는 단체들도 사용하고 있다.

기한을 줄인다고 저절로 패치가 더 빨리 배포되는 것은 아니다. 업체들은 30일로 곧바로 단축하면 기업들이 아직 수정 절차를 재정비하는 동안 공격자에게 패치되지 않은 취약점이 노출될 수 있고, 다른 연구자들이 찾아낸 더 심각한 버그보다 Project Zero의 제보를 먼저 처리하도록 팀을 재촉할 수도 있다고 Google에 전했다. Google이 변경 사항을 단계적으로 적용하는 이유다. Anthropic은 핵심 인프라와 기술 표준 변경이 필요한 취약점에 예외를 두며, 사람이 검토하지 않은 AI 발견 사항은 정책 적용 대상에 포함하지 않는다. 한편 Google은 경고를 발표하면서 자사의 유료 방어 제품인 Google AI Threat Defense도 함께 홍보했다.

두 정책 모두 특정 지역에만 적용되는 것은 아니다. 휴대전화 제조사부터 자원봉사자들이 운영하는 오픈소스 프로젝트까지, 두 팀이 조사하는 소프트웨어를 만드는 회사라면 어디든 적용되므로 전 세계 시장에서 쓰이는 제품에 부담이 돌아간다. 여전히 가장 느린 연결 고리는 Project Zero가 ‘패치 격차’라고 부르는 부분이다. 수정 사항이 배포된 뒤 실제로 사용자 기기에 업데이트가 도달하기까지 걸리는 시간으로, 사용자 본인뿐 아니라 휴대전화 제조사와 통신사, 앱 개발사에도 달려 있다.

Project Zero의 90일 규칙은 2026년 11월 13일부터 시행됐다. 2027년 2월 2일에는 공개 기한이 60일로 줄고, 2028년 1월 3일에는 30일로 단축된다. Anthropic의 30일 및 45일 기한은 2027년 1월 1일 이후 접수된 제보부터 적용된다. 기존 90일 기한이 이미 지난 유지관리자에게는 30일의 추가 기간이 주어졌다. 두 팀 모두 이미 실제 공격이 진행 중인 취약점에는 별도의 신속 처리 절차를 두며, Anthropic의 경우 그 기간은 7일이다.

2028년이 되면 내일로 미뤄둔 업데이트에 이미 공격 코드가 작성돼 있을지도 모른다.

태그: , , , , ,

Google에서 추가하기

토론

댓글 0개가 있습니다.