앤트로픽, 펜타곤이 제거 요구한 AI 안전 제한 유지…법원이 보호하다

클로드(Claude)의 창업자는 두 가지 정부 요구를 거절했다. 국방부는 Anthropic에 대해 자사의 AI 모델이 완전 자율 무기 결정 및 미국 시민에 대한 대규모 국내 감시에 사용되는 것을 막는 안전장치를 제거할 것을 요구했다. Anthropic은 이를 거절했다. 이에 펜타곤은 해당 기업을 국가안보 공급망 위험 기업으로 공식 지정했다. 이는 미국 내 모든 국방 계약업체가 Anthropic과 사업을 할 수 없도록 하는 분류였다.

이 지정은 피트 헤그세스(Pete Hegseth) 국방장관의 3일 최후통첩에 따른 것이었다. 공식적인 법적 근거는 Anthropic이 군사 시스템에 배치된 클로드 모델을 원격으로 변경·비활성화하거나 백도어를 설치할 수 있다는 것이었다. 이는 관련 조달 법령에 따라 미국 기업에 공개적으로 적용된 첫 번째 사례였다. 국방 계약업체들은 기존 파트너십을 재검토하느라 분주해졌고, Anthropic은 이로 인한 상업 수익 피해가 수십억 달러에 달할 것으로 추산했다.

그 기술적 주장은 법원의 심사를 통과하지 못했다. 미국 연방지방법원 판사 리타 F. 린(Rita F. Lin)은 이를 “완전히 근거가 없다”고 판단했다. 배치된 클로드 모델은 정적 파일(static files)로, Anthropic 서버에 연결된 실시간 서비스가 아니다. 해당 기업은 인도 후 이를 수정할 기술적 경로가 없다. 정부는 그러한 능력이 존재한다는 증거를 제출하지 못했다.

린 판사의 59쪽 분량 판결문은 세 가지 법적 결함을 지적했다. 이 지정은 수정헌법 제1조를 위반했다. 이는 AI 안전에 대한 Anthropic의 공개 발언에 대한 보복이지, 진정한 보안 결정이 아니었다. 또한 수정헌법 제5조를 위반했다. Anthropic은 블랙리스트가 적용되기 전에 이의를 제기할 기회를 받지 못했다. 그리고 행정절차법에도 위배됐는데, 자의적이고 변덕스러운 결정이었기 때문이다. 정부는 안전 논쟁이 시작되기 전까지 Anthropic에 대한 공급망 우려를 제기한 적이 없었다. 법원 문서에 따르면 지정이 확정된 후에도 국방부 차관이 해당 기업과 계약 협상을 계속했다. 펜타곤 내부 메모는 Anthropic의 “실리콘밸리 이데올로기”를 언급했고, 대통령은 공개적으로 이 기업을 “RADICAL LEFT, WOKE”라고 부른 바 있다. 린 판사는 이렇게 적었다. “국가안보의 공허한 남용은 정부 비판자에 대한 처벌과 보복을 위한 백지수표가 아니다.”

이번 판결이 Anthropic의 상황을 완전히 해소한 것은 아니다. 별도의 연방 법령에 따른 병행 지정이 D.C. 순회항소법원 사건으로 현재 유효한 상태다. Anthropic은 기술적으로 그 절차에서 여전히 공급망 위험 기업으로 분류되어 있다. 법률 학자들은 북부 캘리포니아 판결이 곧 항소될 것으로 예상한다. 이 사건이 제기하는 더 근본적인 질문은 연방 기관이 조달 블랙리스트를 체계적으로 활용해 민간 AI 기업이 유지하는 안전 제한을 형성할 수 있는지 여부다. 단일 지방법원 명령으로는 답이 나오지 않는다. 린 판사의 판결은 그 메커니즘에 이의를 제기하고 기각될 수 있음을 확인했다. 그러나 정부가 다른 사실을 바탕으로 다시 시도하는 것을 막지는 못한다.

린 판사는 8월 27일 판결을 내렸다. 정부는 제9순회항소법원에 항소할 것으로 예상된다. 병행 지정에 관한 D.C. 순회항소법원 사건은 아직 확정된 심리 일정이 없다. 항소 법원들이 행정부의 국가안보 권한과 AI 안전 정책에 대한 수정헌법 제1조 보호 간의 관계를 어떻게 해석할지가 업계가 이전에 경험하지 못한 제약을 정의하게 될 것이다.

태그: 인공 지능, Anthropic, tech-en1, Claude, AI safety, court ruling