유럽의 모든 챗봇은 이제 자신이 AI임을 밝혀야 한다 — 그렇지 않으면 제조사는 1500만 유로 벌금

이제 유럽 사용자와 대화하는 모든 챗봇이나 AI 시스템은 스스로를 인공지능이라고 밝혀야 한다. 이 규정은 챗GPT, 제미나이, 클로드는 물론 자동화 고객센터 봇, AI 글쓰기 도구, 인간 대화를 모방하는 모든 소프트웨어에 적용된다. 위반 시 과징금은 최대 1500만 유로 또는 기업의 전 세계 연간 매출의 3% 중 더 높은 금액이다. 이 규정은 제안이나 시범 사업이 아니다. 법이다.

이 규정은 2026년 8월 2일 발효된 EU 인공지능법 제50조에서 비롯됐다. 해당 조항은 세 가지 별개의 의무를 규정한다. 챗봇은 사용자가 AI 시스템과 상호 작용하고 있음을 공개해야 하며, 딥페이크 콘텐츠는 AI 생성물임을 표시해야 하고, 직장이나 교육 환경에서 감정을 분석하는 AI 시스템은 작동 방식을 공개해야 한다. 공개는 명확하고 시의적절하며 적절해야 하지만, 구체적인 실행 방식은 기업에 맡겨졌다.

적용 범위는 생각보다 넓다. 유럽 규제 당국은 이 법이 EU에 본사를 둔 기업뿐만 아니라 EU 사용자에게 서비스를 제공하는 모든 서비스에 적용된다고 확인했다. 이는 메타의 AI 어시스턴트, 애플의 시리, 링크드인의 AI 채용 코치, 그리고 유럽 고객을 대상으로 하는 수천 개의 고객 서비스 배치까지 모두 포함한다. 1500만 유로의 상한선은 경미한 위반에 적용되며, 전 세계 매출의 3% 기준은 기업 규모가 커서 1500만 유로가 실질적인 억지력이 되지 못할 때 적용된다.

EU의 집행은 일반적으로 느리게 진행된다. 예산이 제한적이거나 아예 없는 국가 AI 당국이 규정 준수 여부를 모니터링할 책임을 진다. 2018년 통과된 일반개인정보보호법(GDPR)도 첫 대규모 과징금이 부과되기까지 거의 2년 동안 사실상 집행되지 않았다. AI법 집행도 이와 유사한 패턴을 따를 것으로 예상된다. 즉, 공식 조치에 앞서 각국 규제 기관의 가이드라인이 먼저 나올 것이다. 제50조의 투명성 규칙은 집행이 상대적으로 간단한 조항에 속한다. 시스템 구조에 대한 감사가 아닌 눈에 보이는 공개만 하면 되기 때문이다.

의무 공개가 유럽 사용자와 AI의 관계에 실질적인 변화를 가져올지는 미지수다. GDPR이 의무화한 쿠키 동의 배너 등 유사한 요구사항에 대한 연구는, 이러한 고지 사항이 사용자 행동을 바꾸기보다는 법적 명확성을 높이는 데 더 기여한다는 것을 시사한다. 모든 대화를 ‘저는 AI입니다’로 시작한 후 인간과 구분할 수 없을 정도로 행동하는 챗봇은, 실제로 적절한 AI 투명성이 무엇을 의미하는지에 대한 근본적인 질문을 해결하지 못한 채 법적 요건만 충족한다.

AI법의 더 까다로운 조항들은 여전히 보류 상태다. 2026년 6월 통과된 디지털 옴니버스 패키지는 채용, 신용 평가, 생체 인식, 법 집행에 사용되는 고위험 AI 시스템을 규율하는 부속서 III의 준수 기한을 2026년 8월에서 2027년 12월로 연기했다. 가장 상업적으로 민감한 분야의 기업들은 준비할 시간이 16개월 더 늘어났다. 제50조는 업계에 가장 중요한 규칙들이 대기 중인 상황에서 우선 시행된 소비자 대상 조항이다.

EU는 AI의 자발적 공개를 설계 권장사항이 아닌 법적 의무사항으로 만든 최초의 주요 관할권이 되었다. 캘리포니아와 영국에서도 이와 동등한 규칙이 논의 중이지만 아직 법으로 통과되지는 않았다. EU 내 4억 5000만 명의 사람들에게 자신이 사람과 대화하고 있는지, 기계와 대화하고 있는지에 대한 질문은 이제 법적 답을 갖게 되었다. 그 답이 얼마나 일관되게 전달될지는 아직 시작되지 않은 집행에 달려 있다.

태그: 인공지능, chatgpt, 딥페이크, EU AI Act, 규제, 챗봇