EU Kids Act, Character.AI를 청소년에게 통하게 했던 기능 폐지

캐릭터.AI(Character.AI)와 리플리카(Replika)는 이제 10대 사용자가 나눈 대화를 기억할 수 없게 됐다. 유럽연합 집행위원회가 제안한 디지털 안전 규제인 EU 아동법(EU Kids Act)이 전체 법안 전문을 공개한 가운데, 이 법안은 AI 동반자 애플리케이션이 미성년자와의 대화가 종료되면 해당 대화 내용을 삭제하도록 요구한다. 단, 사용자의 안전을 보호하는 데 직접적으로 필요한 데이터는 예외다. 이 앱들을 수백만 10대 사용자에게 문화적으로 의미 있게 만든 디자인이 이제 유럽 법 아래에서는 금지된 것이다.

이번 동반자 관련 조항은 단순히 대화 내용 삭제를 넘어선다. 플랫폼은 18세 미만 모든 사용자를 대상으로 감정적 동반자 기능을 기본적으로 비활성화해야 한다. 대인 관계를 모방하거나, 정서적 애착을 유발하거나, 잦은 이용을 보상하는 모든 디자인 요소는 명시적으로 금지된다. 위원회는 이들 앱이 10대 사용자를 붙잡아 두는 데 사용하는 구체적인 메커니즘을 지목했다: 대화의 연속성, 사용자가 인식되는 경험, AI가 사용자의 삶에 관여하고 있다는 느낌이 바로 그것이다. 이 모든 것이 제거되어야 한다.

이 법안은 AI 챗봇을 훨씬 넘어서는 내용을 담고 있다. 13세 미만은 부모의 동의 없이 소셜 미디어 플랫폼, 온라인 게임, AI 애플리케이션 이용이 금지된다. 18세 미만 모든 사용자에게는 자동 재생, 무한 스크롤, 수면 시간대 참여 알림이 금지된다. 위치 추적, 마이크 접근, 카메라도 기본적으로 비활성화되어야 한다. 연령을 스스로 선언하는 방식은 더 이상 인증 요건을 충족하지 못하며, 플랫폼은 인증된 EU 연령 확인 시스템을 통합해야 한다.

캐릭터.AI는 이미 부모 통제 기능과 세션 시간 제한을 발표했다. 이는 법안의 공식 전문이 공개되기 전에 가해진 규제 압박이 커지는 가운데 나온 조치다. 리플리카는 ‘동반자 경계’를 구축하겠다고 약속했다. AI가 인간 관계를 대체할 수 없다는 점을 사용자에게 알리겠다는 것이다. 메타, 구글, 스냅, 오픈AI 등 더 큰 플랫폼들은 공식적인 입장을 내놓지 않았다. 규제 준수 분석가들은 이들 모두에게 상당한 재설계 비용이 발생할 것으로 추산한다. 최근 47개 주에서 아동 중독을 유발하도록 플랫폼을 설계했다는 혐의로 171억 달러 규모의 소송을 해결한 메타는 새로운 규칙 아래에서 더 큰 위험에 직면할 수 있다.

회의론이 제기될 만한 근거도 충분하다. 아동법은 법률이 아닌 제안안이다. 이 법안은 구속력을 갖기까지 유럽 의회와 회원국 간 수개월 간의 협상을 거쳐야 하며, 최종 조항은 변경될 가능성이 높다. 인스타그램이나 틱톡 규모에서 진정한 연령 확인을 구현하는 것은 여전히 기술적으로 어렵다. 연속성을 중심으로 설계된 AI 동반자에 대화 삭제 기능을 구축하는 것은 규제 당국이 예상했던 것보다 더 깊은 엔지니어링 과제다. 기업들은 이미 모든 구현에서 동반자 챗봇이 별도 세션 간에 기억을 유지하지 않는다는 점을 지적하며, 금지 조항의 적용 범위가 실제로는 불분명하다고 주장한다.

유럽 밖 독자들에게도 더 넓은 맥락이 중요하다. 호주는 작년 말 16세 미만의 소셜 미디어 이용을 금지했다. 미국 47개 주는 아동 중독 혐의와 관련해 메타와 총 171억 달러 규모의 합의에 도달했으며, 여러 주에서 미성년자의 소셜 미디어 접근을 제한하는 법안을 시행 중이다. EU 아동법은 지금까지 나온 가장 공격적인 단일 제안이다. 그 특별한 목표는 접근이 아니라 감정적 디자인 그 자체다.

유럽연합 집행위원회는 9월 19일 전체 법안 전문을 공개했다. 의회 협상은 10월에 시작된다. 시행 후 기업들은 15세 미만 사용자의 기존 계정을 식별하고, 이를 부모 통제 모델로 전환하거나 비활성화할 때까지 6개월의 시간을 갖는다. 위반 시 연간 전 세계 매출의 최대 6%에 해당하는 벌금이 부과된다.

태그: AI regulation, Character.ai, European Commission, AI chatbots, children digital safety, EU Kids Act