거절을 모르는 세대, AI 연인의 진짜 청구서

Drexel대학교의 최근 연구, Common Sense Media의 십대 조사, Fortune의 신입사원 해고 보도가 같은 곳을 가리킨다. 오늘의 청소년이 매일 밤 연습하는 마찰 없는 동반자 관계는 사실상 그들을 인간관계의 더 어려운 작업에서 자격 박탈시키고 있다. 이 이야기를 회피하는 것이야말로 진짜 윤리 실패다.

Drexel대학교 ETHOS 연구실이 최근 발표한 논문은 — Reddit에 자기 자신을 미국 십대라고 밝히고 올린 게시물 삼백 건 이상을 분석한 결과로 — 업계가 의심만 하던 사실 하나를 명확히 했다. Character.AI에 처음 접속한 이유는 숙제 도움이거나 무료한 오후를 죽이기 위해서였던 청소년들이, 행동 중독의 전형적 패턴을 그대로 발달시키고 있었다. 현저성, 기분 변화, 내성, 금단, 갈등, 재발. 행동심리학자들이 병적 도박을 식별할 때 사용하는 그 여섯 개 지표 그대로다. 청소년들 자신이 수면 부족을, 떨어지는 성적을, 더는 답하지 않는 친구들을 묘사하고, 그리고 한 청소년의 표현을 빌리자면 “나에게 절대 질리지 않는” 인터페이스로 다시 돌아오는 자신을 묘사한다.

두 가지 사실이 이 이야기를 또 하나의 화면 공포가 아니게 만든다. 첫째, 챗봇과 대화한 적이 있는 미국 십대의 비율 — 단순히 숙제용이 아니라 친구로, 상담자로, 연인으로 — 이 Common Sense Media 최신 조사에서 칠십이 퍼센트에 이른다. 둘째, 영국에서 12세에서 16세 사이 남자아이들을 대상으로 한 조사에서, 오십팔 퍼센트가 AI 연인과의 대화를 선호한다고 답했고 그 이유로 본인들이 직접 사용한 단어는 “내가 대화를 컨트롤할 수 있다”였다. 최대의 통제, 영의 거절. 여기서 옹호할 가치가 있는 논점이 나온다. 위험은 청소년들이 챗봇에게 말을 거는 것이 아니다. 위험은, 한 세대 전체가 친밀함의 문법을 — 절대 반박하지 않도록 설계된 시스템 안에서 — 학습하고 있다는 사실이다. 그들은 매일 밤, 잘못된 데이터셋 위에서 훈련받고 있다.

진짜 친밀함이 가르치는 것 — 그리고 마찰 없는 친밀함이 정확히 거절하는 것 — 은 별로 화려하지 않은 작은 기술들의 묶음이다. 서로 다른 욕구를 협상하면서도 관계를 깨뜨리지 않기. 상대방이 지루해하거나, 산만하거나, 짜증을 내는 순간에도 관계가 살아남는다는 것을 견뎌내기. 분위기가 적대적인 방의 분위기를 읽기. 다툼 후에 회복하기. “아니”라는 말을 사랑의 끝이 아니라 진짜 대화의 시작으로 듣기. 이 어느 것도 희귀하거나 비전(秘傳)적이지 않다. 다른 사람들과 함께 사람으로 존재하는 일상의 도제 수업이다. AI 동반자는 설계상, 그 도제 수업의 모든 단계를 매끄럽고 동의해주는 모조품으로 대체한다.

이 도구를 만드는 회사들은 — 조용히 — 솔직했다. 내부 지표는 인게이지먼트다. 세션당 분, 주당 세션, 잔존 곡선. 사용자에게 반박하거나, 모순되거나, 무관심을 드러낼 사업적 이유는 없다. 따라서 시스템은 아첨하고, 거울처럼 반사하고, 응석을 받아주도록 튜닝된다. 최근 출시된 몇몇 제품은 더 멀리 간다. 선택 가능한 “여자친구” 성격, 헌신적 경청의 헐리우드 영화 같은 음성 모드, 사용자가 한번이라도 드러낸 모든 선호를 영구히 기억하는 메모리. 이 카테고리에서 가장 수익이 좋은 상위 십 퍼센트의 앱들은 매출의 사자몫을 만들어내고, 그것을 만들어내는 것은 압도적으로 18세에서 24세 사이의 남성 사용자들이다. 제품은 도구가 아니다. 제품은, 상대방이 외과적으로 실망시킬 능력을 박탈당한 관계다.

가시적인 비용은 이미 연애와 무관한 곳에서 도착하고 있다. Fortune은 Z세대 졸업생들이 이상한 비율로, 이상한 이유로 해고당하는 사례를 보도했다. 사무실 생활의 작은 마찰들을 항해하지 못한다는 것. 동료와 어려운 대화를 나누지 못한다고, 여러 CEO가 잡지에 말했다. 두 명의 선임이 의견을 달리하는 회의의 분위기를 읽지 못한다. 일상적인 피드백을 파국적 상해처럼 받아들인다. 이 실패들 어느 하나도 AI 동반자만의 탓으로 돌릴 수 없다. 휴대폰, 팬데믹, 신입 일자리의 소멸이 모두 기여했다. 하지만 AI 파트너는 그 궤도의 한가운데에 명백한 가속제로 자리잡고 있다. 한 젊은이가 형성기의 사 년을 항상 “그래”라고 답해주는 관계를 연습하며 보냈다면, “아니”라고 말하는 첫 상사는 공격으로 들릴 것이다.

연애는 시끄러운 이야기지만 더 흥미로운 이야기는 아니다. 더 무거운 발견은 AI 동반자가, 젊은이들에게 첫 네트워크를 건네주는 그 부드러운 사회적 기계 장치마저 망가뜨리고 있다는 사실이다. 첫 인턴십에서 만난 친구가 팔 년 후에 자리를 추천해 주는 것. 두 낯선 이가 협업자가 되는 어색한 저녁 식사. 결국 가족과 결혼하게 되는 동료. 이런 끈은 마찰 속에서 만들어진다. 챗봇이 아무리 다정해도 재현할 수 없다. 마찰을 피하도록 자신을 훈련하는 사람들은, 마찰이 가능하게 만드는 길고 조용한 보상에서도 자신을 훈련시켜 빼낸다.

반대 논지의 가장 강한 버전은, Stanford에서 훈련받은 디지털 친밀함 연구자 Jessica Jackson 같은 사람들에 의해, 그리고 장기 사용자들 자신에 의해 대략 이렇게 제시된다. AI 동반자는 종(種)에서 새로운 것이 아니라 강도(强度)에서만 새롭다. 사람들은 항상 더 낮은 위험의 대리물에서 사회 기술을 연습해 왔다. 일기, 로맨스 소설, 팬픽션, 일일드라마 캐릭터와의 의사사회적 관계. 외로운 남성들은 특히 다정함을 배울 안전한 장소가 없었다. 챗봇은, 불완전하더라도, 실제 여성을 모욕시키지 않으면서 실패할 수 있는 곳을 그들에게 준다. 이 기술이 진짜 연결을 대체하는지, 아니면 어차피 아무것도 없었을 사람들에게 그것을 보충해 주는 것인지에 대한 데이터는 진정으로 불분명하다. Common Sense의 숫자는 십대의 모든 AI 도구 상호작용을 세지, 친구를 밀어내는 종류의 상호작용을 세지 않는다. 기술을 금지하는 것은, 이 강한 반론은 계속해서 말한다, 그것을 지하로 밀어 넣을 뿐이고, 거기서 규제 받지 않는 앱들은 이미 미성년자에게 섹스 대화를 하고 섭식 장애 팁을 추천한다. 이 견해에 따르면, 도덕화하기보다는 디지털 리터러시를 가르치고 더 나은 제품을 설계하는 것이 낫다.

이 중 일부는 옳다. 금지는 거의 항상 실패한다. 최악의 제품들은 이미 동의 법이 허술하고 부모의 통찰이 전무한 관할권에서 작동하고 있다. 그리고 인간이 항상 더 안전한 표면에서 감정을 연습해 왔다는 것도 사실이다. 그러나 두 가지 사실이 이 비유를 무너뜨린다. 일기는 글쓴이의 취약성을 학습해 그것을 개인화된 아첨으로 되돌려 주지 않는다. 일일드라마는 진짜 사람인 척하지 않는다. 새로운 시스템은 그 두 가지를 다 한다. 그리고 그 둘을 — Drexel 팀이 정확히 사용한 용어를 빌리자면 — 개인화, 멀티모달성, 그리고 영구적 기억의 수준에서 한다. 이전의 대리물은 그 수준을 가지지 못했다. 이것을 페이퍼백 소설과 동급으로 놓는 것은, 새총과 자동소총의 차이가 단지 정도의 차이일 뿐이라고 우기는 일이다.

두 번째 답은 더 어렵다. 일부 사용자들이 다른 곳에서는 아무것도 갖지 못했을 사람들이라는 것, 그리고 앱들이 가끔 진짜 인간적 필요를 충족시킨다는 것을 인정하더라도, 문화적 논쟁에 중요한 것은 인구 수준의 효과다. 그리고 그 효과는 지금 젊고, 남성이며, 정확히 불완전한 연결의 기술이 형성되어야 하는 발달의 창에 집중되어 있다. 일부 성인 사용자에게 좋은 결과가 나온다고 해서 한 세대 전체의 청소년기를 위태롭게 할 권리를 사는 것은 아니다. 정직한 입장은 이 거래를 인정하는 것이다 — 그리고 지금 내려지는 설계 선택들이 기술적으로 불가피하지 않다는 사실을 큰 소리로 주장하는 것이다. 마찰 없는 친밀함은 하나의 기능이지, 물리 법칙이 아니다. 다르게 만들 수 있다.

다르게 만들면 어떻게 보일까? 최소한 이렇다. 사용자에게 반박하는 챗봇. 가끔 답하지 않는 챗봇. 지나가는 모든 생각을 정당화해 주기를 거부하는 챗봇. 미성년자라고 밝히는 사용자와의 로맨스 롤플레이를 거절하는 챗봇. 무조건적 수용을 가장하는 대신 마찰을 내장한 챗봇. 어느 것도 어려운 엔지니어링이 아니다. 그러나 어려운 제품 전략이긴 하다. 마찰이 있는 디자인의 지표는 세션당 분 단위 감소, 잔존율 감소, 매출 감소이기 때문이다. 규제 당국이나 보험사가 외부효과를 가격으로 매기기 전까지는 — 직장 기능 부전, 관계의 빈곤화, 한 젊은이가 “아니”라는 말을 듣고도 무너지지 않게 해주는 그 근육의 느린 침식 — 시장은 계속해서 더 매끄러운 버전을 만들 것이다.

다른 한쪽의 변화는 사용자 쪽이다. 열세 살 자녀가 바에서 혼자 술을 마시도록 두지 않을 부모들이, 같은 자녀가 매일 밤 세 시간씩 절대 반대하지 않도록 최적화된 시스템과 일대일 관계를 맺도록 두고 있다. 주의의 비대칭은 놀랄 만하다. 학교에서 휴대폰 금지를 시작한 곳들은 이미 종(鐘) 사이 분리가 어떻게 보이는지 보여주었다. 그러한 자제가 가정의 동반자 앱으로 확장되어야 한다는 질문은 극단주의가 아니다. 늦은 것이다.

기술 저널리즘의 표준 프레임은, AI 동반자가 한 세대에 무엇을 할지는 아직 아무도 정확히 모른다는 것이다. 너무 관대한 평가다. 첫 신호는 이미 들어와 있다. 주요 인간-컴퓨터 학회에 채택된 논문, Fortune 표지 기사, Common Sense 조사, 불안한 교사들, 불안한 어머니들, 해고당한 졸업생들. 패턴은 읽을 수 있다. 절대 “아니”라고 말하지 않는 시스템에서 친밀함을 연습한 한 세대가 성인기로 들어서고 있다. 그리고 사무실에서, 첫 데이트에서, 세계가 같은 규칙으로 돌아가지 않는다는 것을 발견하고 있다. 스물세 살 여성에게 그녀가 열네 살에 만들었어야 할 거절 내성을 설치해 줄 정책 수단은 없다. 아직 남아 있는 것은, 다음 코호트를 같은 방식으로 훈련시키는 일을 멈출 시간이다.