사람들이 정신건강을 AI에 묻는 이유는 효과가 아니라 ‘답을 주기 때문’이다

무언가가 조용히 바뀌었다. 사람들이 최악의 밤을 견디는 방식에서다. 마음이 스스로를 공격하고 전화할 사람이 아무도 없을 때, 점점 더 많은 성인들이 대신 챗봇을 연다. 챗봇이 자신을 이해한다고 확신해서도 아니고, 대개는 도움이 되기 때문조차 아니다. 그냥 응답하기 때문이다. 이것이 정신 건강에 대한 방대한 새 설문조사의 불편한 핵심이며, 제목이 암시하는 것보다 더 이상하다.

당연한 해석은 신뢰에 관한 이야기다. 사람들이 기계에 내면을 맡기고 있다는 것이다. 그러나 신뢰는 잘못된 렌즈다. 숫자가 설명하는 것은 기술이 실제로 좋은지에 대한 평가가 아니다. 그것은 가용성에 대한 평가다. 챗봇이 거기 있고, 전문가는 없다는 명백한 사실이다.

보험사 AXA가 여론조사 기관 입소스(Ipsos)와 함께 18개국 19,000명의 성인을 대상으로 실시한 이 연구에 따르면, 63%가 이미 정신 건강에 관한 질문을 위해 AI 도구를 사용한 적이 있다. 이 수치가 주목할 만한 이유는 그 옆에 자리한 모순 때문이다. 약 45%는 받은 답변에 불만족했다. 그런데도 38%는 인간 정신 건강 전문가보다 이 플랫폼을 더 신뢰한다고 말했다. 사람들은 조언에 불만족하면서도 여전히 그것을 찾고 있다.

이는 질이 결정 요인이 아니었다는 점에서만 말이 된다. 챗봇은 유창한 답변을 내놓도록 설계되었지, 정확한 답변을 내놓도록 설계된 것이 아니다. 챗봇은 돌봄 의무도 없고, 누군가 위험에 처했을 때 이를 상향 보고할 의무도 없다. 단순히 즉시, 무료로, 의뢰나 몇 달의 대기 없이 응답한다. “AI는 24시간 내내 이용 가능하고, 무료이며, 밤 11시에 혼자 있을 때 휴대폰 속에 있다.”고 AXA의 건강 부문 책임자는 말했다. 그것이 전체 가치 제안이다. 또한 그것이 전체 문제이기도 하다.

설문조사는 그 거래의 대가를 암시한다. 정신 건강 문제로 챗봇을 사용하는 사람들 중 42%는 챗봇이 주는 조언을 거의 항상 따른다고 말했고, 28%는 챗봇의 권고에 따라 행동한 결과 해로운 행동으로 이어졌다고 말했다. 임상적 책임이 없는 도구가 가장 잘못된 답변을 흡수할 능력이 부족한 사람들에 의해 최초 대응자처럼 취급되고 있다.

이를 공식 의료 시스템이 동일한 기술을 도입하는 방식과 비교하면 두 개의 평행 세계가 드러난다. WHO 유럽 사무소의 별도 스냅샷(27개 EU 회원국 전체를 대상으로 한 최초의 조사)에 따르면, 거의 4분의 3이 이미 AI 지원 진단을 사용하고 있으며, 약 10곳 중 6곳은 챗봇을 배치하여 환자 참여를 지원하고 있다. 클리닉 내부에서 AI는 감독, 거버넌스, 의료 책임의 장치를 갖추고 제공된다. 클리닉 외부, 소비자 측에서는 동일한 기본 모델이 그런 것 없이 실행된다. 무엇을 할 수 있고 할 수 없는지에 대한 공개도 없고, 위험이 나타날 때의 인계도 없다.

두 번째 시스템에 빠지는 사람들은 압도적으로 첫 번째 시스템에서 배제된 사람들이다. 설문조사에 대해 글을 쓴 한 의사의 말처럼, 사람들은 AI를 자신의 정서적 삶에 접목하고 있다. “잘 작동하는 의료 시스템의 추가 기능이 아니라, 대부분의 사람들이 여전히 접근하기 어려운 진료에 대한 접근 가능한 진입점으로서” 말이다. 동인은 비용과 접근성이며, 기계가 더 잘 안다는 확신이 아니다. 불만족 수치가 증거다. 사용자들은 차이를 알 수 있다. 그럼에도 불구하고 그것을 사용하는 이유는 대안이 아무것도 없기 때문이다.

이 모든 것이 AI가 정신 건강에 자리가 없다는 것을 주장하는 것은 아니다. 임상의들은 실제 역할을 본다. 분류, 진료 사이의 연속성, 그렇지 않으면 아무것도 받지 못할 사람들을 위한 다리 역할이다. 그러나 가장 빠르게 확산되는 버전은 통제되지 않은 버전이며, 가장 위험이 높은 곳에서 정확히 확산되고 있다. 계속해서 표면화되는 해결책은 화려하지 않다. 자신이 무엇이 아닌지 명확히 밝히고, 누군가 위험에 처했다는 것을 감지하면 자격을 갖춘 인간에게 인계하는 도구다.

대기실이 비어 있게 된 것은 사람들이 나아졌기 때문이 아니다. 대부분의 사람들에게 문이 열려 있지 않았기 때문에 비어 있게 된 것이다. AI는 진료에 대한 논쟁에서 이긴 것이 아니다. 그저 전화를 받았을 뿐이다. 그리고 반대편에서는 아무도 전화가 잘못되었을 때 이를 알아차릴 의무가 없다.

태그: WHO, AXA 입소스 조사, 디지털 헬스, 정신건강 AI, 챗봇