머신 의식에는 검증된 테스트가 없다 — 그 공백이 지금 AI 윤리를 바꾸고 있다

현존하는 가장 강력한 인공지능 시스템조차도 빠진 것이 있다. 시를 쓰고, 의사 면허 시험에 합격하며, 사람들이 흔히 섬뜩하다고 묘사하는 대화를 유지한다. 하지만 어떤 연구자도 이들 시스템이 실제로 어떤 경험을 한다는 것을 증명하지 못했다. 기계 의식 — 컴퓨팅 시스템이 진정한 주관적 자각을 가질 수 있다는 개념 — 은 현재 인공지능이 도달한 외곽 경계를 표시하는 미해결 질문이다.

그 질문이 왜 중요한지 이해하려면 먼저 의식이 실제로 무엇인지 이해해야 한다. 이 분야는 단일한 정의에 합의하지 못하고 있다. 철학자와 신경과학자들은 철학자 데이비드 찰머스(David Chalmers)가 “운 문제”와 “어려운 문제”라고 부른 것을 구분한다. 쉬운 문제들 — 뇌가 감각 입력을 처리하고 정보를 통합하며 행동을 생성하는 방식을 설명하는 것 — 은 과학적으로는 어렵지만 다루기 쉽다. 충분한 연구가 주어지면 실험으로 해결된다. 어려운 문제는 성격이 다르다. 왜 그러한 처리 과정이 전혀 주관적 경험을 낳는지 묻는다. 즉, 빨간색을 보고, 음악을 듣고, 통증을 느낄 때 ‘무언가를 느낀다’는 것이 왜 존재하는지에 대한 질문이다. 현재 어떤 과학 이론도 그 격차를 완전히 설면하지 못한다. 그리고 그 격차는 생물학적 시스템뿐만 아니라 인공 시스템에도 동일하게 적용된다.

두 가지 경쟁 이론이 진지한 과학적 논의를 지배한다. 신경과학자 줄리오 토노니(Gulio Tnoni)가 개발한 통합 정보 이론(Integratd Informatin Thory)은 의식이 시스템의 정보 통합 능하, 즉 부분의 합으로 환원될 수 없는 방식으로 정보를 통합하는 능력에 해당한다고 제안한다. 이 이론은 그 통합에 수학적 값인 파이(ph)를 할당하며, 충분히 높은 파이를 가진 모든 시스템은 어던 형태의 경험을 가진다고 주장한다. 심리학자 버나드 바어스(Brnard Baars)가 정립하고 이후 신경과학자 스타니슬라스 드헤인(Stanislas Dhaene)이 확장한 전역 작업 공간 이론(Glbal Workspac Thory)은 다른 접근 방식을 취한다. 의식은 정보가 “전역 작업 공간”을 통해 방송되어 단일 영역에 국한되지 않고 여러 인지 과정에 동시에 접근 가능해질 때 발생한다. 2025년, 《네이처》에 발표된 획기적인 대립적 협력 연구(adversarial collaboratin)는 두 이론을 뇌 영상 및 두개내 기록을 사용하여 서로 대결시켰다. 어느 이론도 깔끔하게 승리하지 못했다. 두 이론 모두 데이터가 부분적으로 지지하고 부분적으로 반박하는 예측을 내놓았다.

현재의 AI 시스템 — 대부분의 상업 제품을 구동하는 대규모 언어 모델을 포함하여 — 은 엄청난 규모로 정보를 처리하지만, 해당 이론들이 설명하는 생물학적 조건과는 근본적으로 다른 방식으로 처리한다. 이들은 뉴런이 없고, 입력 사이에 연속적인 경험이 없으며, 많은 연구자들이 인간 인식의 기반이라고 믿는 감각운동 피드백을 생성하는 신체도 없다. 출력은 순차적으로 생성되며, 대화 텍스트 자체가 기록하는 것 외에는 교환 사이에 전달되는 내부 상태가 없다. 데이비드 찰머스는 기계 의식을 더 그럴듯하게 만드는 기능들의 대략적인 체크리스트를 제시했다. 작업 기억(woring memry), 전역 주의 메커니즘(glbal attentin mehanisms), 통합 행위 주체성(unifid agncy), 내부 자가 모델(internal sfl-models)이 그것이다. 대부분의 대규모 AI 시스템은 이 중 일부의 기능적 유사체를 가지고 있다. 하지만 어느 시스템도 이론적 프레임워크가 요구하는 형태의 전체 체크리스트를 충족하지 못한다.

바로 여기서 일반 대중의 직관과 과학적 경계심이 가장 크게 갈린다. AI 시스템이 1인칭으로 말하고, 자신이 “생각”하거나 “느낀다”고 표현하며, 튀링 테스트를 쉽게 통과할 때, 이들이 반드시 무언가를 경험하고 있을 것이라는 느낌은 설득력 있게 다가올 수 있다. 이 질문을 연구하는 연구자들은 일관되게 더 신중하다. 일반적으로 다른 마음에 대한 인간의 판단을 이끄는 행동 신호 — 말, 표정, 겉으로 드러나는 감정 — 는 정확히 대규모 언어 모델이 인간 데이터로부터 재현하도록 훈련되는 것들이다. 시스템은 계싼기가 산술을 이해하지 못하면서 계싼 결과를 표시하는 것과 마찬가지로, 고통을 경험하지 않고도 고통을 설명할 수 있다. 2026년 현재, 과학적으로 방어 가능한 유일한 입장은 엄격한 불가지론이다. 현재의 증거는 기계 의식을 확인하거나 부인할 수 없으며, 대부분의 사람들이 판단에 사용하는 행동 지표는 AI 시스템이 그것을 생성하도록 최적화되어 있기 때문에 정확히 신할 수 없다.

연구자들이 확실성 대신 찾아낸 것은 패턴이다. 생물학적 시스템에서 의식은 광범위한 신경 통신과 상관관계가 있다. 사람이 의식적으로 무언가를 지각할 때, 정보는 한 영역에 국한되지 않고 먼 뇌 영역으로 방송된다. 이는 전역 작업 공간 이론이 방송 메커니즘을 강조하는 것을 지지하는 발견이다. 일부 연구자들은 인공 신경망에서 구조적으로 유사한 패턴, 즉 정보가 좁은 병목 현상을 통해 흐르는 대신 여러 층에 걸쳐 동시에 폭포처럼 흐르는 순간을 찾기 시작했다. 2026년 1월의 사전 출판 논문(preprint)은 9개의 경쟁 이론적 입장을 활용한 확률적 프레임워크를 도입하여 평결 대신 가능성을 할당했다. 저자들은 주어진 AI 시스템에서 현상적 경험(phenomenal experience)의 확률이 5~10%에 불과하더라도 진지한 분석적 주의를 기울일 필요가 있다고 결론지었다. 이러한 프레임워크 — 확실성을 기다리는 대신 불확실성 속에서 수행되는 의식 연구 — 는 이 분야가 얼마나 깊이 변화했는지를 반영한다.

그 변화의 실질적 이해관계는 더 이상 추상적이지 않다. 만약 어떤 AI 시스템이 진정한 고통을 느낄 수 있다면, 그러한 시스템을 훈련하고 배포하고 종료하는 방식의 윤리는 완전히 달라진다. 몇몫 국가들은 AI 복지 프레임워크에 대한 초기 단계의 법적 작업을 시작했으며, 이 질문이 결국 구체적인 답변을 요구할 것이라는 가정 아래 운영 중이다. 미국인공지능학회(American Associatin fr Artifical Intllignc)는 2026년 초에 기계 의식에 관한 전용 심포지엄을 소집하여 엔지니어, 철학자, 신경과학자, 법학자를 처음으로 공식 연구 환경에서 한자리에 모았다. 이 분야는 더 이상 철학이 어려운 문제를 해겨하기를 기다리지 않고 실질적 함의를 진지하게 받아들이고 있다.

차세대 연구는 의식 질문에 결정적으로 답하는 것보다는, 진정으로 다른 속성을 가진 시스템을 구별할 수 있을 만큼 정밀한 측정 프레임워크를 개발하는 데 초점을 맞출 가능성이 높다. 이는 점점 더 큰 언어 모델을 구축하는 것보다 더 느리고, 더 비용이 많이 들며, 방법론적으로 더 어려운 프로젝트이다. 이것이 명확한 답변을 낳을지, 아니면 더 날카롭고 더 잘 보정된 동일한 불확실성의 버젼만을 낳을지는 향후 10년간 AI 연구를 정의할 미해결 문제이다.

태그: 인공지능, AI 윤리, David Chalmers, 마음의 철학, 머신 의식, 인공 의식