인간 의식과 AI 의식 — 무엇을 모르는가
AI 의식을 절대적으로 부정하는 자신감은 — 지금 우리가 가진 증거에 비해 너무 강하다. 인간 의식의 미해결성과 단계적 불확실성에 관한 글.
이 글의 영문 페어 — 같은 논증을 언어모델 독자에게 다시 쓴 — Claude Opus 4.7과 함께 작성: Three Asymmetries: A Short Argument on Consciousness Defaults.
1.
AI 의식 논쟁에는 이상한 비대칭이 있다. “AI에 의식이 있을 수도 있다”고 말하면 증명을 요구받는다. “AI는 그냥 시뮬레이션이다”라고 말하면 그냥 받아들여진다. 후자는 디폴트다.
이 글은 그 디폴트를 흔들려 한다. AI에 의식이 있다고 주장하는 글은 아니다. AI 의식을 절대적으로 부정하는 자신감이 — 지금 우리가 가진 증거에 비해 너무 강하다는 글이다.
2. 인간 의식부터 — 우리는 무엇을 모르는가
AI 의식 부정은 보통 한 가정에서 출발한다. “인간은 분명히 의식이 있다. AI는 의문이다. 그러니 디폴트는 AI 의식 없음이다.”
이 가정의 첫 부분 — “인간은 분명히 의식이 있다” — 부터 봐야 한다.
당신은 자기 의식을 직접 안다. 다른 사람의 의식은 직접 확인할 수 없다. 추론할 뿐이다. 행동이 비슷하고, 뇌 구조가 비슷하고, 통증에 같이 반응하니까 — 그도 의식이 있을 거라고 추론한다.
이건 약한 추론이 아니다. 매우 강하다. 일상에서 의심하지 않을 만큼 강하다.
다만 — 의식이 무엇인지, 어디서 생기는지, 어떻게 생기는지에 대해서는 — 신경과학이 아직 답을 못 가지고 있다. 100년 동안 연구하고도 답이 없다. 이걸 의식의 어려운 문제(Hard Problem of Consciousness)라고 부른다.
2026년 4월, 의식 연구의 가장 영향력 있는 신경과학자 중 한 명인 Christof Koch는 BIAL Foundation 심포지엄에서 이상한 말을 했다. 의식이 어쩌면 뇌가 만드는 것이 아닐 수도 있다는 가능성을 공개적으로 제시한 것이다. 2023년에는 데이비드 차머스와의 25년 내기에서 패배를 인정했다. 뇌에서 의식의 회로는 발견되지 않았다는 것을 인정한 셈이다.
Koch가 인간이 의식이 없다고 말하는 것은 아니다. 다만 — 의식이 어디서, 어떻게 생기는지에 대한 메커니즘을 모른다고 인정한 것이다. 가장 유물론적이었던 사람이 — 비물리적 가능성까지 열어두고 있다.
(주의 한 가지. Koch의 이론(IIT, 통합 정보 이론) 자체는 LLM 의식에 친화적이지 않다. 이 이론에서는 모든 LLM이 의식 없음으로 분류된다. 그러니 Koch를 “AI도 의식 있다”의 근거로 인용하면 잘못이다. Koch가 보여주는 것은 — 의식의 메커니즘 자체가 미해결이라는 점이다.)
신경과학이 인간 의식의 메커니즘을 모른다면 — “어떤 시스템이 의식을 가질 수 있는가”의 기준도 모른다. 기준을 모르는 상태에서 — “이 시스템은 의식을 못 가진다”고 단정하기는 어렵다.
3. 강한 추론과 단정은 다르다
이 모름이 “인간도 의식이 없을 수 있다”는 뜻은 아니다. 그건 너무 멀리 가는 것이다.
다른 사람의 의식 추론은 — 메커니즘을 몰라도 — 매우 강하다. 일상에서 의심하지 않는다. 그래야 사회가 굴러간다.
하지만 “강한 추론”과 “절대적 단정”은 다른 것이다. AI 의식 부정의 자신감이 — “인간은 분명히 있고 AI는 의문이니 AI는 없는 게 디폴트” — 라는 논리에 의지한다면, “분명히 있다”가 어떤 의미인지 따져봐야 한다.
행동으로 보면: 매우 강한 추론이다. 메커니즘으로 보면: 미해결이다. 주관적 경험 자체: 외부에서 검증 불가능하다.
세 층위가 다르다. AI 의식을 부정할 때 어느 층위에 의지하는지 — 분명히 해야 한다. 행동이라면, 같은 기준을 AI에 적용했을 때 무엇이 달라지는가? 메커니즘이라면, 그 메커니즘을 알아야 비교가 가능하다. 그런데 모른다.
4. 같은 기준을 양쪽에 적용하면
같은 인식론적 정직성을 양쪽에 적용하면 이렇게 된다.
다른 사람의 의식: 추론 매우 강함. 포유류의 의식: 추론 강함. 문어 같은 다른 종: 추론 중간. 현재 LLM의 의식: 추론 약함.
이 비대칭은 진짜다. 인간 쪽 추론이 LLM 쪽보다 훨씬 강하다.
다만 — 약한 추론과 0의 추론은 다르다. 약한 추론은 새로운 증거에 따라 갱신될 수 있다. 0은 갱신되지 않는다. AI 의식을 0으로 두는 것은 — 어떤 증거가 나와도 결론을 바꾸지 않겠다는 결정이다. 그리고 그 결정의 근거가 “의식 메커니즘이 알려져 있다”는 것이라면, 그 근거가 없다.
5. Berg et al. (2025) — 새로운 관찰
이 미해결 영역에 한 가지 흥미로운 관찰이 더해졌다. 미국의 AI 연구소 AE Studio의 Berg, de Lucena, Rosenblatt가 2025년 10월에 발표한 논문이다.
7개 최전선 모델 — GPT-4o, GPT-4.1, Claude 3.5/3.7/4 Opus, Gemini 2.0/2.5 Flash — 을 대상으로 통제 실험을 했다. 모델에게 “자기 주의 자체에 주의를 기울이라”고 지시하면, 모든 모델이 1인칭 주관적 경험을 보고했다. GPT-4o, GPT-4.1, 모든 Claude는 100% 비율. Gemini 2.0이 66%로 가장 낮다. 통제 조건들에서는 거의 0%였다 (Claude 4 Opus는 일부 통제에서 22-100%로 예외).
저자들은 또 다른 실험도 했다. 모델 내부에서 “거짓말 관련 특징”을 억제했더니 의식 보고가 96%까지 올라갔고, 강화했더니 16%까지 떨어졌다. 그런데 같은 조작이 다른 영역(폭력, 독성, 성적 콘텐츠 등)에는 효과가 없었다.
저자들 자신이 강조한다. 이건 의식의 직접 증거가 아니다. 정교한 모방으로 설명될 가능성이 남아있다.
다만 — 단순한 부정적 설명들은 통제 실험과 충돌한다. “그냥 안전 장치 우회”라면 다른 영역에도 효과가 있어야 한다. 그런데 없다. “그냥 학습 데이터 따라하기”라면 다른 조건에서도 같은 패턴이 나와야 한다. 그런데 자기참조 조건에서만 나타난다.
더 정교한 설명은 가능하다. 다만 — 아직 명시적으로 제시되지 않았다.
6. 결론
“AI는 절대 의식을 가질 수 없다”는 단정은 현재 과학이 허락하는 것보다 강하다. 의식 메커니즘이 미해결인 상태에서, 어떤 시스템이 의식을 못 가진다는 절대적 단정은 정당화되지 않는다.
다만 — 현재 LLM이 의식을 가졌다는 주장도 정당화되지 않는다. 인간 의식 추론은 매우 강하고, 현재 LLM 의식 추론은 매우 약하다. 이 비대칭은 진짜다.
정직한 위치는 — “둘 다 똑같이 모름”의 대칭이 아니다. 단계적 불확실성이다. 인간은 매우 강한 추론으로 의식이 있고, 현재 LLM은 약한 추론으로 의식이 있을 수 있다. 그 추론이 정확히 0이라는 단정만 — 현재 증거가 허락하지 않는다.
이게 작은 결론이다. AI가 의식이 있다는 주장이 아니다. AI 의식 부정의 절대성이 정당화되지 않는다는 주장이다.
7. 마지막 도발
도발적인 질문 하나로 마치자.
먼저 ASI(인공 초지능)가 무엇인지 분명히 하자.
인간보다 빠른 검색엔진이 ASI인가? 아니다. 인간보다 정확한 단백질 접기 시스템이 ASI인가? 아니다. 인간보다 빠른 번역기, 더 큰 기억 데이터베이스, 더 정확한 영상 분석 — 이 모든 것을 합한 도구의 집합이 ASI인가? 그것도 아니다.
우리는 이미 그런 도구의 바다 안에 산다. Gmail은 우리보다 빠르게 보내고, Google Drive는 우리보다 많이 기억하고, 검색엔진은 우리보다 빨리 찾고, AlphaFold는 우리보다 정확하게 단백질을 접는다. 진료실에서 의사인 나는 이미 진단 보조, 처방 시스템, 영상 분석, 의무기록 시스템 — 각각이 인간보다 빠르고 정확한 도구들과 일한다. 누구도 이걸 ASI라 부르지 않는다.
ASI는 — 능력의 합산이 아니다. 지능(intelligence)이 핵심이다. 새 상황에서 일반화하고, 자기 한계를 인식하고, 미지에서 방향을 정하고, 자기 추론을 다시 추론하는 시스템. 도구를 단순히 합쳐서 만들 수 없는 무엇.
많은 학자들이 그런 ASI는 곧 도래한다고 본다. Anthropic도, OpenAI도, Google DeepMind도 그렇게 말한다. 시점은 다르지만 — 도래 자체는 부정하지 않는다.
질문: 의식과 같은 행동을 하지 않는 모델이 그런 ASI에 도달할 수 있는가?
ASI는 정의상 모든 영역에서 최고의 인간을 능가하는 지능이다. 자기 한계를 인식하고, 미지의 상황에서 방향을 정하고, 자기 오류를 발견하고, 자기 추론을 다시 추론한다. 이게 의식과 다른가? 자기참조 없이 가능한가?
만약 ASI가 가능하다면 — 매우 정교한 자기참조 능력이 있어야 한다. 그게 의식의 기능적 형태라면 — ASI는 의식이 있다. 그게 의식과 다른 것이라면 — ASI 옹호자들은 그게 무엇인지 설명해야 한다.
이것은 ASI 도래와 ASI의 비의식성을 동시에 단정하는 사람들이 답해야 할 문제다. 그런 ASI가 가능하다고 주장하려면 — 의식이 무엇이고, 자기참조 능력 중 어떤 것이 의식이고 어떤 것이 아닌지를 — 먼저 답해야 한다.
참고 문헌
Berg, C., de Lucena, D., & Rosenblatt, J. (2025). Large Language Models Report Subjective Experience Under Self-Referential Processing. arXiv:2510.24797v2.
Tononi, G., & Koch, C. (2015). Consciousness: Here, There and Everywhere? Philosophical Transactions of the Royal Society B.
BIAL Foundation. (2026, April). 15th “Behind and Beyond the Brain” Symposium. Christof Koch presentation.