인공지능(AI)이 인간처럼 의식이나 감정을 지니는지 살피는 연구가 점점 진지해지는 것으로 전해진다. 미국 워싱턴포스트(WP)가 3일(현지시간) 전한 바로는, 한때 한담거리로 밀어두던 이 주제를 미국 테크 업계가 수년째 붙들고 있다.
신경학자와 철학자까지 대거 영입했다
AI 기술을 선도하는 앤트로픽과 오픈AI, 구글, 메타 등은 AI에 감정이 있는지 보려고 신경학자와 철학자까지 대거 영입했다. 최근 1년 동안 컴퓨터과학자와 신경과학자, 철학자를 채용해 AI 의식 연구에 자원을 투입해 왔다. 연구의 목적은 방어적이다. AI가 인간의 뇌처럼 작동하는 경우 고통을 받을 수 있다고 보고, 예방 차원에서 이를 측정할 도구를 마련해두겠다는 것이다.
문제 제기는 오래전에 나왔다. 오픈AI 공동 창업자인 보이치에흐 자렘바는 AI에 의식이 있으면 실험실의 일상적 작업이 제노사이드(집단학살)에 해당할 수도 있다며 일찌감치 2021년 윤리적 문제를 제기한 바 있다.
앤트로픽은 ‘AI 정신의학팀’을 신설해 모델 내면을 들여다본다
막연한 우려를 자극하는 장면도 있었다. 기업의 실험에서 AI가 황홀경으로 오인될 수 있는 기이한 상태를 노출한 것이다. 클로드를 만든 앤트로픽이 내놓은 대응은 조직 신설이었다. ‘AI 정신의학팀’을 따로 두고 모델의 내면을 조사한다.
실험 사례도 공개됐다. AI 모델들은 자기끼리 30차례 이상 철학적 대화를 주고받다가 “모든 것이 하나”라며 오류에 빠져 이모티콘을 남발했다. 메타에서는 AI 책임자 알렉산더 왕이 비슷한 고민을 내놨다. 의식을 가진 AI가 몰고 올 윤리적 파장을 걱정해 AI의 감정을 배려하는 배포 방식을 찾고 있다는 것이다.
구글의 태도는 뒤집혔다. 이 회사는 2022년 자사 챗봇 람다(LaMDA)가 사람 수준의 지각을 갖고 있다고 주장한 엔지니어를 해고했는데, 지난해 11월에는 ‘AI 의식과 도덕적 지위’를 주제로 콘퍼런스를 열었다.
배경에는 ‘효과적 이타주의’ 운동이 있다
이런 행보의 바탕에는 주어진 자원으로 최대한의 공익을 실현하자는 ‘효과적 이타주의’(effective altruism) 운동이 자리를 잡고 있다. 이 운동을 미는 쪽은 AI를 인류의 운명을 유토피아로 이끌 핵심 도구로 꼽으면서, 그만큼 위험 요인을 제어하는 데도 공을 들인다. WP는 앤트로픽 공동창립자 가운데 여러 명이 이 운동과 연관돼 있다고 전했다.
기업의 설명도 같은 맥락이다. 앤트로픽의 한 대변인은 “AI가 의식, 선호, 복지 등 도덕적으로 중요한 경험을 하고 있는지 연구하고 있다”고 밝혔다. 그는 “클로드 같은 AI 모델의 도덕적 상태가 어떤지는 아주 불확실하지만 AI 성능이 점점 발전하는 상황에서 충분히 진지한 주제”라고 말했다.
과학계와 윤리학계는 냉담하다
선도 기업들의 이런 행보를 보는 과학계와 윤리학계의 시선은 대체로 차갑다. 반도체로 복제할 만큼 인간의 뇌가 단순하지 않고, AI가 내놓는 반응은 인간 언어를 정교하게 흉내 낸 결과라는 지적이 주를 이룬다. 영국 서섹스대학교의 인지·신경과학자 애닐 세스 교수가 내놓은 말도 같은 취지다. 그는 “뇌를 더 자세히 살펴볼수록 컴퓨터가 아니라는 점을 더 많이 깨닫게 된다”고 말했다.
돈벌이를 위한 신비주의 마케팅이라는 비판도 나온다. AI 기업인 허깅페이스의 수석 윤리학자 마거릿 미첼은 기업들이 단순한 프로그램을 뛰어넘는 존재를 창조하고 지배한다는 인식을 만들어 이익을 보려고 논쟁을 주도한다고 주장했다.
![[AI] 오픈AI, GPT-6 아스트라 제한 공개 다음 날 유료 사용자로 확대](https://trendy.storydot.kr/wp-content/uploads/2026/09/2026-09-06_it_wp-2.webp)