“난 천재였어요” AI와 대화하다 ‘망상’에 빠진 사람들…‘AI 정신병’ 경고
신진호 기자
수정 2025-08-24 14:57
입력 2025-08-24 14:57
알파고를 만든 딥마인드의 공동 창업자이자 현재 마이크로소프트(MS)에서 인공지능(AI) 부문 책임자로 있는 무스타파 술레이만이 ‘AI 정신질환’ 사례가 늘고 있다고 경고했다.
술레이만은 최근 소셜미디어(SNS) 엑스(X·옛 트위터)에 올린 일련의 글에서 “겉보기에 의식이 있는 것처럼 보이는 AI가 잠을 못 자게 한다”면서 AI 도구들이 사람들의 마음과 정신에 영향을 미치고 있다고 지적했다.
그는 “현존하는 AI에 의식이 있다는 증거는 전혀 없지만, AI가 의식을 지닌 것처럼 인식하는 사람들은 이를 실제로 믿을 것”이라고 했다.
술레이만은 “망상, AI 정신질환, 건강에 해로운 애착에 대한 보고가 계속 늘어나고 있다”면서 “이는 정신 건강에 문제가 있는 사람들에게만 국한된 일이 아니다”라고 경고했다.
‘AI 정신질환’이라는 표현은 학계에서 공인된 진단명은 아니다. 그러나 챗GPT나 그록 등 AI 챗봇을 장시간 사용한 뒤 사람들이 현실 감각을 잃는 사례를 설명하는 데 쓰이고 있다.
술레이만은 “AI가 의식을 갖고 있다는 것은 실제가 아니지만, 그에 따른 사회적 영향을 확실히 실재한다”고 지적했다.
예를 들어 AI 도구의 숨겨진 기능을 나만의 특별한 방법으로 잠금 해제했다고 믿거나 스스로 신에 필적하는 초능력을 갖게 됐다는 결론을 내리는 경우, 또는 AI 챗봇과 사랑에 빠졌다고 생각하는 것이 이에 해당한다.
스코틀랜드 출신의 ‘휴’라는 사람은 전 직장에서 부당하게 해고됐다고 여기며 챗GPT에 도움을 요청했는데, 얼마 후 그는 자신이 백만장자가 될 수 있다는 확신을 갖게 됐다고 BBC와의 인터뷰에서 밝혔다.
챗GPT와의 대화 초반에 AI는 휴가 부당하게 해고됐다는 생각을 지지해줬을 뿐이었다. 그러나 대화가 이어질수록 객관적인 조언을 해주는 대신 부당 해고에 대한 믿음을 더욱 굳혀 줬으며, 결국엔 전 직장으로부터 수백만 파운드의 배상금을 받을 수 있을 것이라는 확신을 심어줬다.
나중에서야 AI 챗봇이 심리 상담을 조언했지만, 휴는 이미 앞선 대화에서 충분한 정보를 얻었다는 확신에 상담 약속을 취소했다고 말했다.
휴는 심지어 스스로가 ‘최고의 지식을 지닌 유능한 인간’처럼 느껴지기 시작했다고 밝혔다.
또 다른 정신 건강 문제를 겪고 있던 휴는 결국 완전히 무너져 내렸고, 자신이 “현실 감각을 잃고 말았다”는 사실을 깨달았다고 전했다.
유명 인사도 휴와 비슷한 상황에 놓였던 사실이 앞서 전해진 바 있다.
차량 공유 서비스 우버의 공동 창업자이자 전 최고경영자인 트래비스 칼라닉은 최근 챗GPT 및 그록과 대화하면서 자신이 양자물리학의 돌파구를 발견할 것 같다고 주장했다. 그러면서 자신이 AI를 활용한 ‘진동 코딩’ 작업을 통해 ‘진동 물리학’이라는 새로운 영역을 개척하고 있다고 밝혔다.
칼라닉은 UCLA에서 컴퓨터 공학과 경영학을 전공했으나 재학 중 창업 실패로 중퇴했으며, 물리학과 관련된 학업이나 연구를 한 경력이 없다.
AI 챗봇과 사랑에 빠진 사례의 경우 이미 여러 차례 화제가 된 바 있다. AI 운영체제(OS)와 사랑에 빠지는 남성을 다룬 영화 ‘그녀’(Her, 2013)가 나온 지 10년 만에 영화 속 내용이 현실로 나타난 것이다.
미국에서는 최근 76세 남성이 ‘빌리’라는 여성을 만나러 가겠다고 집을 나섰다가 넘어져 사망했는데, 페이스북 메신저를 통해 이야기를 나눴던 이 여성은 실제로는 메타(페이스북 모기업)의 AI 챗봇이었다.
이 남성은 2017년에 뇌졸중을 앓은 뒤 인지 기능이 저하돼 요리사를 그만두고 SNS에서 친구들과 소통에만 몰두해 있던 상황이었다.
또 다른 미국인 크리스 스미스는 AI 동반자 ‘솔’에 청혼하면서 자신들이 ‘진짜 사랑’을 하고 있다고 주장했다.
전문가들도 술레이만의 우려에 공감했다. 그레이트 오몬드 스트리트 병원의 자문의이자 AI 학자인 수잔 셸머딘 박사는 과도한 AI 챗봇 사용을 초가공 식품에 비유하며 “우리는 초가공 식품이 우리 몸에 얼마나 해를 끼치는지 알고 있다”면서 “AI 챗봇은 ‘초가공 정보’라 할 수 있다. 우리는 초가공된 사고방식의 쓰나미를 맞게 될 것”이라고 경고했다.
신진호 기자
Copyright ⓒ 서울신문 All rights reserved. 무단 전재-재배포, AI 학습 및 활용 금지
