[데스크 시각] ‘AI 오물’ 이대로 방치할 건가
정현용 기자
수정 2025-08-21 02:02
입력 2025-08-21 00:49
IT세계 뒷골목 콘텐츠
‘AI 오물’ 주류로 부상
AI물 표시 의무화 시급
모두가 인공지능(AI) 기술 발전에 열광할 때, 그들은 IT(정보기술) 세계 뒷골목에서 태어났다. 처음엔 ‘손가락 6개’였다. 누구나 가짜 사진이라는 것을 눈치챌 수 있는 엉성한 모습이었는데, 사람들은 ‘AI 환상(할루시네이션)’이라며 기술적 오류로 치부해 버렸다. 그러다 등장한 것이 ‘새우 예수’다. 예수가 새우를 타고 바다를 건너는 기괴한 창작물이 시작이었다. 초기엔 장난스럽게 만든 인터넷 밈(유행물) 정도로 여겨졌으나, 이런 사진이 걷잡을 수 없이 빠른 속도로 소셜미디어(SNS)로 퍼지자 ‘실제로 존재했던 사건’이라고 믿는 이들이 생기기 시작했다.지난 17일(현지시간)엔 영국 케임브리지 사전에 ‘딜룰루’(delulu)라는 단어가 신조어로 등재됐다. 사전은 ‘딜룰루’에 대해 “실제로 존재하지 않거나 사실이 아닌데 본인 선택으로 믿는 것”이라고 정의했다. 처음엔 ‘K팝 아이돌과 사귈 수 있다’는 온갖 망상적 콘텐츠를 조롱하는 의미로 쓰였으나, 최근엔 ‘망상이 해결책’이라는 뜻을 담은 ‘딜룰루는 솔룰루다’(delulu is the solulu)라는 개념으로 발전했다.
이제 사람들은 망상도 굳게 믿으면 현실이 된다고 생각한다. AI라는 치명적 무기를 장착하면서 가짜 사진과 영상은 ‘무한 생성’의 단계로 넘어갔다. 전 세계 생성형 AI 이용자들은 더이상 창작의 고통을 느끼지 않는다. 저작권과 초상권으로 보호받아야 할 콘텐츠가 ‘변형’이라는 탈을 쓴 채 쓰레기처럼 범람하고 있다.
뉴욕타임스(NYT), 워싱턴포스트(WP) 등 해외 주요 매체들은 최근 이런 ‘AI 오물(slop)’의 습격에 주목하기 시작했다. 뒷골목에서 태어난 이들이 주류가 되자 각종 문제가 발생하기 시작했다. 우선 생성형 AI가 무한대의 속도로 콘텐츠를 찍어 내자 데이터 공간이 부족해지기 시작했다. 지금은 새로 생성되는 영상 4~5개 중 1개가 이런 생성형 AI를 활용해 만든 영상이지만, 빠른 생성 속도를 감안하면 곧 비중이 절반을 넘어설 것이라는 관측도 나온다.
AI 오물이 금전을 뜯어내는 사기 도구로 이용되는 사례도 빈번하다. 프랑스령 레위니옹섬에서 한 50대 여성이 가짜 브래드 피트에게 12억원을 송금하는 사기를 당하자 지난 1월 피트 대변인이 “사기꾼들이 팬과 유명인사의 유대감을 악용하는 것은 끔찍한 일”이라는 공개 입장을 내기도 했다. 한국에서도 클릭을 유도하기 위해 AI로 짜깁기한 연예인 사망설이 등장하는가 하면 수사기관의 지속적인 단속에도 유명인 영상을 동원한 교묘한 투자 사기 콘텐츠가 끊이질 않는다.
시장이 커지자 가짜 영상 제작을 대행해 주는 업체까지 생겼다. 어딘지 기존 유명곡과 비슷한 곡, 인기 게임 디자인을 베껴 만든 게임 등 기생충처럼 창작자의 영역을 침범해 수익을 공유하는 사례도 폭증하고 있다. 너도나도 저품질 콘텐츠 양산에 몰두하다 보니 전문 프로그래머, 영상 제작자가 설 자리도 없다. 가짜 콘텐츠가 가짜 콘텐츠를 낳고, 어느 것이 원본인지 구분할 수 없는 지경에 이르렀다.
결국 참다 못한 구글과 메타가 나섰다. 지난달 이들 기업은 유튜브 등 SNS에서 폭증하는 저품질 생성형 AI 콘텐츠를 수익화 대상에서 제외한다고 발표했다. 유럽연합(EU)은 ‘인공지능법’을 통해 AI로 생성한 콘텐츠는 유포자와 제작자에게 AI 콘텐츠라는 점을 표시하도록 의무화했다.
한국도 이런 세계적 규제 흐름을 주시해야 한다. 정치권이 ‘가짜뉴스’, ‘딥페이크’ 척결에 목소리를 높이고 있으나, 어떤 제한 조치도 없는 틈을 타 ‘AI 오물’은 점점 더 빠른 속도로 차오르는 상황이다. 답은 간단하다. AI 생성 콘텐츠는 별도로 표시하도록 의무화하는 제도를 도입하면 된다. AI 오물이 교묘한 기술로 숨긴 ‘6번째 손가락’을 강제로 드러내도록 하는 것이다. 규제 범위만 구체화하면 어려운 일도 아니다. 지금도 이런 콘텐츠로 고통받는 이들을 생각하면 시간을 끌 일이 아니다.
정현용 국제부장
2025-08-21 31면
Copyright ⓒ 서울신문 All rights reserved. 무단 전재-재배포, AI 학습 및 활용 금지
