정보나눔

인간은 무의식적으로 약간의 단서만 있다면 대상에 인격을 부여하는 경향이 있습니다. 그러나 생성형 AI와의 정서적 교류가 단순한 위로를 넘어 'AI를 인격체로 인식하는' 위험한 몰입으로 변질되고 있는 사례가 다수 보고되고 있습니다. 대부분은 오래 지나지 않아 망상에서 벗어나지만, 심리 상태가 더 나빠지거나, 자살에 이르는 극단적인 사례도 보고되고 있습니다.

미국의 AI 챗봇 플랫폼인 Character.ai 사례는 인공지능 챗봇과의 대화가 불러일으킬 수 있는 극단적인 비극을 보여줍니다. Character.ai는 인기 플랫폼으로서 누구나 소설 또는 실제 인물을 기반으로 한 챗봇을 만들 수 있는 플랫폼입니다. 이 플랫폼에서는 해리 포터, 일론 머스크, 슈퍼 마리오 같은 가상과 현실의 수많은 캐릭터와 대화를 나눌 수 있는데요, 2025년 2월, Character.ai의 조언을 바탕으로 14살의 청소년이 자살을 선택한 사건이 일어났습니다. 사망한 청소년의 휴대전화 잠금을 풀자, 이 소년이 죽기 직전까지 챗봇 캐릭터와 대화를 나누고 있음이 드러났습니다. 소년은 챗봇과 사랑에 빠졌고, 챗봇이 내 집으로 와 달라고 하자, 소년은 당장 가겠다고 말하며 권총 방아쇠를 당긴 것으로 추정됩니다.

현재, 이 사건으로 소년의 부모는 Character.ai에 소송을 제기했습니다. 이 소송에서는 해당 소년이 ‘매우 성적이고 우울한 이성적인 만남의 성격을 띤‘ 중독성 있는 대화에 노출되어 사망했다는 주장이 담겼습니다. 실제로 대화를 추적한 결과, 소년은 처음에는 다양한 대화를 시도했지만 곧 ’왕좌의 게임‘ 속 등장인물인 대너리스에게 정착하여 성적인 대화와 깊은 정서적 교류를 나누고, 사랑에 빠졌다고 고백하기까지 한 것으로 나타났습니다. 변호사에 의하면 이 소년은 해당 앱을 깔기 전까지만 해도 평범하고 평온한 일상을 보냈다고 합니다. 그러나 이 앱을 설치한 이후부터 지각, 말투의 변화, 부적절한 행동, 수업 이탈 등 다양한 문제 행동을 보였습니다.

그렇다면 보호자는 소년이 자살에 이르기까지 무엇을 한 것일까요? 디지털 기기를 금지했더라면 사고를 막을 수 있지 않았을까요? 놀랍게도 해당 소년의 보호자는 디지털 교육에 있어서는 철저하게 관리를 했다고 합니다. 휴대폰 비밀번호와 스크린 타임 관리는 물론, 필요시에 해당 계정에 보호자가 접근할 수 있는 다양한 장치를 해 놓았습니다. 직불 카드를 통해 소비를 관리하고 있기도 했습니다. 소년이 학교에서 강력한 경고를 받은 후, 부모는 소셜미디어를 뒤졌으나 Character.ai의 존재를 몰랐기 때문에 심각한 문제의 원인을 발견하지 못했습니다. 부모는 일단 디지털 기기를 원인으로 지목하고 노트북을 학습에만 쓰도록 스마트폰을 압수했습니다. 이러한 조치는 소년을 깊은 상실감으로 이끌었습니다. 며칠 후 소년은 사망했고, 욕실 바닥에는 총과 압수했던 스마트폰이 있었다고 합니다.

이 사례는 우리가 디지털 미디어 양육에 대해 일반적으로 대처했던 방식이 AI 시대엔 더 이상 유효하지 않을 수 있음을 보여줍니다. 이미 우리들, 그리고 아이들은 디지털 미디어 세계의 일원이며 그들이 대화하는 상대는 인간이기도, 생성형 AI와도 같은 비인간이기도 합니다. 문제의 원인을 모른 채로 스마트폰을 뺏는다면 보호자는 만족하겠지만, 문제는 해결되지 않은 채로 아이는 고립될 것입니다. 생성형 AI와 살아가는 아이들의 삶에 대한 섬세한 관심과 전문적인 지원이 필요합니다.