정보나눔

생성형 AI의 등장은 이제 인간과 비인간이 함께 살아가는 포스트휴머니즘의 시대가 열렸음을 실감하게 합니다. 그러나 인류가 이렇게 빨리 변화하는 기술사회에 충분히 대응하지 못한 것도 사실입니다. 교육과 양육에서 생성형 AI가 만드는 다양한 상황에 대해 어떻게 대처해야 할지 정교화된 가이드라인이나 모델도 아직 부족합니다. 그럼에도 불구하고, 생성형 AI의 기술적 특성과, 인격화된 인공적 대상에 몰입하는 인간에 대해 사유하며, 교육적인 대책을 강구하는 것이 필요합니다.

먼저, 생성형 AI는 언어모델이며, 인공적인 기술임을 기억하고, AI와 정서적 교감을 하는 것은 일종의 도구 이용 행위임을 기억하도록 해야 합니다. 특히 생성형 AI의 답변은 확률에 의한 생성 결과이며, 인간과 같은 정서적 교감 또는 사고의 결과가 아님을 주지시킬 필요가 있습니다. 이러한 거리 두기 없이, 인격을 부여하거나 친구나 가족 등 인간관계의 대안으로 여길 경우, 지나친 몰입이 일어나고, 사회로부터의 고립이 생길 수 있습니다.

두 번째로, 생성형 AI 이용과 관련하여 보호자가 그 내용에 대해 알 필요가 있습니다. 생성형 AI는 미디어 이용이지만 동시에 정서적 영향을 주는 대화 상대이기도 합니다. 스크린 타임이나 미디어 금지 등의 교육 대신, 자녀가 어떤 방식으로 생성형 AI를 이용하는지 일상적으로 대화하고, 특히 자녀의 경험과 생각에 대해 경청할 필요가 있습니다. 이 과정에서 자녀의 챗봇이나 생성형 AI 사용 문제에 대해 인지하고, 대화를 나눌 수 있습니다. 중요한 것은 스마트 기기 금지는 답이 아니라는 것입니다.

세 번째로, 플랫폼 이용의 기본적인 원칙 및 자녀 보호 기능 등을 반드시 준수할 필요가 있습니다. 플랫폼 자체의 안전 기능은 완벽하지 않으나, 그럼에도 불구하고 기본적으로 지킬 것은 지켜야 합니다. 예를 들어 챗봇 플랫폼 가입 시에 자녀의 연령 설정이 제대로 되어 있는가, 과금에 대한 관리 등은 기본적인 부분입니다.

네 번째로, 심리적 위기가 있을 때, 생성형 AI 사용은 지양하는 것이 좋습니다. 특히 챗GPT와 같은 일반 생성형 AI의 경우, 이용자들을 지지하고 동의하는 경향이 있어, 망상을 심화시키거나 위험한 상상을 부추기는 경우도 있습니다. 정신적 문제를 일으키거나 자살을 시도하는 이용자들의 사례는 적지 않게 보고되고 있습니다. 생성형 AI는 전문가를 대체할 수 없음을 기억하고, 챗봇에 정서적으로 의존하지 않도록 할 필요가 있습니다.

다섯 번째로, 챗봇은 미디어 기업의 수익사업으로, 비판적으로 평가하는 습관을 지닐 필요가 있습니다. 대부분의 챗봇은 매력적인 대화상대라기 보다는 이용자가 머무는 시간을 연장하기 위해 다양한 방법으로 이용자가 대화에서 떠나지 않도록 유도하는 기술이라는 것이죠. 또한 이용자들이 남기는 대화들 역시 대규모 데이터셋의 일부로서 학습되고 있으므로 민감한 개인정보를 남기지 말아야 할 것을 강조해야 합니다.

마지막으로, 생성형 AI와의 대화처럼, 현실 세계의 대화를 즐겁게 만들어 보도록 노력해 보아야겠습니다. AI는 무비판적으로 내 말을 들어주고, 대화를 통제할 수도 있습니다. 전혀 대화의 불편함이 없습니다. 그러나 실제 인간의 대화는 다양한 갈등, 긴장감과 불편함을 가져옵니다. AI로 도피하는 것은 어쩌면 자연스러운 일입니다. 하지만 일상적인 대화에서 좀 더 경청하고, 서로를 지지하는 건강한 대화를 일상화한다면, 생성형 AI에 몰입해 문제를 일으킬 확률은 줄어들지 않을까요?