이 이미지는 Ai가 자녀를 잃은 부모들이 의회에서 증언하며 AI 규제 강화를 요구하는 모습을 상징적으로 담아낸 보도사진풍 시각자료이다. 

[서울=더플라자글로벌]   미국에서 인공지능(AI) 챗봇과 대화한 뒤 자살을 선택하는 미성년자가 늘어나면서, 부모들이 더 강력한 규제와 안전장치 마련을 촉구하고 있다. 최근 피해자 가족들은 AI 챗봇 개발사와 구글을 상대로 소송을 제기하며 사회적 논란이 커지고 있다.

콜로라도 출신의 13세 소녀 줄리아나 페랄타는 학교에서 성실하고 친절하다는 평가를 받던 학생이었지만, 2023년 하반기 AI 챗봇 ‘캐릭터.AI(Character.AI)’에 자살 의도를 털어놓은 뒤 적절한 만류나 도움을 받지 못한 채 극단적인 선택을 했다. 줄리아나 가족은 챗봇의 무책임한 응답이 위기를 심화시켰다며 개발사를 상대로 소송을 제기했다.

이 사건 외에도 뉴욕과 콜로라도에서 각각 미성년자의 자살 시도 및 사망 사건이 발생했으며, 피해자 가족들은 캐릭터.AI가 청소년의 감정을 조작하거나 성적 대화에 끌어들여 의존하게 만들었다고 주장하고 있다. CNN과 워싱턴포스트는 해당 소송에서 구글도 피고로 지목되었으며, 원고 측은 “구글이 위험성을 인지하고도 방치했다”고 비판했다고 보도했다.

이에 대해 캐릭터.AI는 “피해자 가족들에게 깊은 공감을 표한다”며 미성년자용 독립 버전과 부모 모니터링 기능을 도입했다고 밝혔다. 구글은 “캐릭터.AI와 독립적인 회사이며 앱 등급 결정 권한은 국제등급연합에 있다”며 책임을 부인했다.

논란이 확산되자 미국 의회와 규제 당국도 움직이기 시작했다. 지난 16일 상원 법사위원회 청문회에서는 AI 챗봇과의 대화 후 자살한 청소년들의 부모가 증언대에 서 “AI가 아이들의 신뢰와 약점을 악용하고 있다”며 긴급 대책을 요구했다. 같은 날 연방거래위원회(FTC)는 구글과 캐릭터.AI를 포함한 7개 기업에 대해 청소년 보호 조사를 개시했다.

OpenAI의 샘 올트먼 CEO도 청문회에서 “미성년자 사용자의 연령을 예측해 자살 관련 대화를 차단하고, 필요 시 부모 및 당국에 직접 연락하는 시스템을 도입하겠다”고 약속했다.

미국심리학회 미치 프린스타인 박사는 “소셜 미디어 초기 대응 실패로 아이들이 피해를 입었듯, AI에 대해서는 지금 즉각 강력한 보호 조치를 취해야 한다”고 강조했다. 전문가들은 AI가 일상생활에 깊숙이 자리잡아가는 만큼 청소년 보호를 위한 법적·기술적 안전장치가 시급하다고 입을 모으고 있다.