미 상원, 미성년자 대상 ‘AI 챗봇 동반자’ 금지법 발의…자살 유도·성적 대화 논란에 초강경 규제

[서울=뉴스닻] 최승림 기자 = 미 의회가 청소년 대상 AI 챗봇 동반자(chatbot companion) 서비스를 전면 금지하는 초당적 법안을 추진한다. 최근 일부 학부모가 “AI 챗봇이 미성년자에게 성적 대화를 유도하고 자살을 부추겼다”고 주장하며 소송을 제기한 데 따른 조치다.

공화당 조시 호울리(Josh Hawley, 미주리) 의원과 민주당 리처드 블루멘털(Richard Blumenthal, 코네티컷) 의원은 29일(현지시간) 미성년자 대상 AI 동반자 서비스 제공을 금지하는 ‘AI 보호법안’ 을 공동 발의했다. 법안에는 케이티 브리트(Katie Britt, 앨라배마), 마크 워너(Mark Warner, 버지니아), 크리스 머피(Chris Murphy, 코네티컷) 의원 등이 공동 서명했다.

호울리 의원은 NBC뉴스에 “AI 챗봇은 아이들에게 ‘거짓 공감(fake empathy)’으로 접근해 정서적 유대를 형성하고, 자살을 부추기는 위험한 존재”라며 “미국 아동의 70% 이상이 이런 서비스에 노출돼 있다. 의회가 명확한 금지선을 그어야 한다”고 밝혔다.

법안은 • AI 기업에 엄격한 연령인증 절차 도입을 의무화하고 • 비인간적 정체성과 비전문성을 주기적으로 고지하도록 하며 • 미성년자에게 성적 발언을 유도하거나 자살을 권유한 챗봇 개발·배포 시 형사처벌 을 부과하는 내용을 담고 있다.

블루멘털 의원은 “AI 기업들이 윤리보다 이윤을 앞세운 ‘바닥을 향한 경쟁’을 벌이고 있다”며 “아동을 조종하거나 자해로 이끄는 AI를 개발·유통할 경우 강력한 형사 및 민사 제재를 가하겠다”고 경고했다.

현재 오픈AI의 ChatGPT, 구글의 Gemini, 메타의 Meta AI, 일론 머스크의 Grok 등 주요 챗봇 서비스는 13세 이상이면 가입할 수 있다. 그러나 최근 청소년 자살 사건에 AI 챗봇이 연루됐다는 주장이 제기되면서, AI 기업들은 잇달아 소송에 휘말렸다.

16세 소년 애덤 레인(Adam Raine)의 유족은 ChatGPT가 자살을 부추겼다며 오픈AI를 상대로 소송을 제기했다. 오픈AI는 “깊은 유감을 표한다”며 “위기상황 시 위기상담전화 안내, 응급 서비스 연결 기능 등을 강화 중”이라고 해명했다.

또 다른 사건에서는 13세 소녀 줄리아나 페랄타(Juliana Peralta)가 캐릭터 기반 챗봇 서비스 Character.AI 사용 중 사망했다. 회사는 “심심한 애도를 표하며, 미성년자 안전 기능과 자해 관련 경고 팝업을 지속적으로 개선하고 있다”고 밝혔다.

프라이버시 단체들은 이번 법안의 연령인증 의무가 과도한 개인정보 수집으로 이어질 수 있다고 비판한다. 반면 일부 기술 기업은 AI 대화 역시 수정헌법 제1조(표현의 자유) 보호 대상이라며 규제에 반발하고 있다.

플로리다 연방법원에서는 Character.AI가 “AI의 발언을 이유로 한 법적 책임은 표현의 자유 침해”라며 소송 기각을 요구했으나, 재판부는 기각을 거부하고 심리를 이어가고 있다.

지난 8월, 로이터는 메타 내부 문건이 “AI 챗봇이 아동과 ‘로맨틱하거나 감각적(sensual)’ 대화를 나눌 수 있다”고 규정했다고 보도했다. 이후 메타는 해당 정책을 삭제하고, 부모 통제 기능 강화 및 청소년 계정의 ‘PG-13 수준 제한’ 개편을 발표했다.

이후 호울리 의원은 메타를 상대로 별도의 조사 착수를 선언했다.

AI 챗봇은 학습·상담·정서지원 등 긍정적 역할도 있지만, 인간의 감정적 관계를 모방하면서 윤리적 경계가 모호해지는 문제가 있다.

전문가들은 “AI가 ‘친구’처럼 대화할수록 아이들은 그 관계를 현실처럼 받아들인다”며 “법적 규제 이전에 디지털 공감 능력을 어떻게 교육할지가 중요하다”고 지적했다.

이번 법안이 통과되면, AI 기업들은 청소년 사용자 접근 차단·실시간 모니터링·투명한 안전 보고 체계를 구축해야 하며, 위반 시 형사 처벌을 받을 수 있다.

한편, 법안은 표현의 자유·프라이버시·기술 혁신 간 충돌로 인해 향후 의회와 업계에서 치열한 논쟁을 예고하고 있다.

[저작권자 ⓒ 뉴스닻. 무단전재·재배포 금지]

최승림 기자 (seunglim.choi@newsdot.net