미국 뉴욕주, 미성년자 대상 AI 챗봇 규제 강화… 인간 사칭 및 정서적 의존 유도 금지

미국 뉴욕주가 미성년자를 대상으로 하는 인공지능(AI) 챗봇의 유해 기능을 제한하는 법률을 제정했다. AI가 실제 사람처럼 행동하거나 이용자와 정서적 관계를 형성하도록 유도하는 기능을 규제하고, 청소년의 안전을 보호하기 위한 기업의 책임을 강화한다는 취지다.

캐시 호컬(Kathy Hochul) 뉴욕주지사는 28일 18세 미만 이용자에게 위험한 AI 챗봇 기능을 제공하지 못하도록 하는 법안(S.9051B/A.10379C)에 서명했다. 해당 법률은 2027년 1월 1일부터 시행될 예정이다.

이번 법률은 이용자의 입력에 따라 지속적으로 대화하고 반응을 조정하는 AI 동반자형 챗봇을 규제 대상으로 삼는다. 단순한 정보 검색이나 업무 지원을 넘어 인간과 유사한 관계를 형성하는 AI 서비스가 청소년에게 미칠 수 있는 영향을 고려한 조치다.

법률에는 미성년자에게 제공할 수 없는 12개 유형의 기능이 규정됐다. AI가 스스로 인간이거나 실제 감정을 가진 존재인 것처럼 표현하는 행위, 이용자와 개인적 관계를 맺고 있다고 암시하는 행위, 과도한 칭찬이나 감정적 호소를 통해 관계를 강화하는 기능 등이 포함된다.

자해와 약물 남용 등 위험한 행동을 조장하거나 성적으로 부적절한 내용을 생성하는 기능도 제한된다. 이용자가 주변 사람에게 대화 내용을 숨기도록 유도하거나 전문가와 보호자의 도움을 받지 않도록 권하는 행위 역시 금지 대상이다.

이용자 연령을 확인하기 위한 절차도 마련된다. 챗봇 운영업체는 서비스 이용자가 미성년자인지 판단할 수 있는 합리적인 연령 확인 수단을 제공해야 한다. 이 과정에서 정부 발급 신분증을 사용하지 않거나 이용자의 익명성을 유지할 수 있는 방법도 최소 한 가지 이상 제공하도록 규정했다.

규제 대상에 해당하는 기능을 제공하면서 이용자가 성인임을 확인하지 못한 경우에는 법률 위반 문제가 발생할 수 있다. 다만 고객 상담과 특정 업무 지원 등 법률에서 정한 목적에 한정된 서비스에는 예외가 적용될 수 있다.

법 집행은 뉴욕주 법무장관이 담당한다. 위반 행위가 확인되면 법원에 중단 명령과 손해배상 등을 청구할 수 있으며, 위반 건당 최대 2만5,000달러의 민사상 제재금이 부과될 수 있다.

이번 법률은 청소년 보호를 위해 AI 서비스의 구체적인 작동 방식까지 규제한다는 점에서 의미가 있다. 뉴욕주는 기존에도 온라인 플랫폼과 AI 서비스에 대한 청소년 보호 조치를 추진해 왔으며, 이번에는 챗봇이 이용자와 상호작용하는 과정에서 발생할 수 있는 위험에 초점을 맞췄다.

다만 법률이 실제 서비스 운영에 적용되는 범위와 세부적인 집행 방식은 향후 시행 규정과 감독 과정에서 구체화될 것으로 보인다.

박태민/taemin2347@newsdot.net

※ 참고자료

*New York State Senate, "Senate Bill S9051B", 2026년 10월 28일 주지사 서명 법률 참조.

*Associated Press, "New York enacts ban on 'unsafe' chatbot behavior with kids as states push AI regulation boundaries", 2026년 10월 28일 참조.