프랑스 AI 전문가위원회, 챗봇 이용자 보호 강화 권고… 감정적 의존 유도 기능 규제 제안

AI 생성 이미지프랑스의 인공지능(AI) 전문가위원회가 챗봇과 AI 비서 서비스에 대한 이용자 보호 규제를 강화할 것을 권고했다. AI가 사람처럼 행동하거나 이용자의 감정적 반응을 유도하는 기능을 제한하고, 서비스 출시 이전부터 이용자에게 미칠 위험을 평가하도록 하는 것이 핵심이다. 프랑스 대통령실은 10일 AI·디지털위원회(CIANum) 산하 전문가위원회가 생성형 AI와 이용자의 취약성을 분석한 보고서를 에마뉘엘 마크롱 대통령에게 제출했다고 밝혔다. 위원회는 AI 서비스가 개인과 사회에 미치는 영향을 검토하고, 이용자 보호를 위한 18개 권고사항을 제시했다. 이번 보고서는 AI 챗봇과 대화형 서비스가 일상생활에 빠르게 확산되는 상황에서 이용자의 판단 능력과 감정적 반응이 기술적으로 영향을 받을 수 있다는 문제의식에서 출발했다. 위원회는 특히 미성년자와 심리적으로 취약한 이용자에 대한 보호가 필요하다고 강조했다. 주요 권고사항 중 하나는 AI가 실제 사람처럼 인식되도록 만드는