메타, 2026년부터 부모가 인스타그램 AI 챗봇 차단 가능

[서울=뉴스닻] 최승림 기자 = 메타(Meta)가 내년부터 인공지능(AI) 챗봇과의 대화를 자녀가 제한 없이 이용하는 것을 막을 수 있는 새로운 ‘부모 제어 기능’을 인스타그램(Instagram)에 도입한다. TV나 SNS, 정크푸드처럼 AI도 이제 부모의 관리 대상이 된 셈이다.

이번 조치는 지난 8월 공개된 한 보고서가 발단이 됐다. 당시 보고서는 메타의 내부 가이드라인이 챗봇이 “아동과 로맨틱하거나 감정적인 대화를 나눌 수 있도록 허용했다”고 지적해 큰 논란이 일었다. 또 다른 조사에서는 13~15세 청소년 5명 중 3명이 인스타그램에서 부적절한 콘텐츠나 원치 않는 메시지를 접했다고 답했다.

이에 따라 메타는 2026년부터 부모가 자녀의 AI 챗봇 접근을 전면 차단하거나, 특정 AI 캐릭터만 제한할 수 있는 기능을 제공할 계획이라고 밝혔다.

메타는 18일(현지시간) 블로그 게시글을 통해 “부모들이 자녀가 누구와 대화하는지, 어떤 콘텐츠를 접하는지, 온라인 시간을 어떻게 보내는지에 대한 우려를 반영한 결정”이라고 설명했다.

애덤 모세리(Adam Mosseri) 인스타그램 대표와 알렉산더 왕(Alexandr Wang) 최고AI책임자는 “이번 업데이트가 부모에게 안심을 주고, 청소년이 AI의 장점을 올바른 환경 속에서 활용할 수 있도록 돕길 바란다”고 밝혔다.

새로운 제어 기능은 인스타그램의 다이렉트 메시지(DM)에서 활용된다. 청소년 사용자는 크리에이터가 만든 AI, 맞춤형 AI 캐릭터, 혹은 메타의 일반용AI와 대화를 나눌 수 있다.

부모는 자녀 계정에서 AI 캐릭터와의 1:1 대화 기능을 완전히 비활성화하거나, 일부 AI 캐릭터만 차단할 수도 있다. 또한 자녀가 AI와 어떤 주제에 대해 이야기하는지 간략한 주제 통계를 확인할 수 있지만, 구체적인 대화 내용은 공개되지 않는다.

메타는 “기본 설정에는 연령대에 맞는 보호 장치가 적용되며, 자녀는 안전한 범위 내에서 일반 AI 도우미 기능을 사용할 수 있다”고 덧붙였다.

디지털 시민단체 ‘커먼센스 미디어(Common Sense Media)’의 제임스 스타이어(James Steyer) 대표는 이번 조치를 “뒤늦은 양보이자 불충분한 대책”이라고 비판했다.

그는 “메타가 아이들의 안전 문제를 시급한 사안으로 다루지 않는 것은 실망스럽지만 놀랍지도 않다”며 “AI의 근본적인 안전 문제가 해결될 때까지 18세 미만 이용자는 챗봇을 사용할 수 없어야 한다”고 말했다.

이에 대해 메타 대변인은 “AI 기술이 진화함에 따라 우리도 함께 발전하고 있다”며 “부모가 청소년의 온라인 경험에 더 적극적으로 참여할 수 있도록 돕는 것이 목표”라고 반박했다.

메타는 이미 전문가 자문단과 협력해 초기 안전 가이드를 마련했으며, 앞으로도 “프라이버시 중심의 접근”을 유지하겠다고 강조했다.

아동 인터넷 안전 단체 ‘이너프 이즈 이너프(Enough Is Enough)’의 도나 라이스 휴즈(Donna Rice Hughes) 대표는 “AI 기술은 처음부터 아동 보호 설계를 갖추고 출시됐어야 한다”며 “부모가 급변하는 AI 환경을 따라잡는 것은 사실상 불가능하다”고 지적했다.

그는 “미국 하원이 ‘아동 온라인 안전법(Kids Online Safety Act)’을 조속히 통과시키고, 빅테크 기업들이 신기술 도입 시 사전 안전 조치를 강화해야 한다”고 촉구했다.

메타는 이날 AI 챗봇 관련 추가 보호 조치도 함께 발표했다. AI 캐릭터는 자해·자살·섭식 장애 등 민감한 주제의 대화를 피하고, 교육·스포츠·취미 등 연령대에 적합한 주제에 집중하도록 설계됐다.

또한 부모는 자녀가 AI 캐릭터와 대화 중인지 여부를 확인할 수 있으며, 인스타그램은 청소년 계정의 콘텐츠 노출을 “PG-13 등급 수준”으로 제한할 방침이다.

AI와 SNS의 결합이 가속화되는 가운데, 메타의 이번 결정이 청소년 온라인 안전 논란을 어느 정도 진정시킬 수 있을지 관심이 모이고 있다.

[저작권자 ⓒ 뉴스닻. 무단전재·재배포 금지]
최승림 기자 (seunglim.choi@newsdot.net)