머스크의 X, Grok ‘실존 인물 노출 이미지’ 생성 제한…규제 압박에 지역별 차단 도입

[사진출처 = PBS]

[서울=뉴스닻] 이정수 기자 = 일론 머스크의 소셜미디어 X가 자사 AI 챗봇 그록(Grok)을 통해 실존 인물의 성적·노출 이미지를 생성·편집하는 기능을 일부 지역에서 제한하기로 했다. X는 해당 유형의 콘텐츠가 불법인 관할권에 대해 지오블로킹(지역 차단)을 적용하겠다고 밝혔다. 이번 조치는 그록이 만든 노출·성적 딥페이크 이미지가 플랫폼에 확산되며 전 세계 규제기관이 조사에 착수한 가운데 나왔다.

“불법 지역은 차단”…X, 그록의 ‘실존 인물 이미지 편집’ 제한

X는 “비키니·속옷 등 노출이 있는 복장으로 실존 인물을 편집해 성적 이미지를 만들도록 하는 요청을 막기 위한 기술적 조치를 시행했다”고 설명했다. 또 “해당 콘텐츠가 불법인 관할권에서는 위치 기반으로 요청 자체를 제한한다”고 밝혔지만, 어느 국가·지역이 대상인지는 구체적으로 공개하지 않았다.

영국 Ofcom “환영하지만 조사 계속”…각국 수사·제재 움직임 확산

영국 온라인 안전 규제기관 오프콤(Ofcom)은 그록 관련 사안에 대한 공식 조사를 개시했고, 최근 제한 조치에 대해 “환영할 만한 진전”이라면서도 조사는 계속 진행 중이라고 밝혔다. 로이터(Reuter)에 따르면 캐나다 등도 조사 범위를 넓히는 등 규제 압박이 확산되고 있으며, X가 법적 의무를 충족했는지 여부가 쟁점이 되고 있다.

“X 안에서는 막는다”지만…외부 앱·웹은 예외 논란

이번 제한은 X 플랫폼 내 기능을 중심으로 발표됐지만, 일부 환경에서는 여전히 이미지 편집 기능이 작동했다는 보도도 나왔다. AP는 그록의 이미지 편집 도구가 독립형 그록 웹사이트·앱에서도 확인됐고, 무료 계정에서도 일부 요청이 가능했다고 전했다. 이 때문에 업계에선 “지역 차단만으로는 한계가 있다”는 지적과 함께, 기술적 차단 범위(플랫폼/앱/웹)와 실효성이 추가 검증 대상이 될 전망이다.

딥페이크 규제 ‘가속’…플랫폼 책임·투명성 요구 커진다

오프콤은 조사 공지에서 비동의 성적 이미지(일명 ‘리벤지 포르노’)나 아동 성착취물 등 불법 콘텐츠 노출 위험 평가, 불법물 신속 삭제, 프라이버시 보호 의무 등을 점검하겠다고 밝혔다. 전문가들은 생성형 AI 확산으로 “콘텐츠 생성 책임”이 플랫폼으로 이동하면서, 앞으로는 (1) 생성 단계에서의 안전장치 (2) 유통 단계의 모니터링 (3) 피해자 구제·증거 보존 체계가 함께 요구될 것이라고 보고 있다.