“세계에서 가장 부유한 사람들과 싸워야 하지만 포기하지 않는다” ... 영국 노동당 아사토 의원이 xAI와 싸우는 이유

영국 노동당의 제스 아사토(Jess Asato) 의원이 딥페이크 등을 통해 여성과 소녀들을 학대하는 사람들에 맞서 싸움을 이어가고 있다. 이 싸움의 대상에서 xAI와 일론 머스크(Elon Musk)도 예외가 아니다.

<Wired>의 10월 27일 보도에 따르면, 오랫동안 여성과 아동을 학대하는 행위에 반대하는 운동을 벌여왔던 아사토 의원은 지난 2025년 자신의 얼굴을 본떠 만든 딥페이크 이미지가 ‘X’ 플랫폼을 통해 유포되는 것을 목격했다. 성폭행 장면이 포함된 매우 충격적이고 모욕적인 딥페이크 이미지였다. 아사토 의원은 곧바로 ‘X’에 신고했지만, ‘X’는 이를 무시했다. 이후 아사토는 xAI를 상대로 자신의 동의없이 이미지를 불법 사용했다는 이유로 소송을 진행 중이다.

아사토 의원은 올해 초에 발생한 xAI의 챗봇인 그록의 딥페이크 사건 당시에도 일론 머스크를 강하게 비판했다. 그녀가 온라인에서 여성과 아동을 더욱 철저하게 보호해야 한다는 운동을 하면서 정치 경력을 쌓아오던 터였다. 아사토 의원은 AI 기술이 보편화되고 딥페이크 등 범죄 행위들이 증가하고 있지만, 온갖 콘텐츠를 호스팅하는 플랫폼들이 이 문제에 적극적으로 대응하거나 개입하지 않는 것에 대해 비판 여론을 주도하고 있다.

아사토는 여기서 더 나아가 보다 근본적인 질문을 던지고 있다. 딥페이크 이미지 오용 문제를 넘어 AI가 거의 모든 것을 만들어낼 수 있는 시대에 ‘동의’라는 개념이 여전히 의미가 있는지를 묻고 있다. 또, 이러한 기술적 도구를 만드는 기업들이 자신들의 행위에 대해 책임을 어떻게 져야 하는지에 대한 질문을 던지고 있다.

아사토 의원은 <Wired>와의 인터뷰를 통해 “AI가 등장한 이후로 딥페이크를 활용한 여성과 아동 학대가 여성들에게 끊임없이 발생해 왔으며, 아동 성착취물에 이용되거나 아동이 스스로 딥페이크 제작 범죄자가 되는 위험도 증가하고 있다. 이를 돕는 도구들은 접근성이 매우 좋고 무료로 구할 수 있는 경우가 많기 때문”이라고 지적했다. 이 지적은 기술 기업들이 이를 충분히 제어할 수 있는 도구들을 마련할 수 있음에도 책임을 다하지 않는다는 그녀의 생각으로 이어진다.

그녀는 “AI 도구에 실제 인물의 사진이나 영상을 입력받아 생성형 AI를 이용해 나체, 부분 나체 또는 음란 행위를 하는 모습으로 합성하는 기술로 인해, 어떤 이미지가 진짜 혹은 가짜인지 구별하기가 어려워졌다”며, “문제는 기술 기업들이 AI 도구가 이러한 기능을 수행하지 못하도록 설계해 사건 발생을 막을 수 있다는 사실을 이미 알고 있다는 것”이라고 주장했다. 기술적으로 충분히 막을 수 있음에도 막으려는 노력을 하지 않는다는 사실에 아사토 의원이 분노하는 것이다.

정치인으로서 아사토는 영국 정부의 노력을 높게 평가했다. 영국 정부는 과학혁신기술부가 중심이 되어 경찰법을 통해 나체 사진 합성 앱 금지 조치를 법제화했다. 또 모든 AI 챗봇을 온라인 안전법의 적용 대상으로 포함시키는 법률 실행을 앞두고 있다.

그러나, 아사토는 정부의 노력만으로는 부족하다는 입장이다. 소셜 미디어 플랫폼 기업이나 AI 기술 기업들이 전면에 나서야 한다는 생각에서 xAI와의 소송을 중단하지 않을 생각이다. 그녀의 표현대로 “세계에서 가장 부유한 사람”들이기도 한 빅테크 총수들과 맞서는 일이 쉽지는 않다. 그럼에도 불구하고, 여러 차례 자신이 충격적이고 치욕스러운 딥페이크 영상의 피해자가 되었던 그녀는 자신의 정치 경력 동안 이 문제를 피해갈 생각은 전혀 없다.

*참고 - “UK Politician Jess Asato GUK Politician Jess Asato Got Deepfaked. Now She’s Taking xAI to Court”, <Wired>, 2026년 10월 27일.

이영주/yjlee@newsdot.net