AI, ‘가난한 아이’ 이미지를 만들어 팔고 있다… '빈곤 포르노', 국제 구호 단체들 ‘윤리 논란’

실제 인물 대신 AI로 만든 극빈층·아동·성폭력 피해자 이미지 사용 확산

[서울=뉴스닻] 김 크리스 기자 = 국제 구호 및 보건단체들이 인공지능(AI)으로 생성된 가짜 빈곤 이미지를 홍보 캠페인에 사용하면서, “빈곤 포르노(poverty porn)” 논란이 다시 불붙고 있다.
AI가 만들어낸 극단적 빈곤·아동·성폭력 생존자 이미지가 스톡사진 사이트를 통해 확산되며, 비용 절감과 초상권 문제 회피를 이유로 실제 구호 사진을 대체하고 있다는 지적이 제기됐다.

“이제는 ‘빈곤 포르노 2.0’ 시대”

벨기에 앤트워프 열대의학연구소의 연구원 아르세니 알레니체프(Arsenii Alenichev)는 “AI 이미지들은 전형적인 빈곤의 시각 문법을 복제하고 있다”며 “빈 접시를 든 아이, 갈라진 땅, 흙탕물 속의 어린이 등 전형적인 고정관념 이미지를 반복 생산한다”고 지적했다.

그는 NGO와 개인이 소셜미디어에서 활용한 ‘AI 빈곤 이미지’ 100여 장을 수집해 공개했는데, 그중에는 “진흙탕에서 웅크린 아이들”, “눈물을 흘리는 아프리카 소녀 신부” 등 과장되고 인종 편향적인 장면이 다수 포함돼 있었다. 그는 란셋 글로벌 헬스(Lancet Global Health)에 실은 기고문에서 “이는 명백히 ‘빈곤 포르노 2.0’”이라고 비판했다.

“저작권·초상권 없이 싸게 쓸 수 있다”…AI 이미지 급증

스위스 비영리단체 페어픽처(Fairpicture)의 노아 아널드(Noah Arnold)는 “이미 여러 단체들이 AI 이미지를 사용 중이거나 실험하고 있다”고 말했다. 그는 “최근 미국의 공적자금 삭감으로 NGO 예산이 줄어들면서, 저비용의 합성 이미지가 빠르게 대안으로 떠올랐다”고 설명했다.

AI가 만든 ‘극빈 이미지’는 어도비 스톡(Adobe Stock), 프리픽(Freepik) 등 대형 이미지 플랫폼에서 쉽게 찾을 수 있다. “난민촌의 아이”, “쓰레기 가득한 강에서 수영하는 아시아 어린이”, “백인 봉사자가 아프리카 마을의 흑인 아이를 진료하는 장면” 같은 설명이 붙은 이미지가 판매되고 있으며, 일부는 60파운드(약 10만 원)에 거래된다.

알레니체프는 “이 이미지들은 명백히 인종화돼 있다”며 “아프리카나 인도에 대한 가장 낡은 편견을 시각적으로 재생산한다”고 경고했다.

“수요가 문제…막을 방법 없다”

프리픽의 CEO 호아킨 아벨라(Joaquín Abela)는 “이미지는 이용자가 구매할 때 발생하는 것이며, 플랫폼의 책임은 제한적”이라며 “우리는 다양성과 성별 균형을 강화하려 노력하지만, 시장이 특정 이미지를 원한다면 막을 방법이 없다”고 말했다.

하지만 전문가들은 “이러한 상업 플랫폼의 방관이 결국 왜곡된 세계관을 강화하고, 다음 세대 AI 학습 데이터에도 편향을 심는다”고 우려한다.

국제기구들도 AI 이미지 활용 논란

AI 빈곤 이미지는 이미 주요 국제기구의 캠페인에도 사용된 바 있다. 2023년, 네덜란드의 ‘플랜 인터내셔널(Plan International)’은 아동 결혼 근절 캠페인 영상에 “멍이 든 소녀”와 “임신한 10대”의 AI 이미지를 삽입해 비판을 받았다.

또한 유엔(UN)은 지난해 유튜브에 분쟁 지역 내 성폭력 피해를 재현한 AI 영상을 공개했지만, 사실상 허구적 증언이 포함된 것으로 드러나자 영상을 삭제했다. 유엔 평화유지단 대변인은 “AI 기술을 잘못 활용해 진위 혼동과 정보 왜곡 위험이 있었다”고 인정했다.

“실존 인물이 아니라고 해서 윤리적 문제 사라지지 않아”

페어픽처의 아널드는 “빈곤과 폭력을 다루는 NGO들의 윤리적 스토리텔링 논의가 이어져 왔지만, AI의 등장은 그 한계를 드러냈다”며 “이제는 ‘실존 인물이 아니기 때문에 괜찮다’는 논리가 등장했다”고 말했다.
국제 NGO 커뮤니케이션 컨설턴트 케이트 카르돌(Kate Kardol)은 “AI 이미지들은 소름 끼친다”며 “빈곤을 겪는 사람들의 존엄성을 지키기 위한 싸움이 이제는 ‘가상의 인간’까지 확장되고 있다”고 우려했다.

전문가들은 이러한 왜곡된 AI 이미지가 인터넷 전반에 확산될 경우, 차세대 AI 학습에 다시 반영돼 편견이 증폭되는 악순환이 일어날 수 있다고 경고한다.

[저작권자 ⓒ 뉴스닻. 무단전재·재배포 금지]
김 크리스 기자 (chris@newsdot.net)