“가짜 아이가 후원 호소”…AI 빈곤 이미지 윤리 논란

페어픽처 “실제 인물 아닌 합성사진, 인권 감수성 무너져”

인공지능(AI)이 생성한 ‘빈곤 이미지’가 국제 구호 단체들의 온라인 홍보에 무분별하게 사용되며 ‘AI 빈곤 포르노’ 논란이 커지고 있다. 실제 인물이 아닌 합성된 아동과 난민, 성폭력 피해자의 모습을 이용한 후원 모금용 이미지가 확산하고 있다는 지적이다.

영국 일간지 가디언은 20일(현지시간) AI가 만든 가짜 빈곤 사진이 국제개발 비정부기구(NGO)와 유엔(UN) 산하 기구들의 캠페인에까지 쓰이면서 피해자 동의나 인권 보호 원칙이 무너지고 있다고 보도했다.

“싼값에 동의도 필요 없어”…윤리 대신 효율 택한 구호 현장



스위스의 윤리적 시각 콘텐츠 플랫폼 ‘페어픽처’의 노아 아널드는 “이제 거의 모든 곳에서 AI 이미지가 쓰인다. 일부 단체는 적극적으로 활용하고 있고, 다른 곳도 실험 중이다”라고 말했다. 페어픽처는 현지 창작자와 협업해 피사체의 동의(consent)와 진정성(authenticity)을 보장하는 윤리적 이미지 제작 방식을 촉진하는 단체로, 글로벌 개발 및 인권 분야에서 ‘빈곤 포르노’ 논란을 줄이는 대안적 모델로 평가받고 있다.





벨기에 앤트워프 열대의학연구소의 아르세니 알레니체프 연구원은 국제학술지 ‘랜싯 글로벌 헬스’(The Lancet Global Health) 2025년 11월호 논평에서 “AI가 만드는 빈곤 이미지는 기존의 시각 문법과 편견을 그대로 반복한다”며 “빈 접시를 든 아이, 갈라진 대지, 진흙탕 속 어린이 등 전형적인 클리셰를 되풀이하고 있다”고 지적했다.

알레니체프 연구원은 SNS 캠페인에 활용된 AI 생성 빈곤 이미지 100여 장을 수집했으며 일부에는 “폐수 위에 앉은 아이들”, “흑인 아동에게 의료 상담을 하는 백인 자원봉사자” 등의 설명이 붙어 있었다고 밝혔다. 이 가운데 일부는 유료 사진 판매 사이트 어도비 스톡에서 60파운드(약 10만 원)에 판매되고 있었다.

그는 “이런 사진은 아프리카나 인도에 대한 최악의 고정관념을 강화한다”며 “게다가 실제 인물이 아니기에 동의 절차조차 필요 없다”고 비판했다.

실제 피해자 대신 ‘합성 피해자’…UN도 영상 삭제AI 이미지 사용은 주요 국제기구와 대형 NGO에서도 확산했다.

2023년 영국계 국제구호단체 플랜인터내셔널 네덜란드 지부는 소녀 결혼(조혼) 반대 캠페인 영상에서 멍이 든 아이와 임신한 10대 소녀, 나이 많은 남성이 등장하는 AI 이미지를 활용했다.

또 유엔(UN)은 지난해 유튜브에 내전 성폭력 피해자의 ‘AI 재현’ 영상을 게시했다가 삭제했다. 부룬디 내전 당시 성폭행 피해 여성의 허구 인터뷰 장면이 포함돼 있었기 때문이다.

유엔 평화유지국 대변인은 “실제 영상과 AI 생성 장면이 뒤섞이면서 정보 신뢰성에 문제가 생겼다”며 “부적절한 활용으로 판단해 삭제했다”고 밝혔다.

“빈곤 포르노 2.0”…AI, 편견을 학습하고 재생산전문가들은 이런 흐름이 ‘빈곤 포르노 2.0’으로 진화했다고 지적한다.

NGO 커뮤니케이션 상담사 케이트 카르돌은 “이 이미지들은 나를 두렵게 만든다”며 “빈곤을 윤리적으로 표현하려던 오랜 노력이 이제는 ‘가짜 인간’과 싸워야 하는 현실이 됐다”고 말했다.

알레니체프 연구원은 “AI 생성 이미지가 인터넷에 퍼지면 이후 학습 데이터에 다시 포함돼 사회적 편견을 증폭시키는 악순환이 벌어진다”고 경고했다.

“고객이 원하면 막을 수 없다”는 플랫폼 논리



스톡 이미지 플랫폼 ‘프리픽’의 호아킨 아벨라 최고경영자(CEO)는 “문제의 책임은 이미지를 구매하는 소비자에게 있다”며 “우리는 다양성 확보 노력을 하지만 전 세계 고객이 특정 이미지를 원하면 막을 방법이 없다”고 말했다.

플랜인터내셔널 측은 “올해부터 AI를 이용한 아동 이미지 생성 금지 지침을 도입했다”며 “2023년 캠페인은 실제 피해자 보호 목적이었다”고 해명했다.

어도비 측은 논평 요청에 응하지 않았다.

윤태희 기자