AI 생성 이미지 논란

생성형 AI를 활용한 이미지 변환 서비스가 인기를 끌면서 저작권 문제가 대두되었다. 오픈 AI의 'GPT-4o'가 선보인 특정 애니메이션 화풍 변환 기능은 전 세계적인 유행을 일으켰으나, 원작자의 화풍을 무단으로 학습하고 복제한다는 비판을 받았다. 또한 사용자가 업로드한 사진을 변환하는 과정에서 초상권 침해 우려도 제기되었다. 이외에도 AI 모델 운영에 필요한 막대한 전력 소모로 인한 환경 오염 문제도 주요한 비판 지점 중 하나이다.

구글의 AI 챗봇 '제미니(Gemini)'는 이미지 생성 과정에서 역사적 사실을 왜곡하여 논란이 되었다. 교황이나 미국 건국의 아버지 등 역사적 인물을 생성하라는 요청에 대해 흑인이나 동남아시아 여성의 이미지를 제공한 사례가 대표적이다. 구글 측은 다양성을 존중하고 포괄적인 표현을 제공하려는 목적이었다고 해명했으나, 역사적 맥락을 무시한 '과도한 PC주의(Political Correctness)'라는 비판을 받았다. 이로 인해 해당 서비스의 이미지 생성 기능이 일시 중단되기도 하였다.

인도주의 단체들이 홍보 캠페인에 AI 생성 이미지를 사용하면서 윤리적 논란이 발생하였다. 실존 인물 대신 AI로 만든 가상의 빈곤 아동 이미지를 사용하는 것은 제작비 절감과 초상권 문제 회피를 위한 방편으로 활용된다. 그러나 이는 '빈곤 포르노'로서 가난을 감정 자극의 도구로 소비하고, 특정 지역에 대한 부정적인 고정관념을 재생산한다는 지적을 받는다. 진흙탕 속의 아이들이나 굶주린 모습 등 전형적인 상징을 반복적으로 생성함으로써 인권 보호 원칙이 훼손될 수 있다는 우려가 제기된다.

언론 기사에서 기사 이해를 돕기 위해 AI 이미지를 사용하는 사례가 늘고 있으나, 이는 저널리즘 원칙과 충돌하기도 한다. 실제 상황과 동떨어진 과장된 이미지를 지면에 배치하여 독자를 오도하는 경우가 발생하고 있다. 한국신문윤리위원회는 현실과 거리가 먼 과장된 AI 이미지를 1면에 사용한 언론사에 대해 '주의' 조치를 내린 바 있다. 제작 과정의 투명성 확보와 오남용 방지를 위한 자율 규제의 필요성이 강조되고 있다.

정부는 AI 기술을 악용한 허위·과장 광고와 페이크 저작물에 대응하기 위해 법적 장치를 마련하고 있다. 주요 대책은 다음과 같다.

• AI 생성물 표시제: AI로 제작하거나 편집한 정보제공자는 반드시 해당 결과물이 AI 생성물임을 명시해야 한다.
• 징벌적 손해배상: AI를 활용한 허위 사실 유포나 피해 발생 시 강력한 사후 차단과 배상 책임을 묻는다.
• 플랫폼 책임 강화: AI 생성물이 실제와 혼동되지 않도록 플랫폼 사업자의 관리 의무를 강화한다.