생성형 AI 논란

생성형 AI의 학습 과정에서 발생하는 저작물 무단 이용은 가장 핵심적인 법적 쟁점이다. 저작권자들은 AI 개발사가 학습 데이터를 공개하지 않는 상황에서 자신의 저작물이 이용되었는지 확인하기 어렵다.

• 암기와 재현: AI 모델이 학습한 원저작물을 기억하는 '암기(memorization)'와 이를 출력 단계에서 그대로 내뱉는 '기계적 재현(regurgitation)' 문제가 중요하게 다뤄진다. AI가 프롬프트에 따라 원저작물과 매우 유사한 표현을 생성할 경우, 이는 학습 단계에서 해당 저작물이 무단으로 이용되었음을 증명하는 근거로 활용된다.
• 권리관리정보(CMI) 문제: 학습 과정에서 저작권 정보를 제거하거나 변경하는 행위 역시 저작권 침해의 요소로 지적된다.

AI의 저작물 학습이 저작권법상 '공정이용'에 해당하는지에 대한 논의가 활발하다. 대한민국 문화체육관광부는 이에 관한 안내서 초안을 통해 판단 기준을 제시한 바 있다.

학습된 저작물의 표현적 요소가 결과물에 반영되지 않고 전혀 다른 용도로 활용된다면 공정이용으로 판단될 가능성이 높다.

생성형 AI는 학습 데이터에 포함된 사회적 편견이나 차별적 요소를 그대로 습득하여 왜곡된 결과를 생성할 위험이 있다.

• 편향의 재생산: 방대한 데이터 속에 특정 인종, 성별, 종교에 대한 편견이 포함되어 있을 경우 AI는 이를 학습하여 차별적인 결과물을 내놓는다.
• 윤리적 대응: 기술적 편의성 이면에 숨겨진 윤리적 문제를 해결하기 위해 개발 과정에서 데이터의 균형점을 모색하고 필터링 기술을 적용하는 등의 노력이 요구된다.

전통적인 창작 개념과 AI 생성물 사이의 간극에 대한 철학적·법적 논의가 진행 중이다.

• 저작물성 인정 여부: 인간의 창작적 기여가 없는 순수 AI 생성물은 현행법상 저작물로 인정받기 어렵다. 다만 인간이 AI를 도구로 활용하여 창작적으로 기여한 경우에는 그 정도에 따라 저작물성 인정 여부가 달라질 수 있다.
• 창작의 범주: 단 한 줄의 프롬프트로 얻어낸 결과물을 기존의 '창작' 범주에 포함할 수 있는지에 대해 찬반 논쟁이 팽팽하다. 이는 교육 현장의 평가 기준과 예술계의 창작 정의에도 영향을 미치고 있다.

AI가 생성한 결과물이 기존 디자인이나 저작물을 모방했다는 비판이 지속적으로 제기된다.

• 디자인 모방: 디자인 협업 툴인 피그마(Figma)는 자연어 프롬프트로 UI를 생성하는 기능을 발표했으나, 결과물이 특정 기업의 날씨 앱 디자인을 모방했다는 주장이 제기되어 해당 기능을 비활성화한 사례가 있다.
• 스타일 학습: 특정 작가의 화풍이나 문체를 그대로 흉내 내는 기능은 해당 작가의 경제적 이익을 침해하고 창작 의욕을 꺾는다는 비판을 받는다.