생성형 AI 논란

생성형 AI의 학습 과정에서 발생하는 저작물 무단 이용은 가장 핵심적인 법적 쟁점이다. 저작권자들은 AI 개발사가 학습 데이터를 공개하지 않는 상황에서 자신의 저작물이 이용되었는지 확인하기 어렵다.

• 암기와 재현: 최근 소송에서는 AI 모델이 원저작물을 기억하는 '암기(memorization)'와 이를 출력 단계에서 그대로 내뱉는 '기계적 재현(regurgitation)' 문제가 중요하게 다뤄진다.
• 증거 활용: AI가 프롬프트에 따라 원저작물과 매우 유사한 표현을 생성할 경우, 이는 학습 단계에서 해당 저작물이 무단으로 이용되었음을 증명하는 근거로 활용된다.

생성형 AI는 학습 데이터에 포함된 사회적 편견이나 차별적 요소를 그대로 습득하여 왜곡된 결과를 생성할 위험이 있다.

• 편향의 재생산: 방대한 양의 데이터 속에 특정 인종이나 성별에 대한 편견이 포함되어 있을 경우, AI는 이를 학습하여 차별적인 결과물을 내놓는다.
• 윤리적 대응: 기술적 편의성과 효율성 이면에 숨겨진 윤리적 문제를 해결하기 위해 개발 과정에서의 균형점 모색이 요구된다.

AI가 생성한 결과물이 기존 디자인이나 저작물을 모방했다는 비판이 지속적으로 제기된다.

• 피그마(Figma) 사례: 디자인 협업 툴인 피그마는 자연어 프롬프트로 UI 화면을 생성하는 '피그마 AI' 기능을 발표했으나, 생성된 결과물이 애플의 날씨 앱 디자인을 모방했다는 주장이 제기되어 해당 기능을 비활성화했다.
• 콘텐츠 확산: 텍스트, 음원, 이미지, 동영상 등 모든 분야에서 AI를 통한 콘텐츠 생성이 쉬워지면서 표절 검사와 저작권 보호 사이의 딜레마가 심화되고 있다.

전통적인 창작의 개념과 AI를 이용한 결과물 사이의 간극에 대한 철학적 논의가 진행 중이다.

• 계산과 고뇌: 인간의 창작이 뇌, 몸, 정서, 의도가 결합된 책임 있는 행위인 반면, AI의 생성은 데이터에 기반한 계산 결과라는 시각이 존재한다.
• 창작의 범주: 단 한 줄의 프롬프트로 얻어낸 결과물을 기존의 '창작' 범주에 포함할 수 있는지에 대해 찬반 논쟁이 팽팽하다. 이는 교육 현장에서 학생들의 학습 방식과 평가 기준에도 영향을 미치고 있다.