생성형 AI를 활용한 콘텐츠가 우후죽순으로 등장하는 가운데, AI 창작물의 저작권 침해 및 불법 콘텐츠 생성 등 사회적 문제점이 대두되고 있다. 이에 따라 AI 기술의 발전, 창작가 및 소비자의 권리 보호 두 마리의 토끼를 잡기 위한 선제적·구체적 입법 대응이 강조된다.
 
국회 문화체육관광위원회 주최 한국음악저작권협회 주관 ‘Made by AI 표기 의무화를 위한 국회 공청회’가 30일 국회 의원회관에서 개최됐다. 해당 공청회에서 고려대 이대희 법학전문대학원 교수는 ‘콘텐츠산업진흥법(이하 콘진법)’ 제26조에서 개정 필요성에 대해 발제했다.
 
챗GPT의 촉발 이후 사람들은 ‘달리’, ‘미드저니’ 등 생성형 AI 기반 툴을 활용해 손쉽게 콘텐츠 제작을 할 수 있게 됐다. 그러나 생성형 AI가 기존의 대량 데이터를 학습해 결과물을 만드는 데 있어 창작자의 지식재산권 침해를 비롯한 각종 문제점이 제기됐다.
 
■ AI 생성물 표기 법제화 필요성 대두
 
인간 고유의 영역으로 여겨지던 영상 제작, 미술, 웹툰, 음악 등 예술 분야에서의 창작물에 관련된 논란은 생성형 AI의 도래와 함께 예견돼 오기도 했다. 챗GPT의 등장하면서 AI 기술을 유용한 보조 도구로 활용하는 동시에 창작자의 역할을 대체하는 자원으로 이용될 수 있다는 의견이 분분한 상황이다.
 
미국, EU, 프랑스 등 여러 국가에서도 AI 생성물 표기 법안이 발의되고 있으며, 국내에도 콘텐츠산업진흥법 일부 개정 법률안이 발의된 바 있다. 이대희 교수는 “콘진법 개정안은 생성형 AI 기반 콘텐츠 생태계의 규칙과 책임을 부과하는 중요한 의미를 갖는다”고 말했다.
 
지난해 네이버 웹툰 ‘도전만화’에서는 AI 웹툰 보이콧 운동이 일어나기도 했다. 이날 토론에 참석한 한국웹툰작가협회 권혁주 협회장은 “‘TDM(Text and Data Mining)’ 면책규정이 통과되면 AI가 원작자의 허락없이 데이터를 무단으로 학습해 상업적 용도로 이용하며, 이는 창작자의 동기 저하와 경제적 손실을 초래한다”고 말했다.
 
또한 생성형 AI의 학습 과정 및 산출물에 대한 권리에 관한 저작권 분쟁뿐만 아니라 최근 딥페이크, 가짜뉴스, AI 커버곡 등 AI 불법 콘텐츠들을 직면하며 실효성 있는 법제화의 필요성이 대두됐다.
 
예컨대 최근 미국 팝스타인 ‘테일러 스위프트’의 합성 음란 이미지가 소셜 미디어 X를 통해 유포된 사태가 있다. 해당 영상은 생성형 AI로 제작한 것으로 추정된다. 이렇듯 AI 기술을 접하기 쉬워지며 특정 인물의 얼굴을 다른 사진 또는 영상과 합성하는 ‘딥페이크(deepfake)’ 기술을 활용한 음란물 피해 사례가 늘어나고 있다.
 
이대희 교수는 “AI 생성물이라는 것을 표기하지 않으면, 이용자는 이를 인간 창작물로 오인해 구매, 소비, 이용하고 가짜 뉴스가 판치고, 타인의 성명이나 목소리 등을 무단 사용해 프라이버시 침해 등으로 인간과 AI 구별을 어렵게 만드는 문제를 야기한다”고 말했다.
 
■ 문체부, 생성형 AI 저작권 안내서 발간
 
AI 생성물 표시에 있어 쟁점은 AI 생성물과 인간 창작물의 구별의 모호함이다. 강승희 법무법인 강남 변호사는 “AI를 활용한 콘텐츠를 판단하는 개념이 실무에서는 모호하기 때문에 신중을 기해야 한다”고 주장했다. 예컨대 스마트폰으로 촬영해 AI로 실시간 초점 설정 등의 작업에 대해 AI 표기가 애매하다는 설명이다.
 
강 변호사는 “사소하거나 비핵심적인 부분에 대해서도 AI를 활용한 콘텐츠로 표시를 하게 한다면 오히려 산업의 위축과 혼란을 가져올 수도 있다”며, “AI 규율체계의 일관성을 위해 현재 논의 중인 AI 기본법과 보조를 맞춰야 한다”고 주장했다.
 
AI 생성물 표시 입법을 위해서는 △적절한 범위의 표시 의무 부과 △AI 수정 편집 표시 △표시 방법 및 내용 △AI 생애주기 관여자의 표시 △매체별 표시 방법 차별화 △표시 기술 △표시의무 이행 필요성 등이 고려될 필요가 있다.
 
지난해 12월말, 문화체육관광부와 한국저작권위원회는 ‘생성형 AI 저작권 안내서’라는 가이드라인을 발표했다. 생성형 AI의 산출물이 만들어지는 과정에서 이해관계를 가지는 각 주체들이 저작권과 관련해 알아 두어야 할 내용을 정리한 내용이다.
 
생성형 AI 기술은 △필요한 데이터를 수집·가공해 AI를 학습시키는 단계 △이용자가 학습된 AI를 활용해 산출물을 만들어 내는 단계로 나뉜다.
 
AI 학습을 위해 텍스트, 이미지 등으로 구성된 데이터셋은 저작물 복제권 침해를 야기할 수 있고, 학습된 AI 모델을 활용해 결과물을 만들어 낸 경우 기존 저작물과 유사하면 저작권 침해가 성립된다.
 
현행 저작권법에 따르면, AI 학습 목적으로 저작물을 이용하는 경우 저작재산권 제한 사유로 명시하고 있지 않다. 여기서 공정이용 조항이 쟁점으로 부각되는데, AI 학습에 대한 공정이용 규정 적용이 불명확한 상황에서 저작물을 학습 데이터로 활용한다면 가급적 저작권자에게 적절한 보상을 제공하고 적법한 이용권한을 확보하는 방안을 권고하고 있다.
 
또한 AI 사업자는 기존 저작물과 유사한 산출물이 나오지 않도록 AI 신경망 설계 시 별도의 기술적 장치를 활용하고, 책임 귀속을 명확히 할 것을 권고했다. 이후에는 파인 튜닝을 실시할 경우 유의해야 한다고 명시했다.
 
저작권자는 AI 학습에 이용되는 것을 원치 않는다는 의사를 약관에 명시하거나, 로봇배제표준(robots.txt)을 적용하는 방안이 있다. 최근 언론사 웹사이트는 이러한 조치를 취하고 있는 추세다.