인공지능(AI) 생성물과 창작 윤리, 그리고 규범의 방향

김현경 IT정책전문대학원 교수

 생성형 AI가 만들어낸 그림, 소설, 음악 등은 인간의 창작물과 거의 구분되지 않을 정도로 발전하고 있으며, 상당 부분 인간의 창작을 대신하고 있다. 최근 필자의 지인인 방송 PD는 그간 프로그램 제작을 위해 작가로부터 구매하던 그림을 이제는 ‘미드저니(Midjourney)’라는 AI 서비스를 이용한다고 한다. 작가는 일거리를 잃었지만, 프로그램 제작사는 비용을 절감하고 만족도도 높아졌다. 그러나 이러한 생성형 AI가 만족스러운 콘텐츠를 만들기 위해서는 인간 창작물의 학습이용이 전제된다. 이러한 과정에서 창작 생태계의 이해관계를 둘러싸고 작가와 AI서비스 제공자 간 갈등이 첨예화되고 있다.

 우선 인간의 창작물을 허락 없이 학습데이터로 이용하는 것이 적법한가의 문제다. 생성형 AI는 통상적으로 스크래핑(scraping)이나 크롤링(crawling) 등의 방법으로 저작물에 ‘접근’해 이를 ‘수집’하게 되는데, 이 과정에서 저작물의 ‘무단 이용’이 문제된다. 최근 할리우드 작가조합이 공개서한을 통해 생성 AI 프로그램에 저작물을 사용할 때는 허락을 받도록 하고, 작가들에게 정당한 대가를 지불하라고 한 것도 이러한 맥락이다. 한편 이에 대해 AI 서비스 제공자는 이러한 이용이 저작권법상 ‘공정이용’으로 면책된다고 주장한다. 마치 서점 혹은 도서관에서 책을 읽는 것과 같다는 주장이다. StabilityOpen AIMetaAnth ropicMicrosoft 등 AI 선두 주자들은 대부분 이러한 학습데이터 이용과 관련해서 창작자들과 소송 중이다. 둘째 학습데이터의 출처표시 문제다. AI의 의사결정은 일명 블랙박스(Black Box)라 할만큼 어떻게 생성물이 만들어지고 의사결정이 내려졌는지 전문가들조차 제대로 파악하기 어렵다. 또한 AI 알고리즘은 영업비밀로 인식되기 때문에 공개하기 어렵다. 그러나 AI 생성물이 편향적 결과를 생성하거나 특히 창작자 입장에서 자신들의 창작물이 AI 학습으로 이용되었는지 파악하기 위해서는 학습데이터의 출처를 파악할 수 있어야 한다. 그러나 학습데이터의 방대한 양과 AI사업자의 차별특화된 서비스 제공을 보장하기 위해 투명성 보장의 방식과 내용에 대해서는 창작 생태계 전반의 합의가 선행되어야 할 것이다. 셋째, AI가 생성한 콘텐츠에 대하여도 저작권과 유사한 지식재산권을 인정해야 하는가이다. 발명고안디자인저작물 등 무형의 지식에 대해 재산권이라는 독점배타적 권리를 인정하는 이유는 창작자에게 보상을 통해 인간의 창작을 독려하고자 한 것이다. 그러나 AI는 태생 목적 자체가 콘텐츠 생성이므로 이러한 인센티브가 없어도 밤낮없이 음악, 시, 소설, 영상 등을 만들어낸다. 다만 AI산업 발전을 위해 AI생성물에 대해서도 일정기간 독점적 보호를 인정하되, 인간 창작물보다는 더 약한 보호를 제공해야 한다는 의견도 있다. 그러나 이러한 AI생성물 보호를 인정할 경우, 인간이 방대한 양의 AI생성물을 침해하지 않도록 창작을 주저하게 되는 ‘영향의 불안’에 빠지게 될 수 있다. 우리는 이미 타인의 저작권을 침해할까봐 콘텐츠 이용에 있어서 매우 주의하고 있는데 그 범위가 AI콘텐츠까지 확장된다면 인간의 창작을 위축시키면서 인간에게 지식재산권을 인정한 취지를 희석시킬 수 있다. 지식재산권은 특정 기술 및 산업을 증진하기 위한 것이 아니라, 인간의 창작을 독려, 보호함으로써 인류의 문화발전에 이바지하고자 탄생한 제도임을 간과해선 안될 것이다. 넷째, AI가 만들어낸 콘텐츠를 인간의 창작물과 구분하는 ‘식별’문제다. AI를 통해 허위정보를 유통하거나, 딥페이크 기술을 활용하여 특정 사람, 물건, 장소 등을 조작함으로써 사실관계를 혼동시키는 사례들이 증가하고 있다. 특히 저작권법은 인간의 창작물을 저작자 생존 중 뿐 아니라 사후 70년간 보호하고 있으므로 인간은 AI생성물을 마치 자신이 창작한 것으로 허위 공표등록하고싶은 유혹을 떨치기 어려울 것이다. 이러한 악용을 방지하기 위해서 AI생성물을 인간 창작과 구분하는 식별 제도에 대한 논의가 이루어지고 있다. 그러나 최근 대부분의 창작은 AI와 인간의 협업에 의해 이루어지는 경우가 많고, AI생성물을 식별하는 기술 역시 정확성을 보장하기 힘들다. 머신 러닝을 사용하여 AI 산출물 여부를 판단하는 ‘GPTzero’, ‘OpenAI AI Text Classifier’, ‘Copyleaks’ 등도 많은 오류가 있는 상황이다. 챗GPT를 제공하는 OpenAI는 독자적인 AI 콘텐츠 탐지 도구인 ‘Classifier’를 개발 출시 하였으나 텍스트의 작성자가 사람인지 AI인지 정확히 구분하지 못해 반 년만인 2023년 7월 20일 이 서비스를 조용히 중단, 연기한 바 있다.

 창작, 노동 등 많은 영역에서 AI의 등장은 인간에게 편의를 제공하지만 불안도 야기시키고 있다. ‘인간이 언제, 어디서든 최우선적 존재’라는 것은 불멸의 진리다. 따라서 AI는 인간 존중과 인류의 번영을 위한 도구로써 그 쓰임새가 설계되고 윤리와 규범 역시 이를 보충, 지원하는 방향으로 마련되어야 할 것이다.