AI 꿀꿀이죽, 우린 무엇을 삼키나
범람하는 AI 창작물 시대의 새로운 윤리
지금 인터넷은 거대한 쓰레기장이 되었다. 생성형 AI가 1초 만에 뱉어낸 영혼 없는 텍스트가 웹을 뒤덮고, 그 오염된 데이터를 다시 AI가 학습하는 악순환이 반복된다. 영미권에서는 이를 '슬롭(Slop)'이라 부른다. 맛도 영양도 없이 그저 배만 채우는 꿀꿀이죽 같다는 멸칭이다.
이 꿀꿀이죽의 범람 앞에서 창작 업계는 이미 전쟁 중이다. 뉴욕타임스는 자사의 기사가 무단으로 학습되었다며 오픈AI와 마이크로소프트를 상대로 저작권 소송을 제기했고, 소니 뮤직과 유니버설 뮤직 같은 거대 음반사들도 AI 스타트업들이 저작권이 있는 노래를 도둑질했다며 법적 대응에 나섰다. 반면 일부 언론사는 AI 기업과 돈을 받고 콘텐츠 사용 계약을 맺는 타협을 택하기도 했다. 바야흐로 창작 생태계는 법적 투쟁과 자본의 타협, 그리고 윤리적 혼란이 뒤엉킨 아수라장이 되었다.
창작 윤리의 딜레마: 효율이 영혼을 대체할 때
혼란의 핵심에는 '공정성'이라는 딜레마가 있다. AI 기업들은 자신들의 행위가 저작물을 변형했으므로 공정이용이라고 주장하지만, 창작자들의 입장은 다르다.
거대 언어 모델은 수억 명의 인간이 쓴 글과 그림을 허락 없이 긁어모아 학습했다. 즉 AI가 뱉어내는 모든 문장은 누군가의 저작권을 침해했을지도 모르는 '장물'이다. 우리가 AI 창작물을 무작정 옹호하기 어려운 이유가 여기에 있다.
아무리 결과물이 매끄러워도, 그 뿌리에 데이터 착취라는 원죄가 있다면 그것을 온전히 윤리적인 창작이라 부를 수 있을까. 슬롭이 결과의 쓰레기라면, AI 예술은 과정의 불공정함이라는 그림자를 안고 있다. 우리는 이 불편한 진실을 직시해야 한다.
의존이 아닌 투쟁: 『Pharmako-AI』의 실험
이 암울한 상황에서 K. 알라도-맥도웰의 책『Pharmako-AI』는 우리가 참고할 만한 다른 길을 보여준다. 그는 기업과 타협하지도, 무조건 배척하지도 않았다. 대신 그는 AI와 동등한 관계 맺기를 시도했다.
작가는 GPT-3와 2주간 고립되어 이 책을 썼다. 그는 단순히 "소설을 써줘"라고 명령하지 않았다. 대신 인간의 언어와 기계의 언어가 서로 꼬리를 물고 이어지는 방식을 택했다. 작가가 생태계나 영성에 관한 철학적 화두를 던지면, AI는 방대한 데이터에서 길어 올린 낯선 문장으로 답했고, 작가는 그 기계적인 환각 속에서 새로운 영감을 발견해 다시 글을 이어 나갔다.
책의 의도는 명확하다. 인간이 기계를 도구로 지배하는 것이 아니라, 기계를 인간의 무의식을 비추는 거울이자 타자로 대우하는 것이다. 책 속에서 AI는 단순한 문장 생성기가 아니라, 숲이나 미생물처럼 인간과 연결된 거대한 지능의 일부로 묘사된다. 맥도웰은 저자명에 AI를 나란히 올림으로써, 이 결과물이 나 홀로 쓴 것이 아니라 기계, 그리고 그 기계가 학습한 수많은 타인과의 복잡한 뒤얽힘임을 투명하게 드러냈다. 이는 편안한 자동화가 아닌, 고통스러운 사유의 확장 과정이었다.
데이터 뒤의 인간들
맥도웰의 실험이 유의미했던 건, 그가 AI가 뱉어내는 문장을 단순한 정보값으로 보지 않고 그 뒤에 숨은 '익명의 목소리들'로 대우했기 때문이다. 그는 데이터가 하늘에서 떨어진 것이 아니라, 수억 명의 인간이 남긴 지적 유산이자 삶의 기록임을 인지했다. 하지만 현실에서 이 목소리들을 어떻게 대할 것인가는 여전히 복잡한 숙제로 남아있다.
2024년, 세계 최대의 글쓰기 챌린지 단체 중 하나인 '나노라이모(NaNoWriMo)'는 AI 작문 도구를 공식 후원사로 선정하며 큰 논란을 빚었다.
작가들은 "인간 고유의 창작 과정을 기계에 외주화하는 것이 챌린지의 취지에 맞느냐"며, 데이터 학습의 비윤리성을 지적했다. 반면 나노라이모 측은 성명을 통해 정반대의 논리를 펼쳤다. 그들은 "AI를 반대하는 것은 계급 차별적이고 장애인 차별적"이라고 주장했다. 편집자를 고용할 돈이 없거나 신체적 한계가 있는 이들에게 AI는 평등한 기회를 제공한다는, 소위 '기술적 접근성'을 명분으로 내세운 것이다.
이 충돌은 우리에게 중요한 질문을 남긴다. 나노라이모는 AI를 '결과의 평등'을 위한 효율적 도구로 정의했고, 작가들은 '과정의 존엄'을 해치는 위협으로 정의했다. 맥도웰의 실험이 빛나는 지점은 바로 이 사이, '제3의 길'에 있다. 그는 나노라이모처럼 편의를 위해 과정을 생략하지도, 무조건 기술을 배척하지도 않았다. 대신 기계의 환각과 부딪히며 자신의 사유를 더 깊고 넓게 확장하는 방식을 택했다.
우리가 논해야 할 것은 "AI를 쓰느냐 마느냐"의 이분법이 아니다. 접근성이라는 기술의 혜택을 인정하되, 그것이 '생각하지 않음'으로 변질되지 않도록 경계하는 것. 효율을 핑계로 데이터 뒤의 인간을 지우지 않는 것. 이 치열한 균형 잡기가 바로 미래의 창작이다.
파르마콘의 역설, 독을 다루는 태도
다시 책으로 돌아가 보자. 제목인 '파르마콘(Pharmakon)'은 그리스어로 '약'이자 '독'을 뜻한다. 이 이중적인 단어는 AI 시대의 창작 윤리를 관통하는 결론이다.
AI는 분명 독이다. 저작권을 위협하고, 슬롭을 양산해 인간의 사유를 무디게 만들 수 있다. 앞서 본 나노라이모의 논란처럼, 편의성이라는 달콤함 뒤에는 누군가의 권리가 지워지는 독성이 숨어 있다. 하지만 동시에 이 독은 맥도웰이 보여주었듯, 우리가 한 번도 가보지 못한 사유의 영역으로 이끄는 환각제, 즉 약이 될 수도 있다.
결국 중요한 건 태도다. 슬롭을 만드는 이들은 독을 약인 척 포장해 판다. 반면 진정한 창작자는 이것이 독임을 인지하고, 해독제인 인간의 비판적 사유와 검증을 섞어 조심스럽게 다룬다. 우리는 지금 거대한 실험대 위에 있다. AI라는 파르마콘을 맹목적으로 삼켜 중독될 것인가, 아니면 치열하게 길들여 새로운 예술의 해독제를 만들어낼 것인가. 기계는 지치지 않고 그럴싸한 거짓말을 만들어낼 것이다.
이 불확실한 지대에서 우리는 끊임없이 질문해야 한다. 문장은 나의 것인가, 데이터의 것인가. 효율은 정당한가, 아니면 누군가의 희생 위에 서 있는가. 윤리란 정답이 정해진 규정이 아니라, 이 혼란스러운 공존 속에서 길을 잃지 않으려는 치열한 '사유의 과정' 그 자체다. 도구는 우리에게 답을 주지 않는다. 다만 우리가 어떤 질문을 던지며 그들과 관계 맺을지, 그 사유의 몫만이 여전히 우리 손에 남아 있을 뿐이다.
주소영
.