미드저니 훈련에 사용된 작품의 아티스트로 등재된 것에 대하여

• 제목은 Midjourney 훈련 데이터의 아티스트 등재 문제를 가리키지만, 입력에 포함된 본문은 해당 논쟁의 세부보다 독자들의 짧은 반응에 가까움
• 한 독자는 Feeling Hard Or Hardly Feeling을 2005-07-17부터 하드 드라이브에 저장해 두고도 제작자를 모르고 있었다고 밝힘
• 뒤늦게 만든 사람을 찾아본 뒤 “It means something”이라고 남겨, 작품이 개인적으로 오래 남아 있었음을 드러냄
• 또 다른 반응은 창작자의 관대함, 정당한 분노, 예술에 감사하며 그 예술이 앞의 두 가지를 아름답게 요약한다고 봄
• 입력된 텍스트만으로는 Midjourney 훈련 목록의 기준, 사용된 작품 범위, 대응 조치 같은 구체 정보를 확인할 수 없음

---

오래 저장된 작품과 뒤늦은 발견

• 한 독자는 Feeling Hard Or Hardly Feeling을 2005-07-17부터 하드 드라이브에 저장해 두고 있었음
• 저장 당시에는 누가 만든 작품인지 몰랐고, 시간이 지난 뒤에야 제작자를 찾아봄
• “It means something”이라는 문장으로 작품이 개인적으로 의미 있게 남아 있었음을 드러냄

본문에서 확인되는 반응의 범위

• 짧은 반응에는 창작자의 관대함, 정당한 분노, 예술에 대한 감사가 담겨 있음
• 해당 예술이 앞의 두 가지를 아름답게 요약한다는 평가도 포함됨
• Midjourney 훈련에 사용된 작품 목록, 아티스트 등재 방식, 법적·기술적 세부 사항은 입력된 본문에서 확인되지 않음

[GN⁺]

Hacker News 의견들

• 이게 내게는 핵심 쟁점임. OpenAI가 영리 회사가 아니라고 해도 분명 가치 있는 회사이고, 그 가치는 다른 사람들이 만든 콘텐츠를 가져와 만들었는데 그들에게 가치를 돌려주지 않았다는 데서 나옴
  법적으로 어떻든, 그건 잘못됐다고 봄. OpenAI 학습에서 저작권이 있고 허가받지 않은 콘텐츠를 전부 제거하면 제품 가치가 얼마나 남을까? 저작권 콘텐츠를 못 쓰면 OpenAI 가치가 낮아진다고 생각한다면, 그 가치 일부는 콘텐츠 쪽에 돌려줘야 함

  • 저작권 콘텐츠를 사용하는 것은 허용되지만, 저작권 콘텐츠를 복제하는 것은 허용되지 않음. 우리는 그것을 보고 소비하고, 영향을 받을 수 있으며, 많은 경우에는 아예 복사하는 것도 허용됨
    자기 저작물을 아무도 보거나 소비하거나 영향을 받지 않길 원한다면 상자에 넣고 아무에게도 보여주지 말아야 함. AI가 자기 작품과 너무 비슷한 이미지를 만든다고 외치는 예술가들에게 어느 정도 공감은 하지만 점점 줄어듦. 출력물이 정말 비슷해 보일 수는 있지만, 그 작품을 수백만 명의 다른 작품과 비교하면 이미 존재하는 인간의 작품 중에서도 비슷한 것을 찾을 수 있을 것임
    그래서 의류는 저작권 보호 대상이 되지 않음. 아무리 독창적이라고 생각해도 지난 수천 년 패션 역사에서 누군가는 이미 해봤기 때문임. 시각예술도 비슷한 지점에 가까워지고 있을 수 있음. 자기 그림이 아무리 독창적이라고 생각해도 어딘가에는 이미 비슷한 것이 있고, AI도 이미지를 문자 그대로 복제하는 것은 아님. 이런 현실이 패션 산업을 죽이지 않았듯 시각예술도 죽이지는 않음
  • OpenAI는 다른 미국 영리 회사들과 똑같이 돈을 벌 유인이 있는 영리 회사에 가깝다고 봄. 비영리 회사가 별도로 있고 그 회사가 영리 회사를 지휘한다는 건 이해하지만, 그건 지배구조의 각주에 가깝지 OpenAI를 비영리로 만들지는 않음
    웹사이트에도 이렇게 되어 있음: “지분 발행을 통해 자본을 조달하고 세계적 인재를 고용할 수 있는 새로운 영리 자회사가 설립되며, 여전히 비영리 법인의 지휘를 받는다. 영리 사업을 담당하던 직원들은 새 자회사로 이동했다.”
    https://openai.com/our-structure
  • 이건 Instagram 같은 플랫폼을 가리킨 말임. 거기에 일러스트를 배포하면 암묵적으로 그들의 광고 기계가 내 작품으로 이익을 얻게 됨
  • 다르게 봄. 예술가가 자기 작품을 온라인에 올렸다면, 그건 모두가 보고 영감을 받을 수 있는 상태가 된 것임
    누가 그대로 베끼지만 않는다면 다른 용도로 쓰였다고 피해를 입었다고 생각하지 않음. 다른 예술가가 보고 영감을 받는다면 그럴 수 있고, AI가 보고 영감을 받는 것도 마찬가지로 해가 없다고 봄
  • 같은 논리를 검색엔진에도 적용할 수 있지 않나? 검색할 콘텐츠가 없다면 Google의 가치는 무엇일까?
    그렇다면 검색엔진이 로열티를 내게 해야 할까? Google 규모에서는 실행 불가능해 보임. Google을 그냥 불법으로 만들어야 할까? 그것도 나쁜 결과임. 검색엔진이 존재해서 좋다고 생각함
    그래서 이 논리는 마음에 들지 않음. 자연스럽게 끝까지 밀고 가면 다른 프로젝트들에도 같은 결론을 강요하게 되기 때문임

• 같은 주제의 다른 웹코믹: https://www.penny-arcade.com/comic/2024/01/03/terminarter
  만약 운영체제가 스크롤바를 숨겨서 페이지가 더 긴지 못 알아챘다면, 만화 아래의 텍스트 해설도 봐야 함

  • “그 순간의 구성이 무엇이든, 나는 늘 ‘대화’에 완전히 뛰어드는 걸 주저한다. 그건 표식어들의 스무디 같은 것이다. 이런 것들은 몇 ppm 수준에서도 감지할 수 있어야 한다. 한 번 전이되면 원래 다루던 주제에서 벗어나 점점 더 큰 목소리로 교리문답과 충성맹세를 낭독하는 일이 되기 때문이다.”
    정말 맞는 말처럼 들림
  • Penny Arcade의 Gabe가 자기 만화가 미술 수업에서 다음 세대 예술가를 훈련시키는 데 쓰이면 화를 낼지 궁금함
  • 이러면 Midjourney 그림이 왜 그렇게 흉해 보이는지 설명됨

• 이 글이나 Penny Arcade의 문장에 반박하기 어렵다기보다, 수사 사이에서 구체적 논지를 이해하기가 어렵다. 그들의 댓글란이나 소셜 채널에서 이 주제를 논의하는 것도 조심스러울 것 같음
  그렇다면 어떤 조건에서 AI 예술은 받아들일 수 있을까? 예를 들어 이런 모델을 대기업이 만들었는지가 정말 중요한가? 개인이 같은 모델을 만들었다면 법적·윤리적으로 무엇이 달라지는지 모르겠음
  학습 데이터에 해당 예술가들의 작품이 들어갔는지가 중요한가? 만약 퍼블릭 도메인 사진, 영상, 예술작품만으로 학습한 새 모델이 똑같이 강력하다면? 미래 모델이 작품 한두 개만 보고도 화풍을 모방할 수 있다면? 그런 모델이 나오는 건 시간문제일 수 있음. 그때는 괜찮은가? 아니라면 왜인가?
  개인적으로는 AI 이미지를 만든 사람이 직접 그 이미지를 만든 것처럼, AI 모델 사용자가 합법적이고 윤리적으로 사용해야 할 책임이 있다고 봄

  • “어떤 조건에서 AI 예술은 받아들일 수 있는가?”라는 질문에 대해, 인터넷식 반박처럼 들리긴 하지만 예술가나 사회가 문화 안에서 AI 예술이 괜찮을 공간을 반드시 남겨둘 의무는 없음
    그런 가능성이 있을 수도 없을 수도 있음. 다만 현재 AI가 여러 큰 회사들이 긁어모을 수 있었던 예술작품들의 복잡하지만 반쯤 문자적인 평균에 가깝다면, 그에 대한 반발은 충분히 타당해 보임
  • 이런 질문들이 흥미롭다고 봄. 특히 사용자가 샘플로 스타일 맥락을 제공한 경우라면 더 그렇음
    현재도 예술가에게 그림들을 보여주고 “이런 느낌이되 이런 부분은 다르게 해달라”고 하는 건 공정이용에 해당함. 각본가에게 Star Wars를 보고 비슷한 걸 써달라고 할 수도 있음
    저작권 문제는 저작권 있는 작품이 영감으로 쓰였는지가 아니라, 출력물이 충분히 변형적(transformative)인지에 달려 있음
  • “어떤 조건에서 AI 예술은 받아들일 수 있는가?”라는 질문은 충분히 자주 나오지 않음. 받아들일 수 있게 시간을 들이는 건 가치 있는 목표이고, 장애물이 아니라 경로의 일부라고 봄

• 창작자의 독점 콘텐츠로 학습한 모델에서 이익을 얻는 쪽은 빨리 콘텐츠 비용을 내기 시작하는 게 창작자와 사회, 심지어 AI 회사에도 좋음
  저작권법이 AI 회사에 적용되는지 아닌지를 두고 논쟁하는 건 지침. 적용됨. 제대로 된 라이선스 모델을 정리하면 됨

  • a16z는 “AI 모델 창작자에게 실제 또는 잠재적 저작권 책임 비용을 부과하면 개발이 죽거나 크게 저해될 것”이라고 썼음
    또한 이미 대규모 언어 모델에 쓰인 모든 저작권 자료에 비용을 지불하면, 이를 만든 회사들이 매년 “수백억에서 수천억 달러”의 로열티를 내야 한다고 했음
    https://www.businessinsider.com/marc-andreessen-horowitz-ai-...
  • “적용된다”고 말한다고 그렇게 되면 좋겠지만, 실제로는 쉽지 않음
    저작권법은 고정된 유형 표현만 보호하고 아이디어, 개념, 원칙 등은 보호하지 않으며, 공정이용이라는 큰 구멍도 있기 때문에 법적 논증이 간단하지 않음
  • 맞음. 이렇게 하면 무료 대안을 죽일 수 있음. 큰 권리 보유자들과 라이선스를 맺을 돈이 없는 쪽은 아무도 못 들어오고, Google은 좋아할 것임
    창작자들은 푼돈을 받고, 모두가 독점 API를 거쳐야 하며, 오픈소스는 불법화될 수 있음. 보고 싶은 미래는 아님
  • 사실 “모델로 이익을 얻는 누구나”가 아니라 “모델을 만드는 누구나”가 문제임
    다른 사람의 예술을 허락 없이 학습시켜 모델을 만들고 모델이나 출력을 무료로 배포하더라도, 돈을 전혀 벌지 않아도 그들의 작업을 훔치는 것임
  • Adobe Firefly와 iStock에는 이미 라이선스된 콘텐츠만 사용하는 생성기가 있다는 점은 짚을 만함

• 예술가의 라이선스가 비상업적 사용에 한정되어 있었다면, 그것을 상업용 AI 학습에 쓰는 건 명백한 위반 아닌가? 왜 아닌지 정말 알고 싶음

  • 공정이용 때문임. 그런 라이선스는 저작권으로 집행되는데, 해당 사용이 저작권 적용 대상이 아니라면 라이선스 조건은 무의미함
  • 공정이용은 라이선스나 저작권을 왜 위반했는지 설명하는 논거임. 허락 없이 복사했다는 사실에 기대고 있음
  • 공정이용이 실제로 적용된다면, 라이선스는 신경 쓰지 않음
  • 그렇다면 그 비상업적 사용 조건은 그 AI로 공동 제작되거나 제작된 작품에도 확장되어야 할까?

• 이 주제에 대해 처음으로 뭔가 감정적으로 와닿게 만든 글이라, 작가에게 박수를 보냄
  오늘날 세상을 바꾸고 있는 생성 AI는 세 집단의 작업 위에 세워졌음. 소프트웨어 개발자, Reddit 댓글 작성자, 디지털 예술가임. Reddit 댓글 작성자들은 오래전에 권리를 포기했고 신경 쓰지 않음. 남는 건 소프트웨어 개발자와 디지털 예술가임
  대체로 소프트웨어 개발자는 후하게 보상받았고, 디지털 예술가는 그렇지 않았음. 소프트웨어 개발자는 자기 작업을 수정 가능하게 공개했지만, 예술가들은 그러지 않았음. 아마 가장 중요한 차이는 소프트웨어 개발자들이 생성 AI를 만들었다는 점임. 어떤 의미에서는 우리 자신의 창조물이니, 자기 직업을 스스로 잡아먹는 느낌과 외부의 낯선 집단에게 잡아먹히는 느낌은 매우 다름
  워싱턴이 불타야 한다면 영국인이 태우는 편이 화성인이 태우는 것보다는 낫다. 우리가 한 일이 우리 손으로 벌어진 게 아니었다면 어떻게 반응했을까?

• 이런 상황에 놓이면 나쁜 느낌을 극복하기가 매우 어려울 것 같음
  비기술자에게 기술은 해독 불가능해 보이고, 일반인에게 법은 해독 불가능해 보이며, 윤리는 모두에게 해독 불가능해 보임
  이렇게 혼란이 크면 집단소송에 참여해 과거 일을 해결하는 것만으로는 정의롭게 대우받았다고 느끼기 어려울 수 있음. 예를 들어 회사를 상대로 소송하려는 사람들을 연결해주는 프로토콜이나 사이트가 있으면 공적 신뢰에 도움이 될 것임. 사회가 평등과 정의의 가치를 지지한다는 것을 보여주는 무언가가 필요함

  • 윤리는 꽤 명확하다고 봄
    1. 사람들이 원하지 않는 일을 그들에게 하지 말 것
    2. 내가 대접받고 싶은 대로 남을 대할 것
       정말 그 정도로 단순함

• 간단한 해결책이 있음
  공개 데이터로 학습한 비공개 대형 모델을 금지하고, 그런 모델은 공개 가중치로 요구하면 됨. 회사가 대형 비공개 모델을 학습하고 싶다면 자기 데이터로 하면 됨

  • 이런 제안은 많이 못 봤지만, 이 사고방식이 꽤 마음에 듦. 모델이 예술가에게서 배우는 걸 불법으로 해야 한다거나 예술가가 모델에서 돈을 뽑아낼 권리가 있다는 생각은 별로 말이 안 됨. 인간의 학습을 다루는 방식에서 너무 급진적으로 벗어나기 때문임
    하지만 회사가 그런 모델을 소유할 수 있다는 건 불공정해 보임. 그건 회사의 작업물이 아니라, 사실상 인류 전체의 문화적 산출물을 코드화한 표현임. 우리 모두가 소유해야 함
  • 간단한 해결책은 출력물이 저작권을 침해하는지 확인하는 또 다른 AI임
    여기서 문제는 모델이 저작권 있는 작업물을 그대로 생성하는 것임. 저작권 있는 작업물로 학습하는 것 자체가 저작권 위반이라고 주장하는 쪽은 법적으로 설 다리가 없음. 개념을 일부러 흐려서 그런 것처럼 보이게 만들 뿐이고, 유능한 판사라면 바로 꿰뚫어볼 것임
  • 공개 데이터 중 일부에도 라이선스가 붙어 있을 수 있으니, 출처 추적, 저작자 표시, 저작권 문제는 여전히 남음
    소프트웨어와 비교하면, 공개된 소스코드의 영리·비공개 사용을 허용하는 MIT 라이선스가 있음. 상상하는 방향에는 카피레프트 라이선스가 더 가까울 수 있음
  • 솔직히 훌륭한 타협안임. 약간만 관련된 얘기지만, 저작권법이 옵트아웃 방식이면 어떨까? 원하면 무시할 수 있지만, 그 대신 자신도 어떤 저작권도 주장할 수 없게 되는 방식임. 나는 참여할 것 같음
  • 이게 많이 해결해줄 것 같지는 않음. 사람들은 그냥 오픈소스 이미지 생성기를 쓸 것임. 예술가들은 여전히 같은 딜레마를 겪게 됨

• 카메라가 나오기 전, 그리고 아마 지금도 일부 경우에는 여러 화가들이 유명 예술가의 작품을 주로 복제해 판매하는 회사를 운영했음. 집에 유명 그림의 멋진 복제품을 걸 수 있게 해주는 식임
  Midjourney 같은 도구도 같은 범주에 들어간다고 생각할 수 있지만, 핵심 차이가 있음. 지금까지의 복제 체계는 대체로 성공하고 유명한 예술가를 중심으로 돌아갔음. 돈을 벌려면 이미 사람들에게 큰 가치가 있는 것을 복제해야 했고, 그것이 복제품이라는 점도 매우 분명했음
  지금은 달라졌음. 대체로 무명에 가까운 예술가들의 방대한 작업이 부분적으로 복제되고, 그 출처는 더 흐려지는 방식으로 쓰임. 이 예술가들이 도둑맞았다고 느끼는 건 정당함. 그들은 명성의 부나 죽은 뒤 명성이 주는 위안 없이 Van Gogh 같은 취급을 견디고 있음

• Cat and Girl을 잘 몰라서 무작위로 몇 편을 보다가 이 만화를 발견함: https://catandgirl.com/heroes-and-villains/
  가끔 우주는 어두운 유머감각을 가진 것 같다는 생각이 듦