AI의 학습은 인간이 그린 일러스트나 그림이 사용되는 경우가 대부분으로, 저작권 침해가 문제 되고 있습니다. 그런 가운데 시카고 대학의 연구팀이 인간이 그린 그림을 분석하고 거의 보이지 않는 수정을 가하여 AI에 의한 학습으로부터 보호하는 툴「Glaze」를 발표했습니다.
GLAZE: Protecting Artists from Style Mimicry by Text-to-Image Models
(PDF 파일) https://arxiv.org/pdf/2302.04222.pdf
Glaze: Protecting Artists from Style Mimicry
https://glaze.cs.uchicago.edu/
We tested Glaze art cloaking - by Jordan Meyer
We tested Glaze art cloaking
We seem to have bypassed it, and are sharing our findings with the developers.
spawning.substack.com
Glaze protects art from prying AIs | TechCrunch
Glaze protects art from prying AIs
An academic research project has launched a free 'cloaking' tool for visual artists to protect online artworks against style-ripping generative AI models.
techcrunch.com
시카고 대학의 숀 샨(Shang Chan) 씨의 연구팀은 침습적(침범하여 들어옴)인 인공 지능의 사용으로부터 사용자를 보호하는 데 관심이 있습니다. 2023년 3월 16일, 샨 씨의 연구팀이 AI에 의한 모방으로부터 아티스트를 보호하기 위한 툴「Glaze」를 발표했습니다. 연구팀의 쟈오 벤 씨는 "Glaze는 아트를 분석하여 거의 보이지 않는 변경을 추가한 버전을 생성합니다."라고 코멘트.
연구팀이 발표한「Glaze」는, 각 이미지에 대해 보이지 않는「섭동」을 적용하는 것으로, AI는 작가의 예술적 스타일을 학습할 수 없고, 흔히「○○같은 이미지」등의 키워드로 생성하는, 이미지 복제 행위가 어려워지는 도구입니다.
연구팀의 예를 보면, 원래 아트에 Glaze를 적용하여 생성된 'Cloaked(엄폐된) 아트워크'를 학습한 AI는 이 이미지를 모방하지 못했습니다.
쟈오 씨는 "대부분의 이미지 생성 AI가 저작권으로 보호된 데이터를 사용하여 개발된다는 것은 분명하며, 이미지 생성 AI는 현대의 윤리를 고려하지 않고 있습니다."라고 말하며, "이것이 우리가 Glaze를 개발하게 된 계기입니다."라고 밝혔습니다.
실제로 2023년 1월에는 이미지 생성 AI의 Midjourney와 Stable Diffusion은 저작권으로 보호된 이미지를 이용하여 학습한 것으로 인하여 소송이 제기되고 있습니다.
이미지 생성 AI 'Stable Diffusion'과 'Midjourney'에 대해 집단 소송이 제기됨
Glaze에 대해 쟈오 씨는 "세상에 있는 모든 이미지 생성 AI에 대응하고 있는 것은 아닙니다만, Glaze는 Midjourney나 Stable Diffusion 이외의 다양한 이미지 생성 AI에서도 일정한 효과가 있을 것으로 기대하고 있습니다."라고 코멘트. 반면, 섭동을 적용하는 Glaze의 방법론은 흑백 이미지와 간단한 이미지에서는 그 효과가 낮다고 시사합니다. 아래의 이미지에서는 오리지널 이미지에서「Cloaked(은폐된) 아트워크」로 변환되는 예(육안으로 구별하기 힘들다)를 나타내고 있습니다.
그러나 연구팀은 "유감스럽게도 Glaze는 이미지 생성 AI의 모방에 대한 영구적 해결책은 아니다"라고 말했습니다. 그 이유로는 따라잡기 어려운 AI의 급속한 진화를 예로 들고 있습니다. 연구팀은 "Glaze와 같이, 아트를 보호하기 위해 사용하는 기술은 이미지 생성 AI의 미래 대책에 의해 극복되어 지금까지 보호되어 온 아트를 취약하게 할 가능성이 있습니다"라고 코멘트하고 있습니다.
그래도 연구팀은 "AI에 의한 모방에 대한 유저들의 장기적 대처가 정착되기를 바란다"면서 지속적인 연구와 갱신을 할 것이라고 발표하고 있습니다.
또한 Glaze는 무료로 공개되어 있으며 Windows와 Mac 사용자는 다운로드하여 사용할 수 있습니다.
Glaze: Protecting Artists from Style Mimicry
https://glaze.cs.uchicago.edu/download.html
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| ChatGPT에서 다른 사람의 채팅 기록이 보이는 버그가 발생 (0) | 2023.03.23 |
|---|---|
| Adobe가 독자적인 제네레이티브 AI「Firefly」를 발표 (0) | 2023.03.23 |
| Bing에 이미지 생성 AI「DALL・E」에 의한「Bing Image Creator」추가 (0) | 2023.03.23 |
| Google이 ChatGPT의 라이벌 'Bard'의 일반 공개를 시작, 실제로 질문하면 어떤 대답이 돌아올 것인가? (0) | 2023.03.23 |
| 인간이 만든 콘텐츠에 배지를 붙이는 'Not By AI Badges' 운동 (0) | 2023.03.20 |
| AI가 생성한 그림이나 문장에 저작권은 인정되는가? 미국 저작권국이 지침을 발표 (0) | 2023.03.20 |
| GPT-4를 엑셀·워드·파워포인트·아웃룩에서 사용할 수 있는 AI「Microsoft 365 Copilot」릴리즈 (0) | 2023.03.20 |
| 이미지 생성 AI에서도 사용되는 AI 라이브러리「PyTorch」의 메이저 업데이트판「PyTorch 2.0」 정식 릴리즈 (0) | 2023.03.20 |
