이미지 생성 AI의「Stable Diffusion」을 다루는 Stability AI가 2022년 11월 24일에, 기능의 추가 및 개선을 실시한「Stable Diffusion 2.0」을 릴리즈 했습니다. 그런데, 이 버전에서는 어덜트 화상이나 특정 일러스트레이터의 화풍을 모방한 이미지 등이 생성하기 어려워졌기 때문에, 일부 유저가 분개하고 있다고 보도되고 있습니다.
Stable Diffusion made copying artists and generating porn harder and users are mad - The Verge
Stable Diffusion made copying artists and generating porn harder and users are mad
Stable Diffusion nerfs NSFW images.
www.theverge.com
새로 출시된 Stable Diffusion 2.0에서는 이미지를 고해상도화 하는 기능과 피사체까지의 거리 식별 능력의 향상, AI가 생성한 이미지라는 것을 나타내는「디지털 워터마크」 기능 추가 등 신기능이 여럿 포함되었습니다. 자세한 내용은 아래에 요약되어 있습니다.
이미지 생성 AI「Stable Diffusion」의 버전 2.0이 등장, 해상도 확대＆디지털 워터마크 기능도
이미지 생성 AI「Stable Diffusion」의 버전 2.0이 등장, 해상도 확대＆디지털 워터마크 기능도
영국의 스타트업 · Stability AI가, 이미지 생성 AI · Stable Diffusion의 버전 2.0에 해당하는「Stable Diffusion 2.0-v」를 릴리스했다고 발표했습니다. Stable Diffusion 2.0-v는 LAION-5B에서 생성된 서브셋으로 학습
doooob.tistory.com
이번 업데이트에서는 위의 변경 외에, 누드나 포르노, 유명인 등 유명인의 리얼한 이미지, 특정 아티스트의 작품을 모방한 이미지의 생성 등, 지금까지 논란을 일으켜 온 부분들이 개선되었습니다.
이 변경에 대해, 일부 인터넷 유저들로부터「모델이 너프(약체화)먹었다」라고 비난하는 목소리들이 올라오고 있습니다.
또, AI 이미지 생성의 프롬프트로서 자주 이름이 오르는 Greg Rutkowski 씨의 화풍과 비슷한 이미지를 생성하도록 지시해도, 이전과 같이 Rutkowski 씨의 화풍을 모방한 일러스트를 생성할 수 없게 되었기 때문에, 공식 Discord에서「Greg에 무슨 일이 있었나?」라고 흘리는 유저도 있었다는 것.
다음은 Reddit 사용자의 lkewis 씨가 Stable Diffusion 1.5(왼쪽)과 2.0(오른쪽)에서 같은 프롬프트를 사용하여 생성한 이미지를 비교한 것입니다.
비교해 보면, 확실히 Rutkowski 씨의 작품에 보이는 특징이, Stable Diffusion 2.0에서는 그다지 뚜렷하지 않게 된 것처럼 보입니다.
이는 '스튜디오 지브리'를 프롬프트로 지정한 이미지를 비교해보면 보다 분명하게 알 수 있습니다.
Stability AI의 CEO인 Emad Mostaque 씨는 이번 변경에 대해 "이 모델에서 삭제된 아티스트는 없습니다."라고 말해 화풍을 모방하는 능력이 저하된 것은 학습 데이터를 삭제했기 때문이 아니라 단순히 기술적 변화의 결과라고 설명했습니다.
한편, 제임스 빈센트 씨는 성인 이미지와 아이의 이미지를 조합하여 아동 포르노를 생성할 수 있다는 점이 문제라고 지적한 후, "오픈 모델에서는 아이와 NSFW(아름다운 콘텐츠)를 유지하는 것은 할 수 없습니다. 아이를 제거하거나 NSFW를 제거해야 할 것입니다."라고 코멘트.
