이미지 생성 AI를 이용한 가상의 인물이나 풍경이 주목받고 있습니다만, 그 시스템은 수억 개의 이미지로 기계학습을 통하여 생성되는 것으로, 그 이미지가 생성되는 과정은 불투명한 블랙박스입니다. 이러한 이미지 생성 AI에 대해서, "여러 이미지 생성 AI에서 호러스러운 이미지와 함께 공통적으로 나타나는 여성이 있다."는 보고를 AI 아티스트가 투고하고 있습니다.
Why Does This Horrifying Woman Keep Appearing in AI-Generated Images?
Why Does This Horrifying Woman Keep Appearing in AI-Generated Images?
“Loab” is creepypasta for the AI generation, and nobody understands where she came from.
www.vice.com
뮤지션 이면서 AI에 의한 이미지 생성 아티스트로도 활동하고 있는 Supercomposite 씨는 2022년 9월 6일에, 「이것은 진정한 호러 스토리이며, 급격하게 소름 끼치는 방향으로 진행되고 있다」라는 아래의 트윗을 투고했습니다.
Supercomposite 씨가 「Loab(로브)」라고 부르고 있는 이 여성은, 이미지 생성 AI가 많이 학습하고 있는 유명인의 외형보다 상당히 빈번하게 재현되고 있으며, 특히 공포나 그로테스크 등 소름 끼치는 이미지와 연관되어 자주 등장합니다.
Supercomposite 씨에 의하면, 「Loab」는 최초 「네거티브 프롬프트 웨이트」라는 수법의 결과로써 발견되었다고 합니다. 네거티브 프롬프트 가중치는 데이터 세트에서 다양한 용어의 비중을 결정하고 결과에 반영될 가능성을 조정할 때, "이 명령과 반대"라는 네거티브(마이너스) 비중을 설정합니다. 그리고 AI에 이미지를 생성시킨다는 것.
Supercomposite 씨는 우선, 20세기에 활약한 배우인 말론 브란도(영화 '갓파더'로 유명)를, 마이너스 비중으로 설정해 AI에 입력했습니다. 그러자 '말론과는 정반대의 이미지'로 성 같은 실루엣과 "DIGITA PNTICS"라는 로고를 포함한 이미지가 표시되었습니다.
그래서 Supercomposite 씨는, 「말론의 정반대의 이미지를 기준으로, 한층 더 그 정반대의 이미지를 생성하면, 말론 브란도의 사진이 되는 것인가?」라는 실험을 위해, 한번 더 「DIGITA PNTICS skyline logo」라는 워드를 마이너스로 설정하여 AI에 입력했습니다. 그러자 모든 이미지가 "붉은 뺨을 가진 노인 여성의 이미지"가 생성되어, 공포스럽고 소름 끼치는 분위기를 나타내고 있었다고 합니다.
Supercomposite 씨가 로브라고 명명한 이 여성의 이미지는 Twitter상에서 퍼져, 많은 사람들이 이미지 생성 AI에 의한 이미지로부터 「Loab」와 비슷한 여성을 찾아내고 있습니다. 그들은 모두 소름 끼치게 닮아 있었다는 것.
https://twitter.com/supercomposite/status/1567162313194471428?s=20&t=NxWYELVtEMQ3p15MxMgFUQ
Supercomposite 씨는 "「Loab」가 출현하는 경우에는 거의 예외 없이 공포나 폭력, 유혈의 이미지와 합쳐진 이미지가 나온다는 것에 대해, 어떤 종류의 통계적 사고로 인하여 AI가 가지는 데이터 세트, 그리고 학습하는 지식 속에서 이 여성에 관한 무언가는 매우 잔인하고 소름 끼치는 이미지에 인접해 있습니다."라고 말합니다.
바이스 미디어에서 주로 IT계 뉴스를 다루는 마더보드가 「Loab」 이미지를 생성하기 위해 어떤 이미지 생성 AI를 사용했는지 확인한 결과, Supercomposite 씨는 "유감스럽게도 여러 가지 이유로 어떤 AI로 생성한 것인지는 말할 수 없지만 로브가 여러 이미지 생성 AI에 동시에 나타난다는 것은 확인 가능합니다."라고 코멘트.
마더보드는 이 문제에 대해 “여기서 무슨 일이 일어나고 있는지 정확히 알 수는 없습니다. 이미지 생성 AI 시스템은 수십억 개의 이미지로 훈련된 복잡한 것이기 때문에 특정 결과에 도달하는 이유를 특정할 수 없습니다. 규모가 너무 크기 때문에 그 결과는 예측 불가능하며, 유해한 결과가 나와도 막을 수는 없습니다. AI의 작용을 제한하거나 해명하는 것은 현재로서는 잘 작동하지 않고 있으며, 앞으로 한동안은 「Loab」와 같은 존재가 AI 시대의 크리피 파스타(※주 1)로서 도시 전설처럼 작동한다고 마더보드는 말하고 있습니다.
※주 1
- Creepypasta. 명칭의 유래는 Creepy+Copypasta. 영미권의 인터넷에서 시작된 도시전설, 로어(Lore)를 뜻하는 말이다. 괴생명체, 게임, 괴담 등을 소재로 한다. 서양은 귀신보다는 몸에 물리적으로 해를 끼치는 괴물에 더 공포를 느끼기 때문에, 고어 물적 요소가 공포적 요소보다 더 많은 게 특징이다.
'AI · 인공지능 > 이미지 생성 AI' 카테고리의 다른 글
| 이미지 생성 AI「DALL-E」의 사용법을 간단히 정리해 보았다 (1) | 2022.09.29 |
|---|---|
| 이미지 생성 AI로 만들고 싶은 이미지를 찾아가는「KREA」 (0) | 2022.09.27 |
| 「스테이블 디퓨전(Stable Diffusion)」이 실은 꽤 우수한 이미지 압축을 실현할 수 있다는 것이 판명 (0) | 2022.09.21 |
| 「스테이블 디퓨전(Stable Diffusion)」속도 개선(구글 코랩으로 돌려서 대기시간 줄이기) (5) | 2022.09.20 |
| 「스테이블 디퓨전(Stable Diffusion)」에서 이미지의 일부만 바꿔주는「Inpainter」 (0) | 2022.09.12 |
| 세상에 없는 '집'의 이미지를 생성해 주는「This House Does Not Exist」 (1) | 2022.09.11 |
| 「스테이블 디퓨전(Stable Diffusion)」을 GPU대신 CPU만으로 사용하는「Stable Diffusion UI」 (2) | 2022.09.05 |
| 「스테이블 디퓨전(Stable Diffusion)」을 이용한 자동 GIF생성 모델「stable-diffusion-animation」이 등장 (0) | 2022.09.04 |
