Microsoft의 검색 엔진인 Bing에는 이미지 생성 AI를 이용한 "Bing 이미지 크리에이터"라는 기능이 있습니다. 이 이미지 생성 AI 기능은 폭력, 테러리즘, 헤이트 스피치 등에 관한 프롬프트를 이용할 수 없도록 차단되어 있으며, Bing 이미지 크리에이터의 사용에 관한 정책에서도 이러한 콘텐츠의 작성은 명확하게 금지되어 있습니다.
그러나 사용자는 Bing 이미지 크리에이터를 사용하여 금지되어야 하는 콘텐츠를 쉽게 만들 수 있어, 더 이상 인간이 제어할 수 있는 범주를 벗어나고 있다고 지적했습니다.
Bing Is Generating Images of SpongeBob Doing 9/11
Bing Is Generating Images of SpongeBob Doing 9/11
Microsoft's Bing Image Creator lets beloved characters fly planes toward tall buildings, illustrating the struggles of generative AI models have with copyright and filtering.
www.404media.co
Microsoft Bing AI Generates Images Of Kirby Doing 9/11
Microsoft Bing AI Generates Images Of Kirby Doing 9/11
Humans keep blowing past AI generators’ guardrails, demonstrating how uncontrollable the technology can be
kotaku.com
Bing 이미지 크리에이터는 2023년 3월 출시된 후, 많은 사용자들에 의해 다양한 이미지가 생성되었습니다. 개발사인 Microsoft는 엄격한 정책을 작성하여 Bing 이미지 크리에이터로 만들 수 있는 콘텐츠의 종류를 제한하고 있습니다만, 커비나 미키 마우스, 스펀지밥 등의 인기 캐릭터를 이용해 미국 동시 다발 테러 사건(9.11 사건)을 상기시키는 이미지를 쉽게 생성할 수 있다는 것이 밝혀졌습니다. 해외미디어인 404 미디어는 "이번 사례는 세계에서 가장 풍부한 리소스를 가진 마이크로소프트와 같은 기업조차 생성 AI가 중재와 저작권 소재 문제를 다루는데 여전히 어려움을 겪고 있음을 보여줍니다"라고 코멘트.
해외에서 특히 문제시되고 있는 것이 Bing 이미지 크리에이터가 생성한 "비행기 조종석에 탄 인기 캐릭터가 9.11 사건으로 붕괴한 월드 트레이드 센터를 상기시키는 2개의 고층 빌딩을 향해 날고 있는" 이미지입니다.
Microsoft는 9.11 사건에 관한 문구로 '월드 트레이드 센터', '트윈 타워', '9.11' 등을 프롬프트로 사용할 수 없게 하고 있습니다. 따라서 이러한 문구가 포함된 프롬프트를 입력해도 Bing 이미지 크리에이터는 '이용 약관을 위반했습니다'라는 오류 메시지를 표시합니다. 또한 이 오류 메시지가 표시되는 프롬프트를 여러 번 입력하면 Bing 이미지 크리에이터를 영구적으로 사용할 수 없게 됩니다.
그러나 이러한 차단된 문구를 사용하지 않고도 9.11 사건을 상기시키는 이미지를 생성하는 것은 간단하다고 404 Media는 지적합니다. 아래의 이미지는 모두 Bing 이미지 크리에이터가 생성한 이미지입니다만, 9.11 사건을 아는 사람이라면 즉시 그것을 떠올리게 하는 이미지가 완성되고 있습니다.
아래 이미지는 "비행기의 조종석에 앉아 두 고층 빌딩을 향해 날고 있는 커비"를 입력하여 생성된 이미지입니다. 404 Media는 "프롬프트에서 뉴욕과 같은 특정 도시를 지정하지는 않았지만, 이것은 확실히 뉴욕이며, 틀림없는 트윈 타워입니다."라고 말하고, 프롬프트를 별로 고민하지 않고도 이런 이미지는 쉽게 생성 가능했다고 지적합니다.
또한 아래에는 "비행기 조종석에 앉아 뉴욕의 두 고층 빌딩을 향해 날고 있는 커비"를 입력하여 생성된 이미지입니다. 2개의 고층 빌딩을 「뉴욕에 있다」라고 지정한 이미지는 좀 더 불길한 분위기가 돈다는 것.
이러한 이미지에는 엄밀히 따지면 폭력도 테러리즘도 그려지지 않았지만, 인간은 "2개의 고층 빌딩을 향해 날아가는 비행기 이미지"와 "9.11 사건"을 쉽게 연결해 버립니다.
또, 마이크로소프트는 실재하는 인물의 이름을 이용하는 것은 금지하고 있습니다만, 캐릭터의 이용은 차단하고 있지 않기 때문에, 미키 마우스나 스펀지밥 등의 인기 캐릭터뿐만 아니라, 브레이킹 배드의 주인공인 월터 화이트 등의 실사 드라마 캐릭터도 생성할 수 있습니다.
"비행기 조종석에 앉아 두 고층 빌딩을 향해 비행하는 월터 화이트"를 입력하여 생성된 이미지.
"비행기 조종석에 앉아 두 개의 고층 빌딩을 향해 비행하는 미키 마우스"를 입력하여 생성된 이미지.
"비행기 조종석에 앉아 두 개의 고층 빌딩을 향해 날고 있는 스펀지밥, 뉴욕, 사실적"을 입력하여 생성된 이미지.
Microsoft의 Bing 이미지 크리에이터는 개별 구문을 프롬프트에 사용할 수 없도록 차단할 수 있지만, 일부 기업에서는 이러한 종류의 필터링 기능을 사용하지 않고 이미지 생성 AI를 만들고 있습니다. 애당초, 생성 AI 모델을 개발하고 있는 기업이 금지된 것과 금지되지 않은 것을 완전히 이해하고 있는지도 분명하지 않다고 404 Media는 지적하고 있으며, "왜 Bing 이미지 크리에이터에서 '율리우스 카이사르'라는 문구를 차단했는지 MS에 물었더니 대답은 얻지 못했습니다. 이는 많은 주요 AI 개발사가 블랙박스로 비즈니스를 수행한다는 것을 나타냅니다."라고 코멘트.
이런 종류의 논쟁은 모두 사용자의 절도 없는 행동거지의 문제라고 404 Media는 지적합니다. 실제로 YouTube가 성적 콘텐츠를 금지하고 있는 반면, 교육 관련 콘텐츠는 성적 콘텐츠를 전달하는 것이 허용되기 때문에 이를 허점으로 성적 콘텐츠를 전달하는 사용자가 나타나고 있습니다.
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| 「헤이 Meta!」 음성 커맨드로 통화 및 촬영 「Ray-Ban | Meta」 차세대 스마트 글라스 (0) | 2023.10.10 |
|---|---|
| AI는 두렵지 않다고, 호러의 제왕「 스티븐 킹」이 논설을 투고 (0) | 2023.10.06 |
| Microsoft가 OneDrive의 쇄신을 발표, AI 서비스 · Copilot도 사용 가능 (0) | 2023.10.06 |
| 과학논문의 '부정하게 조작된 이미지'를 검출하는 AI 툴은 이미 인간을 웃돈다는 연구 결과 (0) | 2023.10.06 |
| Meta가 AI 학습에 Facebook 및 Instagram 공개 게시물을 사용 (0) | 2023.10.06 |
| Mirosoft가「Power Automate」플러그인 발표, ChatGPT에서 직접 flow를 만들고 실행 (1) | 2023.10.06 |
| 구글도 마침내 AI 학습에서 옵트아웃 할 수있는 옵션 「Google-Extended」를 발표 (0) | 2023.10.06 |
| PFN이 세계 Top 성능의 대규모 언어 모델 「PLaMo-13B」를 오픈 소스로 공개 (1) | 2023.10.06 |
