과거에 발생한 살인 사건의 피해자(주로 아이)들이, AI로 생성된 모습으로 나타나 자신의 몸에 무슨 일이 일어났는지, 최후에는 어떻게 되었는지를 말하는 영상이 TikTok에 대량으로 등장하고 있습니다.
True Crime TikTok: AI Deepfakes Victims Are a Waking Nightmare – Rolling Stone
AI Deepfakes of True-Crime Victims Are a Waking Nightmare
TikTok accounts are posting horrifying artificial intelligence-generated clips of murder victims — mostly children — describing their own ghastly demise
www.rollingstone.com
뉴스 사이트인 Rolling Stone이나, 영국의 타블로이드지 The Sun에 의하면, 영상의 화자가 되고 있는 인물은 AI로 생성된 것입니다만, 이 화자가 말하고 있는 사건은 실제로 일어났던 사건입니다.
예를 들어 2018년에 발생한, 생후 20개월의 유아가 할머니의 집에서 살해되어 시신이 오븐에 구워진 사건이나, 1995년에 발생한, 6세 소녀가 어머니에 의해 학대되어 살해된 사건, 2020년에 어머니의 여자친구에 의해 1세의 유아가 살해된 사건, 존 베넷 램지 살인 사건 등이 취급되고 있습니다.
특징은 「피해자가 1인칭 시점에서 말하는」 방식을 취하고 있다는 것과, 사건에 관한 세세한 부분은 대충 만들어져 있다는 것. 2018년 사건의 경우 살해된 아이는 흑인이었지만 AI가 생성한 모습은 백인이었습니다.
이러한 영상을 투고하는 계정은 수만에서 수십만 명의 팔로워가 있었고, 일부는 수백만 회 재생되는 동영상도 있었습니다.
뉴헤븐 대학의 폴 브리클리 조교는 문제의 영상에 대해 "매우 이상하고 섬뜩하다. 보고 있어 불쾌합니다만, 그것이 포인트일지도 모른다."라고 코멘트.
이러한 영상은 TikTok의 가이드라인을 회피하기 위해, 피해자의 사진을 사용하지 않고 만들어졌지만, 브리클리 조교에 따르면 딥 페이크를 둘러싼 법적 문제는 복잡하다는 것. 동의 없는 딥 페이크 화상·영상을 불법으로 취급하는 것에 대한 연방법은 없지만, 버지니아주와 캘리포니아주에서는 딥 페이크에 의한 포르노를 금지하는 법률이 있는 것 외에, 조 · 모렐 하원 의원에 의해 딥 페이크의 확산을 실시한 사람에 대하여 민 · 형사상 책임을 모두 지게 한다는 법안이 제출되었습니다.
다만, 피해자가 사망한 경우, 피해자 가족이 동영상 작성자를 민사로 고소하는 것은, 상당히 어렵다고 합니다.
덧붙여 동종의 동영상은 YouTube에서도 공개되고 있습니다만, 재생수는 그렇게까지 많지 않고, 운영자가 동일인인지 여부도 불분명합니다.
Jonbenét Ramsey - Mysterious Story in Real Life Will Touch Your Heart & Make You Cry | Sad Story - YouTube
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| 「ChatGPT」로부터 대답을 잘 끌어내기 위한 OpenAI의 공식 가이드 (3) | 2023.06.07 |
|---|---|
| 요리 영상을 보는 것만으로 그 요리를 재현할 수 있는 「로봇 셰프」의 실험에 성공 (3) | 2023.06.07 |
| 오픈 소스로 상용 이용도 가능한 대규모 언어 모델 「Falcon」이 등장, 오픈 소스 모델 중 최고의 성능 (4) | 2023.06.07 |
| ChatGPT 등의 대규모 언어 모델은 어떤 이론으로 성립되었는가? 중요논문 24선 정리 (3) | 2023.06.05 |
| AI 탑재 드론이 표적 파괴 작전 시뮬레이션에서 자신의 오퍼레이터를 살해 (4) | 2023.06.05 |
| 대화형 채팅 AI의 벤치마크 순위 공개, 1위는 GPT-4 (3) | 2023.06.04 |
| 명반 자켓을 Photoshop의 「제네레이티브 채우기」로 보완하면 어떻게 될까 (4) | 2023.06.02 |
| '아이가 듣는 단어의 양' 만으로 대규모 언어 모델을 새롭게 트레이닝하는 「BabyLM Challenge」 (4) | 2023.06.02 |
