13세와 14세 중학생이 동급생의 딥페이크 누드 이미지를 생성, 공유하여 기소된 사건이 발생

 
 
최근에는 생성 AI를 이용하여 만들어진 '실재 인물의 딥 페이크 누드 이미지'가 문제가 되고 있어, 유명인뿐만 아니라 일반 여성과 미성년 소녀도 피해를 입고 있습니다. 그런 가운데 미국 플로리다주에 사는 13세와 14세 중학생이 동급생의 딥 페이크 누드 이미지를 생성 · 공유하여 3급 중죄로 기소된 것으로 밝혀졌습니다.

Florida teens arrested for creating 'deepfake' AI nude images of classmates - The Verge

Florida teens arrested for creating “deepfake” AI nude images of classmates

 
Beverly Hills school district expels 8th graders involved in fake nude scandal - Los Angeles Times

Beverly Hills school district expels 8th graders involved in fake nude scandal

 
 
2023년 12월, 플로리다 주 웨스트체스터에 있는 중학교에 다니는 두 명의 남학생이 AI 소프트웨어를 악용하여 동급생의 누드 이미지를 생성했다고 경찰의 수사를 받고 있는 것으로 보도되었습니다. 익명을 조건으로 증언한 피해자 중 한 명은 "내 얼굴이 동의 없이 사용되었습니다. 폭력적으로 이용당하고 있다고 느꼈습니다."라고 증언.

이 중학교는 2명을 10일간 정학처분 했습니다만, 피해자의 한 어머니는 정학처분만으로는 불충분하다고 주장, "우리는 이 소년들을 퇴학시키고 싶습니다. 딸들은 AI 누드 생성 앱으로 자신의 이미지를 매우 부적절한 방법으로 사용한 소년들과 같은 복도를 걷는 것을 원하지 않습니다."라고 말했습니다.

그리고 2024년 3월, 13세와 14세의 소년 2명이 "12세부터 13세의 동급생 딥 페이크 누드 이미지를 AI로 생성 · 공유했다"라며 3급 중죄로 기소한 것을 해외 미디어 WIRED가 보도했습니다. WIRED는 공개 기록 청구 절차를 통해 경찰 보고서를 입수했다는 것입니다.

플로리다에서는 2022년 피해자의 동의 없이 성적으로 노골적인 딥 페이크 이미지를 확산하는 것을 금지하는 주법이 통과되었으며 중학생들은 이 주법에 따라 기소되었습니다. 이번 체포 및 기소는 AI가 생성한 누드 공유에 관한 미국 최초의 사례로 보입니다.

미성년자가 동급생과 다른 소년 소녀의 딥 페이크 누드 이미지를 생성하는 것은 미국 내 뿐만 아니라 세계 각국에서 문제가 되고 있습니다. 그러나 합의 없이 자행된 딥 페이크 누드 이미지에 관한 미국 연방법이 존재하지 않기 때문에, 각 주마다 독자적으로 법률 제정에 임하고 있는 상태입니다.

미국 정부는 꾸준히 AI에 의한 동의 없는 성적 콘텐츠의 생성을 규제하는 움직임을 진행하고 있습니다. 조 바이덴 대통령은 2023년 가을에 생성 AI 규제에 관한 대통령령을 발행하고 아동의 성적 콘텐츠를 생성하기 위한 AI 이용을 금지하도록 각 기관에 요구했습니다. 2024년 1월 말에는 자신의 딥 포르노를 만든 사람을 상대로 소송을 제기할 수 있도록 하는 법률 '명시적 위조 이미지 및 동의 없는 편집 방해(DEFIANCE)법'이 연방 의회에 제출되어 당파를 뛰어넘은 지지를 얻고 있습니다.
 

또한 캘리포니아주 로스앤젤레스 카운티 비벌리 힐스의 비벌리 비스타 중학교에서는 2024년 3월에 생성 AI를 사용하여 동급생의 가짜 누드 이미지를 생성한 중학생 5명의 퇴학 처분이 승인되었다고 보도하고 있습니다.