디지털 콘텐츠 검증 서비스를 제공하는 Truepic과 인공지능을 이용한 리얼한 합성 영상을 다루는 Revel.ai가 공동으로 세계 최초의 '인증된 딥 페이크 영상'을 제작해 공개했습니다. 출연자 여성 본인의 양해를 얻어 만들어진 딥 페이크 영상은 매우 리얼하고, 합성 콘텐츠를 특정할 수 있는 기술의 필요성을 느끼게 합니다.
Revel - Truepic
https://truepic.com/revel/
Revel
This is the world's first digitally transparent deepfake video. Truepic, Revel.ai, and Nina Schick aim to highlight a future where all content on the internet can transparently display where it came from, eliminating confusion that may result from AI-gener
truepic.com
Truepic과 Revel.ai가 제작한 딥 페이크 영상은 아래에서 볼 수 있습니다.
Mirror of Reflection - YouTube
이 영상은 제너레이티브 AI에 조예가 깊은 작가인 니나 시크 씨의 동의와 협력을 얻어 딥페이크 기술로 합성한 것.
그러나 부자연스러운 곳이 없기 때문에, 어디가 합성인지 모르겠습니다.
영상의 여성이 "인공지능 시대의 개막을 알리는 지금, 이미 현실과 허구의 경계선은 애매해지고 있습니다."라고, 문제 제기를 하며, 거울에 비친 여성의 얼굴로 바뀝니다. 이 여성이 진짜 니나 시크 씨입니다.
이 영상은 크게 나누어 3개의 단계를 거쳐 공개되었습니다. 제작 단계에서는, 우선 시크씨를 모든 각도에서 여러 번 촬영합니다.
그리고 진짜와 분별없는 영상이 출력될 때까지 AI 모델의 트레이닝을 거듭합니다.
Revel.ai가 완성시킨 딥 페이크 영상에는, Truepic에 의해 AI로 합성된 것이라고 하는 정보와 제작자의 정보 등을 기재한 인증 라벨이 부여되었습니다.
AI의 발달로 인해, 인간의 눈으로는 딥 페이크 영상을 분간할 수 없기 때문에, 이러한 라벨을 부여함으로써 처음으로 영상의 진위를 확인할 수 있다는 것입니다.
트루픽의 CEO인 제프리 맥레거는 "딥페이크 시대는 이미 도래했고 출처를 알 수 없는 영상은 의심의 눈으로 볼 필요가 있습니다. 오늘날 디지털 영상을 함부로 신용해서는 안됩니다."라고 말하며, 합성 콘텐츠에 라벨을 붙일 필요성이 높아지고 있다는 인식을 보였습니다.
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| ChatGPT가 어떻게 문장을 인식하는지 한눈에 알 수 있는 'Tokenizer' (0) | 2023.04.07 |
|---|---|
| 11세 소녀가 AI를 이용하여 백내장 등의 눈병을 70% 정밀도로 검출하는 앱 개발 (0) | 2023.04.07 |
| 스탠퍼드 대학이 「AI Index Report 2023」을 공개, AI의 실태를 보고 (1) | 2023.04.07 |
| Meta가 사진에 찍힌 물체를 분리하는 AI 모델 'Segment Anything Model' 공개 (0) | 2023.04.07 |
| Midjourney와의 비교를 통해 본「Adobe Firefly」의 저작권 콘텐츠 회피 (0) | 2023.04.05 |
| 「LLaMA」를 Mac에서도 실행 가능한 「llama.cpp」가 불과 6GB 미만의 RAM에서 동작 (0) | 2023.04.05 |
| 「제어 불능인 AI 개발 경쟁」의 일시 정지를 요구하는 공개 서한에 가짜 서명자가 다수 (0) | 2023.04.03 |
| 무료로 노트북도 실행 가능한 70억 파라미터 채팅봇 「GPT4ALL」 발표 (0) | 2023.04.02 |
