![](https://blog.kakaocdn.net/dn/J6Dno/btr8lluKriG/LFFB9iqCQIBJvAPHBiMIJ1/img.jpg)
디지털 콘텐츠 검증 서비스를 제공하는 Truepic과 인공지능을 이용한 리얼한 합성 영상을 다루는 Revel.ai가 공동으로 세계 최초의 '인증된 딥 페이크 영상'을 제작해 공개했습니다. 출연자 여성 본인의 양해를 얻어 만들어진 딥 페이크 영상은 매우 리얼하고, 합성 콘텐츠를 특정할 수 있는 기술의 필요성을 느끼게 합니다.
Revel - Truepic
https://truepic.com/revel/
Revel
This is the world's first digitally transparent deepfake video. Truepic, Revel.ai, and Nina Schick aim to highlight a future where all content on the internet can transparently display where it came from, eliminating confusion that may result from AI-gener
truepic.com
Truepic과 Revel.ai가 제작한 딥 페이크 영상은 아래에서 볼 수 있습니다.
Mirror of Reflection - YouTube
이 영상은 제너레이티브 AI에 조예가 깊은 작가인 니나 시크 씨의 동의와 협력을 얻어 딥페이크 기술로 합성한 것.
![](https://blog.kakaocdn.net/dn/bzhMrj/btr8kfuMCar/UV0gVDv8aExVTdeLVkrnTk/img.jpg)
그러나 부자연스러운 곳이 없기 때문에, 어디가 합성인지 모르겠습니다.
![](https://blog.kakaocdn.net/dn/rPh56/btr8axRklqk/r2fAnPtlQfrqIhfC0WTnN0/img.jpg)
영상의 여성이 "인공지능 시대의 개막을 알리는 지금, 이미 현실과 허구의 경계선은 애매해지고 있습니다."라고, 문제 제기를 하며, 거울에 비친 여성의 얼굴로 바뀝니다. 이 여성이 진짜 니나 시크 씨입니다.
![](https://blog.kakaocdn.net/dn/nOmWp/btr77QcC3dS/9wrOnucKtVa2i7A6kCwgyK/img.jpg)
이 영상은 크게 나누어 3개의 단계를 거쳐 공개되었습니다. 제작 단계에서는, 우선 시크씨를 모든 각도에서 여러 번 촬영합니다.
![](https://blog.kakaocdn.net/dn/qFKao/btr8hnnfhi8/PEcyWZ6pr7ekj284fZMkPK/img.jpg)
그리고 진짜와 분별없는 영상이 출력될 때까지 AI 모델의 트레이닝을 거듭합니다.
![](https://blog.kakaocdn.net/dn/w358Y/btr8jNyrApc/RmJgE7i1kApgC1YHwls8H1/img.jpg)
Revel.ai가 완성시킨 딥 페이크 영상에는, Truepic에 의해 AI로 합성된 것이라고 하는 정보와 제작자의 정보 등을 기재한 인증 라벨이 부여되었습니다.
![](https://blog.kakaocdn.net/dn/oktI3/btr8fZtebKk/AOaEpuCoFSzaFsD8qbwUNK/img.png)
AI의 발달로 인해, 인간의 눈으로는 딥 페이크 영상을 분간할 수 없기 때문에, 이러한 라벨을 부여함으로써 처음으로 영상의 진위를 확인할 수 있다는 것입니다.
![](https://blog.kakaocdn.net/dn/C6rg9/btr8i8bCWu5/8c8zTxNnpQO73BpKhn9UiK/img.jpg)
트루픽의 CEO인 제프리 맥레거는 "딥페이크 시대는 이미 도래했고 출처를 알 수 없는 영상은 의심의 눈으로 볼 필요가 있습니다. 오늘날 디지털 영상을 함부로 신용해서는 안됩니다."라고 말하며, 합성 콘텐츠에 라벨을 붙일 필요성이 높아지고 있다는 인식을 보였습니다.
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
ChatGPT가 어떻게 문장을 인식하는지 한눈에 알 수 있는 'Tokenizer' (0) | 2023.04.07 |
---|---|
11세 소녀가 AI를 이용하여 백내장 등의 눈병을 70% 정밀도로 검출하는 앱 개발 (0) | 2023.04.07 |
스탠퍼드 대학이 「AI Index Report 2023」을 공개, AI의 실태를 보고 (1) | 2023.04.07 |
Meta가 사진에 찍힌 물체를 분리하는 AI 모델 'Segment Anything Model' 공개 (0) | 2023.04.07 |
Midjourney와의 비교를 통해 본「Adobe Firefly」의 저작권 콘텐츠 회피 (0) | 2023.04.05 |
「LLaMA」를 Mac에서도 실행 가능한 「llama.cpp」가 불과 6GB 미만의 RAM에서 동작 (0) | 2023.04.05 |
「제어 불능인 AI 개발 경쟁」의 일시 정지를 요구하는 공개 서한에 가짜 서명자가 다수 (0) | 2023.04.03 |
무료로 노트북도 실행 가능한 70억 파라미터 채팅봇 「GPT4ALL」 발표 (0) | 2023.04.02 |