2024년 미국 대통령 선거를 위해 비영리 단체인 TrueMedia.org가 딥페이크 검출 기술을 발표했습니다. 탐지 도구는 이전에 공개된 적이 없는 AI 기술을 기반으로 전례 없는 모델을 테스트하였고, 미디어가 조작된 징후를 조사할 수 있습니다.
TrueMedia.org Launches a Free AI-enabled Deepfake Detector to Help Newsrooms · TrueMedia
최근의 선거는 인터넷상에서 전투가 격렬하게 펼쳐지는 것이 특징입니다. 예를 들어, 도널드 트럼프 씨와 힐러리 클린턴 씨가 싸운 2016년 대통령 선거에서는 트럼프 씨를 당선시키기 위한 가짜 뉴스를 대규모로 퍼트리는 작전이 이루어졌다는 사실이 당사자인 해커에 의해 밝혀졌습니다.
https://arstechnica.com/information-technology/2021/10/hacker-x-the-american-who-built-a-pro-trump-fake-news-empire-unmasks-himself/
또한, 「러시아 게이트」 로 러시아에 의한 관여도 의심되고 있어, 실제로 각종 SNS에서 다수의 공작 투고가 행해진 것이 알려져 있습니다.
그리고 이번, 2024년 선거에서 위협이 될 것으로 여겨지는 것이, 동영상 · 이미지 · 음성등을 AI에 의해 변조한 「딥 페이크」 에 의한 가짜 정보의 전개입니다. 이미 딥 페이크와 싸우기 위해 대기업 플랫폼 등 20개 회사가 자주 협정을 맺고 있습니다.
이 흐름을 타는 형태로 공개된 것이 TrueMedia.org에 의한 딥 페이크 검출기입니다. 검출기에 YouTube, X(구 Twitter), Instagram, Facebook, TikTok, Reddit, Mastodon, Google 드라이브의 링크를 건네주면, 링크처에 투고되고 있는 동영상 · 이미지 · 음성등의 콘텐츠가 조작된 것은 없는지 여부를 확인합니다.
최근에 체크된 것이라면, 싱어송 라이터로서 활약하는 테일러 스위프트 씨가 「트럼프 승리」 라고 내거는 동영상에 대해, 5개의 요인 중 4개의 요인으로 조작이 의심되는 동영상이라고 판정을 실시하고 있습니다.
TrueMedia - Use Generative AI to Benefit Humanity
https://truemedia2024.vercel.app/media/analysis?id=m27gguqmI3fT8fs1LN096SDk3JE.mp4
딥 페이크 검출기는 정부 관계자나 보도기관, 학자, 비영리 단체, 선거 스태프, 팩트 체커 등 당파제를 불문하고 모든 사람이 이용할 수 있도록 무료로 제공됩니다.
이 딥 페이크 검출기를 사용하려면 대기자 명단에 등록하고 기다려야 합니다.
대기자 등록
https://www.truemedia.org/post/free-deepfake-detector-to-help-newsrooms-across-the-country
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
OpenAI가 이미지를 읽을 수 있는 AI 「 GPT-4 Turbo with Vision」 을 일반에 공개 개시 (56) | 2024.04.11 |
---|---|
Hugging Face도 뚫렸다? 신뢰할 수 없는 AI 모델을 실행하면 AI를 통해 시스템에 침입할 수 있음을 경고 (5) | 2024.04.09 |
페이스북 계정을 탈취, ChatGPT 등의 AI 서비스를 가장하여 멀웨어를 퍼트리는 활동을 관측 (5) | 2024.04.09 |
이스라엘은 AI 시스템 「Lavender」 를 이용해 하마스 등 표적 3만7000명을 식별하고 공격중(식별률은 90%) (55) | 2024.04.05 |
세계 최초의 완전 자율형 AI 엔지니어 「 Devin 」 등장 (55) | 2024.04.04 |
AI에게 가장 많이 빼앗긴 프리랜서 직업은 무엇? 데이터 기반 분석 결과 (51) | 2024.04.04 |
OpenAI가 계정없이도 무료로 ChatGPT를 누구나 사용 가능하게 하겠다고 발표 (54) | 2024.04.03 |
운송업계에 혁명을 가져오는 「자율주행 트럭」 이 미국에서 곧 고속도로 주행을 시작 (53) | 2024.04.03 |