2023년 11월 6일 내각 관방장관의 정례 기자 회견에서 11월 2일 기시다 총리의 이미지와 음성을 사용한 가짜 동영상이 SNS에 투고된 건에 대해 기자가 질문을 했습니다. 이에 마츠노 관방장관은 기시다 총리의 가짜 동영상 확산에 대해 우려를 표명하면서 SNS상의 개별 투고에 대해 코멘트를 앞두고 있다고 전했습니다. 게다가 정부의 정세를 거짓으로 발신하는 것은, 경우에 따라서는 민주주의의 기반을 손상시킬 수 있기 때문에, 있어서는 안 되는 일이라고 일반론으로서 지적했습니다.
"기시다 총리의 말"이라는 가짜 동영상이 확산 - YouTube
또한, 해외에서의 페이크 동영상 문제를 바탕으로 정부는 관계부처와 연계해 대책을 검토해 나갈 의지를 표명했습니다. 히로시마 AI 프로세스에서 의장국인 일본은 국제적인 지침, 행동 규범, 가짜 정보 대책에 관한 프로젝트 기반의 대처를 제안하고 있으며, 가짜 정보 대책 중 콘텐츠의 출처를 특정하는 기술에 대해서도 논의하고 있습니다.
문제가 된 동영상은, 日テレNEWS(닛테레 뉴스)의 로고를 사용해, 뉴스 프로그램 화면에 보인 가짜 동영상으로, 총리의 목소리를 생성 AI에 학습시켜 만들어진 것으로 보입니다. 올해 8월에 니코니코 동영상에 투고되고 있던 것이 일부 잘라져 11월 2일 다시 X(구 Twitter)에 투고되었습니다. 11월 3일 방송의 「news zero」에서 일본TV(닛폰테레비)는「방송, 프로그램 로고를 이러한 가짜 동영상에 악용한 것은, 도저히 용서할 수 없습니다. 페이크 동영상에 대해서는 앞으로 필요에 따라 대응해 나갈 것입니다."라고 코멘트하고 있습니다.
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| 「☆→@로 변경」등의 메일 주소 난독화 수법은 ChatGPT로 간단하게 돌파 가능 (84) | 2023.11.13 |
|---|---|
| OpenAI가 저작권 침해로 법적 청구가 발생할 경우 사용자를 보호하고 비용을 전액 지불하는 '저작권 실드'를 발표 (2) | 2023.11.13 |
| 일본 경시청, 도내의 정체 완화에 AI를 활용한 신호기 제어를 개시 (2) | 2023.11.13 |
| 대규모 언어 모델을 LoRA로 저비용에 효율적으로 미세 조정할 수 있는 「Punica」가 등장 (2) | 2023.11.13 |
| 2026년이면 AI 트레이닝용 데이터가 고갈되는「데이터 부족 문제」란? (50) | 2023.11.09 |
| AI에게「그게 최선이야?」, 「전력을 다해」등의 감정적 명령문을 전달하면 퍼포먼스가 향상된다 (0) | 2023.11.09 |
| NTT의 독자적인 LLM 「tsuzumi」 2024년 3월에 상용 서비스를 제공 예정 (0) | 2023.11.09 |
| 미국 최초의 AI 규제 대통령령 「개발자는 공개 전에 테스트하고 사전에 미국 정부와 공유할 것」 (0) | 2023.11.09 |
