ChatGPT를 이용하여, 열차 사고로 9명이 사망했다는 가짜 뉴스를 작성한 남자를 중국의 간쑤성 경찰이 체포했습니다. 이번 사례는 2023년 1월 10일부터 시행된 심층 합성 기술을 규제하는 규칙이 처음으로 적용된 사례로 보입니다.
Chinese police arrest man who allegedly used ChatGPT to spread fake news
Chinese police arrest man who allegedly used ChatGPT to spread fake news in first case of its kind
Chinese police have arrested a man they allege used ChatGPT to create a fake news article about a train crash.
www.cnbc.com
경찰에 의하면 용의자가 작성한 기사는 중국의 검색 대기업인 바이두가 소유하는 블로그 플랫폼에서 20개 이상의 계정에 의해 투고되어 15,000번 이상 열람되었다고 합니다.
용의자는 플랫폼에 의한 중복 체크를 통과하기 위해, ChatGPT를 사용해 내용이 미묘하게 다른 복수 버전의 가짜 뉴스를 작성하였습니다.
중국은 인터넷 콘텐츠를 강하게 규제하고 있으며 AI와 딥 페이크도 예외는 아닙니다. 2023년 1월에는 딥페이크 규제를 포함한 심층 합성 기술 관리 규칙이 시행되었습니다. 이 규칙에 의하면, "가짜 뉴스를 전파하기 위해 기술을 사용해서는 안되며, 이를 위반하는 콘텐츠는 금지, 국가의 안전이나 이익을 위험에 빠뜨리는 콘텐츠나 국가 이미지를 해치거나 경제적 혼란을 초래하는 콘텐츠도 금지"라고 정해져 있습니다.
중국의 '딥페이크'에 대한 최초의 규제 도입에 관한 기사
China is about to get tougher on deepfakes in an unprecedented way. Here's what the rules mean
In January, China will introduce first-of-its-kind regulation around "deepfakes" as Beijing ramps up its control over internet content.
www.cnbc.com
덧붙여 중국에서는, 중앙 정부에 우려를 가져올 가능성이 있는 신기술을 관리하는 법률의 도입을 목표로 하고 있다고 합니다.
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| 구글이 영상 자동더빙 & 립싱크 AI를 개발중, 너무 고성능이라 악용에 주의 (3) | 2023.05.12 |
|---|---|
| 구글이 텍스트기반 음악 작곡 AI 'MusicLM' 공개, 데이터 세트의 윤리적 과제도 클리어 (2) | 2023.05.11 |
| AI로 생성한 수만개의 곡을 음악 스트리밍 서비스 Spotify가 삭제 (9) | 2023.05.11 |
| 오픈 소스 LLM 개발 프로젝트 「RedPajama」가 최초의 모델 「RedPajama-INCITE」릴리즈, 무료로 상용 이용도 가능 (7) | 2023.05.11 |
| Google이 대규모 언어 모델 'PaLM 2'를 발표, 이미 25개의 Google 서비스에 도입 (1) | 2023.05.11 |
| OpenAI가 "언어 모델에게 언어 모델을 설명"시키는 데모 툴을 공개 (0) | 2023.05.10 |
| Meta가 6가지 데이터를 통합하는 오픈 소스 AI 모델 「ImageBind」를 공개 (0) | 2023.05.10 |
| 「ChatGPT 도입을 검토하는 시즈오카현 시마다시」 추진파와 신중파, 나뉘는 지자체별 정책 (4) | 2023.05.10 |
