뉴스 사이트 평가 기관 「NewsGuard」가, 채팅 AI를 사용해 기사를 게재하는 뉴스 사이트 49건을 특정했습니다. 이 사이트는 '클릭 베이트(사용자를 저품질 콘텐츠로 유도하는 미끼) 기사'로 수익을 창출하기 위해 콘텐츠와 광고를 전반적으로 뒤섞은 저품질 콘텐츠를 대량 생성했다는 점을 지적했습니다.
Rise of the Newsbots: AI-Generated News Websites Proliferating Online - NewsGuard
Rise of the Newsbots: AI-Generated News Websites Proliferating Online - NewsGuard
Mis-Info Bots While most of the inauthentic websites identified by NewsGuard did not advance misinformation, it appears that some sites prompted the AI tools to produce misleading or false information. CelebritiesDeaths.com, which posts generic obituaries
www.newsguardtech.com
AI Chatbots Have Been Used to Create Dozens of News Content Farms - Bloomberg
Bloomberg - Are you a robot?
We've detected unusual activity from your computer network To continue, please click the box below to let us know you're not a robot.
www.bloomberg.com
Group identifies dozens of news sites created by AI chatbots: report | The Hill
Group identifies dozens of news sites created by AI chatbots: report
A report has found that AI chatbots have created dozens of news websites around the world that focus on “clickbait articles” to generate revenue. The report published by the news-rating…
thehill.com
이 웹사이트들은 중국어, 체코어, 영어, 프랑스어, 타갈로그어(필리핀어), 태국어의 7개 언어로 운영됩니다. 이러한 웹사이트가 포함하는 콘텐츠의 일부 또는 전부는 채팅 AI에 의해 생성된 것으로 보입니다. 이 웹사이트는 정치, 건강, 엔터테인먼트, 금융, 기술 등 다양한 주제와 관련된 많은 양의 콘텐츠를 생성하며, 무려 하루에 수백 개의 기사를 게시하는 사이트도 있었습니다.
해외 뉴스미디어인 블룸버그의 조사에서 이 웹사이트는 '뉴스 라이브 79'라든지, '일일 비즈니스 포스트'와 같은 일반적인 이름의 뉴스 사이트를 자칭하고 있다고 합니다. 웹사이트의 모든 콘텐츠가 채팅 AI에 의해 생성되지는 않지만 ChatGPT 및 Google Bard 등의 AI를 사용했다고 명시한 사이트는 없었습니다.
NewsGuard는 이 웹사이트에 게재된 기사의 일부를 공개하고 있으며, 기사의 대부분이 CNN 등의 유명한 언론에 게재된 뉴스를 요약하거나 재작성한 것이라고 지적되었습니다.
채팅 AI를 사용하는 저품질 사이트 중 하나인 'CelebritiesDeaths.com'에는 조 바이든 대통령의 허위 정보가 게재되고 있는 것도 확인되었습니다. 이 사이트에는 "바이든 대통령이 사망했다"라는 제목으로 "대통령의 집무는 카말라 해리스 부대통령으로 이어졌다"라는 내용의 기사가 게재되어 있었습니다. 한편, 일부 기사에는 "죄송합니다. 오해의 소지가 있는 콘텐츠 생성은 OpenAI 정책에 위배되므로 이 프롬프트를 완료할 수 없습니다. 완료(날조)하는 것은 윤리적이지 않습니다."라는 오류 메시지가 그대로 남아있었습니다.
게다가 'BestBudgetUSA.com'이라는 웹사이트가 게시한 기사에서는 "저는 1500 단어 이상의 문장을 생성할 수 없습니다. 단, 기사 요약을 제공할 수 있습니다."라는 문장이 그대로 게재되어 있었습니다.
NewsGuard의 조사에 따르면 이러한 뉴스 사이트 기사의 대부분은 AI 생성 문장의 특징인 '당연한 말'과 '반복 문구'를 포함하고 있습니다. 게다가 이 사이트는 광고로 가득 찼으며 전형적인 클릭유도 미끼 기사일 가능성이 높습니다. NewsGuard의 고든 크로비츠 CEO는 "AI 모델을 사용하여 뉴스 사이트처럼 보이는 가짜 사이트를 만드는 것은 저널리즘에 반하는 사기입니다."라고 지적합니다. 또한, "OpenAI나 Google 등의 AI 개발 단체는 뉴스를 날조할 수 없도록 모델을 훈련시켜야 한다."라고 권고하고 있습니다. 게다가 크로비츠 씨는 "지난 수개월 사이에 다수의 강력한 AI가 발표되어 세상에 알려졌습니다. 그 때문에, 한 때 미디어 연구자들에 의한 검측 대상이었던, 허위 보도에 AI가 사용될 가능성이 있다는 우려가 현실이 되었습니다."라고 말했습니다.
NewsGuard는 이 웹사이트 중 29개 사이트에 문의해 본 결과, 두 개의 사이트가 AI를 사용하고 있음을 인정했습니다. 나머지 27개 사이트 중 2개는 NewsGuard의 질문에 제대로 대답하지 않았으며, 17개 사이트는 아예 응답이 없었습니다. 심지어 나머지 8개 사이트는 잘못된 이메일 주소를 사용하고 있었습니다.
"AI가 생성한 웹사이트가 광고 정책을 위반하는 것이 아닌가?"라는 Bloomberg의 질문에 대해, Google 홍보 담당자는 "귀하의 사이트 품질에 중점을 둡니다. 위반이 확인되면 광고 게재를 중지하거나 삭제합니다."라고 말합니다.
NewsGuard는 "일부 독자들은 이 웹사이트에 게재된 기사가 AI에 의해 쓰였다는 것을 결코 깨닫지 못할 것"이라고 지적하고 있습니다.
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| Microsoft가 Bing의 채팅 AI를 모든 사용자에게 개방 (0) | 2023.05.08 |
|---|---|
| WebGPU로 브라우저에서 GPT 등 언어 모델을 체험할 수 있는 「WebGPT」 (10) | 2023.05.08 |
| 「ChatGPT 덕분에 논문을 읽는 수고가 99% 줄었다」연구실에서는 AI가 어떻게 활용되고 있는가? (4) | 2023.05.08 |
| ChatGPT의 동작 원리 - 기계 학습 모델 「Transformer」가 자연스러운 문장을 생성하는 구조 (13) | 2023.05.04 |
| AI 학습 데이터의 공개를 의무화하는 법안이 EU에서 제출됨 (0) | 2023.05.03 |
| Steam Deck을 사용하여 머신건 터렛을 원격 조작하는 군대가 우크라이나에 출현 (0) | 2023.05.03 |
| 챗봇 AI를 사용하여 전장에 지시를 내리는 '전쟁 AI'의 개발이 진행중 (0) | 2023.05.03 |
| 뇌에 침을 찌르지 않고도 인간의 생각을 출력할 수 있는 AI가 개발된다 (0) | 2023.05.02 |
