기존 Facebook 계정을 탈취하여 ChatGPT나 Midjourney 등의 AI 서비스를 제공하는 척하면서 AI로 생성한 이미지나 뉴스 콘텐츠를 전달하여 사용자를 궁극적으로 악성코드에 감염시키는 활동이 이루어지고 있는 것으로 판명되었습니다. 120만 명의 팔로워를 보유한 계정이 사기에 사용되었습니다.
AI meets next-gen info stealers in social media malvertising campaigns
AI meets next-gen info stealers in social media malvertising campaigns
The impact that AI has on society has steadily crept into the darkest nooks and crannies of the internet.
www.bitdefender.com
보안 소프트웨어 "Bitdefender"의 개발에 종사하는 연구원의 조사에 의해, Midjourney , Sora , DALL-E 3 , Evoto , ChatGPT 등의 서비스인 척하는 악성코드 배포 활동이 행해지고 있다는 것을 알았습니다.
악의적인 사람은 먼저 Facebook 계정을 탈취하고 계정 프로필을 공식적인 AI 서비스처럼 설정합니다. 그 후, AI에서 생성한 이미지나 동영상, 뉴스 등을 투고하고, 페이스북 광고 등도 이용하여 사용자를 붙잡아 신기능을 제공한다고 생각하게 만들어 악성코드를 다운로드시킨다는 것입니다.
악의적인 인물은 Midjourney의 공식 페이지와 같은 사이트를 만들어, 거기에 파일 공유 서비스인 GoFile의 링크를 설치하고 있었다고 합니다. 사용자가 악성 코드를 실행하면 신용 카드 정보, 가상 화폐 지갑 정보, 계정의 다양한 자격 증명 및 자동 완성 정보 등이 수집됩니다.
위장 사이트의 Facebook 광고에 속은 유저는, 위장인 것을 깨닫지 못하고 Facebook 커뮤니티의 멤버가 되어, 「곧 공개 예정 」 이라고 하는 유저의 눈길을 끄는 정보에 억지로 액세스 해 버린다는 것. 연구자들이 광고를 추적했는데, 유럽에서만 약 50만 명이 가짜 계정의 광고에 액세스 하고 있었다고 합니다.
이러한 가짜 광고는 AI에 의해 '크리에이티브'로 완성되었습니다.
연구자들에 따르면 지금까지 약 120만 명의 팔로워를 가진 Midjourney의 가짜 계정 등이 확인되었다고 합니다. 이 Midjourney 가짜 계정은 2024년 3월 8일에 폐쇄되었습니다만, 실제로 1년 가까이 활동을 계속하고 있었다고 합니다.
공격자가 계정을 어떻게 탈취했는지는 불분명합니다만, 이 Midjourney 가짜 계정은 복수의 개인에 의해 관리되고 있었다고 하며, 어디에선가 자격 증명이 누설되어 버렸을 가능성이 있다고 합니다.
소듕한 내 자산들...
탈탈 털리기 싫으면
항상 주의합시다!!
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| Apple이 스마트폰 화면을 인식할 수 있는 멀티모달 LLM 「Ferret-UI」 를 발표 (55) | 2024.04.12 |
|---|---|
| 무료로 1개월에 1200곡까지 AI 작곡이 가능한 「Udio」 퍼블릭 베타판이 공개 (52) | 2024.04.12 |
| OpenAI가 이미지를 읽을 수 있는 AI 「 GPT-4 Turbo with Vision」 을 일반에 공개 개시 (56) | 2024.04.11 |
| Hugging Face도 뚫렸다? 신뢰할 수 없는 AI 모델을 실행하면 AI를 통해 시스템에 침입할 수 있음을 경고 (5) | 2024.04.09 |
| 이스라엘은 AI 시스템 「Lavender」 를 이용해 하마스 등 표적 3만7000명을 식별하고 공격중(식별률은 90%) (55) | 2024.04.05 |
| AI 생성 가짜정보와 싸우는 비영리 단체 「TrueMedia.org」 가 딥페이크 검출기를 공개 (8) | 2024.04.05 |
| 세계 최초의 완전 자율형 AI 엔지니어 「 Devin 」 등장 (55) | 2024.04.04 |
| AI에게 가장 많이 빼앗긴 프리랜서 직업은 무엇? 데이터 기반 분석 결과 (51) | 2024.04.04 |
