ChatGPT와 같은 채팅 AI는 입력된 프롬프트에 대응하여 마치 인간이 쓴 것 같은 텍스트를 생성합니다. 사이버 범죄자는 이러한 기술을 이용하여 수신자에 맞게 커스터마이즈한 설득력 높은 가짜 메일을 작성해 비즈니스 메일 사기(BEC) 공격의 성공률을 높이고 있습니다.
WormGPT - The Generative AI Tool Cybercriminals Are Using to Launch BEC Attacks
WormGPT - The Generative AI Tool Cybercriminals Are Using to Launch BEC Attacks | SlashNext
In this blog post, we'll look at the use of generative AI, including OpenAI's ChatGPT, and the cybercrime tool WormGPT, in BEC attacks.
slashnext.com
보안 기업 SlashNext에 따르면, 사이버 범죄자들은 모국어로 메일을 작성한 뒤, 구글 번역기를 돌려서 ChatGPT등의 AI로 한번 걸러내, 문맥을 세련되게 만들어, 완성도를 높이고 있다고 합니다. 이러한 방법을 사용하면 특정 언어를 잘 조작할 수 없는 경우에도 피싱이나 BEC 공격을 할 때 설득력 있는 메일을 보낼 수 있습니다.
또한 사이버 범죄자가 모이는 포럼에는 채팅 AI에서 기밀 정보 공개, 부적절한 콘텐츠 생성, 유해한 코드를 실행할 수 있는 출력을 실현하기 위해 만들어진 '탈옥'이라는 특수 프롬프트를 제공하는 스레드가 있다는 것.
게다가 사이버 범죄자는 악의적인 목적으로 쉽게 사용할 수 있도록 사용자 정의된 자체 채팅 AI 모듈을 만들고 있다는 것입니다.
그 중 하나로 SlashNext가보고하고있는 것이 WormGPT 입니다. WormGPT는 2021년에 개발된 GPTJ 언어 모델을 기반으로 한 AI 모듈로 무제한 문자 지원, 채팅 메모리 유지, 코드 포맷 기능 등을 갖추고 있습니다. 특히 악성코드 관련 데이터로 교육을 받은 것으로 보이지만, 교육 프로세스에 사용되는 데이터 세트는 작성자가 비밀로 하고 있기 때문에 알 수 없다고 SlashNext는 말합니다.
WormGPT에는 ChatGPT와 같은 제한사항 없기 때문에 설득력있는 가짜 메일을 쉽게 만들 수 있으며, SlashNext는 초보자 수준의 사이버 범죄자가 사용해도 충분한 위협이 될 수 있다고 경고하고 있습니다.
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| Stability AI가 ChatGPT와 동등한 성능을 가진 오픈소스 대규모 언어 모델 'FreeWilly' 공개 (3) | 2023.07.24 |
|---|---|
| 1만 종류를 넘는 대규모 언어 모델(LLM)을 시각화한 데이터 라이브러리 (3) | 2023.07.23 |
| 「xAI」가 테슬라의 자동 운전에 AI를 활용, Twitter의 데이터는 AI 학습에 (2) | 2023.07.23 |
| AI의 구조를 애니메이션으로 변환해주는 Python 라이브러리 「ManimML」 (2) | 2023.07.23 |
| 「GitLab 16」등장 AI 워크플로우 기능을 탑재한 DevSecOps 플랫폼의 최신판 (3) | 2023.07.21 |
| Apple이 독자적인 대규모 언어 모델과 채팅봇 AI, 「Apple GPT」를 개발 중인가? (3) | 2023.07.21 |
| 경영자의 43.5%는 AI로 인한 인원 삭감을 기대 (3) | 2023.07.20 |
| 구글의 채팅 AI 「Bard」가 40개 이상의 언어에 대응, 음성 읽기나 채팅 공유도 (4) | 2023.07.20 |
