"ChatGPT를 사용하여 맬웨어를 만드는 서비스"를 해커가 판매 중

ChatGPT에는 불법 콘텐츠의 생성을 차단하는 기능이 탑재되어 있지만, 사이버 보안 기업 Check Point Software의 연구자는 해커가 "ChatGPT의 제한을 회피하고 악성코드를 만들 수 있도록 하는 서비스"를 판매하고 있다고 보고했습니다.

Cybercriminals Bypass ChatGPT Restrictions to Generate Malicious Content - Check Point Software

Cybercriminals Bypass ChatGPT Restrictions to Generate Malicious Content - Check Point Software

Hackers are selling a service that bypasses ChatGPT restrictions on malware | Ars Technica

Hackers are selling a service that bypasses ChatGPT restrictions on malware

ChatGPT는 잠재적으로 불법 콘텐츠의 생성을 차단하는 제한이 걸려 있으며, '장치를 해킹하고 데이터를 훔치기 위한 코드'와 '피싱 메일 문장'을 작성하도록 요청하더라도 그러한 콘텐츠는 불법/비윤리적/유해하다고 경고하며 거부합니다.

그러나 해커들은 이 ChatGPT의 제한을 피하기 위해, 앱을 구축하는 개발자 등에게 제공되는 OpenAI API를 이용하는 방법을 고안했습니다.

웹 버전의 ChatGPT에는 불법 콘텐츠의 생성을 차단하는 기능이 탑재되어 있지만, API에는 거의 부정행위 방지책이 적용되지 않고, ChatGPT에서 피싱 메일이나 멀웨어 코드 등의 악의적인 콘텐츠 을 생성할 수 있다고 합니다.

Check Point Software의 연구자에 따르면 지하 포럼에서는 OpenAI의 API 키를 메시징 앱 텔레그램 등의 외부 애플리케이션에 통합하여 악의적인 콘텐츠를 생성 가능하게 한 서비스가 판매되고 있다고 합니다. 아래 이미지는 OpenAI API를 사용하여 규제를 피한 Telegram 봇을 홍보하는 페이지의 스크린숏입니다.

Telegram 봇을 통해 ChatGPT를 이용하여 피싱 메일의 문장을 생성할 수 있습니다.

또한 맬웨어 코드를 생성할 수 있습니다.

한 포럼에서 판매되는 서비스는 API와 Telegram 앱을 결합한 것으로, 처음 20개의 쿼리까지는 무료로 사용할 수 있으며, 그 이후에는 100개의 쿼리당 5.5달러(약 7천 원)가 필요합니다.

Check Point Software의 연구자인 Sergey Shykevich 씨는 기술계 미디어 Ars Technica로의 메일로, 2022년 12월 ~ 2023년 1월 사이에는 ChatGPT를 개입시켜 멀웨어나 피싱 메일을 생성하는 것이 비교적 간단했지만 최근에 ChatGPT의 악용 방지 메커니즘이 크게 개선되었기 때문에, 사이버 범죄자들은 규제가 훨씬 적은 API로 전환했을 것이라고 지적했습니다. 덧붙여 Ars Technica는 OpenAI에 문의를 했지만, 응답은 없었다고 합니다.