ChatGPT의 API를 해킹해보니 80개 이상의 '비밀 플러그인'을 발견했다는 보고

 

OpenAI가 개발한 대화형 AI ChatGPT에는 "인터넷상의 최신 정보 수집"과 같은 기능을 추가할 수 있는 플러그인 시스템 "ChatGPT plugins"가 준비되어 있습니다.

해커인 https://twitter.com/rez0__ 씨가 ChatGPT의 API를 해킹하여 공개되지 않은 80개 이상의 '비밀 플러그인'을 발견했다고 밝혔습니다.

Hacker Uncovers Secret ChatGPT 플러그인 in OpenAI API | Deepleaps

Hacker Uncovers Secret ChatGPT Plugins in OpenAI API | Deepleaps

Chatgpt는 대화형 AI로, 엄청난 양의 텍스트를 기반으로 훈련된 AI이며, 다양한 플러그인을 사용하여 확장할 수 있습니다.

ChatGPT에「최신 정보 수집 기능」이나「Python 실행 환경」을 추가하는「ChatGPT plugins」등장

ChatGPT에「최신 정보 수집 기능」이나「Python 실행 환경」을 추가하는「ChatGPT plugins」등장

그런데 rez0 씨는 OpenAI에서 제공하는 ChatGPT의 API 호출에서 특정 파라미터를 제거하여 "80개 이상의 비밀 플러그인"을 발견했다고 보고했습니다.

발견된 플러그인 중에는 가상 화폐의 가격을 취득할 수 있는「Crypto Prices Plugin」도 포함되어 있었고,

또한 ChatGPT에 가상의 인격을 부여하는「DAN plugin」도 포함되어 있었습니다.

rez0씨에 의하면, 보고 시점에서는 HTTP 프락시를 개입시켜, 룰을 치환 변경(replace)하는 것으로, 이러한 미발표 플러그인을 사용할 수 있었다고 합니다. 
또한, 일반적으로는 유저에게 공개되지 않는 「description_for_model(모델의 설명)」도 API를 통해 볼 수 있었다고 합니다.

그러나 OpenAI는 이 문제가 보고된 후 몇 시간 만에 문제를 해결했다고 합니다.

소셜 뉴스 사이트인 Hacker News에서는 API를 통해 출시 전 플러그인이 유출된 문제에 대해 화제가 되고 있으며, OpenAI가 "보안을 심각하게 생각하고 있다"는 주장에는 신뢰성이 없다는 의견 및, "이것은 한 분야에서는 매우 현명하지만 다른 분야에서는 매우 어리석은 상태의 완벽한 사례라고 생각합니다."라는 등의 코멘트가 전해졌습니다.

Secret ChatGPT plugins can be revealed by removing a parameter from an API call | Hacker News
https://news.ycombinator.com/item?id=35289085