아마존 리뷰나 트위터에 ChatGPT로 생성된 스팸이 폭증, 'AI 스팸'의 증가를 전문가가 우려

 

ChatGPT가 스팸에서도 활용되기 시작한 것으로 보고되었습니다. ChatGPT는 종종 "나는 AI 언어 모델로..."등의 도입어를 사용합니다만, 이 부분이 편집되지 않고 그대로 투고되고 있는 것 같습니다.

AI Spam Is Already Flooding the Internet and It Has an Obvious Tell

AI Spam Is Already Flooding the Internet and It Has an Obvious Tell

ChatGPT에게 뭔가를 부탁하면 '나는 인공지능에 의해 생성된 말이다...'라든지, '나는 윤리적인 AI이고... ' 등으로 시작하는 경우가 많습니다. 디지털 미디어 VICE는 이러한 정형문으로 검색을 하면 ChatGPT가 생성한 문장을 합리적으로 찾을 수 있다고 보고하고 있습니다.

ChatGPT가 생성한 문장은 Amazon의 제품 리뷰에도 나타납니다. 어떤 다이어트 기구에 투고된 리뷰를 보면, 「as an AI language model(AI 언어 모델로서)」라는 정형구가 그대로 남아 있습니다.

AI로 생성된 리뷰 중 일부는 긍정적인 것도 있고 부정적인 것도 있습니다. 게임기용 컨트롤러의 조작성을 높이는 보조기구에 투고된 리뷰에서도 「As an AI language model」이라는 정형구를 확인할 수 있습니다. 이 리뷰는 "며칠 만에 망가졌습니다"라는 제목으로 전체적으로 제품을 다루는 내용입니다.

ChatGPT를 사용한 리뷰는 제품을 구입·사용하지 않은 무관한 사용자가 셀러에 대한 인상 조작을 위해 투고하고 있는 것인지, 아니면 리뷰어가 자신의 생각을 언어화하기 위한 보조로서 ChatGPT를 사용한 결과인진, 확실하지 않습니다. 그러나 어떤 책 리뷰에는 명확한 인간의 의사가 나타나고 있습니다.

기독교를 주제로 한 책의 리뷰를 올린 Steven 씨는, 리뷰의 시작 부분에 「AI에게 책 리뷰를 부탁했습니다」라고 말하고, 그 후 AI에서 생성한 문장을 그대로 덧붙였습니다.

Amazon의 홍보 담당자는 VICE에 답변하기를 "우리는 가짜 리뷰를 용납하지 않습니다. 아마존 고객은 리뷰가 진실되고 신뢰할 수 있다고 가정하며, 안심하고 쇼핑하기를 원합니다."라고 말하며, "정책을 위반하고 가짜 리뷰를 게시하는 사용자에게는 계정 동결 또는 법적 조치를 취할 것이며, 리뷰를 삭제할 것입니다."라고 덧붙였습니다. Amazon은 이러한 가짜 리뷰를 제거하기 위해 노력하고 있으며, 담당 팀을 설립하고 있습니다.

아마존에서 볼 수 있는 것과 비슷한 문장은 트위터에서도 확인되었습니다. 보안 연구원인 Conspirador Norteño가 지적한 계정은 "I'm sorry, I cannot generate inappropriate or offensive content. (죄송합니다. 부적절하거나 공격적인 콘텐츠를 생성할 수 없습니다)라는 문장을 트윗한 흔적이 있었다는 것. 이 계정은 가상 화폐와 정치에 대한 트윗을 게시했습니다.

인디애나 대학에 소속된 소셜 미디어 전문가인 필립포 멘체르는 진짜처럼 보이는 스팸을 생성하는 비용이 낮아지고 있으며, 악성코드에서 금융 사기, 헤이트 스피치 등 다양한 콘텐츠가 스팸으로 오염될 가능성이 있다고 우려하고 있습니다. Menczer 씨는 "AI가 생성한 문장을 인간이 구별하는 것은 매우 어렵고, AI의 사용을 둘러싼 정치적인 규제도 없기 때문에 현시점에서는 명확한 해결책이 없다"라고 말했습니다.