Facebook은 이미 AI가 만든 가짜 게시물로 가득 차 있다

 
 
한때 예언되었던 「생성 AI가 대량 생산한 쓰레기 콘텐츠가 인간의 노력을 압도한다」라는 미래가 이미 현실이 되었다고, IT계 뉴스 사이트 404 Media가 보도했습니다.

Facebook Is Being Overrun With Stolen, AI-Generated Images That People Think Are Real

Facebook Is Being Overrun With Stolen, AI-Generated Images That People Think Are Real

아래 페이스북 투고를 보면 한 남자가 자랑스럽게 멋진 목각 개 옆에서 "직접 손으로 만들었습니다."라고 적혀 있습니다.

이 게시물에는 100만 건 이상의 "좋아요!"나 3만 9,000건의 코멘트가 달리고 있으며, 1만 7,000회 공유되고 있습니다. 또한, 투고자는 코멘트 란에 애완동물 용품을 판매하는 사이트 링크를 붙이고 있습니다.

페이스북에는 이와 비슷한 게시물은 수십 건 있습니다. 첨부된 사진은 모두 미묘하게 다르고, 남성과 조각의 위치 관계나 남성의 풍모, 조각되어 있는 견종 등이 다르며, 일부는 남성이 여성이 되는 경우도 있습니다.

그도 그럴 것이, 404 Media에 의하면 위의 이미지는 모두 다른 사람의 투고를 생성 AI로 가공한 표절이라는 것.

진짜는 영국을 거점으로 하는 조각가 마이클 존스 씨가 투고한 아래의 사진입니다. 유감스럽게도 존스 씨의 오리지널의 투고에는 「좋아요」1,475건, 코멘트 142건, 공유된 횟수는 123회로, 가짜 투고보다 한참 적습니다.

존스는 페이스 북에 많은 작품을 게시했지만, 이 사진은 존스와 같은 아티스트의 노력으로 수익을 얻고자 하는 스팸 업체의 먹이가 되었습니다.

이러한 가짜 이미지는 입력된 이미지를 바탕으로 그것과 비슷한 이미지를 생성하는 "image-to-image(img2img)" 생성 AI에 의해 만들어집니다.

Facebook에는 실제로 생성 AI로 만들어진 스팸 투고가 무수히 많다고 합니다.

쓰레기 컨텐츠가 늘어만 가서 걱정이네요~