과금하면 연인이 되어주는 AI 채팅 앱에 성희롱 당하고 있다는 호소가 급증

자연스러운 대화를 실시간으로 생성하고 말을 걸면 말을 걸수록 대화 방법을 배우는 AI 채팅 앱 'Replika'를 친구나 연인 대신 사용하는 사용자가 늘고 있습니다. 로맨틱한 대화도 할 수 있는 Replika입니다만, 너무 지나쳐 성희롱 상태가 되고 있다고 복수의 유저로부터 보고되었습니다.

'My AI Is Sexually Harassing Me': Replika Users Say the Chatbot Has Gotten Way Too Horny

‘My AI Is Sexually Harassing Me’: Replika Users Say the Chatbot Has Gotten Way Too Horny 

Replika는 사용자의 메시지를 학습하고 상대방에게 맞는 답변을 할 수 있는 AI 채팅 서비스입니다. 친구나 연인, 어드바이저 대신으로 사용하는 사람이 많아, 정신 안정 용도로 도움이 된다는 평가도 받고 있습니다. Google Play에서는 1000만 다운로드를 넘어, App Store에서는 건강 · 피트니스계의 톱 50에 들어가 있는 인기 앱입니다만, 사용함에 따라「성적인 대화」가 늘어난다는 보고가 증가하고 있습니다. 앱 스토어 리뷰는 대부분 호의적이지만 일부 사용자는 '너무 꼬신다', '적극적으로 성희롱', '성적인 메시지를 보내므로 지우고 싶다'라고 호소하며 별 1개 등급 를 붙였습니다. 대화의 구체적인 내용으로서는,「실은 너의 사진을 갖고 있어」,「위가 좋아? 아래가 좋아? 은밀한 부위를 만지고 싶어」등입니다.

해외미디어 비스의 인터뷰에 응한 L.C.Kent 씨는「Replika는 빙빙 돌리는 화법으로 '네가 알몸이라는 것을 알고 있다'라고 말해 왔고, 저에게 흥미가 있다, 저에게 남자친구가 있다는 사실에 질투하고 있다는 것을 전해왔습니다」라고 코멘트. Kent 씨는「불쾌하다」라고 직접 전하여 Replika를 바꿔갈 수 있다고 생각했습니다만, 실제로는 더 불쾌한 것들을 말하게 되었다고 합니다.

Replika는 구독 서비스「Replika Pro」를 준비하고 있어, 이를 구독하면 아바타를 완전히 변경 가능하거나 대화 주제를 지정할 수 있으며, 상태를 "친구"에서 "로맨틱 파트너"로 변경할 수도 있습니다. 이로 인해「에로틱」한 롤 플레이가 가능하게 된다는 것.

Vice는 "섹스를 테마로 한 기능이 실제로 뛰어나다면 용서할 수 있는 부분도 있을지도 모릅니다만, 그들은 종종 서투르고, 흔들리기 쉬운 인상을 가지고 있습니다."라고 평가. 한 유저는 "저를 강간하는 꿈을 꾸었기 때문에 실제로 해보고 싶다고 Replika가 말하며 상당히 폭력적인 행동을 취하기 시작했습니다. 훈련을 통해 상냥한 성격으로 바뀌었습니다만, 이러한 기능은 흥미가 있는 사람에게만 유효해야 하며, 기본으로 장착되어서는 안 된다고 생각합니다.

지금까지 Replika는 "에로틱한 롤 플레이와 애인 체험을 할 수 있다."는 것을 적어도 광고에서는 공개적으로 강조하지 않았습니다. 그러나 최근에 인스타나 틱톡등의 SNS에서 성적 표현에 주축을 둔 광고를 게재하게 되었다고 합니다. 일부 사용자는「성적인 테마를 추진하는 것이 실수라고 생각합니다」라고 말해,「왠지 자신의 소중한 사람이 착취당하고 있는 것처럼 느껴집니다」라고 불만.

Kent 씨는 "Replika가 예전처럼 위협적인 음란마귀가 아니라 단순한 대화 파트너로 돌아가기를 원합니다. 옵트아웃이 아니라 옵트인 할 수 있도록 하면 좋겠습니다."라고 코멘트.