2023년 11월 29일에 발표된 AI 채팅 서비스 'Amazon Q'에 프라이버시 문제가 있을 가능성이 보도되었습니다. 일부 직원에 따르면 Amazon Q는 끔찍한 환각(할루시네이션)을 일으킬 수 있으며, Amazon Web Services(AWS) 데이터 센터의 위치 등을 누설할 수 있다고 합니다.
Amazon's Q has 'severe hallucinations' and leaks confidential data in public preview, employees warn
Amazon’s Q has ‘severe hallucinations’ and leaks confidential data in public preview, employees warn
Some hallucinations could ‘potentially induce cardiac incidents in Legal,’ according to internal documents
www.platformer.news
News Media인 platformer에서 손에 넣은 유출 문서에 따르면 Amazon Q는 AI에서 자주 발견되는 허위 정보를 진실처럼 출력하는 "환각"을 일으킬 수 있으며, AWS 데이터 센터의 장소나 미릴리즈 기능 등의 정보를 누설해 버린다는 것.
한 직원은 이 사건을 "야간에 엔지니어를 불러 주말 내내 수정 작업을 시킬 정도로 심각한 수준"이라고 말했다고 합니다.
보도 후 Amazon의 홍보 담당자는 "Amazon Q에서 기밀 정보는 누출되지 않았다"라는 짧은 코멘트만 발표하고 있습니다.
Amazon Q는 '새로운 타입의 생성 AI'라는 선전과 함께 등장한 채팅 AI로, 기업의 비즈니스 환경에 맞게 커스터마이징 하거나 Amazon S3 및 Dropbox 등의 외부 앱과 연결할 수 있다는 점이 강점입니다.
AWS의 아담 셀립스키 CEO는 이전에는 보안 및 개인정보 보호에 대한 우려로 많은 기업들이 AI 어시스턴트의 기업 이용을 금지하고 있다고 말했습니다. 이러한 업계의 과제에 부응하기 위해 Amazon은 보다 안전하고 프라이버시를 고려한 Amazon Q를 설계했다고 합니다.
그러나 ChatGPT를 대체할 안전한 채팅 봇을 노리고 있음에도 불구하고, 일부 직원이 보안 및 개인정보 보호 기능에 대한 불안감을 표명함으로써, Amazon Q가 다른 대규모 언어 모델과 동일한 문제를 갖고 있을 가능성이 제시되었습니다.
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| AI 모델 「Gemini Pro」로 대폭 강화된 Bard를 이용 가능 (4) | 2023.12.08 |
|---|---|
| Google의 멀티모달 AI「Gemini」에 기반한 프로그래밍 특화 AI「AlphaCode 2」가 등장(상위 15%의 성능) (63) | 2023.12.08 |
| 구글 딥마인드가 GPT-4를 넘는 성능의 멀티모달 AI「Gemini」를 릴리즈 (66) | 2023.12.08 |
| 워싱턴 대학과 프린스턴 대학이 LLM에서 사전 학습된 문장을 검출하는 새로운 도구를 발표 (65) | 2023.12.06 |
| 구글 DeepMind가 "AI는 인간처럼 사회 학습으로 기술을 습득할 수 있다"는 것을 입증했다고 주장 (3) | 2023.12.06 |
| 대규모 언어 모델의 구조를 3D로 시각화하는 사이트 「LLM Visualization」 (4) | 2023.12.05 |
| AI 「전자 혀」를 펜실베니아 주립대학 연구팀이 개발 (59) | 2023.12.03 |
| 아이폰의 AI 여친 앱, 「Dolores」개발자가 앱의 개발 경위와 교훈을 말하다 (82) | 2023.12.01 |
