2명의 개발자가 OpenAI의 이미지 생성 모델「DALL・E2」를 사용하여, 유저의 입력에 근거한 용의자의 리얼한 몽타주를 작성하는 프로그램을 만들었습니다. 개발자는 보통 2~3시간이 걸리는 스케치 시간을 단축할 수 있다고 했습니다만, 전문가는 너무 리얼한 것이 오히려 수사의 방해가 될 가능성을 지적했습니다.
Forensic Sketch AIrtist
Forensic Sketch AIrtist
*Generate hyper-realistic forensic sketches* SaaS that allows forensic sketch artists to improve the quality and speed of their work, creating a baseline hyper-realistic of the criminal, based on the witness description.
lablab.ai
Developers Created AI to Generate Police Sketches. Experts Are Horrified
Developers Created AI to Generate Police Sketches. Experts Are Horrified
Police forensics is already plagued by human biases. Experts say AI will make it even worse.
www.vice.com
아서 포르투나트씨와 필리페 레이노 씨가 개발한「Forensic Sketch AI-rtist」라고 불리는 이 프로그램은 연령과 성별, 피부색, 헤어스타일 등의 템플릿에 따라서 입력된 정보를 DALL·E2에 보내, DALL·E2가 생성한 이미지를 표시한다는 것입니다. 목격자의 증언을 바탕으로 용의자의 캐리커처를 작성하는 수사 시, 스케치에 걸리는 시간을 단축할 것으로 기대되고 있습니다.
하지만 전문가들은 너무 현실적인 몽타주 그림이 오히려 수사에 악영향을 미칠 가능성이 있다고 지적합니다. 전자 프런티어 재단의 제니퍼 린치 씨에 따르면 인간은 얼굴을 각 특징별로 기억하는 것이 아니라, 얼굴 전체를 하나의 이미지로 기억하고 있다는 것. 그 때문에, 개개의 특징을 바탕으로 캐리커처를 작성하는 이 프로그램은 용의자의 얼굴과는 현저하게 다른 얼굴을 생성해 버릴 가능성이 있다고 합니다. 린치 씨는 "유감스럽게도 목격자가 캐리커처를 보면 기억 속의 이미지가 캐리커처로 덮어 쓰일지도 모릅니다"라고 말했습니다.
또한 AI에 의한 이미지 생성이 인종과 성별의 편견을 조장해 버릴 가능성도 지적되고 있습니다. 자연어 처리에 관한 오픈 소스 라이브러리 "Hugging Face"에서 연구원을 맡고 있는 사샤 루치아노는 "일반적으로 인터넷상의 유색 인종의 취급은 매우 인종 차별적이고 불공평하며, 그 바이어스는 AI에 사용되는 데이터세트에도 반영되어 있습니다. 기술에 의해 소외되는 것은 현재도 소외된 그룹일 뿐입니다.
린치 씨는 "만약 이러한 AI가 생성한 캐리커처가 일반적으로 공개되는 경우, 스테레오타입이나 인종적 편견을 조장하고 실제 범인이 아닌 스케치와 비슷한 인물에 주의를 돌리게 되어 수사를 방해할 가능성이 있습니다."라고 지적.
실제로 미국에서는 DNA 증거에 의해 범인이 뒤집힌 사건의 69%가 '목격자 증언을 바탕으로 한 신원 확인'이 이루어지고 있었다고 합니다.
또한 개발자 포르투나트 씨도 생성된 이미지의 정확성을 측정하는 지표가 없다는 것을 인정하고 있습니다. 포르투나트 씨는 "몽타주에 생긴 불일치는 수시로 수정되어야 하며, 가능한 최상의 결과를 얻기 위해 반복적으로 시도해야 한다. 만약 이 프로그램을 사용하는 경우, 경찰은 정확한 몽타주를 공유할 책임을 져야 한다."라고 말했습니다.
몽타주 작성 시간을 단축하는 이 프로그램에 대해, 린치 씨는 "몽타주 작성의 문제점은 시간이 많이 걸리는 부분이 아니라, 인간의 기억이나 편견이라는 애매한 정보에 의지하고 있다는 것입니다. 이 문제를 해결할 수 없고, 이번에 등장한 프로그램은 이러한 문제를 악화시킬 가능성이 높습니다."라고 말했습니다.
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| 인물과 고유 명사 간의 연결을 그래프화하는「GraphGPT」가 등장 (1) | 2023.02.10 |
|---|---|
| "ChatGPT를 사용하여 맬웨어를 만드는 서비스"를 해커가 판매 중 (0) | 2023.02.10 |
| ChatGPT에 WordPress 플러그인을 요청한 후 며칠 걸리는 작업을 5분 만에 완료했다는 보고 (0) | 2023.02.09 |
| 체계적인 무료「컴퓨터 과학」강좌「Open Source Society University(OSSU :오픈소스학회 대학)」 (0) | 2023.02.09 |
| 채팅 AI 'ChatGPT'의 규제를 빠져나가기 위해 쥐어짜낸 또 다른 인격「DAN」 (0) | 2023.02.08 |
| Google이 ChatGPT의 라이벌이 되는 대화형 AI 'Bard' 발표 (0) | 2023.02.08 |
| MS가 갑자기 2월 8일에 발표 이벤트를 개최, 검색 엔진「Bing」용의 ChatGPT가 발표될 전망 (0) | 2023.02.07 |
| 일본 최초의 AI 아바타 직원 채용(인구 최소인 돗토리 현에 "메타 버스 관계 인구"창출) (0) | 2023.02.07 |
