임신 8개월의 여성이 AI가 '강도'라고 오인해 체포당하고, 보석금 10만 달러를 지불하는 사태에

 
 
미국 미시간주 디트로이트시에 사는 32세의 흑인 여성 Porcha Woodruff 씨는 2022년 2월, 임신 8개월의 몸으로 '강도' 취급을 받아 잘못 체포되는 피해를 당했습니다. 그 계기는 시 경찰이 사건 현장 감시 카메라 영상을 AI로 분석한 것이었습니다. 그녀는 부당 체포를 이유로 시를 제소했다고 2023년 8월 6일, 뉴욕 타임스가 보도했습니다.

https://www.nytimes.com/2023/08/06/business/facial-recognition-false-arrest.html

Eight Months Pregnant and Arrested After False Facial Recognition Match

당일 아침, Woodruff 씨가 2명의 딸을 학교에 보낼 준비를 하고 있었는데, 6명의 경찰관이 그녀의 집에 나타나, 강도 및 차량 강탈 혐의로 체포한다고 말했습니다. "뭔 소리지?"라고 대답하며 자신의 복부를 가리키며, 그러한 범죄를 하기에는 부적절한 몸이라고 밝혔음에도 불구하고, 경찰은 그녀를 집 앞에서 수갑을 채워, 우는 아이들과 약혼자로부터 떼어내 연행했습니다.

Woodruff 씨는 기소된 뒤 10만 달러의 개인보석금을 지불하고 구치소에서 나왔습니다. 그녀는 그대로 병원으로 가서 탈수 증상 진단으로 수액을 2개 맞았다고 증언하고 있습니다. 한 달이 지나면서 검찰은 증거 불충분으로 기소를 철회했습니다.

문제의 사건은 체포 2주 전에 발생한 카메라 영상을 바탕으로 디트로이트시 경찰이 사용한 
'DataWorks Plus'라는 얼굴 인식 시스템에서 시작된 것으로,

시스템에 뜬 것은 Woodruff 씨의 2015년 사진이었습니다. 당시 그녀는 만료된 면허증으로 운전한 적이 있었다고 합니다. 또한 시스템이 나타낸 정보를 채용할지 여부는 인간 담당자가 판단하는 것이었습니다, 그러나 피해자 역시 복수의 사진을 보고 그녀를 지목했습니다. 다만 뉴욕 타임스는 심리학 분석을 인용하며, 이러한 상황에서 피해자는 컴퓨터가 저지른 실수를 그대로 반복할 우려가 크다고 지적했습니다.

경찰이 미지의 범죄자를 데이터베이스 사진과 대조하기 위해 얼굴 인식 시스템을 사용한 결과, 범죄 피해를 당했다는 보고는 6번 전원 흑인이었고, Woodruff 씨는 그중에 첫 여성이었습니다.

Woodruff 씨는 디트로이트시를 상대로 미시간주 동부지구 법원에 소송을 걸었습니다. 시 경찰 제임스 E. 화이트 본부장은 이 문제를 매우 심각하게 받아들이고 있다면서 추가 조사가 필요하기 때문에 현시점에서의 코멘트는 삼간다고 말했습니다.

덧붙여 Woodruff 씨는 체포에 의한 부담이 컸는데도 「임신하고 있어서 다행이다」라고 말했습니다. 사건에 연루된 인물은 눈에 띄게 임신한 것 같지 않은 행동을 보였기 때문에, 당국에서 그녀가 죄를 짓지 않았다고 판단하는 결정적 단서가 되었기 때문입니다.

뉴욕 타임스가 소개한 이 증언을 듣고 하나의 의문이 떠오릅니다. 만약 그녀가 임신하지 않았다면, 범인은 누구로 밝혀졌을까?