개인 정보 보호법 위반을 염려, OpenAI가 GPT-4의 얼굴 인식 기능을 제한

GPT-4의 이미지 인식 기능을 갖춘 특정 개인을 식별하는 능력이 개인 정보 보호법을 위반할 수 있다는 우려로 OpenAI가 얼굴 인식 기능을 제한하는 조치를 취하고 있음이 분명합니다.

A ChatGPT That Recognizes Faces? OpenAI Worries World Isn't Ready. - The New York Times

OpenAI Worries About What Its Chatbot Will Say About People’s Faces

Report: OpenAI holding back GPT-4 image features on fears of privacy issues | Ars Technica

Report: OpenAI holding back GPT-4 image features on fears of privacy issues

 

2023년 3월에 발표된 GPT-4는 텍스트뿐만 아니라 이미지 입력도 허용하는 '멀티모달 AI'로 개발되었습니다.

OpenAI는 Be My Eyes라는 ​​스타트업과 공동으로 앱 개발에 종사하고 있어, 눈이 불편한 사용자에게 이미지를 설명하고 사용자가 주변 환경을 보다 잘 해석할 수 있도록 하는 프로젝트도 진행하고 있었습니다.

그러나 뉴욕 타임스가 뉴질랜드에 사는 눈이 부자유한 여성의 체험담을 소개한 바에 따르면, 어느 때가 되어 OpenAI가 개발하고 있던 앱이 얼굴 정보의 제공을 중지하고, "프라이버시 보호의 때문에 얼굴이 숨겨져 있습니다."라는 메시지를 표시하기 시작했다는 것. 뉴욕 타임스는 '여성은 실망을 나타냈다'라고 썼습니다.

 

 

이 점에 대해 뉴욕 타임스로부터 취재를 받은 OpenAI의 정책 연구자, 샌디니 아가르와르씨는, 위의 원인에 대해 OpenAI가 GPT-4의 얼굴 인식 능력을 축소한 것이 이유라고 인정했습니다.

아가르와르씨에 의하면, OpenAI의 시스템은 Wikipedia에 등록된 공인을 식별하는 것은 가능하지만, 「생체 정보의 사용에는 시민으로부터의 명확한 동의가 필요하다」라고 정한 일리노이주나 유럽과 같은 지역에서는 이러한 기능이 프라이버시와 관련된 법률을 침해할 수 있다고 합니다.

게다가 앱이 '성별', '감정' 등의 정보를 잘못 해석할 가능성도 있고, 이러한 정보를 표시해 버리는 것으로 부적절하거나 유해한 결과를 초래해 버리는 것도 생각할 수 있다고 합니다. OpenAI는 GPT-4의 이미지 분석 기능이 널리 사용되기 전에 안전 우려를 제거하는 것을 목표로 개발을 진행하고 있다는 것입니다.

 

 

GPT-4와 같은 생성 AI 모델이 직면하는 이미지 인식이라는 과제는 OpenAI뿐만 아니라 수많은 기업이 극복해 나가야 할 것입니다. 기술 미디어 Ars Technica는 Google의 AI 'Bard'와 GPT-4를 기반으로 한 Microsoft의 Bing AI가 작성자가 사람인지 확인하는 'CAPTCHA'를 뚫었다는 사례를 인용하고, "AI를 탑재한 컴퓨터 비전은 조만 모든 사람의 장치에 탑재될 수 있지만, 윤리적 영향을 최소화하면서 널리 출시되기 위해서는 기업이 복잡한 문제를 해결할 필요가 있다는 것도 분명합니다."라고 지적했습니다.