천문학자가 은하 측정 도구를 사용하여 AI가 만든 깊은 가짜를 구별하는 방법을 발명

 

 

생성 AI의 보급에 따라 AI를 이용하여 작성된 가짜 이미지( 깊은 가짜 )를 구분하는 방법이 요구되고 있습니다. 잉글랜드 할 대학 의 연구팀은 은하를 측정하는 데 사용하는 도구를 사용하여 깊은 가짜를 구별하는 기술을 개발했습니다.

Want to spot a deepfake? Look for the stars in their eyes | The Royal Astronomical Society
https://ras.ac.uk/news-and-press/news/want-spot-deepfake-look-stars-their-eyes

Astronomers discover technique to spot AI fakes using galaxy-measurement tools | Ars
Technique - tools/

하루 대학의 석사 과정 학생인 아데주모케 오워라비 씨가 천문 물리학 교수의 케빈 핀브레드 박사의 지도 아래 인간의 눈 반사를 분석하여 깊은 가짜 이미지를 검출한다고 한다. 새로운 기법을 발표했습니다. 이 연구는 2024년 7월 셋째 주에 영국에서 개최된 2024년 전국 천문학 회의 에서 발표되었습니다.

오왈라비 씨 등 연구팀이 발표한 딥 페이크 검출 기술은 "같은 광원으로 조명되는 한 쌍의 눈은 보통 좌우 안구에서 비슷한 모양의 빛의 반사를 보인다"는 간단한 원리를 기반으로 있습니다.

아래의 사진은 인간의 양안을 촬영한 것으로, 좌우의 안구가 거의 같은 빛의 반사 방법을 하고 있는 것을 알 수 있을 것이다.

오왈라비 씨는 좌우 안구의 빛의 반사를 자동으로 검출하기 위한 툴을 개발하고, 반사의 형태학적 특징을 지표에 적용하여 좌우의 안구에서 보이는 빛의 반사의 유사성을 비교했다고 설명 하고 있습니다. 그리고, 딥 페이크에서는 좌우의 안구의 빛의 반사의 형상이 다른 케이스가 많다고 합니다.

다음은 딥 페이크의 좌우의 안구. 좌우의 안구에서 빛의 반사 방법이 분명히 다른 것을 알 수 있습니다.

오와라비씨가 개발한 툴은 천문학에서 사용되는 기법을 응용하여 안구에서의 빛의 반사를 정량화하고 비교합니다. 구체적으로는, 은하의 화상에서의 빛의 분포를 측정할 때에 이용되는 지니 계수를 사용하여, 안구의 픽셀 전체에 걸친 반사의 균일성을 평가한다고 하는 것. 지니 계수가 0에 가까울수록 빛이 균일하게 분산되고, 1에 가까울수록 빛이 하나의 픽셀에 집중되어 있음을 나타냅니다.

핀브레드 박사는 “안구에서 빛의 반사 형상을 측정하는 방법과 망원경 이미지에서 은하의 형상을 측정하는 데 사용되는 기법을 비교했다. 그리고 대칭인지, 얼마나 부드러운지 등을 분석하기 위해 빛의 분포를 분석합니다.”라고 말했습니다.

또한 연구팀은 은하의 빛의 분포를 측정하는 데 사용되는 또 다른 도구인 CAS 파라미터를 이용하는 방법도 검증하고 있지만, 이 방법은 딥 페이크를 검출하기에는 그다지 효과적이지 않다. 없었다고 합니다.

안구에서 빛을 반사하는 방식에서 깊은 가짜를 구별하는 기술에 대해 기술 미디어의 Ars Technica는 "이 방법은 AI 모델이 물리적으로 정확한 안구 반사를 재현 할 수 있도록 진화하면 작동하지 않을 수 있습니다. 성이 있습니다. 또, 이 수법을 활용하려면 안구를 확실히 볼 수 있는 고화질의 화상이 필요합니다」라고 지적하고 있습니다.

덧붙여 진짜 사진이라도 조명 조건이나 후처리 기술의 차이에 의해 안구상에서의 빛의 반사가 좌우로 불일치가 되는 경우도 있기 때문에, 오검지가 발생하는 리스크도 있다고 한다. 그러나 안구에서 빛의 반사를 분석하는 방법은 머리카락의 질감, ​​해부학 적 구조, 피부, 배경 일관성 등을 기반으로 깊은 가짜를 감지하는 방법보다 유용 할 수 있다고 Ars Technica는 지적했다.

핀브레드 박사는 이 기술에 대해 “위양성이나 위음성이 발생하는 경우가 있어, 모두를 정확하게 구분할 수 있는 것은 아니다”라고 하면서, “이 수법은 딥 페이크를 견파하기 위한 군확 경쟁에서, 기초가 된다 공격 계획을 제공해 드리겠습니다.”라고 말했습니다.