AI가 생성한 거근 쥐 이미지의 논문이 게재되어 버린 사건(3일 만에 게재 철회)

 

 
 
2024년 2월 16일, 연구 출판사 Frontiers는 2월 13일에 과학지「Frontiers in Cell and Developmental Biology」에 공개한「정자 줄기 세포의 세포 기능과 JAK/STAT 시그널링 경로와의 관계(Cellular functions of "spermatogonial stem cells in relation to JAK/STAT signaling pathway)」라는 논문에 관한 성명을 발표했습니다.

https://www.frontiersin.org/news/2024/02/16/frontiers-statement-concerning-the-article-cellular-functions-of-spermatogonial-stem-cells

이는 AI로 생성된 거대 성기 쥐의 근거 없는 일러스트를 포함한 학술논문이 게재된 것을 과학 커뮤니티에서 지적하였고, 2월 16일 해당 논문의 게재가 철회된 전례 없는 사태를 설명하고 사과한 사건이었습니다.

2월 16일, 케임브리지 대학 연구소의 조교수 Charlotte Houldcroft 박사가 자신의 X(구 Twitter)에「이 그림은 어떻게 피어리뷰(동료평가)를 통과했는가?!」라고 투고한 것이 사건의 발단이 되었습니다.

게재된 쥐의 그림은 이미지 생성 AI "Midjourney"를 사용하여 생성된, 실제 과학적 근거가 없는 것으로, "testtomcels", "Dissisilcied", "dck" 등의 무의미한 문자열이 그림에 곁들여졌다고 합니다.

이 회사는 이 논문에서 AI 생성 이미지의 문제에 대해 커뮤니티로부터 신속한 피드백을 받아 과학적 기록의 정확성을 지키기 위해 이 논문을 데이터베이스에서 철회 · 삭제했다고 말했습니다. 또한 검토자 중 한 명이 이미지에 대한 우려를 전하고 저자에게 수정을 요구했지만 저자가 이에 응하지 않았다고 합니다. 이에 대해 회사의 검토 프로세스에 어떠한 문제가 있었는지 조사 중이라고 합니다.

이 논문의 게재와 신속한 철회는 학술지의 검토 프로세스가 어떻게 AI에 의해 생성된 부정확한 도표를 놓쳤는지 의문을 제기하게 합니다. 연구자 커뮤니티에서는 AI 툴의 감시를 강화하여 부정확한 발견이 촉진되지 않는 한 연구기관이나 연구자의 평판에 손해를 줄 수 있다는 우려가 나오고 있습니다.

2023년은 철회된 연구논문이 과거 최다를 기록한 해라고 과학지 ' Nature'가 보고하고 있습니다. 전문가들은 이것은 빙산의 일각에 불과하다고 말하고 있습니다.