AI에 의한 오정보 확산 대책으로, 일본의 Top 연구원들이 모여서 연구를 진행할 예정

 

도쿄대학과 국립정보학연구소 등은 생성 AI에 의한 오정보 확산 대처 및 개인정보 유출 문제 해결을 위한 새로운 연구를 시작했다고 요미우리 신문에서 보도했습니다.

이 연구그룹은 올 가을에 새로운 소규모 생성 AI 모델을 개발하여, AI 작동의 해명을 계획하고 있습니다. 또한 연구 성과도 공개할 예정으로, 일본에서 신뢰성 높은 생성 AI를 개발하는데 도움이 될 것이라는 것.
 
연구그룹에는 국립정보학연구소 및 도쿄대학 외에도 도호쿠대학, 이화학연구소, NTT 등 일본 내 Top급 연구원들이 참가하여 AI 기반 기술인 대규모 언어 모델을 향후 3 ~ 4개월간 개발할 예정입니다. 이것은 학습한 대량의 텍스트 정보를 바탕으로 문장을 생성하는 기술로, 대화형 AI 서비스인 ChatGPT에서도 사용되고 있습니다.
 
새롭게 개발되는 모델을 이용한 실험을 통해, 생성 AI의 오답(환각)과 저작권 침해의 원리 파악을 진행할 예정입니다. 또한 일본어 및 영어의 학습 데이터를 잘 조합하여, 대규모 언어 모델의 일본어 능력 향상을 목표로 한다고 합니다.
 
또한 AI 개발의 선구자인 OpenAI나 Google 등은 AI 모델이나 이용 데이터를 비공개로 하고 있으며, 그 구조가 블랙박스로 되어있기 때문에, 그 숨겨진 구조에 대한 해명이 급선무입니다. 연구그룹을 이끄는 쿠로하시 요시오 국립정보학연구소장은 "생성 AI 개발의 진전은 매우 빠르다. 일본의 다양한 연구원들 간의 제휴로, 큰 과제해결을 목표로 할 필요가 있다."라는 견해를 나타냈습니다.