본문 바로가기
AI · 인공지능/AI 뉴스

생성 AI의 진보에 큰 영향을 미친 'Transformer'를 개발한 연구자들은 왜 Google을 떠났는가?

by 두우우부 2023. 8. 22.
반응형

 

최근의 ChatGPT와 Midjourney 등 다양한 제네레이티브 AI를 지원하는 신경망 아키텍처인 Transformer는 2017년 구글의 연구자 8명에 의해 발표되었습니다. 그러나 Transformer 개발에 종사한 연구자들은 모두 Google을 퇴사했다고 보도되었습니다.

Ex-Google Scientists Kickstarted the Generative AI Era of ChatGPT, Midjourney - Bloomberg
https://www.bloomberg.com/opinion/features/2023-07-13/ex-google-scientists-kickstarted-the-generative-ai-era-of-chatgpt-midjourney


2017년 구글 연구원 8명은 기계가 인간과 같은 텍스트나 이미지, DNA 배열, 기타 많은 종류의 데이터를 전례 없이 효율적으로 생성할 수 있는 새로운 시스템인 Transformer를 개발, 그 조사 결과를 Attention Is All You Need라는 논문에서 발표했습니다. 나중에 이 논문은 다양한 AI 연구자들이 80,000번 이상 인용한 유명한 논문이 되었으며, Transformer는 채팅 AI인 ChatGPT와 이미지 생성 AI인 Midjourney를 지원하는 아키텍처가 되었습니다.

ChatGPT의 동작 원리 - 기계 학습 모델 「Transformer」가 자연스러운 문장을 생성하는 구조

ChatGPT의 동작 원리 - 기계 학습 모델 「Transformer」가 자연스러운 문장을 생성하는 구조

ChatGPT 등 대화형 채팅 AI의 기반이 되는 대규모 언어 모델은 Google이 개발한 기계 학습 아키텍처인 'Transformer'를 채용하고 있습니다. 그런 Transformer가 문맥에 따른 자연스러운 문장을 출력하는 구

doooob.tistory.com


일반적으로 기술 기업이 새로운 기술에 대한 피드백을 얻고, 인적 자원을 모으고, 지원자 커뮤니티를 형성하기 위해 오픈 소스화 하는 것은 드문 일이 아닙니다. 그러나 구글은 트랜스포머를 곧바로 오픈소스화 하지 않고 자사에게 이익을 주는 서비스로 성장시키기 위한 연구를 계속하고 있었습니다. 한편, AI 개발 기업인 OpenAI는 Transformer를 사용하여 검색의 선두주자인 Google에 심각한 위협이 될 수 있는 ChatGPT를 개발하였습니다.

Transformer 개발에 종사한 8명의 연구원은 발표 후 Google을 은퇴했습니다. 퇴직한 연구자의 일부는 AI 스타트업을 설립한 것으로 보고되고 있습니다. 다음은 Transformer 개발에 참여했던 8명의 Google 퇴사 후 근무처 목록입니다.
 

 

경쟁업체인 OpenAI는 2023년 현재 약 375명의 직원 중 AI 연구자의 비율이 약 절반인 약 150명이지만 Google은 약 14만 명의 직원 중 AI에 종사하고 있는 것은 약 20%인 7,133명이라고 보고되었습니다. 또한 익명의 연구자와 엔지니어는 "Transformer 개발 시 아이디어를 승인받기 위해 힘든 검사를 받아야 했다."라고 말했습니다. 게다가 "Google의 주요 AI 부문 중 하나인 Google Brain의 연구자도 자신의 경력 업과 연구 논문에서의 가시성에 집착하고 있어, 명확한 전략적 방향성이 부족했다."라고 지적했습니다.
 



아이디어를 신제품으로 바꾸기 위한 장애물이 구글 내에서는 매우 높다며, 바스와니 씨는 "아이디어가 10억 달러 규모의 비즈니스가 아닌 한 구글은 움직이지 않았다."라고 코멘트.

Google의 홍보 담당자는 "Transformer에 관한 AI 업계를 선도하는 획기적인 연구가 행해진 것을 자랑스럽게 생각하고, Google의 연구자들이 Google을 나가서 연구를 진행하고 있다는 것에 대해 슬프게 생각하고 있습니다만, 우리는 이 연구가 만들어낸 AI의 새로운 생태계로 연구에 대한 활력을 느끼고 있습니다."라고 말했습니다.

반응형