Amazon이 GPT-4를 넘는 2조 파라미터의 대규모 언어 모델 「Olympus」를 개발중

 
 
Amazon이 코드네임 Olympus의 대규모 언어 모델(LLM)을 개발 중이라고 로이터 통신이 2023년 11월 8일에 보도했습니다.

OpenAI의 GPT-4 모델은 1조 개의 파라미터를 가지고 있다고 하며, 현재 입수 가능한 모델 중 최고 중 하나입니다.

관계자에 따르면 Olympus에는 약 2조 개의 파라미터가 있으며, 이는 훈련 대상 모델로서 최상급일 가능성이 있습니다.

프로젝트 책임자는 Alexa의 전 책임자 Rohit Prasad 씨. 

Amazon은 이미 소규모 모델 'Titan'을 훈련하고 있으며 Anthropic이나 AI21 Labs 등 기업과 제휴하고 있습니다.

AWS상에서 자사제 모델을 도입해, 기업 고객에게 최고 성능의 모델 액세스를 제공하는 것을 목표로 하고 있다고 합니다.