OpenAI가 GPT-4의 업그레이드판 대규모 언어 모델 「GPT-4 Turbo」를 발표

 
 
AI 개발 기업인 OpenAI가 2023년 11월 6일에 연 개발자용 이벤트 'DevDay'에서 대규모 언어 모델 'GPT-4'의 업그레이드 버전인 'GPT-4 Turbo'를 발표했습니다.

New models and developer products announced at DevDay

New models and developer products announced at DevDay

GPT-4 Turbo를 비롯한 대규모 언어 모델에서는 "콘텍스트 윈도"라는 응답을 생성하기 위해 한 번에 처리할 수 있는 텍스트의 양이 중요해집니다. 콘텍스트 윈도가 길어질수록 대규모 언어 모델이 주제에 대한 기억을 잃지 않고 긴 문장을 생성할 수 있습니다.

지금까지 GPT-4의 콘텍스트 윈도는 8,000 토큰으로 일부 개발자에게 32,000 토큰 모델이 제공되었습니다. 그러나 이번에 발표된 GPT-4 Turbo는 12만 8,000 토큰의 콘텍스트 윈도를 갖고 있으며, 이 수치는 약 9만 6,000어, 책으로 하면 300페이지분에 해당한다고 하며, 기존 모델보다 정확합니다.

또한, 기존의 GPT-4는 2021년 9월까지의 정보로 트레이닝되고 있어 최신의 정보에 관한 질문등에 관해서는 부정확한 답변을 내놓고 있었습니다. 그러나 GPT-4 Turbo는 2023년 4월까지의 지식을 가지고 있기 때문에, OpenAI의 최신 대규모 언어 모델이 되었습니다. 게다가 OpenAI는 GPT-4 Turbo의 정보에 관해, 항상 업데이트를 실시해 나가겠다고 밝히고 있습니다.

또한 GPT-4 Turbo에서는 「함수 호출」로, "자동차 창을 열고 에어컨을 끄기" 등 단일 메시지로 여러 동작을 호출할 수 있게 되었으며「항상 XML로 응답」"등의 특정 형식에서의 생성에 있어서 정밀도가 향상되고 있습니다. 또한, 새로운 「JSON 모드」도 서포트하고 있습니다.

또한「seed」 매개 변수를 사용하면 언어 모델이 일관된 응답을 반환하고 출력을 재현할 수 있습니다. 이 기능은, 디버그나 단독 테스트에 도움이 된다는 것.

OpenAI는 또한 기존 GPT-3.5 Turbo의 새로운 버전을 출시한다고 발표, 새로운 GPT-3.5 Turbo는 1만 6000 토큰의 콘텍스트 윈도를 가지며, GPT-4 Turbo에서 실행 가능한, 특정 형식으로의 생성, JSON 모드, Function calling를 서포트하고 있다고 합니다. 개발자는 2023년 12월 11일 이후 모델 ID 「gpt-3.5-turbo-1106」에서 새로운 GPT-3.5 Turbo를 사용할 수 있습니다.

GPT-4 Turbo는 GPT-4보다 성능은 향상된 반면, 가격은 별로 오르지 않았습니다. 다음은 이번에 발표된 GPT-4 Turbo와 GPT-3.5 Turbo의 토큰당 요금표입니다. GPT-4 Turbo의 입력은 기존 GPT-4에 비해 1/3, 출력은 1/2로 억제됩니다. 또한 GPT-3.5 Turbo 16K도 마찬가지로 이전 모델보다 가격이 인하되었습니다.
 

개발자는 GPT-4 Turbo를 모델 ID 「gpt-4-1106-preview」로 사용해 볼 수 있으며 OpenAI는 앞으로 몇 주 안에 안정적인 정식 버전을 출시할 예정임을 밝혔습니다.