Meta가 상용이용도 가능한 대규모 언어 모델 「Llama 2」를 무료로 공개

Meta가 대규모 언어 모델 LLAMA(Large Language Model Meta AI) 의 차세대 모델 Llama 2 를 발표했습니다.

Llama 2는 무료로 공개되어 있어, 연구 목적 이외의 상용 이용도 가능하다는 것 외에, Microsoft나 Qualcomm과 협력하여, Windows 및 스마트폰에 최적화를 목표로 하고 있다고 발표하였습니다.

Llama 2 - Meta AI

Llama 2 - Meta AI

Meta and Microsoft Introduce the Next Generation of Llama | Meta

Meta and Microsoft Introduce the Next Generation of Llama | Meta

Microsoft와 Meta, Azure 및 Windows에서 Lama 2에서 AI 파트너십 확대 - 공식 Microsoft 블로그

Microsoft and Meta expand their AI partnership with Llama 2 on Azure and Windows - The Official Microsoft Blog

Llama 2는 2조 개의 토큰으로 트레이닝되고 있으며, 이전 세대인 Llama(Llama 1)에 비해 2배의 콘텍스트 길이를 취급할 수 있습니다. 또한, Lama 2는 파라미터 수마다 「7B(70억)」, 「13B(130억)」, 「70B(700억)」의 3개 모델 사이즈가 준비되어 있습니다.

Llama 2와  「MPT」 나  「Falcon」 이라는 오픈 소스 언어 모델의 벤치마크 결과를 나란히 표기한 것이 아래입니다.

Llama 2는 동등한 모델 사이즈에 있어서 다른 언어 모델의 스코어를 크게 웃돌고 있다는 것 외에, Llama 2는 Llama 1을 웃도는 스코어를 기록하고 있습니다.

게다가 Meta는 Microsoft, Amazon, IBM, NVIDIA, Qualcomm 등의 기술 기업과 협업하여 강력하게 Lama 2 개발을 진행할 것이라고 밝혔습니다. 이미 Microsoft는 Aure에서 Llama 2의 미세 조정 및 배포를 가능하게 하거나 Llama 2를 Windows에서 로컬로 작동할 수 있도록 최적화하겠다고 발표했습니다. 또한 Qualcomm은 2024년까지 Snapdragon이 탑재된 장치에서 Lama 2를 실행할 수 있을 것이라고 발표했습니다.

Llama 2 모델 데이터는 무료로 공개되어 있으며, 아래 페이지에서 이름과 소속을 입력하면 다운로드를 요청할 수 있습니다. 또한, Lama 2는 연구 목적뿐만 아니라 상업적인 이용 이용도 가능하다고 합니다.

Llama access request form - Meta AI
https://ai.meta.com/resources/models-and-libraries/llama-downloads/

Llama access request form - Meta AI

관련 글

Meta의 「Llama 2」를 누구나 브라우저에서 사용해 볼 수있는 「LLaMA2 Chatbot」공개

Meta의 「Llama 2」를 누구나 브라우저에서 사용해 볼 수있는 「LLaMA2 Chatbot」공개