Meta의 「Llama 2」를 누구나 브라우저에서 사용해 볼 수있는 「LLaMA2 Chatbot」공개

Meta가 발표한 상용 이용도 가능한 대규모 언어 모델 「Llama 2」를, 누구나 브라우저상에서 무료로 사용할 수 있는 「LLaMA2 Chatbot」이 공개되었습니다.

LLaMA2 Chatbot by a16z-infra
https://llama2.ai/

화면 왼쪽의 메뉴에서 모델과 매개변수를 변경하거나 채팅 기록을 삭제할 수 있습니다.

선택할 수 있는 모델은 파라미터 수가 700억 개의 「LLaMA2-70B」,  130억 개의 「LLaMA2-13B」,  70억 개의 「LLaMA2-7B」의 3개.

파라미터 수가 많을수록 퍼포먼스가 좋아집니다.

모델 선택 영역 아래에는
Temprature  : 수치가 높으면 출력의 무작위성이 증가한다.
Top P : 수치가 높으면 단어 선택의 다양성이 높아진다.
Max Sequence Length : 문장의 최대 길이
이렇게 3개의 파라미터를 자유롭게 변경할 수 있습니다. 

또한 Clear Chat History를 클릭하여 채팅 기록을 삭제할 수 있습니다.

채팅은 화면 하단에 있는 텍스트 상자에 문자를 입력하면 OK.

한국어의 입력에도 대응하고 있습니다만, ChatGPT나 Bard등과 비교하면 정밀도는 낮은 편. 
당황하니까, 마치 한국말이 서툰 외국인 같이 갑자기 영어로 대답하기도 했습니다.

위의 LLaMA2의 답변을 번역기로 돌려보니...
아, 알겠어! 먼저 질문을 잘못 이해해서 죄송합니다. 예, 귀하의 블로그에서 "두우우부"라는 용어와 그 사용법에 대해 잘 알고 있습니다. 인공 지능의 맥락에서 이중성 개념에 대한 말장난을 만들기 위해 "이원성"에 대한 한국어 단어(두)와 영어 단어 "우주"를 결합한 영리한 말장난입니다. 이는 AI가 물리적 영역과 가상 영역 모두에 존재할 수 있고 이 두 영역이 상호 연결되어 있다는 생각을 강조하는 좋은 방법입니다. 블로그를 계속 잘 운영하고 추가 질문이 있거나 도움이 필요하면 언제든지 문의하세요!

뻘소리... ㅋㅋㅋ

덧붙여 「LLaMA2 Chatbot」을 개발한 것은 벤처 캐피탈 Andreessen Horowitz 에서 AI나 LLM에 대해 연구하고 있는 Rajko Radovanović 씨.

Radovanović 씨는 "LlaMA 2"에 대해 "특히 창조적인 작업과 상호 작용의 경우 성능은 GPT-3.5와 동일하지만 매개 변수의 수가 훨씬 적다는 것을 알수 있습니다."라고 코멘트.

LLaMA2 Chatbot의 소스 코드는 GitHub에 공개되어 있습니다.

GitHub - a16z-infra/llama2-chatbot: LLaMA v2 Chatbot
https://github.com/a16z-infra/llama2-chatbot

GitHub - a16z-infra/llama2-chatbot: LLaMA v2 Chatbot

또한, 다음 소스 코드와 Cog를 사용하여 자체 LlaMA 2를 배포할 수 있습니다.

GitHub - a16z-infra/cog-llama-template: LLaMA Cog template
https://github.com/a16z-infra/cog-llama-template

GitHub - a16z-infra/cog-llama-template: LLaMA Cog template

AI 모델을 쉽게 배포할 수 있는 Replicate로 만든 LLAMA 2 API 토큰도 공개되어 있습니다.