본문 바로가기
AI · 인공지능/AI 뉴스

최신 정보에도 대응할 수 있는 GPT, PPLX Online LLMs의 「pplx-7b-online」&「pplx-70b-online」리뷰

by 두우우부 2023. 12. 1.
반응형

 
 
ChatGPT등의 채팅 AI에 「야구 경기 결과」, 「오늘 날씨」등의 정보를 물으면, 「최신 정보는 학습하지 않아서 대답할 수 없다」라는 취지의 대답이 돌아옵니다.

AI 개발 기업인 Perplexity가 개발한 대규모 언어 모델(LLM)은 인터넷상의 정보를 수집하여 최신 정보를 묻는 질문에도 답변할 수 있다는 것입니다.

이미 무료 데모 사이트도 준비되어 있었으므로 직접 확인해 보았습니다.

Introducing PPLX Online LLMs

Introducing PPLX Online LLMs

The first-of-its-kind Online LLM API

blog.perplexity.ai


Perplexity가 발표한 2종의 LLM 중,
「pplx-7b-online」은 「Mistral 7B」로 조정을 실시한 것이고,
「pplx-70b-online」은 「Llama2(70B)」로 조정을 실시한 것입니다.

다음은 2종의 모델을 이용한 채팅 AI의 데모 사이트입니다.

Perplexity Labs
https://labs.perplexity.ai/

데모 사이트의 외형은 이런 느낌으로, 화면 하단에는 「pplx-7b-online」모델을 사용하고 있음이 표시됩니다.

채팅을 시도하려면 화면 하단에 문장을 입력하고 "↑"버튼을 클릭하면 됩니다. 

우선은 한국어를 사용할 수 있는지 확인해 보았습니다.



뜬금포 일본어가 살짝 보입니다만, 일단 한국어 사용은 가능한 것 같습니다.

최신기사를 알고 있는지 시험해 봤습니다.



물어볼 기사의 작성시간을 위화 같이 확인하고, 바로 물어봤습니다.



제법 정확한 실시간 답변능력을 보여줍니다.
답변하는 체감 속도도 아주 좋습니다.



좀 더 가지고 놀면서 재리뷰를 해야겠습니다. ㅋㅋㅋ 개꿀~

덧붙여 「pplx-7b-online」과 「pplx-70b-online」는 유료 API도 준비되어 있습니다. 이용 가격은 아래에서 확인할 수 있습니다.

Pricing
https://docs.perplexity.ai/docs/pricing

반응형