본문 바로가기
AI · 인공지능/AI 뉴스

대규모 언어 모델 「Phind」가 코딩에서 GPT-4를 능가

by 두우우부 2023. 11. 5.
반응형

 

생성 AI를 이용한 개발자용 검색 엔진 「Phind」가 코딩 능력에서 OpenAI의 GPT-4를 웃도는 것이 밝혀졌습니다.

Phind - AI Search Engine and Pair Programmer
https://www.phind.com/blog/phind-model-beats-gpt4-fast

 

 

Phind는 원래 Hello Cognition(beta.sayhello.so)로 알려진 개발자를 위한 검색 엔진으로, 2023년 3월경에 Phind라고 이름을 바꿔 리스타트하고 있습니다. Phind의 모델은 7세대로, 이것은 Meta가 릴리즈한 대규모 언어 모델 「Code Llama」를 기초로 독자적으로 파인 튜닝한 모델 「Phind-CodeLlama-34B 를 사용해 구축했다는 것.

Phind는 공식 사이트에서 계정 등록 없이 무료로 사용할 수 있습니다.

https://www.phind.com/

 

링크에 액세스 하면 아래와 같은 프롬프트 입력란이 나타납니다. 테스트로 아래와 같이 입력해 보았습니다.


 ChatGPT와 달리, 출력 결과의 참고가 된 리소스 사이트도 함께 표시되는 것이 특징입니다.

 

 


요리 방법 등 코딩에 무관한 질문도 대답해 줍니다.

 

 

7세대 Phind 모델은 대규모 언어 모델의 평가 지표 「HumanEval」에서 GPT-4를 웃돌아 오픈 소스 코딩 모델로서는 가장 뛰어난 평가를 얻을 수 있었다는 것.

Phind는 NVIDIA의 TensorRT-LLM 라이브러리를 사용하여, 싱글 스트림으로 초당 100 토큰의 처리가 가능하고, GPT-4의 5배 고속화를 달성하고 있다고 합니다. 게다가, Phind는 최대 1만 6000 토큰까지의 입력에 대응하고 있다고 합니다.

 


Phind의 Discord 커뮤니티에서는 유료 GPT-4에 액세스 할 수 있는 사용자조차도 Phind를 선택하는 경우가 많습니다. 운영자는 "Phind 모델은 여전히 ​​다듬어지지 않은 부분이 있으며, 개선을 계속 이어갈 것입니다."라고 코멘트하고 있습니다.

반응형