채팅 AI의 진화 속도는 엄청난 것으로, 차례차례로 새로운 언어 모델이 등장하고 있습니다. ChatGPT만으로도 벌써 여러 버전이 존재하고 있으며, 특정 용도에 특화된 언어 모델도 등장하고 있기 때문에 어떤 모델을 선택하면 좋을지 망설이기 쉽습니다. Github의 전 CEO인 너트 프리드먼 씨가 개발하고 있는 「OpenPlayground」는, 그러한 복수의 언어 모델을 비교할 때에 도움이 되는 UI를 제공해 주는 툴입니다.
GitHub - nat/openplayground: An LLM playground you can run on your laptop
https://github.com/nat/openplayground
GitHub - nat/openplayground: An LLM playground you can run on your laptop
An LLM playground you can run on your laptop. Contribute to nat/openplayground development by creating an account on GitHub.
github.com
GitHub의 페이지를 보면 설치 방법이 두 가지 준비되어 있는 모양. 이번에는 Docker를 이용한 설치 방법을 사용해 보겠습니다.
Docker 설치 프로그램은 아래에서 무료로 다운로드할 수 있습니다.
Docker: Accelerated, Containerized Application Development
https://www.docker.com/
Docker: Accelerated, Containerized Application Development
Docker is a platform designed to help developers build, share, and run modern applications. We handle the tedious setup, so you can focus on the code.
www.docker.com
위 사이트에서 "Download Docker Desktop"을 클릭하여 설치 프로그램을 다운로드합니다. 파일 크기는 537MB입니다.
다운로드한 설치 프로그램을 시작합니다.
설치가 끝나면 "Close and restart"를 클릭하고 OS를 재부팅합니다.
재부팅 후 Docker의 데스크톱 앱이 시작되고 서비스 약관에 대한 동의가 표시되므로 "Accept"를 클릭합니다.
이것으로 설치가 종료됩니다. 오른쪽 상단의 "×"를 클릭하여 창을 닫습니다.
Docker를 시작할 수 있으면, 아래 명령어를 프롬프트에 입력하기만 하면 됩니다. 필요한 데이터가 자동으로 다운로드됩니다.
$ docker run --name openplayground -p 5432:5432 -d --volume openplayground:/web/config natorg/openplayground
설치가 완료되면 브라우저를 시작하고 "localhost:5432"를 열면 OpenPlayground 페이지가 열립니다.
먼저 설정 페이지에서 각 채팅 AI와 연결해야 합니다. 왼쪽 열을 보면 "openai, cohere, huggingface, huggingface-local, anthropic, aleph-alpha, openplayground"와 연결할 수 있다는 것.
이번에는 OpenAI에 연결해 보겠습니다. OpenAI의 API 키를 입력하고 비교 후보 모델을 확인합니다. 이번에는 위에서 4개의 "text-ada-001", "text-babbage-001", "text-curie-001", "text-davinci-003"을 선택해 보았습니다.
우선은 단독으로 동작을 확인합니다. 모델을 선택하고 문자를 입력하고 "제출"을 클릭하면...
AI가 생성한 텍스트가 하이라이트로 추가되었습니다.
동작 확인이 완료되면 Compare 탭으로 이동합니다. 오른쪽 하단에 앞서 후보에 넣은 채팅 AI가 줄지어 있습니다.
오른쪽 하단의 채팅 AI를 선택하면 왼쪽에 해당 모델의 테두리가 표시됩니다.
위의 입력란에 텍스트를 넣고 「Submit」를 클릭하면, 전체 AI가 동시에 답해 준다는 것. AI별로 어떤 답변이 반환되는지 비교할 수 있습니다.
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| 게임 NPC에 ChatGPT를 주입하니 마음대로 파티 계획을 세우기 시작했다 (0) | 2023.04.11 |
|---|---|
| 대부분의 패스워드를 1분 이내에 크래킹할 수 있는 AI 「PassGAN」이 등장 (0) | 2023.04.11 |
| 삼성 엔지니어가 ChatGPT에 사외 비공개 소스 코드를 붙여 넣는 보안 사안이 발생 (0) | 2023.04.10 |
| 중국어판 ChatGPT 「ERNIE Bot」의 가짜 앱이 App Store에 대량 발생 (0) | 2023.04.10 |
| ChatGPT가 어떻게 문장을 인식하는지 한눈에 알 수 있는 'Tokenizer' (0) | 2023.04.07 |
| 11세 소녀가 AI를 이용하여 백내장 등의 눈병을 70% 정밀도로 검출하는 앱 개발 (0) | 2023.04.07 |
| 스탠퍼드 대학이 「AI Index Report 2023」을 공개, AI의 실태를 보고 (1) | 2023.04.07 |
| Meta가 사진에 찍힌 물체를 분리하는 AI 모델 'Segment Anything Model' 공개 (0) | 2023.04.07 |
