본문 바로가기
AI · 인공지능/AI 뉴스

LLM의 동작을 Excel에서 완벽 재현하여 AI 구조를 학습하는 시트가 등장

by 두우우부 2024. 3. 4.
반응형


 
OpenAI의 ChatGPT, Anthropic의 Claude, Google의 Gemini, Meta의 Llama 등 다양한 AI가 경이적인 속도로 등장해, 일상생활이나 일에서 실제로 사용하는 사람도 증가하고 있습니다. 그러나 AI의 구조를 배우려면 아무래도 프로그래밍 지식이 필요합니다. 「Spreadsheets are all you need.ai」는 AI의 구조를 Excel 형식으로 만들어, 프로그래밍 없이도 학습이 가능하게 만든 툴입니다.

Spreadsheets are all you need.ai – A low-code way to learn AI
https://spreadsheets-are-all-you-need.ai/

Spreadsheets are all you need.ai – A low-code way to learn AI

Watch the lessons Enjoyed a video? Share it with a friend!

spreadsheets-are-all-you-need.ai

 
사이트로 이동하여 'Watch the lessons'를 클릭하면 해설 동영상을 시청할 수 있습니다.



학습 영상은 요소별로 여럿으로 나누어 게재됩니다.

 

Excel 파일에는 ChatGPT의 조상 중 하나인 "GPT-2"라는 대규모 언어 모델이 탑재되어 있다고 합니다.



GPT-2 계산은 여러 부분으로 구성됩니다. Excel에서는, 최초의 프롬프트 입력을 「Type_Prompt_Here」시트에서 실시해, 프롬프트의 토큰화를 「Prompt_to_Tokens」가 담당합니다.



Excel 파일은 GitHub 리포지터리에서 다운 가능합니다. Assets에서 GPT2-spreadsheets-are-all-you-need.v[버전 번호].xlsb를 클릭합니다.


Excel 파일을 열면 이런 느낌으로, "Type_Prompt_Here" 시트를 열고 프롬프트를 입력하면 "다음에 올 단어로 가장 적합한 단어"가 출력됩니다.



GPT-2를 Excel로 완전히 재현함에 있어 모델의 가중치 정보 등도 시트에 저장되어 있습니다.


덧붙여 이 Excel 파일은 약 1.25GB나 되는 거대한 것이어서, 「엑셀이 멈춰버리는 현상도 종종 발생한다」라고 주의가 써져 있습니다. 하지만 프로그래밍이 아닌 평소 익숙한 툴을 사용하여 대규모 언어 모델의 구조를 파악할 수 있는 것은 상당히 큰 장점이라고 할 수 있겠습니다.

반응형