GPT가 클라우드에서 다른 AI를 훈련하는 「자율형 엣지 AI시스템」을 Microsoft가 제안

 

ChatGPT의 핵심인 대규모 언어 모델(LLM) 「GPT」를 사용해 다른 AI를 훈련하고 스마트폰, 자동차, 공장에 이르기까지 다양한 것을 제어하여 최적화하는 시스템을 Microsoft가 2023년 7 월 6일에 논문으로 제안했습니다.
 
AI에는 ChatGPT와 같이 대규모 데이터센터에서 가동되고 인터넷을 통해 이용할 수 있는 「클라우드 AI」와 스마트폰, 자동차, 공장 등에서 가동되는 「엣지AI」가 있습니다.

이번 시스템은 「클라우드 AI」에 「엣지AI」를 지도 및 훈련시켜 다양한 기기나 설비의 제어를 최적화하기 위한 것입니다.
 
「엣지AI」를 잘 움직이기 위해서는 센서와 적절히 연계시키거나 사용자로부터 요구가 있을 경우 커스터마이즈 할 필요가 있습니다. 기존에는 다양한 분야의 인간 전문가들이 모여 각종 매뉴얼 등을 읽고 조정 및 모델을 훈련하기 위한 프로그래밍 코드를 작성해야 했습니다.
 
그러나 GPT는 매뉴얼을 읽고 코드를 작성하는 능력이 우수합니다. 또한, AI 등의 기능을 외부에서 이용하기 위한 API(어플리케이션 프로그래밍 인터페이스)의 관리나 새로운 AI 모델의 설계, 센서의 편성 등에서도 효과를 발휘한다는 것이 이미 확인되고 있습니다.
 
Microsoft가 제안하는 시스템에서는 GPT를 클라우드 환경에 상주시키고 다른 AI 모델을 디바이스와 에지 서버에 배치함으로써 처리 지연 시간을 줄입니다.
 
유저가 일상회화 등과 같은 '자연언어' 형태로 요청을 보내면, 우선 GPT가 받아, 엣지 AI가 처리할 수 있는 형식으로 변경하여 전송합니다. 또한, 필요에 따라 새로운 엣지 AI를 훈련하기 위한 코드도 생성합니다. 「연합 학습(Federated learning)」의 구조를 이용하는 것으로 유저의 프라이버시 보호도 도모합니다.
 
Microsoft는 이 논문이 GPT를 활용한 자율형 엣지 AI 시스템에 대한 최초의 제안이라고 발표하고 있습니다.