생성 AI의 개발에 큰 영향을 미친 연구자인 Lion Jones 씨가 구글의 일본법인을 퇴직해, 스타트업을 세우기 위한 휴양에 들어갔다고, Bloomberg가 보도했습니다. 그는 이 분야의 개척자로 인정받고 있으며, 특히 저명한 논문 'Attention Is All You Need'의 공동 저자로 그 이름이 알려져 있습니다.
ChatGPT 등 대화형 AI의 기초가 되는 「Attention」을 가시화한 「Attention Viz」
ChatGPT 등 대화형 AI의 기초가 되는 「Attention」을 가시화한 「Attention Viz」
ChatGPT와 Bing Chat의 배경에 있는 대규모 언어 모델의 대부분은 Google이 개발한 신경망 아키텍처인 Transformer를 채용하고 있습니다. 이 Transformer의 열쇠가 되는 것이 「Self-Attention」이라고 하는 시스
doooob.tistory.com
존스 씨가 구글을 떠날 결정을 내린 것은 "AI의 기세와 진화를 근거로 하면 뭔가 새로운 것을 구축할 좋은 타이밍으로 느껴진다."라는 이유라고 합니다. Google은 존스 씨의 은퇴에 관한 계산서를 아직 발행하지 않았습니다.
존스 씨가 7명의 동료와 공저한 논문은 2017년에 발표되었습니다. 이 논문에서는 AI 모델이 분석 중인 데이터에서 가장 중요한 정보에 초점을 맞추는 것을 지원하는 'Transformer'의 개념이 제창되었습니다. 현재는 트랜스포머는 대규모 언어 모델(LLM)의 중요한 요소가 되었고, ChatGPT 등의 AI 제품을 지원하는 기술이 되고 있습니다.
기계 학습 모델 「Transformer」가 자연스러운 문장을 생성하는 구조
ChatGPT의 동작 원리 - 기계 학습 모델 「Transformer」가 자연스러운 문장을 생성하는 구조
ChatGPT 등 대화형 채팅 AI의 기반이 되는 대규모 언어 모델은 Google이 개발한 기계 학습 아키텍처인 'Transformer'를 채용하고 있습니다. 그런 Transformer가 문맥에 따른 자연스러운 문장을 출력하는 구
doooob.tistory.com
다만, 그 후로 다른 공동 저자는 차례차례로 다른 길로 나아가, LLM을 법인 고객에게 제공하는 캐나다 Cohere와 같은 신흥 기업을 세우는가 하면, 다양한 캐릭터와 대화할 수 있는 「Character.AI」등의 새로운 서비스를 시작했습니다. 존스 씨의 퇴직에 의해 드디어 전원이 Google을 떠나게 된 것입니다.
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| ChatGPT를 흉악한 폭언 머신으로 변모시키는 마법의 문자열 발견 (2) | 2023.08.01 |
|---|---|
| 대략 250조 규모의 게임업계가 AI의 등장으로 크게 변화하려 한다 (1) | 2023.07.31 |
| 3명의 AI 전문가가 미국 의회에서 증언, AI 연구의 1인자들의 시각은? (2) | 2023.07.27 |
| ChatGPT에 지시할 때, '처음'과 '마지막'에 요점을 쓰면 더 나은 답변이 돌아온다 (2) | 2023.07.27 |
| 대만의 TSMC가 AI용 고성능 반도체에 대응하는 첨단 공장을 신설 (2) | 2023.07.27 |
| 프레임간의 일관성을 유지한 채, 영상에 텍스트를 지정하여 변경하는 기술 「TokenFlow」가 등장 (2) | 2023.07.26 |
| ChatGPT의 지능이 급격히 떨어지고 있다는 연구 결과, 간단한 수학 문제 정답률이 98%에서 2%로 악화 (3) | 2023.07.25 |
| ChatGPT나 LiDAR 센서를 탑재한 가정용 로봇 개 「Unitree Go2」가 발매된다 (2) | 2023.07.25 |
