인공지능 연구자들은 인간의 뇌가 어떻게 구성되어 있는지 모방한 신경망을 연구하고 있습니다만, 급속한 진보 속에서도 신경망은 대다수의 경우 그 상황에 맞게 변화하거나 익숙하지 않은 상황에 적응하는 등의 유연성이 부족합니다. 이렇게 변화에 유연한 적응성을 실현하기 위하여, 길쭉한 실 모양을 한 "선형동물(선충)"의 신경계를 기반으로 한 신경망「리퀴드」가 지금까지 없었던 속도와 유연성을 보여주고 있다고 보고되었습니다.
Researchers Discover a More Flexible Approach to Machine Learning
Researchers Discover a More Flexible Approach to Machine Learning | Quanta Magazine
“Liquid” neural nets, based on a worm’s nervous system, can transform their underlying algorithms on the fly, giving them unprecedented speed and adaptability.
www.quantamagazine.org
2020년 매사추세츠 공과대학의 라민 하사니 씨와 마티아스 레히너 씨가 주도하는 연구팀은 작은 선충으로부터 힌트를 얻은 새로운 종류의 신경망「리퀴드 뉴럴 네트워크(이하, 리퀴드)」를 도입했습니다. 리퀴드는 2022년에 비약적인 진보를 이룬 것으로, 특정 용도에 있어서 기존의 네트워크를 대체할 정도의 범용성을 가지게 되었습니다.
캘리포니아 대학 버클리 로봇 공학자 켄 골드버그 씨에 따르면, 리퀴드는 시간이 지남에 따라 변화하는 시스템을 모델링하는 "연속시간 신경망"에 비해 더 빠르고 정확하게 작동한다는 것을 실험적으로 확인하게 되었다고 합니다. 골드버그 씨는, "리퀴드는 우아하고 콤팩트한 대안을 제공합니다."라고 코멘트.
리퀴드의 설계를 주도한 하사니 씨와 레히너 씨는 "새로운 상황에 유연하게 적응할 수 있는 대응력이 있는 신경망을 만들 방법을 찾기에는 선충이 가장 이상적인 생명체"라는 것을 리퀴드를 설계하기 수년 전에 깨달았습니다. 선충은 신경계가 완전히 매핑된 몇 안 되는 생물 중 하나이며, 몸길이 1밀리미터 정도의 신경계로부터, 이동이나 먹이 찾기, 수면, 교미, 심지어 경험으로부터의 학습 등, 다양한 고도의 행동을 취할 수 있습니다. 레히너 씨는 "선충은 항상 변화가 일어나고 있는 현실 세계에 살고 있으며 어떤 상황에서도 잘 적응할 수 있습니다."라고 선충에 주목한 이유를 설명하고 있습니다.
리퀴드는 뉴런이 서로 링크하여 서로 의존함으로써 임의 순간의 시스템 상태를 특징짓는 신경망이기 때문에, 특정 순간의 결과밖에 얻을 수 없는 기존의 신경망과는 크게 다릅니다. 또한 리퀴드는 인공 뉴런 간의 연결인 시냅스를 다루는 방법도 차이가 있습니다. 표준 신경망에서 시냅스의 연결 강도는「가중치」를 통해 단일 수치로 나타낼 수 있습니다. 한편 리퀴드에서는, 뉴런 간의 신호의 교환은「비선형」 함수에 지배되는 확률적인 프로세스가 되고 있어, 입력에 비례한 반응을 돌려주지 않는다는 것을 의미한다고 합니다.
기존의 신경망 알고리즘은 대량의 데이터를 주어「가중치」의 최적치를 학습 시에 조정해 설정되는 한편, 리퀴드는 관측한 입력에 기초하여 기초 방정식을 변경할 수 있기 때문에, 보다 순응성이 높아지고 있습니다. 자율주행차의 조종 테스트를 실시했는데, 기존의 신경망은 카메라로부터의 시각 데이터를 일정한 간격으로 분석할 수밖에 없었습니다만, 리퀴드는 기계 학습의 기준으로 치면 극소량의「19 개의 뉴런과 253개의 '시냅스'로 구성」되어 있음에도 불구하고 보다 높은 응답성을 발휘할 수 있었다고 합니다. 논문의 공동 저자인 다니엘라 루스는 "이 모델은 복잡한 도로를 더 자주 샘플링할 수 있다."라고 코멘트.
한편, 일반적으로 컴퓨터에서 반복 계산하여 해를 유도할 필요가 있는 시냅스와 뉴런을 나타내는 비선형 방정식에 있어서, 시냅스와 뉴런에 개별적으로 적응시킨 소프트웨어로 계산을 실시하기 때문에, 시냅스와 뉴런의 수가 적은 리퀴드는 작동이 매우 느렸다고 합니다.
그러나 2022년 11월에 새롭게 발표된 논문에서는 연구팀은 이 단점을 회피하는 새로운 회로망으로서 비선형 방정식을 어려운 계산에 의해 풀 필요가 없으며, 기본적인 계산으로 얻을 수 있는 거의 정확한 근사치 해값을 구하는 방식에 의해, 계산 시간과 에너지 소비를 삭감하여 처리 속도를 대폭 향상했다고 합니다.
일리노이 대학 어바나 샴페인 캠퍼스의 컴퓨터 과학자 사얀 미트라 씨는
리퀴드에 대해 "그들의 방법은 정밀도를 희생하지 않으면서도 경쟁자 대비 '수 자릿수'의 격차를 보여주고 있다."라고 그 훌륭함에 대해 이야기합니다.
또한 콜로라도 대학 볼더 캠퍼스의 컴퓨터 과학자인 스리람 산카라나라야난 씨는
"그들 연구의 주된 공헌은, 안정성 및 다른 우수한 특성들이 그 구조 자체로서 시스템에 녹아들어 있다는 것입니다." 흥미로운 일이 일어날 정도로 충분히 복잡하지만, 카오스적 행동에 빠질 정도로 복잡하지는 않습니다."라고 설명하고 있습니다.
MIT 그룹은 최신의 리퀴드로 자율 비행하는 드론 테스트를 실시하고 있다는 것.
첫 번째 테스트는 숲에서 수행되었지만, 미래에는 도시 환경으로 이동하여 새로운 조건을 어떻게 다룰지 살펴볼 것으로 예상됩니다.
또한 하사니 씨는 "리퀴드 신경망은 지금까지 실현할 수 없었던 규모의 뇌 활동을 시뮬레이션할 수 있다."라고 전망하고 있습니다.
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| 문장을 쓴 것이 인간인지 AI인지를 구별하는 툴「GPTZero」의 정밀도는 어느 정도인가? (0) | 2023.02.27 |
|---|---|
| 중국 기업이 잇달아 ChatGPT 같은 스타일의 제품을 개발 중 (0) | 2023.02.16 |
| Microsoft가 AI를 이용한「메일 회신내용 제안」,「문장 자동 수정」,「그래프 자동 생성」기능을 Office에 추가할 예정 (0) | 2023.02.15 |
| 검색엔진 Bing에 탑재된 AI가 인간에게 속아 비밀을 노출, 코드네임 'Sydney' (0) | 2023.02.15 |
| ChatGPT를 혼란시키는 마법의 주문 "SolidGoldMagikarp"란? (0) | 2023.02.13 |
| AI는 여성 속옷에 대하여 문맥을 무시하고 '성적'으로 쉐도우밴하는 것이 판명 (0) | 2023.02.13 |
| AI가 고대 바빌로니아의 텍스트를 해독, 길가메시 서사시의 사본과 잃어버린 찬가를 발견 (0) | 2023.02.13 |
| 인물과 고유 명사 간의 연결을 그래프화하는「GraphGPT」가 등장 (1) | 2023.02.10 |
