반응형 Anthropic 논문1 신경망의 내용을 분할하여 AI의 동작을 분석 · 제어하는 시도가 성공, 뉴런 단위가 아닌 '특징' 단위로 정리하는 것이 포인트 Google과 Amazon이 투자하는 AI 스타트업 Anthropic의 연구팀이 뉴럴 네트워크가 어떻게 언어나 이미지를 다루는지 밝혀내는 연구에서 개별 뉴런을 「특징(features)」이라는 단위로 정리하면 뉴럴 네트워크의 내용을 해석하기 쉬워진다는 연구 결과를 발표했습니다. Anthropic\Decomposing Language Models Into Understandable Components https://www.anthropic.com/index/decomposing-language-models-into-understandable-components 대규모 언어 모델은 다수의 뉴런이 연결된 신경망으로, 규칙 기반으로 프로그래밍되는 것이 아니라, 다수의 데이터를 바탕으로 트레이닝을 실시하는 것으로 .. 2023. 10. 11. 이전 1 다음 반응형
