기존의 AI는 화상 생성이나 문장 생성, 음성 분석 등 특정 분야에서 성능을 발휘하도록 특화된 기계 학습 알고리즘입니다만, 범용 인공 지능, 이른바「AGI - Artificial general intelligence : 인공 일반 지능」는 인간과 같이 인지능력과 정보처리능력을 가지면서 인간과 같이 다양한 분야의 과제를 해결할 수 있을 것으로 기대되고 있습니다. 현시점에서 AGI는 아직 실현되지 않았지만, AI개발단체 · OpenAI의 샘 · 알트만 CEO가 AGI 개발의 전망을 발표했습니다.
Planning for AGI and beyond
https://openai.com/blog/planning-for-agi-and-beyond/
Planning for AGI and beyond
Our mission is to ensure that artificial general intelligence—AI systems that are generally smarter than humans—benefits all of humanity. If AGI is successfully created, this technology could help us elevate humanity by increasing abundance, turbocharg
openai.com
알트만 CEO는 "우리의 임무는 인간보다 현명한 인공 지능으로 모든 인류에게 이익을 가져다주는 것입니다."라고 말하는 한편, 오용이나 사회적 혼란 등 심각한 리스크를 수반하고 있다고 지적합니다. 그럼에도 불구하고 AGI의 장점은 매우 크므로 AGI의 개발을 멈출 수 없으며 사회 전체가 AGI를 올바르게 사용하는 방법을 찾아야 한다고 주장합니다.
그리고 알트만 CEO는 OpenAI가 내걸고 있는 "AGI 개발을 위한 단기적인 전망"으로 다음의 3가지를 피력합니다.
첫째
AGI의 실현에 접근함에 따라 AI 개발 측이 AI를 사용하는 사회와 그 상황을 감안하여 신중을 기해야 한다는 것. AI가 사회에 진출할수록 편견과 싸우는 방법이나 실업에 대처하는 방법 등의 큰 문제에 직면할 것으로 예상되기 때문에 개발자 측은 사용자와 그 사용법에 주시하면서 AI의 전개를 생각할 필요가 있다고 알트만 CEO는 말합니다.
둘째
보다 일관성이 높고 제어하기 쉬운 모델의 개발에 임해야 한다는 것. AI를 어떻게 사용하는지는 사회가 매우 넓은 범위에서 합의하고, 그 범위 내에서 사용자 개인이 많은 재량을 가지는 것이 중요하다는 것. 이를 위해 OpenAI는 출시하는 AI의 초기 설정을 상당히 제한하고 사용자가 자신의 용도에 맞게 쉽게 동작을 조정할 수 있도록 할 계획이다. 또한 '처음부터 모든 것을 잘하는' AI를 갑자기 출시하는 것이 아니라 기술을 조금씩 전개하면서 지속적으로 사회에 적응해 나가야 한다고 주장했습니다.
셋째
AGI의 장점과 접근성, 거버넌스를 널리 공평하게 공유하기 위해 글로벌 대화가 이루어져야 한다는 것. 알트만 CEO는 기사 작성 시점에서 OpenAI는 비영리 단체라는 측면을 갖고, "안전성을 향상하기 위해 다른 조직을 지원한다", "주주가 얻을 수 있는 수익에 상한을 두어 무제한으로 이익을 얻고자 하는 인센티브나 치명적으로 위험한 기술을 전개하는 리스크를 회피한다"라는 원칙을 세우고 있다고 어필하였습니다.
게다가 새로운 시스템을 출시하기 전에 독립적인 감사를 받는 것도 중요하다고 제안하고 있으며, AGI의 개발 중지나 모델의 출시 타이밍에 대한 공적인 기준을 마련하는 것도 필요하다고 주장하고 있기 때문에, 세계의 주요 정부가 AI 개발에 대해 어느 정도 확립된 관점(기준)을 갖는 것이 중요하다고 말했습니다.
또한 '장기적인 전망'으로 알트만 CEO는 "인류의 미래는 인류에 의해 결정되어야 합니다. AGI를 구축하려는 모든 이니셔티브는 검토되어야 하며, 주요 결정에 대한 공개 협의가 이루어져야 합니다. 현재의 개발 속도가 유지된다면, 미래의 세계는 지금과는 크게 다를 수 있으며, 그 위험은 헤아릴 수 없을 것입니다. AGI의 조정을 잘못하면 세계에 심각한 피해를 끼칠 것입니다."라고 주장하였습니다.
알트만 CEO는 "초지성의 AGI를 가진 세계로 이동하는 것은 아마도 인류 역사상 가장 중요하고, 희망차면서도 무서운 프로젝트일 것입니다. 성공할지 어떨지는 보증되지 않았고, 그 플러스면과 마이너스면에 한계가 없으니, 바라건대 전 인류를 단결시키는 것이었으면 좋겠습니다. 우리는 아직 그 누구도 상상할 수 없었던 번영을 인류에게 가져올 수 있는 AGI를 세계에 제공하고자 노력하고 있습니다."라고 코멘트하였습니다.
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| 일론 머스크 씨가 "ChatGPT의 라이벌" 개발 팀을 모집 중이라고 보도 (0) | 2023.03.01 |
|---|---|
| Meta의 CEO가 인스타, 왓츠앱 및 메신저를 위한 AI 개발 팀을 설립했다고 발표 (0) | 2023.03.01 |
| ChatGPT가 게임 '포트 나이트'에 숨겨진 암호를 해독 (0) | 2023.02.28 |
| Meta가 대규모 언어 모델「LLaMA」를 발표, GPT-3에 필적하는 성능 (0) | 2023.02.28 |
| 최강의 바둑 AI에게 압승한 인물이 등장, AI의 약점을 공략하여 인류가 승리했다고 화제 (0) | 2023.02.27 |
| 문장을 쓴 것이 인간인지 AI인지를 구별하는 툴「GPTZero」의 정밀도는 어느 정도인가? (0) | 2023.02.27 |
| 중국 기업이 잇달아 ChatGPT 같은 스타일의 제품을 개발 중 (0) | 2023.02.16 |
| Microsoft가 AI를 이용한「메일 회신내용 제안」,「문장 자동 수정」,「그래프 자동 생성」기능을 Office에 추가할 예정 (0) | 2023.02.15 |
