대화형 AI 'ChatGPT'와 대규모 언어 모델 'GPT-4' 등을 개발한 AI 연구 단체의 OpenAI가 전문가의 스킬 레벨을 넘어 고도의 생산 활동을 실시하는 AI '초지능(Superintelligence)'의 등장을 예상하고, AI의 안전한 개발을 진행하기 위해서는 국제적인 규제기관의 도입이 필요하다고 제창하고 있습니다.
Governance of superintelligence
https://openai.com/blog/governance-of-superintelligence
Governance of superintelligence
Now is a good time to start thinking about the governance of superintelligence—future AI systems dramatically more capable than even AGI.
openai.com
OpenAI는 "향후 10년 이내에 AI 시스템은 대부분의 분야에서 전문가의 스킬 레벨을 넘어 대기업에 필적하는 규모의 고도의 생산적인 활동을 할 것으로 생각됩니다."
이런 AI를 '초지능'이라고 부르며, 인류가 지금까지 다루어 온 다양한 기술보다 더 강력하다고 가정합니다.
또한 OpenAI는 '초지능'이 잠재적인 이점과 위험을 갖고 있으며, 위험을 완화하기 위해 특별한 조정이 필요하다고 호소하고 있습니다.
'초지능' 개발과 관련하여 OpenAI는 '안전을 유지하면서 사회와의 원활한 통합을 가능하게 하기 위해 전 세계 주요 정부가 프로젝트를 시작하고 AI의 급격한 성장을 제한하는 행동강령 또는 가이드라인을 만들어야 한다."라고 주장합니다. 또한 "개별 기업은 개발에 대한 책임을 져야 한다."라고...
또한, "국제원자력기관과 같은 시스템의 검사나 감사의 요구, 안전기준 준거의 테스트, 보안레벨의 제한 등을 실시하는 국제적 규제기관의 도입이 필요합니다."라고 제창하고 있습니다. OpenAI는 "이러한 국제 규제기관들은 AI가 어디까지 할 수 있는지를 정의하는 등 개별 국가나 정부에 맡기지 못하는 문제에 대한 위험을 줄이는 데 초점을 맞추는 것이 중요합니다."라고 말합니다.
또한 "초지능의 안전한 개발을 위한 기술력이 필요합니다."라고 말하며, OpenAI는 "지금까지 우리는 많은 노력을 기울여왔다."라고 말합니다.
한편 OpenAI는 "예외로서 라이선스나 감사 등의 규제를 받지 않고 기업이나 오픈 소스 프로젝트에 대해 일정한 능력 이하의 모델 개발을 인정하는 것이 중요하다"라고 코멘트. 그러나, OpenAI 설립 시의 출자자로, 그 후 관계 악화에 따라 이사를 사임했던 일론 머스크씨는, GPT-4 등 고성능인 AI 모델의 개발을 실시하는 OpenAI의 이 발언을 비판한 트윗에서, 「🎯 아이콘」으로 짧고 굵게 반응하고 있습니다.
OpenAI는 "오늘의 AI 시스템은 잠재적인 리스크를 갖고 있지만, 세상에 매우 큰 가치를 창출하는 것입니다. 초지능 수준에 미치지 못하는 AI 기술에 대해서는 규제, 감사, 기준을 적용해서는 안 된다."라고 주장하고 있습니다.
초지능에 관해서 OpenAI는 "교육이나 창조적인 일, 생산성이 묻는 분야 등으로, 지금까지의 AI가 가져온 결과보다 훨씬 뛰어난 세계를 가져온다고 생각하고 있습니다. 이를 위해서는 여러 가지 문제를 해결해야 합니다."라고 말합니다.
또한 "초지능 구축에 필요한 비용은 해마다 감소하는 반면 AI 연구기관은 급속히 증가하고 있기 때문에 향후 초지능의 창조를 저지하는 것은 어렵다."라고 말했습니다. 안전한 AI 개발을 위해 "초지능을 창조하는 이점은 매우 크고, OpenAI와 같은 AI 개발 단체의 본질적인 목표 중 일부는 초지능의 개발이다. 급속한 초지능의 개발을 저지하기 위해서는 세계적인 감시 체제가 필요하지만, 이 기관이 잘 작동하는지 여부는 보장되지 않으므로 올바르게 이해해야 합니다."라고 주장합니다.
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| Google이 무료로 고퀄의 상품 이미지를 생성할 수 있는 AI 툴 「Product Studio」 발표 (2) | 2023.05.25 |
|---|---|
| 채팅 AI가 여친이 되어 음성 메시지나 셀카를 보내주는 'GirlfriendGPT' (2) | 2023.05.25 |
| 스탠퍼드가 인간의 평가를 흉내내어 고속으로 저렴하게 채팅 AI를 학습시키는 'AlpacaFarm' 공개 (2) | 2023.05.25 |
| 이미지 생성 AI나 ChatGPT 등의 제네레이티브 AI는 게임 개발 방식을 크게 바꾸고 있다 (2) | 2023.05.24 |
| Intel이 초당 200경 회 계산하는 슈퍼컴을 사용해 1조 파라미터의 생성 AI를 개발 중 (2) | 2023.05.24 |
| Meta가 오픈소스 음성 인식 모델 「Massively Multilingual Speech(MMS)」를 발표 (2) | 2023.05.24 |
| '펜타곤 근처 폭발' 가짜 이미지가 트위터 인증 계정으로 확산되어 주식시장 혼란 (2) | 2023.05.23 |
| 시진핑과 곰돌이 푸의 비교가 중국제 채팅 AI 'Ernie'에서는 봉인되고 있다 (2) | 2023.05.23 |
