OpenAI가 개발한 GPT-4와 ChatGPT의 성공을 계기로, 다수의 기업이나 AI개발단체가 AI의 연구 및 개발을 실시하고 있으며, AI분야는 급성장하고 있습니다. 그러나 급속한 발전을 이루는 AI는 '사회와 인류에 대한 심각한 리스크'가 있다고 하여, 일론 머스크 씨와 애플의 공동 창설자인 스티브 워즈니악 씨 등이 공개서한에 서명했습니다.
서한의 내용은 "적어도 6개월 동안, GPT-4를 넘는 AI의 즉각적인 개발 정지"입니다.
Pause Giant AI Experiments: An Open Letter - Future of Life Institute
https://futureoflife.org/open-letter/pause-giant-ai-experiments/
Elon Musk, scientists, tech leaders sign open letter about GPT-4, Open AI
Key lines from Elon Musk, others’ call to pause AI development
"Should we let machines flood our information channels with propaganda and untruth?"
www.axios.com
공개서한을 발표한 인공지능의 책임 있는 윤리적 개발을 추진하는 비영리 단체 Future of Life Institute는 "AI 개발의 물결이 거세지는 한편, 사회에 중대한 리스크를 초래할 위험이 있는, GPT-4나 ChatGPT와 같은 생성형 AI 개발에 대해서, 기업 및 규제상의 보호 조치가 절대 부족합니다."라고 주장하고 있습니다.
또한 서한에서는 AI의 연구과제와 윤리 등을 포함한 가이드라인인 아실로마 AI 원칙을 제시합니다.
아실로마 원칙에서 언급했듯이, "첨단 인공지능은 지구 생명의 역사에 큰 변화를 가져올 수 있으며, 적절한 주의와 리소스로 계획하고 관리해야 합니다."라고 말하며, "유감스럽게도 현재의 AI 개발은 이 수준에서 계획 및 관리가 이루어지지 않고 있습니다. 현재 AI 개발 단체는 AI 제작자조차도 이해, 예측, 통제할 수 없는 경쟁에 갇혀 있습니다."라고 비판하고 있습니다.
또한 "현대의 AI는 이제 시험과 프로그래밍 등의 일반적인 과제에서도 인간과 경쟁할 수 있을 정도로 성장하고 있습니다. 그래도 우리는 현재 인간이 하는 일을 AI로 자동화해야 할까요? 인간이 지금까지 길러온 문명을 잃을 위험까지 감수해야 할까요?"라고 의문을 제기하고 있습니다.
따라서 Future of Life Institute는 고급 AI 개발을 위한 공유 안전 프로토콜 세트를 공동으로 개발 및 구현하기 위해, 6개월간 최첨단 AI의 개발 및 교육을 즉시 중지해야 한다고 주장하고 있습니다. 또한, "개발 일시 정지는 공개되어 검증 가능한 것이어야 합니다. AI 개발의 일시 정지를 즉시 결정할 수 없는 경우, 각국 정부는 AI 개발 단체에 개입해야 한다."라고 주장하고 있습니다.
또한 Future of Life Institute는 "고성능 AI는 개발 효과가 긍정적이고 위험이 관리 가능하다고 확신하는 경우에만 개발해야 한다."라고 주장합니다. 이러한 Future of Life Institute의 주장에 대해 머스크 씨와 워즈니악 씨 외에 Skype의 공동 창립자인 장 탈린 씨와 Pinterest의 공동 창립자 에반 샤프 씨, 요슈아 벤 지오 씨, 스튜어트 러셀 씨 등의 저명한 컴퓨터 과학자 등, 1300명 이상의 서명이 모였습니다.
다음은 공개서한에 서명한 인물 목록의 일부입니다.
한편 OpenAI의 홍보 담당자는 "우리는 GPT-4의 훈련 종료 후 모델의 안전성에 관한 조정에 6개월 이상을 보냈습니다"라고 밝히며, Future of Life Institute의 서한에 서명하지 않는 모습을 보였습니다.
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| 오픈 소스 ChatGPT 「YakGPT」등장, 음성 입력도 가능 (0) | 2023.04.01 |
|---|---|
| 이미지 생성 AI 「Midjourney」가 '악용'을 이유로 무료 평가판 정지 (0) | 2023.03.31 |
| "기업의 기밀 데이터를 ChatGPT에 마음대로 입력한 적이 있다"는 사람이 대량 발생중 (0) | 2023.03.31 |
| 유로폴이 ChatGPT 등의 AI가 왜 범죄에 이용되기 쉬운지 정리 (0) | 2023.03.31 |
| 'ChatGPT' 등의 AI는 세계 GDP를 7% 증가시키고 3억 명의 고용에 영향을 미친다는 보고서 (0) | 2023.03.31 |
| 무료로 문장에서 동영상을 생성하는 AI 「Text2Video-Zero」리뷰 (0) | 2023.03.31 |
| GPT-4를 활용해 '보안의 새로운 시대'를 목표로 하는 「Microsoft Security Copilot」발표 (0) | 2023.03.30 |
| 오픈 소스 GPT 기반의 대규모 언어 모델「Cerebras-GPT」7종류를 누구나 다운로드 가능 (0) | 2023.03.30 |
