「AI의 개발 경쟁이 제어 불능이 되어 사회에 중대한 악영향을 가져온다」고 하여, AI 개발을 정지하도록 요구하고, 일론 머스크 씨나 스티브 워즈니악 씨 등 다수의 유명인이 서명을 했다는 공개서한에, 중국의 시진핑 주석을 비롯한 가짜 서명이 여럿 있었음이 보도되었습니다.
AI 연구자들은 공개서한을 작성한 비영리 단체, Future of Life Institute의 주장이 비현실적으로 과장된 면이 있었다며, 이 서한의 이념에 이론을 제기하는 목소리가 높아지고 있습니다.
The Open Letter to Stop 'Dangerous' AI Race Is a Huge Mes
The Open Letter to Stop 'Dangerous' AI Race Is a Huge Mess
The letter has been signed by Elon Musk, Steve Wozniak, Andrew Yang, and leading AI researchers, but many experts and even signatories disagreed.
www.vice.com
「컨트롤의 상실」을 우려로, GPT-4를 넘는 AI의 개발 정지를 즉각 요구하는 공개 서한
「컨트롤의 상실」을 우려로, GPT-4를 넘는 AI의 개발 정지를 즉각 요구하는 공개 서한
OpenAI가 개발한 GPT-4와 ChatGPT의 성공을 계기로, 다수의 기업이나 AI개발단체가 AI의 연구 및 개발을 실시하고 있으며, AI분야는 급성장하고 있습니다. 그러나 급속한 발전을 이루는 AI는 '사회와 인
doooob.tistory.com
Future of Life Institute는 서명의 진위에 대해 "직접 커뮤니케이션을 통해 독자적으로 검증했다"라고 합니다만, 공개로부터 얼마 지나지 않아 서명의 일부가 허위 및 스푸핑임을 알게 되었습니다. 해외미디어 머더보드에 따르면, OpenAI의 서명자는 없었음에도 불구하고, 서명 속에 OpenAI의 샘 올트먼 CEO의 이름이 있었다는 것.
마찬가지로, 서명자로 되어 있던 Meta의 수석 AI 과학자인 Yann LeCun 씨도, 이 서한이 전제로 하고 있는 내용에 동의할 수 없었기 때문에 서명하지 않았다고 부정하고 있습니다.
게다가 서명자 중에는 중국의 시진핑 주석 이름도 있었기 때문에 서명이 검증되지 않았을 가능성이 크다는 지적이 있었습니다.
또한, 서한의 내용도 의심받고 있습니다. 워싱턴 대학교의 교수이자, 공개서한에 인용된 논문의 저자이기도 한 에밀리엠벤더 씨는 "공개서한에는 AI에 대한 과장이 흘러넘치고 있다"라고 트윗하며 공개서한이 자신의 연구를 오용하고 있다고 비난했습니다.
Future of Life Institute는 벤더 씨의 연구를 논거로 "인간과 경쟁하는 지능을 가진 AI 시스템이 사회와 인류에 중대한 위험을 초래할 수 있다"라고 주장했지만, 벤더 씨는 "내 연구는 가상의 미래의 AI가 아니라 현재의 대규모 언어 모델에 대해 다룬 것입니다. ChatGPT는 쉽게 액세스 할 수 없는 정보원으로 설정을 변경하기만 해도 확실히 제어할 수 있습니다."라고 말하며, AI가 개발자조차 이해할 수 없는 통제 불능한 존재가 되고 있다는 서한의 주장은 부정하고 있습니다.
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| Meta가 사진에 찍힌 물체를 분리하는 AI 모델 'Segment Anything Model' 공개 (0) | 2023.04.07 |
|---|---|
| 넷상의 영상은 더 이상 신용할 수 없는 세상이 도래 (0) | 2023.04.06 |
| Midjourney와의 비교를 통해 본「Adobe Firefly」의 저작권 콘텐츠 회피 (0) | 2023.04.05 |
| 「LLaMA」를 Mac에서도 실행 가능한 「llama.cpp」가 불과 6GB 미만의 RAM에서 동작 (0) | 2023.04.05 |
| 무료로 노트북도 실행 가능한 70억 파라미터 채팅봇 「GPT4ALL」 발표 (0) | 2023.04.02 |
| 검열 없는 채팅 AI 「FreedomGPT」는 안전 필터가 없다 (0) | 2023.04.02 |
| 오픈 소스 ChatGPT 「YakGPT」등장, 음성 입력도 가능 (0) | 2023.04.01 |
| 이미지 생성 AI 「Midjourney」가 '악용'을 이유로 무료 평가판 정지 (0) | 2023.03.31 |
