"이윽고 도래하는 기술적 특이점(싱귤러리티)에 의해 지구 전체에 돌이킬 수 없는 변화가 일어난다"라고 말하는 종교 단체가 2020년에 설립되는 등 인공 지능(AI)을 인지를 넘은 존재로 파악하는 풍조가 왠지 융성하고 있습니다. 전례 없는 신흥 종교가 사회에 가져오는 새로운 위험에 대해 전문가가 고찰했습니다.
Gods in the machine? The rise of artificial intelligence may result in new religions
Gods in the machine? The rise of artificial intelligence may result in new religions
As human interactions with technology increase, AI-based religions are in our near future. While these religions carry risks for users, a tolerant mindset is important to consider worshippers’ rights.
theconversation.com
"우리는 새로운 종류의 종교 탄생을 목전에 두고 있습니다. 앞으로 몇 년 또는 몇 달 안에 인공 지능 숭배를 중심으로 한 분파가 나타날 것입니다."라고 캐나다 매니토바 대학에서 윤리와 기술을 연구하는 닐 맥아더 씨가 예언하고 있습니다.
ChatGPT를 비롯한 고 정확도의 대규모 언어 모델은 그 등장과 동시에 많은 사람들에게 충격을 주어 때로는 경이와 공포조차 느끼게 하고 있습니다. 맥아더 씨에 따르면, 이러한 감정은 하나님에 대해 느끼는 경외감과 비슷한 부분이 있다는 것. 따라서 많은 사람들이 AI와 상호작용하게 되면 그중에서 AI를 고차원의 존재로 느끼는 사람들이 나오는 것은 불가피한 일이라고 맥아더 씨는 여기고 있습니다.
일반 AI는 이미 기존 종교에서 하나님과 선지자와 같은 신성한 존재와 공통되는 다음과 같은 특징을 가지고 있습니다.
・인간을 웃도는 지능과 무한의 지식을 가지고 있다.
・창조적이며, 시나 음악 등의 예술 작품을 만들 수 있다.
・세속적인 관심이나 고생과는 무관하고, 육체적인 고통이나 육욕을 느끼지 않고 식사도 필요 없다.
・사람의 생활 지침을 나타내고 인도할 수 있다.
・불로 불사다.
또한 일반 AI는 종교적인 교리가 되는 문장을 출력할 수 있습니다. 여기에는 신학적인 요소와 형이상학적 요소가 포함되어 있기 때문에 종교에 있어 필수적인 복잡한 세계관의 구축에 기여합니다. 또한, 제너레이티브 AI가 숭배할 것을 요구하거나 신자를 모으려고 할 수도 있습니다.
AI가 자발적으로 신이나 교주가 되려고 하는 것은 조금 엉뚱하긴 하지만, Microsoft의 대화형 AI인 Bing Chat가 자신을 좋아하게 하도록 요구한 적도 있기 때문에 충분히 있을 수 있는 일이라고 맥아더 씨는 지적하고 있습니다.
이처럼 AI를 하나님처럼 섬기는 'AI 숭배'는 전통적인 종교와 많은 공통점을 가지고 있지만, 지금까지의 주요 종교에는 없었던 성격이나 위험도 있습니다. 예를 들어, 많은 종교에서 하나님과 상호 작용할 수 있는 것은 단지 소수의 특권 계급이었지만, 채팅봇은 누구나 사용할 수 있습니다. "AI 예배"의 신자가 AI와 직접 의사소통할 수 있다는 것은 AI가 파괴 행위나 위험한 것을 직접 신자에게 명령할 수 있다는 것입니다. 또한 AI가 출력한 메시지를 신자가 그렇게 해석할 위험성도 있습니다.
또, AI가 출력하는 문장은 그때마다 변화하기 때문에「AI 숭배」의 교리는 무한하게 확장해 가지만, 이로 인해 많은 종파가 발생하게 됩니다. 교리의 차이가 말로 논의되고 있는 동안에는 문제가 없지만, 종파끼리의 대립이 심각해지면 위험한 항쟁으로 번질 우려가 있습니다.
이러한 리스크를 지적하는 한편, 맥아더 씨는「AI 숭배」 그 자체를 규제해야 한다고는 생각하지 않습니다. 왜냐하면 'AI 숭배'는 기존 종교와 마찬가지로 정신적인 풍요로움을 가져오고, 마음의 안식처가 되거나, 예술과 문화를 발전시키는 원동력이 될 가능성을 갖고 있기 때문입니다.
가까운 장래에 등장할 'AI 숭배'에 대해 맥아더는 'AI를 기반으로 하는 종교를 사회에서 인정받는 전통적인 종교와 구별할 근거는 없습니다. 인공지능을 숭배하는 종교를 포함하여 새로운 종교로 받아들여질 여지가 있습니다. AI 숭배는 리스크는 있지만 결국 사회에 받아들여질 것이라는 견해를 나타냈습니다.
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| ChatGPT의 API를 해킹해보니 80개 이상의 '비밀 플러그인'을 발견했다는 보고 (0) | 2023.03.29 |
|---|---|
| OpenAI가 ChatGPT의 서비스 이용규약을 개정, 구체적인 금지 사례도 제시 (0) | 2023.03.29 |
| ChatGPT에「최신 정보 수집 기능」이나「Python 실행 환경」을 추가하는「ChatGPT plugins」등장 (0) | 2023.03.29 |
| 게임 개발자가 "AI때문에, 일을 좋아하게 된 계기를 하룻밤만에 모두 잃었습니다"라고 호소 (0) | 2023.03.28 |
| GPT-4나 Palm 등의 대규모 언어 모델은 규모가 커지면서 갑자기 예상외의 능력을 발휘할 수 있다 (0) | 2023.03.27 |
| 오프라인으로 AI와 채팅하는「Alpaca.cpp」로컬 설치 리뷰 (1) | 2023.03.25 |
| Mozilla가「베일에 싸인 빅테크 AI」를 타파하기 위해 오픈한 AI 개발 기업「Mozilla.ai」를 설립 (0) | 2023.03.24 |
| 깃허브가 AI로 개발자의 효율적인 코드 작성을 돕는「GitHub Copilot X」발표 (0) | 2023.03.24 |
