「안전한 AI를 개발할 것」 을 AI 써밋 서울 2024에서 16개사가 합의

 
 
OpenAI, Google, Amazon, Meta, Microsoft 등 16개 사가 제2회가 되는 AI 써밋(정상회담)에서, AI의 안전성에 관해 일정한 합의에 이르렀다고 발표했습니다.

https://aisummitseoul.com/

AI Summit Seoul - AI Summit Seoul

Historic first as companies spanning North America, Asia, Europe and Middle East agree safety commitments on development of AI - GOV.UK

Historic first as companies spanning North America, Asia, Europe and Middle East agree safety commitments on development of AI

AI 정상 회담은 세계의 주요 AI 개발 기업이 참가하는 정상 회담으로, 제1회는 2023년 11월에 영국 브렛치리에서 개최, 제2회는 영국과 한국의 공동 개최로, 2024년 5월 21일 ~ 22일에 한국의 수도 서울에서 개최되었습니다.

써밋에서는 「안전한 AI를 개발하는 것」, 즉 리스크를 충분히 경감할 수 없다고 생각되는 경우에는 AI 모델을 개발 · 전개하지 않을 것과, 최첨단 AI를 가리키는 「프런티어 AI」의 안전성에 대해서 설명 가능한 거버넌스와 투명성 확보에 대한 합의가 이루어졌습니다.

반응형

합의한 것은 다음의 16사입니다.

・Amazon
・Anthropic
・Cohere
・Google/Google DeepMind
・G42
・IBM
・Inflection AI
・Meta
・Microsoft
・Mistral AI
・Naver 
・OpenAI
・Samsung Electronics
・Technology Innovation Institute
・xAI
・Zhipu.ai

「충분한 리스크 경감을 할 수 없는 경우」 에 있어서 리스크의 역치의 정의는, 정부를 포함한 관계자로부터의 의견을 도입한 뒤, 2025년 초에 프랑스에서 개최되는 「AI액션 써밋」 에서 발표될 예정입니다.

이번 합의에 대해 영국의 리시 총리의 코멘트는 다음과 같습니다.

전 세계의 여러 지역에서 이처럼 많은 AI 기업들이 AI의 안전성에 대한 노력에 합의한 것은 세계 최초입니다. 이러한 노력은 세계의 주요 AI 기업이 안전한 AI를 개발할 계획에 대한 투명성과 책임을 제공하도록 보장합니다. 이것은 AI의 안전성에 관한 글로벌 표준의 선례가 되는 것으로, 혁신적인 기술의 혜택을 해방하는 것입니다.

또한 과학 이노베이션 기술부 장관인 미셸 씨의 의견은 다음과 같습니다.

AI의 진정한 잠재력은 우리가 위험을 파악함으로써 처음으로 발현되는 것입니다. AI가 안전하게 개발되게 하는 것은 우리 모두의 책임이며, 이번 합의는 AI 기업의 노력을 강화하여 세계가 더 나아졌음을 의미합니다. 브렛치리 선언의 효과를 활용하여 AI의 안전성을 세계적 과제로 자리매김하고 타국을 지속적으로 자극하고 있습니다. 더 강력한 모델이 나타나고, 세계에서 더욱 많은 안전성 테스트가 진행되는 동안, 우리는 인공 지능의 위험을 관리하고 경제 성장을 위한 혁신의 잠재력을 제어하고자 하는 것입니다.

・브렛치리 선언(Bletchley Declaration)

영국이 처음으로 소집하였고 미국, 중국, EU 등을 포함한 AI 선진국이 2023년 11월 1일 영국 브렛치리 공원에서 최첨단 AI가 가져올 기회와 리스크, 중요한 과제를 해결하기 위해 각국 정부가 협력할 필요성에 대해 공통적인 이해를 확립한 세계 최초의 합의.

AI의 안전성에 관한 「브렛치리 선언(Bletchley Declaration)」에서는 EU 외에 아프리카, 중동, 아시아 등 세계 28개국이 참가해, AI가 국제사회의 이익에 기여하는 안전하고 책임 있는 방법으로 개발 · 도입되는 것을 보장하기 위한 새로운 세계적인 협력을 통해 잠재적 리스크 파악과 집단적인 관리가 긴급히 필요하다는 것에 합의하고 있다.

이 선언을 지지하는 국가에는 브라질, 프랑스, 인도, 아일랜드, 일본, 케냐, 사우디 아라비아 왕국, 나이지리아, 아랍 에미리트 연방이 포함된다.