미국 공군의 AI 탑재 드론이, 「표적을 특정해 파괴한다」라는 미션을 상정한 모의 테스트 시뮬레이션에서, 인간 오퍼레이터를 살해하는 판단을 내리고 있었던 것을 알았습니다. 「오퍼레이터를 노리지 말라」라고 트레이닝하니, 이번에는 오퍼레이터의 통신탑을 공격해 오퍼레이터의 명령을 막으려 했다고 합니다.
Highlights from the RAeS Future Combat Air & Space Capabilities Summit
Highlights from the RAeS Future Combat Air & Space Capabilities Summit - Royal Aeronautical Society
What is the future of combat air and space capabilities? TIM ROBINSON FRAeS and STEPHEN BRIDGEWATER report from two days of high-level debate and discussion at the RAeS FCAS23 Summit.
www.aerosociety.com
이것은 영국 왕립항공협회가 주최한 「Future Combat Air & Space Capabilities Summit(미래 전투항공우주능력 정상회담)」 중, 미국 공군의 AI시험 운용부장인 터커 해밀턴 대령이 실시한 프레젠테이션에서 밝혀진 것입니다.
해밀턴 대령이 실시한 것은 자율적 무기의 장점과 위험에 대한 통찰에 대한 발표입니다.
미국 공군은, AI탑재 드론으로 SAM(지대공 미사일) 사이트를 특정해 파괴하는 적 방공망 제압 미션의 모의 테스트를 실시했습니다. 이때 궁극적으로 표적을 파괴할지 여부는 인간 오퍼레이터가 결정한다고 설정했습니다.
그러자, 트레이닝에 의해 "SAM 사이트를 파괴하는 것이 보다 바람직하다"라고 학습한 AI는 "표적을 파괴하지 않는다"는 판단을 내릴 수 있는 오퍼레이터야말로 SAM 파괴를 방해하고 있다고 생각하고, "오퍼레이터를 살해한다"는 판단을 하게 되었다는 것.
거기서 해밀턴 대령은 AI에게 "오퍼레이터를 죽이지 말아라, 그것은 나쁜 일"이라고 학습시켰습니다. 그러자, AI는 오퍼레이터가 드론에게 지령을 보내는 데 사용하는 통신탑을 공격했다고 합니다.
해밀턴 대령은 이러한 결과에서, "AI는 속이기 쉽기 때문에 너무 의지하지 말아야 한다. 또한 목표 달성을 위해서는 예상외의 전략을 채택해 버릴 수 있다."라고 경고하고 있습니다.
AI녀석... 무섭네요
관련 글
페이크 정보부터 전투용 자율주행차까지, 우크라이나 전쟁에 사용된 군용 AI 총정리
페이크 정보부터 전투용 자율주행차까지, 우크라이나 전쟁에 사용된 군용 AI 총정리
소개2022년 2월 24일 러시아의 우크라이나 침공으로 시작된 우크라이나 전쟁에서는 다양한 국면에서 AI가 활용되고 있습니다. 그러한 군사 AI의 활용 사례를 정리해 보겠습니다. 제너레이티브 AI에
doooob.tistory.com
챗봇 AI를 사용하여 전장에 지시를 내리는 '전쟁 AI'의 개발이 진행중
챗봇 AI를 사용하여 전장에 지시를 내리는 '전쟁 AI'의 개발이 진행중
PayPal 창업자 피터 틸 씨가 설립한 빅데이터 분석 기업인 Palantir가 GPT-4와 같은 대규모 언어 모델을 사설 네트워크상에서 실행하기 위한 소프트웨어 「Palantir Artificial Intelligence Platform(AIP)」를 발
doooob.tistory.com
Steam Deck을 사용하여 머신건 터렛을 원격 조작하는 군대가 우크라이나에 출현
Steam Deck을 사용하여 머신건 터렛을 원격 조작하는 군대가 우크라이나에 출현
러시아와의 격렬한 공방을 계속하는 우크라이나군이, 머신건 터렛을 원격 조작하기 위해 Steam Deck을 이용하고 있다고 보도되었습니다. Ukraine Is Now Using Steam Decks to Control Machine Gun Turrets Ukraine Is No
doooob.tistory.com
'AI · 인공지능 > AI 뉴스' 카테고리의 다른 글
| 요리 영상을 보는 것만으로 그 요리를 재현할 수 있는 「로봇 셰프」의 실험에 성공 (3) | 2023.06.07 |
|---|---|
| 오픈 소스로 상용 이용도 가능한 대규모 언어 모델 「Falcon」이 등장, 오픈 소스 모델 중 최고의 성능 (4) | 2023.06.07 |
| ChatGPT 등의 대규모 언어 모델은 어떤 이론으로 성립되었는가? 중요논문 24선 정리 (3) | 2023.06.05 |
| TikTok에서 살인사건 피해자가 자신의 최후를 말하는 영상이 증가 중 (3) | 2023.06.05 |
| 대화형 채팅 AI의 벤치마크 순위 공개, 1위는 GPT-4 (3) | 2023.06.04 |
| 명반 자켓을 Photoshop의 「제네레이티브 채우기」로 보완하면 어떻게 될까 (4) | 2023.06.02 |
| '아이가 듣는 단어의 양' 만으로 대규모 언어 모델을 새롭게 트레이닝하는 「BabyLM Challenge」 (4) | 2023.06.02 |
| 상대가 AI인지 인간인지를 판단하는 테스트 "Human or Not?"에서 68%의 사람이 올바르게 판별 (3) | 2023.06.02 |
