챗봇 AI를 사용하여 전장에 지시를 내리는 '전쟁 AI'의 개발이 진행중

PayPal 창업자 피터 틸 씨가 설립한 빅데이터 분석 기업인 Palantir가 GPT-4와 같은 대규모 언어 모델을 사설 네트워크상에서 실행하기 위한 소프트웨어 「Palantir Artificial Intelligence Platform(AIP)」를 발표했습니다. Palantir는 소개 영상에서 "군대가 AI를 사용하는 방법"에 대해 설명합니다.

Palantir AIP | Defense and Military - YouTube

Palantir Demos AI to Fight Wars But Says It Will Be Totally Ethical Don't Worry About It

Palantir Demos AI to Fight Wars But Says It Will Be Totally Ethical Don’t Worry About It

Palantir 시나리오는 AIP으로 동유럽 내 활동을 감시하는 군사 운영자가 아군 근처에 적이 모이고 있다는 경고를 받는 것에서 시작됩니다. 경고를 받은 운영자는 챗봇에게 자세한 내용을 보여주도록 요청하고 자세한 정보를 얻은 후, 적의 유닛이 무엇인지 추측하도록 AI에게 요청합니다.

적 유닛을 파악한 오퍼레이터는 AI를 활용하여 아군 유닛을 효율적으로 편성, 다음으로 적을 노리기 위한 행동 지침을 AI에게 생성시켜, 그 지침을 자동적으로 아군에게 송신한다는 것.

드론을 사용하여 사진을 찍거나, 아군의 무기 소유 상황을 전원에게 공유하거나 하는 등의 정보 전달 행위는 모두 AI로 대용 가능하다고 하며, 인간은 챗봇에게 무엇을 해야 할지 물어만 보고, 그 행동을 승인하는 것 말고는 따로 할 일이 없다는 것입니다.

이거 이거... 군인도 AI로 인한 실직 위기에서 자유롭지 못하네요...

생성 AI를 활용한 전쟁이 현실감을 띠고 있는 가운데, 해외 미디어인 Vice는 생성 AI가 항상 올바른 대답을 하는 것은 아니라는 점을 우려하고 있습니다.

Palantir는 군 전용의 AI나 대규모 언어 모델을 판매하고 있는 것은 아니고, 기존의 시스템을 일괄 관리할 수 있도록 하고 있는 것만으로, 실제로 인간의 지시를 받아 결과를 출력하는 것은 FLAN- T5 XL이나 GPT-NeoX-20B등의 기존의 모델이 됩니다. 그러나 이러한 인공지능은 사실을 조작하거나 멍청한 대답을 반환할 수 있습니다.

Palantir는 이러한 문제를 개선하기 위해 AI의 기밀 데이터와 실시간 데이터를 모두 분석할 수 있다고 주장합니다. Palantir에 따르면 AIP를 사용하는 오퍼레이터가 조작을 시작하면 AIP가 이를 기록하고, AIP가 사용하는 대규모 언어 모델이나 AI가 무엇을 하고 있는지 파악할 수 있다는 것입니다.

Palantir는 "우리 플랫폼은 합법적이고 윤리적인 방식으로 AI를 군부에 통합한다"라고 말하고 있습니다.

관련글

페이크 정보부터 전투용 자율주행차까지, 우크라이나 전쟁에 사용된 군용 AI 총정리

페이크 정보부터 전투용 자율주행차까지, 우크라이나 전쟁에 사용된 군용 AI 총정리