페이크 정보부터 전투용 자율주행차까지, 우크라이나 전쟁에 사용된 군용 AI 총정리

 

소개

2022년 2월 24일 러시아의 우크라이나 침공으로 시작된 우크라이나 전쟁에서는 다양한 국면에서 AI가 활용되고 있습니다. 그러한 군사 AI의 활용 사례를 정리해 보겠습니다.
 

제너레이티브 AI에 의한 가짜 정보의 확산

우크라이나 전쟁 발발 직후에는, 제너레이티브 AI에 의한 가짜 정보의 확산을 노린 활동이 다수 있었습니다. 미국 대형 미디어 NBC가 2022년 2월 28일에 공개한 기사에 따르면, Facebook과 Twitter의 가짜 계정에서 우크라이나에 불리한 정보가 발신되고 있었으며, 이러한 가짜 계정은 즉시 삭제되었습니다.

이 기사를 쓴 NBCNews의 수석 리포터 Ben Collins 씨는 2022년 3월 1일 우크라이나를 불리하게 하는 정보를 발신한 가짜 계정에 사용된 이미지에 대해 트윗했습니다. 그 계정은 'Vladimir Bondarenko'라는 이름으로 운영되었으며, 그는 우크라이나의 항공 인프라가 키우 출신의 항공 기술자로 인해 붕괴되었다는 거짓 정보를 확산시켰습니다. Collins 씨에 의하면, 가짜 계정에 사용되고 있던 얼굴 이미지는 제너레이티브 AI에 의해 제작되었을 때 종종 나타나는 귀의 누락이 있었습니다.

 
또한 헤럴드경제는 2022년 3월 17일, 딥 페이크의 군사 이용에 관한 기사를 공개했습니다. 이 기사는 Facebook과 YouTube에서 확인된 젤렌스키 대통령의 가짜 동영상을 언급합니다. 이 동영상은 젤렌스키 대통령이 우크라이나군에게 무기를 내려놓고 러시아군에 항복하라고 호소하고 있습니다만, 몸이 전혀 움직이지 않고 목소리도 대통령과는 다르게 들려, 곧바로 딥페이크 영상이라고 인정되어 대통령의 소셜미디어 계정 삭제로 이어졌습니다.

정치적 목적으로 제작된 딥페이크 양상은 젤렌스키 대통령이 처음은 아니고, 2021년에는 미얀마에서 이 나라의 전 지도자 아웅산 수치 여사가 뇌물을 받고 있는 것 같은 동영상이 확산되었습니다.

이미지 생성 AI의 대두와 동영상 생성 AI의 연구 개발이 진행되는 2023년 3월 시점에서는, 우크라이나 전쟁 초기에 비해 한층 더 고품질의 딥페이크 영상을 간단하게 제작할 수 있게 되었습니다. 향후 세계적으로 주목받는(미국 대통령 선거와 같은) 이벤트에서 제너레이티브 AI의 악용 사례가 보고될 가능성이 큽니다(주석 1).

주석 1
2023년 3월 21일 영국의 조사 보도 기관인 Bellingcat의 창립자인 Eliot Higgins는 "트럼프의 체포를 기다리는 동안 체포되는 트럼프의 사진을 만든다"라는 메시지와 함께 Midjourney V5에서 생성한 트럼프 전 미국 대통령이 체포되는 가짜 이미지를 트윗했습니다. 그 후, 2023년 3월 30일, 트럼프 전 대통령은 불륜 상대인 포르노 배우에게 돈을 지불하고 이를 무마하려 했다는 의혹을 둘러싸고 기소되었습니다. 테크계 미디어 'Ars Technica'가 2023년 3월 22일 공개한 기사에 따르면, Higgins는 이 트윗 이후 Midjourney의 계정 이용을 금지당했습니다.

 

이미지 인식을 통해 폭격 피해 평가

우크라이나 각지의 도시는 현재 러시아군에 의한 공중 폭격의 위험에 노출되어 있습니다. 이러한 폭격의 피해를 정확하게 아는 것은 군사적으로나 외교적으로 중요합니다. 이러한 사정을 배경으로 미국 샌프란시스코에 거점을 두고 있는 AI 스타트업 Scale은 2022년 3월 8일 폭격에 의한 피해를 평가한 라벨이 부착된 우크라이나 도시에 관한 위성 이미지를 제공한다고 발표했습니다.

이러한 이미지 제공을 기사로 보도한 안보 전문 미디어 『Defense One』의 2023년 1월 9일 자 기사에 따르면, Scale사는 2022년 3월부터 2023년 1월까지 키우, 하리코프, 도니프로를 포함한 우크라이나 위성 이미지 약 2,000 평방 킬로미터를 조사했습니다. 이러한 이미지에 포함되는 약 37만 동의 건조물의 피해 상황을, AI에 의해 평가한 것이었습니다. 이 기사에서 취재에 응한 Scale사의 간부 Shands Pickett 씨에 의하면, 위성 화상으로부터의 피해 상황을 AI에 학습시키는 것으로, 특정 무기에 의한 피해를 예측할 수 있게 된다는 것입니다.

폭격에 의해 파괴된 우크라이나 아파트

Scale은 우크라이나의 위성 이미지 제공 외에도 지대공 미사일 기지의 위성 이미지에서 공격의 징후를 AI로 분석하는 시스템과 대규모 언어 모델 서비스를 전개하고 있습니다.

 

AI에 의한 통신 해석으로 전황 파악

AI로 무선 통신을 해석하면, 교전하는 군대의 상황을 거의 실시간으로 파악할 수 있습니다. 미국·샌프란시스코에 있는 AI 스타트업 Primer.ai는 AI지원형 안보시스템을 개발·제공하고 있으며, 2022년 4월 4일에 공개한 블로그 기사에서 우크라이나 전쟁에 사용한 AI 시스템의 사례가 해설되어 있습니다.

우크라이나 군대에 제공되는 Primer.ai의 AI 시스템은 러시아군의 통신을 가로채고 동향을 파악하는데 활용되었습니다. 구체적으로는 먼저 인터넷을 통해 가로챈 러시아군의 통신에서 노이즈나 음악을 삭제해 데이터를 보정합니다. 보정된 데이터를 회사의 번역 엔진을 사용하여 러시아어에서 영어로 번역한 후 안보를 위해 개발된 AI 모델에 전달합니다. 이러한 AI 모델이 수행하는 작업은 다음과 같습니다.

ㅇ 통신을 분석하는 인간 분석가가 가장 흥미로운 음성 데이터에 정확하게 액세스 할 수 있도록 주요 오디오 주제를 찾아 식별
ㅇ 몇 시간에 걸친 음성 데이터를 분석하고 그 내용을 요약
ㅇ 러시아군이 발령하는 명령을 추출하고 타임스탬프 형식으로 정리
ㅇ 무기 분류기를 사용하여 군용 장비에 대한 언급을 식별
ㅇ 고유 표현 인식 (Named Entity Recognition : 약칭 NER) 엔진을 사용하여 통신에서 언급되는 모든 사람, 장소, 조직을 식별하고 추출하여 모호성을 제거

이상과 같은 태스크를 실행하면, 예를 들어, 러시아군이 있는 작전 지역에서 격렬한 공격을 받고 탱크가 파괴되었다는 등의 정보를 거의 실시간으로 취득할 수 있습니다. 이렇게 개별의 전황을 파악할 수 있는 것 이상으로 중요한 것은, 계속적으로 AI에 의한 전황 파악을 지속하여, 러시아군에 대한 정보전에서 우위에 서는 것입니다.

또한, 2023년 3월 6일에 공개된 Primer.ai 블로그 기사에서는 대규모 언어 모델을 안보에 활용하는 방법이 해설되어 있기 때문에, 이 기업이 제공하는 안보 AI 시스템이 날마다 진보했다는 것을 알 수 있습니다.

 

민간인과 군인을 식별하는 얼굴 인식

우크라이나 전쟁에서는 얼굴 인식도 본격적으로 도입되었습니다. 우크라이나에 얼굴 인식 기술을 제공하고 있는 기업, Clearview AI는 이 나라에 기술을 제공하기까지의 경위를 정리한 웹페이지를 공개하였습니다.

위의 웹페이지에 따르면, Clearview AI의 CEO인 Hoan Ton-That 씨는 우크라이나 전쟁 발발 직후 회사의 서비스가 러시아 침공에 어떻게 도움이 될지 쓴 편지를 우크라이나 정부에 보냈습니다. 그 편지에는 가족과 멀어진 난민의 재회, 러시아 공작원의 특정, 전쟁에 관한 소셜 미디어의 가짜 기사를 정부가 부정하는데 돕는 것 등을 들 수 있습니다.

우크라이나 정부는 Ton-That의 편지에 응답하여 Clearview AI 기술을 활용하기로 결정했습니다. 이 결정 후 1개월 후인 2022년 4월에는 우크라이나의 5개 기관, 200명의 직원이 동사의 서비스를 사용하여 5,000건 이상의 얼굴 검색을 실시했습니다. 4개월 후인 7월에는 그 유저가 7개 기관, 600명 이상의 군인이 되었고, 얼굴 검색 건수도 60,000건으로 늘었습니다.

우크라이나 정부는 검문소에서도 Clearview AI의 기술을 활용하고 있습니다. 이 회사는 러시아의 소셜 미디어 사이트 'Vkontate'의 공개 이미지에서 20억 장 이상의 이미지를 축적하고 있으며, 이 이미지 데이터를 사용하여 러시아의 공작원을 즉시 식별할 수 있습니다.

우크라이나 전쟁에서 Clearview AI의 기술에 대해 2022년 4월 29일 공개된 WIRED UK 기사에서는 우크라이나의 Mykhailo Fedorov 디지털 변혁 담당 장관이 얼굴 인식 활용에 대한 취재에 답하고 있습니다. 이 취재에서, 전사한 러시아 병사를 얼굴인식으로 특정하는 것에 관하여, 장관은 2개의 이유를 들고 있습니다. 첫 번째 이유는 전사한 러시아 병사의 친족들에게 전사 사실을 알리면 우크라이나 전쟁이 나쁘다는 것을 알릴 수 있습니다. 두 번째는 순전히 전사를 친족에게 알리고 싶다는 인도적인 이유 때문입니다.
(이것은, 러시아가 병사의 전사를 친족에게 알리지 않기 때문입니다)

Clearview AI Company Overview - YouTube

사이버 보안 전문 뉴스 미디어 'The Record'는 2022년 5월 17일, Ton-That 씨를 인터뷰한 기사를 공개했습니다. 이 인터뷰에서 "수년 후, VR 안경에 Clearview AI의 얼굴 인식 기능이 구현되는 것을 상상할 수 있습니까?"라는 질문에 대해 그는 긍정적인 유즈 케이스라고 대답했습니다. 이 발언은 가까운 장래에, 회사의 서비스가 탑재된 AR 안경과 같은 것이 각국의 군대나 경찰에 배치될 가능성을 시사하고 있다고 해석할 수 있습니다.

「전장의 주역」이 된 드론

우크라이나 전쟁에서는 우크라이나 군과 러시아 군 모두 전례 없이 드론을 활용하고 있습니다. 이러한 전황에 대해 2022년 8월 24일에 공개된 일본 요미우리 신문의 기사에서는, 「무인기 시대의 도래」라고 표현하고 있습니다. 2022년 4월 15일에 공개된 CNET Japan의 기사에서는 과거의 전쟁에서는 전차가 중요했던 것에 반해, 현재는 드론이 "결정적인 무기 시스템이 되었을지도 모른다"라는 군사 연구가의 발언을 인용하고 있습니다.

사실, 무인 항공기와 인공 지능은 매우 친화적인 기술입니다. AI가 무인 항공기에 장착되면 두 가지 이점이 있습니다. 첫 번째 장점은 자율 비행이 가능하다는 것입니다. AI가 항로를 제어하거나 장애물을 피함으로써 안전하게 목적지까지 비행할 수 있습니다. 두 번째는 이미지 인식이 가능하다는 것입니다. 이미지 인식이 가능하게 되면, 목표가 되는 오브젝트를 발견할 수 있게 됩니다.

우크라이나 군대는 창업이후 50년 이상 무기를 생산하는 제조업체인 AeroVironment가 무인 항공기를 공급하고 있습니다. 이 전쟁에서 사용되고 있는 이 회사의 주력 제품에는, 소위 자폭형 드론 「Switchblade 300」과, 보다 대형인 「Switchblade 600」이 있습니다. 이 무인 항공기는 원통형 발사 장치에서 발사되면, 목표까지 비행하여 충돌합니다. 이러한 공격 형태로부터 「카미카제 드론」이라고도 불립니다.

Switchblade 300이 발사되는 모습

우크라이나 군은 이 Switchblade 시리즈에 전폭적인 신뢰를 보내고 있습니다. 2023년 2월 22일에 공개된 미국 대형 미디어 'USA TODAY'의 기사에서는, Switchblade에 대해 "우리가 가지고 있는 무기 중에서 가장 안정적이고 정확한 무기 중 하나"라고 말하는 상급 지휘관의 발언이 소개되고 있습니다. 또한 방위 뉴스 전문 미디어 'Defense News'가 2022년 10월 12일에 공개한 기사에서는, 우크라이나군이 현재까지 SwitchbladeE 300을 자주 사용하며, Switchblade 600에도 "꽤 관심을 가지고 있다"라고 보도하고 있습니다. 이러한 상황을 통해, AeroVironment사는 Switchblade 600을 기존 대비 3배 많은, 연간 6,000대의 증산을 검토하고 있다고 보도하였습니다.

 

그 위력은 미지수! 전투용 자율주행차

자율형 무기 보급의 물결은 무인 항공기 같은 항공 무기뿐만 아니라 지상 무기에도 뻗치고 있습니다. 한국의 '아시아경제'는 기사에서 "2023년 3월 12일 러시아가 개발한 전투용 자율자동차 'Marker(마르케르)'가 우크라이나 전쟁의 전선에 배치될 예정"이라고 보도했습니다.

이 기사에 따르면 마르케르는 전투 임무를 '자율적으로' 수행할 수 있으며, 약 15킬로미터 앞의 표적을 확인할 수 있습니다. 또한 민간인과 군사 요원을 식별하고 "직접적인 위협"을 초래하는 상대만을 표적으로 할 수 있다고 합니다.

마르케르의 무게는 약 3톤으로 다양한 무기를 탑재할 수 있어, 「전자 펄스」나 「드론 요격」등을 사용해 드론에 대항할 수 있다고 보도하고 있습니다. 러시아 미디어 「Pravda.Ru」가 2019년 4월 4일에 YouTube에 공개한 영상에는 개발 중이라고 생각되는 Marker가 구동하는 모습도 수록되어 있으며, 기관총도 탑재된 것을 확인할 수 있습니다.

2023년 2월 1일에는 유럽 방위 기관(European Defence Agency: 약칭 EDA)이 고도로 자율적인 전투용 무인 지상 시스템(Combat Unmanned Ground Systems: 약칭 CUGS)을 개발하기 위한 연구·기술 프로젝트의 개시를 발표했습니다. 이 시스템의 개발은 9개 회원국과 28개 유럽 산업계 파트너가 참여하여 3,550만 유로의 예산으로 36개월에 걸쳐 추진하고 있습니다. 무엇보다 이 시스템은 인간이 시스템 운용의 루프에 포함되는 「휴먼 온 더 루프」로서 개발됩니다.

이상과 같이 지상무기의 무인화는 불가피한 현상이라고 말할 수 있습니다.

 

요약

우크라이나 전쟁에 있어서 군사 AI의 활용은 가짜 정보의 생성이나 얼굴 인식 등의 정보전으로부터, 드론이나 전투용 자율 자동차와 같은 무기까지 퍼지고 있습니다. 이러한 군사 AI 활용의 확대에 의해 우려되는 것이, 자율살상무기 시스템(Lethal Autonomous Weapons Systems：약칭 LAWS)의 실전 투입입니다.

LAWS의 규제에 관해서는 세계적으로 논의되고 있으며, 한국은 현재로서는 LAWS를 개발하지 않겠다는 입장입니다. 이렇게 LAWS의 규제에 대해 논의하고 있는 동안에도 우크라이나 전쟁의 진전에 따라서는 이러한 무기들이 투입될 리스크도 부정할 수 없습니다. 그러므로 우크라이나 전쟁은 'AI의 군사 이용'이라는 관점에서 계속 주의를 기울여야만 할 것입니다.

LAWS에 대하여 한국, 미국, 영국, 호주, 캐나다와 일본 등 6개국 공동 제안으로, LAWS를 국제인도법(国際人道法)에 따라 사용이 불가능한 무기로 정하고, 그 구체적인 예로 "공격을 인간의 지휘로 귀책될 수 없도록 자율기능을 설계해서는 안 된다"라고 했습니다. 이는 무기 사용에 있어서 인간의 책임이 확보되어야 한다는 인식에 근거합니다.

관련글

챗봇 AI를 사용하여 전장에 지시를 내리는 '전쟁 AI'의 개발이 진행중

챗봇 AI를 사용하여 전장에 지시를 내리는 '전쟁 AI'의 개발이 진행중

러시아 군기를 파괴한 우크라이나군의 「골판지 드론」 스펙과 특징

러시아 군기를 파괴한 우크라이나군의 「골판지 드론」 스펙과 특징

Steam Deck을 사용하여 머신건 터렛을 원격 조작하는 군대가 우크라이나에 출현

Steam Deck을 사용하여 머신건 터렛을 원격 조작하는 군대가 우크라이나에 출현