국방부 CTO가 밝히는 AI 군사화 전략, 상업용 모델 도입, 그리고 미국 국방력 강화의 핵심 과제들을 심층 분석합니다.
국방부 AI 전략: 미국 국방 현대화와 AGI의 미래
핵심 요약
- AI는 국방력의 기반: 인공 일반 지능(AGI)이 인터넷처럼 모든 것에 영향을 미칠 기반이 될 것이며, 국방부는 이 기술에 뒤처져 있음
- 3가지 AI 활용 전략: 효율성(업무 처리 시간 단축), 정보(위성 이미지 분석을 통한 이상 징후 탐지), 전쟁 수행(병참 계획 및 작전 시뮬레이션)
- 상업용 모델 도입의 필요성: 앤트로픽 같은 기업의 AI 모델 도입으로 국방 전투력 강화, 하지만 법적·민주적 감시 필요
- 관료주의 개혁 필수: 복잡한 계약 절차를 단순화하고, 민첩한 개발 주기로 전환하는 구조적 변화 진행 중
- 국가 안보와 민주주의의 균형: 의회의 법률 제정과 행정부의 규정 작성을 통해 기술 도입의 민주적 감시 체계 강화
국방부가 직면한 AI 전쟁의 실체
국방부의 현 상황은 단순한 기술 격차가 아닙니다. 이는 국가 안보의 가장 근본적인 문제입니다. 2010년경부터 시작된 중국의 역사상 최대 규모의 군사력 증강에 미국이 따라잡지 못했다는 의미입니다. 이 과정에서 미국은 핵심 광물, 배터리, 반도체 등 수많은 공급망 항목을 중국에 의존하게 되었습니다. 국방부 CTO는 이를 "평시 속도"라고 지칭하며, 냉전 이후 미국 방위산업이 성장보다는 통합과 배당금 지급에 집중해온 결과라고 분석합니다.
역사적으로 1990년대 냉전 종식 이후, 방위산업 주요 기업들은 성장 가능성이 제한적이라고 판단했습니다. 펜타곤 지도자들이 주최한 악명 높은 "최후의 만찬"이라는 산업 모임에서, 국방부는 사실상 업계에 "더 이상 대규모 무기 시스템 혁신을 기대하지 말라"고 신호를 보냈던 것입니다. 이러한 신호는 방위산업을 4~5개의 메이저 기업으로 집중시켰고, 이로 인해 혁신 속도는 급격히 감소했습니다. 그러던 중 중국의 급속한 군사력 증강이 시작되면서, 미국은 갑자기 수십 년간의 기술 격차를 메워야 하는 상황에 직면했습니다.
현재 국방부가 추구하는 "전시 속도"는 국가적 역량에 필요한 핵심 기술들을 국내에서 다시 생산하고, 공급망을 재구축하며, 신기술 도입을 가속화하는 것을 의미합니다. 이를 위해 국방부는 우선순위를 14개에서 6개로 축소했으며, 그 최상위에 바로 응용 AI가 자리 잡았습니다. 사실 인사이더들이 듣지 못했던 더 광범위한 배경이 있습니다. 국방부는 지난 행정부에서 작성된 상업용 AI 모델 도입 계약을 재검토하면서, 전시 상황 중에도 작동을 중단할 수 있도록 설계된 법적 제약들을 발견했습니다. 이는 중부사령부, 인도-태평양사령부, 남부사령부 등 미군의 가장 중요한 작전 지역에서 심각한 위험을 초래할 수 있는 조항이었습니다.
AI가 국방력 강화의 핵심이 되는 이유
AI 기술이 국방부의 최우선순위가 된 이유를 이해하려면, 먼저 AI가 군사력의 모든 측면에 영향을 미친다는 점을 알아야 합니다. 국방부 CTO는 AI의 영향을 세 가지 전략적 영역으로 명확히 분류했습니다.
첫째, 효율성 영역입니다. 이는 대규모 조직이라면 누구나 활용할 수 있는 기업용 사용 사례입니다. 국방부 같은 거대 조직에서 일상적인 행정 업무를 AI로 자동화하면, 직원들이 더 중요한 전략적 업무에 집중할 수 있습니다. 미국 국방부의 300만 명 인력 중 120만 명이 90일 만에 어떤 형태로든 AI를 사용하게 되었다는 통계는 이 변화의 규모를 보여줍니다. 사실 이것은 앞으로의 국방력을 결정할 중요한 지표입니다.
둘째, 정보 분석 영역입니다. 국방부는 수십 년간의 위성 이미지, 센서 데이터, 통신 기록 등 거대한 데이터 저장소를 보유하고 있습니다. 그런데 이 데이터 대부분이 사일로화되어 있어서 제대로 활용되지 못하고 있었습니다. AI 모델을 이용해 수십 년간의 위성 이미지로 학습시킨 후, 이상 징후를 탐지하는 시스템을 구축하면 어떤 일이 벌어지고 있는지 실시간으로 파악할 수 있습니다. 국방부는 이를 통해 인간 분석가의 처리량을 1,000배까지 늘릴 수 있을 것으로 예상합니다. 이는 단순한 효율성 개선이 아니라, 전략적 의사결정의 질을 근본적으로 향상시키는 변화입니다.
셋째, 전쟁 수행 영역입니다. 현대 전쟁에서 가장 복잡한 부분 중 하나는 병참(logistics)입니다. 수백만 명의 인원, 수백만 톤의 장비와 보급품을 어떻게 배치하고, 이동시키고, 관리할 것인가는 군사 성공을 결정합니다. AI는 병참 계획, 자산 배치, 작전 시뮬레이션, 워게임 등에 활용될 수 있습니다. 스타트업들도 AI를 활용해 국방부의 연료 예산 15%를 절감할 수 있다는 제안을 제시하고 있습니다. 또한 분쟁 지역에서 병력, 장비, 차량을 가장 효율적으로 배치하는 방식도 AI로 최적화할 수 있습니다.
이러한 AI의 활용은 단순히 기존 업무를 더 빠르게 처리하는 것이 아닙니다. AI는 미사일 설계, 재료 과학, 공기역학 등 물리적 문제 해결에도 적용될 수 있습니다. 물리학 문제를 더 효과적으로 해결할 수 있다면, 미사일 개발도 더 빨라질 것입니다. 국방부가 AI를 전략적 우선순위로 삼은 이유가 바로 여기에 있습니다.
상업용 AI 모델 도입의 명암: 앤트로픽 계약 논쟁
지난 몇 주간 언론을 장식한 국방부의 상업용 AI 모델 도입 논의는, 실은 훨씬 더 깊고 복잡한 배경을 가지고 있습니다. 국방부 CTO가 취임 직후 발견한 것은 충격적이었습니다. 이전 행정부에서 작성된 상업용 AI 모델 도입 계약들을 검토하던 중, 현재 미군이 가장 중요한 작전에 깊이 통합되어 있는 AI 시스템들이 심각한 법적 제약을 갖고 있다는 사실을 알게 된 것입니다.
구체적으로는 어떤 제약들이었을까요? AI를 사용하여 위성을 이동시키거나 실제 작전을 계획하고 실행하는 것을 금지하는 조항들이 있었습니다. 이는 운동 에너지 타격(kinetic strike)으로 이어질 수 있는 경우들이었습니다. 더 심각한 것은, 이러한 제약이 수십 가지나 되었음에도 불구하고, AI 모델들이 중부사령부, 인도-태평양사령부, 남부사령부 등 미군의 가장 중요한 작전 영역에 깊이 통합되어 있었다는 사실입니다. 또한 이는 단순한 다중 공급업체 상황이 아니었습니다. 실질적으로 단일 공급업체에 대한 종속 상태였습니다.
이러한 상황이 가져올 수 있는 위험은 상당합니다. 만약 서비스 약관 위반이 발생하면, 계약상 AI 시스템이 작동을 중단하도록 설계되어 있었기 때문입니다. 전투 중에 이런 일이 발생한다면 어떻게 될까요? 인명 손실로 이어질 수 있는 심각한 상황입니다. 미군의 가장 민감한 작전들이 한 회사의 의중에 좌우될 수 있다는 의미였습니다.
이 문제가 더욱 복잡해진 계기는 2023년 마두라 급습 작전 이후였습니다. 마두라 급습은 미국 역사에서 가장 성공적인 군사 작전 중 하나로 평가받습니다. 놀랍게도, 이 작전 이후 주요 AI 공급업체 중 하나의 고위 임원이 자신들의 소프트웨어가 이 작전에 사용되었는지에 대해 의문을 제기했습니다. 공개적으로 자신들의 제품이 그러한 작전에 사용된 것이 마음에 들지 않을 수 있다는 입장을 표현한 것입니다.
이는 국방부 CTO에게 심각한 경고 신호였습니다. 그의 표현을 빌리자면, "커피숍에 앉아 있는데 낯선 사람이 '어제 당신 아이가 학교에서 피구하는 걸 봤어요'라고 말하는 것과 같다"는 느낌이었습니다. 미국 역사상 가장 성공적인 군사 작전이 진행된 후에 단일 공급업체에만 의존하고 있으면서, 그 회사가 자신들의 기술 사용에 대해 우려를 표할 수 있다는 것은 명백한 국가 안보 위험입니다.
이 사건이 촉발한 일련의 질문들은 국방부의 전략을 완전히 바꿨습니다. "가장 성공적인 군사 작전 후에 우리가 소프트웨어를 어떻게 사용하는지에 대해 우려하는 단일 공급업체에만 의존하고 있는가?" "그리고 서비스 약관이 미래의 안보 환경과 맞지 않는가?" 이러한 질문에 대한 답은 명확했습니다. 국방부는 다양한 파트너들을 도입해야 하고, 더 이상 단일 스레드(single-threaded) 상태가 되어서는 안 된다는 것이었습니다.
민주주의와 국가 안보의 긴장관계: 기술 도입의 민주적 감시
국방부가 상업용 AI 모델을 도입하는 과정에서 제기되는 질문들은 기술적 차원을 넘어선 근본적인 헌법적, 철학적 물음입니다. 미국의 민주주의 체계 내에서 어떻게 첨단 기술을 국방력 강화를 위해 사용할 것인가 하는 문제입니다.
국방부 CTO가 강조하는 핵심 원칙은 다음과 같습니다: 민주주의 국가가 최고의 기술을 갖춰야 한다면, 그 결정은 민주적 절차를 거쳐야 한다는 것입니다. 의회가 법률을 제정하고, 행정부가 그 법에 대한 규정을 작성하며, 사법부가 헌법적 범위 내에서 감시하는 체계 말입니다. 비록 이 체계가 완전하지 않을 수 있지만, 이를 신뢰하지 않는다면 무엇을 신뢰할 것인가 하는 근본적인 질문이 제기됩니다.
역사적으로 미국은 시민 자유와 국가 안보 사이의 균형을 맞추기 위해 많은 법률을 제정했습니다. 1947년 국가안보법, 해외정보감시법 등 수많은 법안들이 이러한 균형을 추구해왔습니다. 9/11 이후 이 균형에 대한 논쟁은 더욱 치열해졌습니다. 그리고 지금 AI 시대에 다시 한 번 이러한 균형을 재정의해야 하는 시점에 왔습니다.
국방부 CTO가 제시하는 논리는 설득력 있습니다. AI가 인터넷이나 통신망처럼 모든 것을 건드릴 기반 기술이 된다면, 이를 "법적인 용도로는 사용할 수 없다"고 말하는 것은 실질적으로 모순입니다. 민주주의 체계를 통해 나온 법률들, 의회가 통과시킨 법들, 행정부가 집행한 것들을 국방부는 활용할 수 없다는 의미이기 때문입니다. 이는 특히 미국 정부에서 가장 민감한 부문인 군대의 경우 더욱 심각합니다. 국방부의 임무는 미국인을 보호하는 것이기 때문입니다.
또한 국방부가 직면한 현실은 더욱 긴급합니다. 중국이 미국의 AI 모델을 훔쳐서 안전장치를 제거하고, 잠재적으로 미국에 대항하여 사용하고 있다는 사실입니다. 이런 상황에서 미국이 스스로 손발을 묶어야 한다면, 이는 국가 안보에 대한 심각한 위협이 됩니다. 국방부 CTO의 표현을 빌리면, 이는 "오웰적인 상황"입니다. 적국이 훔쳐간 바로 그 모델에 대해 미국이 손발이 묶여 있는 상황 말입니다.
현재 국방부가 추진 중인 자율 무기에 대한 40페이지 내부 지침은 이러한 균형을 맞추려는 노력의 결과입니다. 이 지침은 AI 기술의 사용에 대한 명확한 기준을 제시하면서도, 국가 안보 요구를 충족시키려고 합니다. 우크라이나와 러시아 전쟁에서 벌어지고 있는 일들을 보면서, 중국이 어떤 기술을 어떻게 사용하고 있는지를 관찰하면서, 국방부는 이 균형을 찾기 위해 노력하고 있습니다.
국방부 내 구조적 개혁: 관료주의와의 전쟁
국방부가 최고의 기술과 인재를 확보하고, 이를 신속하게 전장에 배치하는 것이 이론상 간단해 보일 수 있지만, 현실은 훨씬 복잡합니다. 국방부 내에는 수십 년에 걸쳐 축적된 관료주의 체계가 존재합니다. 이는 사람의 문제가 아니라, 체계의 문제입니다.
기존의 계약 체계가 어떻게 작동해왔는지 이해하려면, 과거의 관행을 살펴봐야 합니다. 전형적인 방식은 다음과 같습니다: 국방부가 매우 상세한 요구사항이 담긴 RFP(제안 요청서)를 작성합니다. 이 요구사항이 1,000개에 달할 수도 있습니다. 공급업체는 이 모든 요구사항에 대해 "네, 네, 네, 네"라고 답하게 됩니다. 심지어 물리적으로 불가능한 요구사항에 대해서도 말입니다. 물리 법칙이 그것을 불가능하게 만들더라도 마찬가지입니다.
그 다음 무슨 일이 벌어질까요? 국방부는 공급업체와 원가 가산(cost-plus) 계약을 맺습니다. 이 계약 방식에서는 공급업체가 들인 비용에 일정 비율의 이윤을 더해서 청구합니다. 공급업체는 곧바로 "아, 그건 작동하지 않네요"라고 말합니다. 이어서 변경 주문이 나옵니다. 이 변경 주문은 추가로 3년의 개발 기간과 수십억 달러의 추가 비용으로 이어집니다. 이런 식의 반복이 국방 획득 주기 전체에서 벌어지고 있습니다.
국방부 CTO는 이 체계를 근본적으로 바꾸려고 노력 중입니다. 새로운 모델은 다음과 같습니다: "저는 이 환경에서 이 정도의 탑재량을 싣고 이만큼 멀리 가는 미사일이 필요합니다. 여러분, 이를 어떻게 할지에 대한 아이디어를 가지고 저에게 오세요. 그러면 여러분은 다른 프로세스를 얻게 될 겁니다."
이 새로운 방식의 핵심은 확정 고정 가격(fixed-price) 계약 입니다. 공급업체가 비용을 절감하여 더 나은 마진을 얻을 수 있다면, 이것이 모두에게 이익이 됩니다. 이는 일론 머스크가 스페이스X를 통해 보여준 모델과 같습니다. 스페이스X는 고정된 가격으로 로켓을 발사하고, 비용 절감을 통해 이윤을 증대시킵니다. 결과적으로 우주 산업이 급속도로 발전했습니다.
벤처 캐피탈 커뮤니티는 이미 이 모델에 매우 익숙합니다. VC들은 모두에게 투자하지 않습니다. 승자에게 투자합니다. 국방부도 이런 식으로 움직여야 한다는 것입니다. 더 빠른 개발 주기, 업계와의 위험 공유, 명확한 수요 신호, 더 간단한 사업 방식이 필요합니다.
국방부 CTO는 매일 이러한 관료주의의 "잔해"를 치우며 이를 실현시키려고 노력하고 있습니다. 그리고 이것이 가장 중요한 변화 중 하나라고 강조합니다. 이 개혁은 단순히 효율성 개선이 아닙니다. 이는 미국 국방력이 얼마나 빠르게 21세기 안보 위협에 대응할 수 있는지를 결정합니다.
스타트업과 기술 기업들이 할 수 있는 역할
국방부가 기술 파트너십 방식을 바꾸면서, 동시에 스타트업 생태계에도 변화의 신호를 보내고 있습니다. 2018년 구글이 프로젝트 메이븐 입찰을 거부했을 때, 기술 업계에서는 정부와의 계약을 꺼리는 분위기가 형성되었습니다. 구글의 직원들의 반발이 있었기 때문입니다.
그런데 시간이 지나면서 구글은 생각을 바꿨습니다. 오늘날 구글은 정부의 훌륭한 파트너 중 하나입니다. 국방부 CTO는 현재의 스타트업들이 이 역사에서 배웠기를 바랍니다. 프로젝트 메이븐은 아프가니스탄에서 누구도 남겨두지 않기 위해 사용되었습니다. 이것은 공개된 사실입니다. 그렇다면 대안이 무엇일까요? 누군가를 남겨두는 것입니까?
이 논리는 많은 신생 기업과 개발자들을 깨웠습니다. 결과적으로 현재의 분위기는 "우리는 우리 국가를 지키는 응급 구조대원들과 남녀 군인들이 최고의 기술과 역량을 갖추기를 원한다"는 생각으로 기울어지고 있습니다. 이것이 바로 "아메리칸 다이나믹" 운동의 시초가 되었습니다.
스타트업들이 국방부와 협력할 때 직면하는 과제는 두 가지입니다. 첫째, 생산 및 제조 능력을 갖춰야 합니다. 대규모 기업들의 이점은 혁신성보다는 이미 만든 제품을 확장할 수 있는 생산 능력입니다. 스타트업이 국방부와 장기적으로 협력하려면, 좋은 기술과 개념을 가져와 공장을 짓고, 대규모로 생산하고, 품질 테스트를 하는 역량을 키워야 합니다.
국방부 CTO는 앞으로 1~2년 내에 기업들이 이 간극을 넘어서는 것을 보게 될 것이라고 예측합니다. 이미 능력을 입증했거나, 실수했지만 올바른 사람들을 고용하여 문제를 해결한 회사들 말입니다.
둘째, 스타트업들은 국방부 내에서 진정한 "예"와 "아니오"를 구분해야 합니다. 국방부 내 문화는 절대 "아니오"라고 말하지 않는 경향이 있습니다. 300만 명의 직원 중 많은 사람들이 "이거 정말 대단해, 나 너희 제품 사랑해"라고 말할 것입니다. 하지만 중요한 것은 "그들이 실제로 제품을 구매하고 있는가? 테스트하고 있는가? 실제로 그 과정을 통해 우리를 끌어들이고 있는가?"입니다. 돈이 말합니다.
국방부 CTO는 문화를 바꾸려고 노력하고 있습니다. 더 빠른 "예"와 더 빠른 "아니오"를 추구하는 문화 말입니다. 스타트업 경험이 있는 그는 이것이 왜 중요한지 이해합니다. 확실하지 않은 거래를 기다리는 것보다, "아니오"라는 명확한 답을 듣고 다음 파트너로 넘어가거나 제품 전략을 재조정하는 것이 훨씬 효율적이기 때문입니다.
공직을 택한 기술 리더의 숨은 이야기
국방부 CTO의 개인적 여정은 기술 업계의 성공과 공직 봉사 사이의 선택을 보여줍니다. 그는 아랍어를 모국어로 하는 이민자로서 미국에 왔고, 실리콘밸리에서 흥미로운 회사들을 경험하고 만들 수 있었습니다. 그의 첫 회사인 텔미 네트워크(Tellme Networks)는 음성 인식 소프트웨어 회사로, 2007년 마이크로소프트에 인수되었습니다.
이후 그는 기술 분야에서 잠시 쉬고 싶었습니다. 그래서 백악관 펠로우십 프로그램에 지원했습니다. 이 프로그램은 비당파적인 1년 프로그램으로, 콜린 파월 전 국무장관, 케인 전 합참의장 등 수많은 저명한 인물들이 거쳐갔습니다. 그는 이 프로그램을 통해 당시 국방부 장관이었던 로버트 게이츠에게 배정받았고, 아프가니스탄, 이라크, 파키스탄에서 시간을 보냈습니다.
이 경험은 그의 인생을 바꿨습니다. 그는 이 세계에 대한 열정을 갖게 되었고, "언젠가 정말 준비가 되면 다시 돌아오겠다"고 생각했습니다. 그 기회는 2016년 트럼프 당선인 때 왔습니다. 그는 "이건 정말 특별한 순간이구나. 최고 자리에 혁신가가 있구나"라고 생각했습니다. 트럼프는 매티스 장관을 선택했는데, 이는 국방부가 직면한 모든 문제들을 해결할 더 명확한 방법이 있을 것이라는 의미였습니다.
그가 국방부에서 본 변화의 속도는 놀라웠습니다. 행정 명령, 핵심 광물, 신기술, 새로운 진입자들에 대한 접근 방식이 이전과 비교할 수 없을 정도로 빨랐습니다. 그는 그곳에 있게 되어 기쁨을 느꼈습니다.
국방부 CTO가 전하는 메시지는 차세대 기술 리더들을 위한 것입니다. 모든 애국자는 사회에 환원할 방법을 찾을 수 있습니다. 그의 방식이 공직이었던 것은, 국가에 그러한 형태의 기여가 필요했기 때문입니다. 그는 자신의 자녀들이 이를 보기를 원합니다. 우리의 시스템이 거저 주어지는 것이 아니라는 것을 알게 되기를 바랍니다. 거기에는 건설자들, 신경 쓰는 사람들, 그리고 희생하는 사람들이 있어야 합니다.
과거에 공직은 존경받는 직업이었습니다. 맨해튼 프로젝트에는 최고의 과학자들이 있었습니다. 오늘날 산업계는 최고의 두뇌를 활용할 수 있는 많은 기회를 제공합니다. 하지만 우리는 때때로 이런 종류의 일을 하러 올 애국자들이 필요하다는 것을 잊어서는 안 됩니다.
결론
미국 국방부가 직면한 AI 전쟁은 단순한 기술 도입 문제가 아닙니다. 이는 민주주의 체계 내에서 첨단 기술을 어떻게 활용할 것인가, 국가 안보와 시민 자유 사이의 균형을 어떻게 맞출 것인가, 그리고 냉전 이후 축적된 관료주의를 어떻게 극복할 것인가에 관한 근본적인 질문입니다.
국방부 CTO가 보여주는 방향은 명확합니다. 상업용 AI 모델의 도입을 통해 국방력을 강화하되, 의회의 법률 제정과 행정부의 규정 작성을 통해 민주적 감시를 유지하며, 스타트업과 혁신 기업들과의 협력을 통해 군사 현대화를 가속화하는 것입니다. 이 과정에서 가장 중요한 것은 속도입니다. 중국과 다른 경쟁국들은 전속력으로 나아가고 있기 때문입니다.
기술 분야의 리더들에게 주어지는 메시지는 이것입니다. 당신의 기술이 국가를 보호하는 데 도움이 될 수 있다면, 그것이 당신이 사회에 환원할 수 있는 가장 깊이 있는 방법일 수 있습니다. 스타트업에서 성공했든, 대기업에서 성공했든, 당신의 전문성과 혁신 정신이 필요한 곳이 있습니다. 미국의 미래 안보는 기술과 민주주의 가치를 함께 추구할 수 있는 지도자들에게 달려 있습니다.
Original source: Under Secretary of War on Iran, Anthropic and the AI Battle Inside the Pentagon | The a16z Show
powered by osmu.app