국방장관, 앤트로픽에 AI 기술 군사 활용 제한 철폐 요구
아모데이 CEO, 자율 무기·국내 감시 선은 넘지 않겠다고 강조
미군 계약 위협 속, 앤트로픽 안전 중심 정책 시험대
경쟁 AI 기업, 제한 없는 군사 활용 정책 동의로 차별화
시민권 전문가 “국회 규제 필요… 법이 기술 속도 못 따라가”
미 국방부는 인공지능 기업 앤트로픽에 군이 필요로 하는 방식으로 AI 기술에 접근할 수 있도록 허용할 것을 요구하며, 이를 따르지 않을 경우 미군 계약을 박탈할 수 있다고 경고한 것으로 전해졌다. 국방장관 피트 헤그셋은 24일 화요일 열린 회의에서 앤트로픽 최고경영자 다리오 아모데이에게 AI 기술을 군이 제한 없이 사용할 수 있도록 시스템을 열어줄 것을 요구하며, 금요일까지 답변을 달라고 통보했다. 이 내용은 AP통신이 회의에 정통한 익명의 관계자와 참여한 펜타곤 고위 관계자를 통해 확인한 것으로, 두 사람 모두 공개를 허용하지 않은 조건에서 전한 것이다.
앤트로픽은 챗봇 기술을 개발하는 기업으로, 동료 AI 기업 가운데 유일하게 미군 내부 네트워크에 기술을 제공하지 않고 있다. 아모데이는 그동안 인공지능의 윤리적 위험에 대한 우려를 여러 차례 밝혀왔으며, 완전 자율 무기 시스템과 미국 시민 대상 감시 같은 제한 없는 군사적 활용에는 선을 그어왔다.
아모데이는 지난달 기고문에서 “수십억 건의 대화를 분석하는 강력한 AI가 공공 여론을 읽고 사회적 불안 조짐을 찾아내 이를 확산하기 전에 차단할 수 있다”고 경고하며, 이러한 위험을 현실적이고 실용적으로 관리해야 한다고 강조했다. 그는 자신을 ‘AI 비관론자’라고 부르지는 않았지만, 2026년에는 2023년보다 위험이 더 가까워졌다고 평가했다.
복수의 국방 관계자들은 헤그셋 장관이 앤트로픽을 공급망 위험 기업으로 지정할 수 있으며, 필요할 경우 국방생산법을 활용해 정부가 기업의 동의 없이 기술을 군사적으로 활용할 수 있다고 경고했다고 전했다. 이번 사안은 인공지능 기술이 국방과 안보에서 어떤 역할을 할 수 있는지를 둘러싼 논쟁을 부각시키며, 치명적 무기와 민감한 정보, 정부 감시 등 AI 활용에 따른 위험에 대한 우려를 더욱 키우고 있다.
회의에 참석한 한 관계자는 회의 분위기가 우호적이었다고 전했지만, 앤트로픽은 처음부터 지켜온 두 가지 원칙, 즉 완전 자율 무기 시스템과 미국 시민 대상 국내 감시에는 참여하지 않겠다는 입장을 끝까지 고수했다고 밝혔다. 국방부는 이러한 윤리적 제한 없는 도구가 필요하다는 입장을 강조하며, 해당 도구 사용에 따른 법적 책임은 군이 진다고 덧붙였다.
미 국방부는 지난해 네 개 AI 기업과 최대 2억 달러 상당의 방위 계약을 체결했으며, 여기에는 앤트로픽, 구글, 오픈AI, 엘론 머스크의 xAI가 포함됐다. 앤트로픽은 기밀 군사 네트워크에 처음 승인된 AI 기업으로, 팔란티어와 협력하며 작전 지원용 시스템을 운용하고 있다. xAI는 미군 비분류 안전 네트워크에서 자체 챗봇을 사용할 준비가 되어 있으며, 오픈AI 역시 맞춤형 챗봇을 비분류 업무용으로 제공하고 있다. xAI의 챗봇 그록은 최근 동의 없는 성적 딥페이크 이미지를 생성해 논란이 되었지만, 펜타곤은 이를 안전하게 운용되는 비분류 환경에 통합할 계획이라고 밝혔다.
헤그셋 장관은 지난 1월 텍사스 행사에서 군사적 활용이 어려운 AI 모델은 배제하겠다고 밝히며, 군용 AI 시스템은 합법적 작전에 지장을 주는 이념적 제약 없이 운영되어야 한다고 강조했다. 그는 펜타곤의 AI 정책이 특정 문화나 정치적 이념에 영향을 받지 않을 것이라고 덧붙였다. 이에 대해 앤트로픽은 정부의 국가 안보 임무를 지원하는 범위 내에서, 자사 AI 모델이 안전하게 활용될 수 있도록 책임감 있게 협력하겠다고 성명을 통해 밝혔다.
앤트로픽은 2021년 설립 이후 책임감과 안전을 최우선으로 강조해왔으며, 이번 국방부와의 논란은 이러한 원칙이 시험대에 오른 사례로 평가된다. 조지타운대 안보분석가는 다른 AI 기업들이 제한 없이 군사 활용에 협력하는 상황에서, 앤트로픽이 윤리적 제한을 고수하고 있어 협상력과 영향력이 상대적으로 제한될 수 있다고 분석했다. 아모데이는 도널드 트럼프 1기 행정부 시절 AI 수출 규제와 관련해 엔비디아를 공개적으로 비판하며 엄격한 규제 필요성을 강조한 바 있다. 그러나 앤트로픽은 엔비디아와 긴밀히 협력하고 있으며, 최근에는 트럼프 전 행정부 출신 크리스 리델을 이사회에 합류시키는 등 초당적 접근도 시도하고 있다.
회사 측은 설립 이후 정치적 편향을 배제한 접근을 시도하며 다수 전직 행정부 인사를 영입해왔다. 그러나 시민권 옹호 단체의 법률 전문가는 AI 기술이 미국 시민 감시에 사용될 가능성이 있는 만큼, 국회 차원에서 규제를 강화할 필요가 있으며 기술 발전 속도가 법 체계를 앞서고 있다고 경고했다.
