트럼프, Anthropic 정부 사용 금지 직후 OpenAI가 펜타곤 계약 체결

역대급 AI 안전 대결이 시작됐다

AI 업계 모두가 예감하고 있었지만, 이렇게까지 극적으로 터질 줄은 아무도 몰랐다. 2월 27일, 트럼프 대통령은 모든 연방 기관에 Anthropic의 AI 기술 사용을 "즉시 중단"하라고 명령했다. 피트 헤그세스 국방장관은 여기서 한 발 더 나가 Anthropic을 **"국가안보 공급망 위협"**으로 지정했는데, 이건 원래 화웨이 같은 외국 적대 기업에 쓰이는 딱지다. 이유? Anthropic이 자사 AI 모델 Claude가 대규모 국내 감시나 완전 자율 살상 무기에 쓰이는 걸 막는 안전 장치를 해제하길 거부했기 때문이다.

불과 몇 시간 뒤, OpenAI CEO 샘 올트먼이 국방부 기밀 네트워크에 자사 모델을 배포하는 계약을 체결했다고 발표했다. 반전이 너무 빨라서 현기증이 날 지경이었다. AI 커뮤니티는 지금 1990년대 암호화 전쟁 이후 실리콘밸리의 원칙과 워싱턴 권력 사이 가장 중대한 대결에 직면해 있다.

Anthropic이 거부한 것

이 충돌의 핵심에는 2억 달러 규모의 펜타곤 계약과 Anthropic이 양보할 수 없다고 못 박은 두 가지 조건이 있었다. 첫째, Claude를 미국 시민에 대한 대규모 국내 감시에 사용할 수 없다. 둘째, Claude를 인간의 감독 없는 완전 자율 무기 시스템에 사용할 수 없다.

펜타곤은 이 제한 조건들을 제거하라고 요구했다. AI 도구의 군사적 활용 방식은 민간 기업이 아니라 군이 결정해야 한다는 논리였다. Anthropic CEO 다리오 아모데이는 굽히지 않았다. "이런 요구에 양심적으로 동의할 수 없습니다," 그는 말했다. "최첨단 AI 시스템은 완전 자율 무기를 운용할 만큼 충분히 신뢰할 수 있는 수준이 아닙니다." 그리고 "대규모 국내 감시는 민주주의 가치와 양립할 수 없다"고 덧붙였다.

국방부는 Anthropic에 금요일 오후 5시 1분(동부시간)까지 이행하라는 시한을 줬다. Anthropic은 그 시한을 그냥 넘겼다.

핵 옵션: "공급망 위협" 지정

헤그세스의 대응은 파격적이었다. Anthropic을 국가안보 공급망 위협으로 지정하면서, 펜타곤은 자기네와의 거래만 끊은 게 아니었다. 이 지정으로 모든 군사 계약업체와 연방 공급업체가 Anthropic과 거래할 수 없게 됐다. 최근 300억 달러 투자를 유치해 기업가치 3,800억 달러로 평가받은 회사에게, 정부 사업 파이프라인 전체가 위협받는 존재적 위기나 다름없다.

헤그세스는 공개적으로 아모데이를 "신 콤플렉스"에 빠진 사람이라 부르며 "거짓말쟁이"라고 몰아붙였다. 연방 기관들은 이제 6개월 안에 기존의 모든 Anthropic 계약과 연동을 철수해야 한다. Anthropic의 기업가치는 이 소식에 시간 외 거래에서 약 8% 하락한 것으로 알려졌다.

아모데이는 이 조치의 모순을 지적했다. "펜타곤의 위협은 본질적으로 모순됩니다. 한쪽에서는 우리를 안보 위협이라 하고, 다른 쪽에서는 Claude가 국가안보에 필수적이라고 합니다." Anthropic은 법적 대응에 나설 계획이라고 밝혔다.

OpenAI의 등장

OpenAI 발표의 타이밍은 무시하기 힘들었다. Anthropic 금지 조치가 내려진 지 불과 몇 시간 만에, 올트먼은 OpenAI가 펜타곤의 기밀 네트워크에 자사 모델을 배포하는 계약을 체결했다고 공개했다. 그런데 여기서 반전이 있다. 올트먼은 이 계약에 Anthropic이 요구했던 것과 동일한 안전 "레드라인"이 포함돼 있다고 주장했다. 대규모 감시 금지. 완전 자율 무기 금지. 고위험 결정에서는 인간이 최종 판단을 내린다.

"AI가 대규모 감시나 자율 살상 무기에 사용돼서는 안 되며, 고위험 자동 결정에서는 인간이 루프 안에 있어야 한다고 오랫동안 믿어 왔습니다," 올트먼은 말했다. 그는 또한 펜타곤에 이 같은 조건을 모든 AI 기업에 동일하게 제시해 달라고 요청하며, 이를 "법적, 정부 차원의 조치에서 합리적 합의 쪽으로 긴장을 완화하려는" 시도라고 설명했다.

당연히 드는 의문이 있다. 펜타곤이 OpenAI한테는 이런 제한을 받아들이면서, 본질적으로 같은 걸 요구한 Anthropic은 왜 처벌한 걸까?

실리콘밸리가 Anthropic 편에 섰다

AI 업계의 반응은 빠르게 나왔고, 대부분 아모데이의 입장을 지지했다. Anthropic을 지지하는 공개 서한에 Google 직원 400명 이상과 OpenAI 직원 75명이 서명했다. 별도로 Google AI 직원 100명 이상이 경영진에게 Anthropic이 고수한 것과 동일한 군사 AI 제한 조건을 Google도 채택해 달라는 서한을 보냈다.

상원 정보위원회 민주당 간사인 마크 워너 의원은 "국가안보 결정이 신중한 분석에 의한 것인지, 아니면 정치적 고려에 의한 것인지" 우려를 표했다. 초당적 걱정은 이것이 무서운 선례가 된다는 점이다. 정부 요구에 반발하는 미국 기술 기업이라면 누구든 비슷한 보복을 당할 수 있다는 뜻이 되기 때문이다.

더 큰 그림

이 싸움은 단순히 계약 하나에 관한 게 아니다. 인류 역사상 가장 강력한 기술이 세계 최강 군대에 의해 어떻게 사용될지, 그 경계를 누가 정하느냐에 대한 문제다. Anthropic은 2021년 전직 OpenAI 연구원들이 AI 안전을 핵심 사명으로 삼아 설립한 회사다. 이번 사태는 그 창립 이념이 수표를 쥐고 있는 고객이 미국 정부일 때도 살아남을 수 있는지에 대한 궁극의 시험이다.

공급망 위협 지정이 기술 업계 전반에 특히 충격적인 이유는, 정책적 이견에 불과한 사안에 국가안보 도구를 국내 기업에 무기화했기 때문이다. 정부가 안전 가드레일을 고수한다는 이유로 미국 AI 기업을 블랙리스트에 올릴 수 있다면, 계약 조건을 강하게 협상하는 어떤 기업이든 같은 처분을 받지 않으리란 보장이 어디에 있겠는가?

앞으로 주목할 점

Anthropic의 법적 대응이 당장의 뇌관이 될 것이다. Anthropic은 이번 지정이 "법적으로 근거가 없으며" 위험한 선례를 남길 거라고 보고 있다. 그 결과는 모든 AI 기업이 연방 정부와 협상하는 방식을 재편할 수 있다.

한편, OpenAI의 펜타곤 계약 세부 내용도 면밀한 검증이 필요하다. 만약 제한 조건이 Anthropic이 요구한 것과 정말 동일하다면, 이건 국가안보 판단이 아니라 정치적 보복처럼 보인다. 동일하지 않다면, 올트먼이 주장한 공통의 "레드라인"은 금세 허물어질 수 있다. 어느 쪽이든, AI 산업은 안전 원칙과 정부 계약이 정면으로 충돌하는 새로운 시대에 진입했다.