AI 기술이 세상을 바꾸고 있다는 말은 이미 익숙하다. 그런데 최근 그 변화의 방향이 뜻밖의 곳을 향하고 있다. 군사 영역에서의 AI 활용 문제가 수면 위로 올라오면서, 'AI를 누가 어떻게 사용할 수 있는가'라는 질문이 실제 법정 공방으로 번지기 시작했다.

법원까지 간 AI 논쟁

최근 미국에서 AI 기업과 정부 사이의 긴장이 법적 분쟁으로 이어지는 사건이 보도됐다. 보도에 따르면, 미 연방 법원의 판사가 트럼프 행정부가 군사 AI 사용 문제를 둘러싼 갈등 과정에서 AI 안전 기업 Anthropic(앤트로픽)에 불법으로 보복 조치를 취했다고 판결했다. Anthropic은 AI 어시스턴트 Claude(클로드)를 개발한 회사다.

이 사건의 구체적인 법적 세부 사항은 아직 충분히 공개되지 않은 부분이 있다. 그러나 이 분쟁이 드러내는 본질은 분명하다. 정부, 특히 군사 조직과 AI 기업 사이에는 AI 사용 방식에 대한 근본적인 시각 차이가 존재한다는 것이다. 그 차이가 이제 법정 다툼으로 비화할 수 있다는 것을 이번 사건은 보여준다.

이것은 유례없는 상황이 아니다. 구글은 미 국방부의 드론 영상 분석 AI 프로젝트인 '메이븐 프로젝트'에 참여했다가, 수천 명의 직원 반발과 청원 운동 끝에 계약 갱신을 포기했다. 마이크로소프트 직원들도 미군에 혼합현실 기기를 공급하는 계약에 항의한 바 있다. AI와 군사의 경계는 기업 내부에서도, 사회에서도 이미 매우 예민한 주제다.

AI 기업은 왜 사용 정책을 만드는가

주요 AI 기업들은 자사 기술에 대한 '허용 가능 사용 정책(Acceptable Use Policy)'을 갖고 있다. 이 정책은 어떤 목적으로 AI를 사용해도 되는지, 어떤 용도는 금지인지를 명시한다. 군사 및 무기 개발, 대규모 감시, 자율 살상 무기 지원 같은 용도는 대부분의 주요 AI 기업이 명시적으로 금지하거나 엄격히 제한하고 있다.

이는 단순한 기업 이미지 관리가 아니다. 그 배경에는 몇 가지 진지한 이유가 있다.

첫째, 책임 소재의 문제다. AI가 군사 의사결정에 관여하면, 그 결과에 대한 책임 소재가 불분명해진다. AI 권고를 따른 결과로 민간인 피해가 발생했을 때, 책임은 AI를 만든 기업에 있는가, 그것을 배포한 정부에 있는가, 아니면 명령을 실행한 군인에 있는가. 이 질문은 아직 법적으로도 윤리적으로도 해결되지 않았다.

둘째, 기술 오용 가능성이다. AI는 본질적으로 범용 기술이다. 글을 쓰고, 코드를 짜고, 분석을 수행하는 동일한 능력이 다른 목적에 전용될 수 있다. 군사 목적으로 훈련되거나 미세조정된 시스템이 민간 영역으로 역유출될 위험도 있다.

셋째, 사회적 신뢰다. AI 기업은 사람들이 자사 기술을 신뢰하고 사용할 때 사업이 성립한다. 군사 무기 개발에 직접 관여한다는 이미지는 일반 사용자와 기업 고객 모두의 신뢰를 훼손할 수 있다.

국가 안보 vs. 기업 통제권

그런데 정부와 군사 기관의 입장은 다르다. 국가 안보는 기업의 사용 정책보다 우선한다는 논리가 있다. 국방 강화를 위해 최신 기술을 활용하는 것은 국가의 정당한 권리라는 주장이다.

미국뿐만 아니라 중국, 러시아, 유럽 각국도 군사 AI 역량 개발에 적극 투자하고 있다. 지정학적 경쟁이 심화될수록, 특정 AI 기업의 사용 금지 정책이 국가 안보 전략에 장애가 된다는 압박도 커진다.

충돌 지점은 분명하다. AI 기업은 사용 정책으로 자사 기술의 활용 범위를 정의하려 한다. 정부는 국가 안보를 이유로 그 경계를 넘으려 한다. 이번 법원 판결은 그 충돌이 법적 영역까지 확대됐다는 신호다. 단순한 계약 분쟁이 아니라, AI 기업의 자율적 정책 결정권이 국가 권력과 충돌할 때 무슨 일이 벌어지는지를 보여주는 사례가 됐다.

AI 거버넌스는 어디로 가는가

이번 사건은 더 큰 질문을 제기한다. AI 기술의 발전 방향과 용도를 누가 결정하는가?

현재는 AI 기업들이 스스로 만든 사용 정책이 사실상 규범 역할을 하고 있다. 법적 구속력을 가진 국제 협약이나 명확한 국내 규제는 아직 충분하지 않다. 기업 정책은 언제든 바뀔 수 있고, 경쟁 압박이 심해지면 완화될 가능성도 있다.

유럽연합은 AI법(AI Act)을 통해 고위험 AI 사용을 규제하기 시작했다. 유엔에서도 자율 무기 시스템에 대한 논의가 계속되고 있다. 그러나 실질적인 집행력을 가진 국제 규범은 아직 형성 중인 상태다. 거버넌스의 공백이 그만큼 크다.

한 가지는 분명하다. AI 기업이 사용 정책으로 군사 용도를 제한하는 것은 기업 내부의 윤리적 결정이다. 동시에, 그것이 국가 안보 전략과 충돌할 때 법적, 정치적 압박이 따를 수 있다는 것도 이번 사건은 보여줬다. 기업 정책만으로 버티기 어려운 현실이 다가오고 있다.

기술의 힘은 누가 어떻게 쓰느냐에 따라 전혀 다른 결과를 만든다. AI를 어떤 목적으로, 어떤 규칙 아래 쓸 것인가라는 질문은 이제 기술 문제가 아니라 사회 전체가 함께 답해야 할 문제가 됐다. 법원, 의회, 국제 무대에서 이 논쟁은 이제 막 시작됐다.