최근 인공지능(AI) 기술이 국방 분야에 미치는 영향에 대한 뜨거운 논쟁이 전 세계적으로 불붙었습니다. 특히 OpenAI가 미 국방부(Pentagon)와 AI 서비스 제공 계약을 맺고, 경쟁사인 Anthropic이 유사한 계약을 거부하면서 AI 기술의 윤리적 사용, 투명성, 그리고 통제권에 대한 심도 깊은 질문이 제기되고 있습니다.
OpenAI의 펜타곤 계약과 이어지는 논란
OpenAI는 2026년 2월 말 펜타곤과 AI 모델 접근 계약을 발표했습니다. 그러나 이 발표는 즉각적으로 거센 비판에 직면했습니다. 많은 이들이 AI 기술이 군사적 목적으로 오용될 가능성, 특히 감시 및 자율 무기 시스템에 활용될 수 있다는 우려를 표했습니다.이러한 반발에 대응하여 OpenAI의 CEO 샘 알트만(Sam Altman)은 계약의 내용에 중요한 수정을 가했습니다. 수정된 계약은 다음 사항들을 명확히 합니다:
- 국내 감시 금지: 미국 시민 및 국민에 대한 의도적인 국내 감시에는 AI 시스템을 사용할 수 없습니다.
- 정보 기관의 제한적 사용: 국가안보국(NSA)과 같은 정보 기관은 계약에 대한 '후속 수정' 없이는 OpenAI의 시스템을 사용할 수 없습니다.
- 상업적으로 획득한 데이터 사용 금지: 상업적으로 취득한 데이터는 감시 목적으로 사용될 수 없습니다.
Anthropic의 '레드라인'과 그 과
OpenAI의 계약 발표 며칠 전, 경쟁사인 Anthropic은 펜타곤의 유사한 계약 제안을 거부했습니다. Anthropic의 CEO 다리오 아모데이(Dario Amodei)는 자사의 AI 모델이 대규모 국내 감시나 치명적인 자율 무기 시스템에 사용되어서는 안 된다는 확고한 '레드라인' 원칙을 고수했습니다. 이러한 Anthropic의 입장은 트럼프 행정부 시절 블랙리스트에 오르는 결과를 낳았으며, 현재 펜타곤으로부터 '공급망 위험' 기업으로 지정되는 압박을 받고 있습니다. 하지만 이들의 윤리적 입장은 많은 기술 전문가와 직원들, 그리고 일부 국회의원(Rep. Sam Liccardo, Sen. Brian Schatz 등)으로부터 지지를 얻고 있습니다. 이들은 Anthropic의 결정이 AI 윤리에 있어 중요한 기준점이 된다고 평가하고 있습니다. 특히, 다리오 아모데이는 AI의 강력한 데이터 분석 능력에 비해 법률이 아직 따라가지 못하고 있음을 지적하며, AI가 익명화된 데이터로부터도 개인을 식별할 수 있는 수준에 이르렀기 때문에 더욱 명확한 사용 가이드라인이 필요하다고 강조했습니다.윤리, 투명성, 그리고 통제권에 대한 의문
이번 논란은 AI가 국방 분야에서 어떻게 사용되어야 하는지에 대한 근본적인 질문을 던지고 있습니다.
- 계약 언어의 모호성: OpenAI가 계약을 수정했음에도 불구하고, 일부 비평가들은 계약 조항이 여전히 모호하며 잠재적인 허점이 존재할 수 있다고 지적합니다. 특히 계약의 전문이 공개되지 않아 투명성에 대한 의문이 제기되고 있습니다.
- 정보 기관의 광범위한 해석: 법률 전문가들은 정보 기관이 예외 조항을 광범위하게 해석할 가능성이 높다고 경고하며, 이는 의도치 않은 국내 감시로 이어질 수 있다고 우려합니다.
- 이중 용도 기술의 딜레마: 상업적으로 개발된 AI 기술이 군사 목적으로 전용될 때 발생하는 통제권 상실 문제도 중요하게 다뤄지고 있습니다. 일단 AI 소프트웨어가 군에 넘어가면, 개발 기업은 해당 기술의 사용에 대한 통제력과 영향력을 잃게 됩니다.
- 상업 데이터의 감시 활용: 상업적으로 획득한 개인 데이터가 감시 목적으로 사용될 가능성에 대한 윤리적 우려도 커지고 있습니다. 론 와이든(Ron Wyden) 상원의원은 이러한 관행이 대규모 감시의 확대로 이어질 수 있다고 비판했습니다.
- 인간 개입의 중요성: 자율 무기 시스템에서 '인간 개입(Human-in-the-loop)'의 중요성에 대한 논쟁도 계속되고 있습니다.
더 넓은 함의와 미래
이번 OpenAI와 Anthropic의 사례는 기술 기업과 군사 부문 간의 신뢰 부족과 문화적 차이를 여실히 보여줍니다. 일부 전문가들은 Anthropic과 같이 '가장 안전 의식이 있는 행위자'가 국방 분야 AI 개발 논의에서 배제될 경우, 장기적으로 AI 기술의 책임감 있는 발전에 부정적인 영향을 미칠 수 있다고 우려합니다. AI가 국가 안보와 국방의 미래를 형성하는 핵심 기술이 될 것이라는 점은 분명합니다. 그러나 이번 논란은 기술의 잠재력만큼이나 그 사용에 대한 윤리적, 사회적 합의가 중요함을 일깨워줍니다. 앞으로 AI 기술이 어떻게 발전하고, 어떤 방식으로 사회에 통합될지에 대한 지속적인 관심과 논의가 필요할 것입니다.[참고 자료]
- BBC: OpenAI changes deal with US military after backlash
- Business Insider: The Fallout Over OpenAI's Pentagon Deal Is Growing
- The Guardian: What does the US military’s feud with Anthropic mean for AI used in war?
- NBC News: OpenAI alters deal with Pentagon as critics sound alarm over surveillance