Cuando la única barrera es una empresa: el caso Pentágono-Anthropic y el vacío de gobernanza de la IA
Este texto es una adaptación divulgativa de un manuscrito en proceso de revisión para publicación académica. Algunas afirmaciones son provisionales y sujetas a la disponibilidad de fuentes públicas verificables.
En febrero de 2026, la empresa Anthropic se negó a renovar su contrato con el Departamento de Defensa de los Estados Unidos. El motivo: el nuevo texto contractual exigía acceso “pleno y sin restricciones” al modelo Claude para dos usos que la compañía consideró líneas rojas — la vigilancia doméstica masiva de ciudadanos estadounidenses y los sistemas de armas totalmente autónomas.
La respuesta del gobierno fue inmediata y escalada: cese del uso de la tecnología de Anthropic en toda la administración federal y designación de la compañía como “riesgo para la cadena de suministro” de la seguridad nacional — una figura normalmente reservada para empresas vinculadas a adversarios extranjeros, nunca antes usada en una disputa contractual con una empresa americana. De manera casi simultánea, su competidor OpenAI firmó un contrato para desplegar sus modelos en redes militares clasificadas.
El episodio es notable por muchas razones. La que más me interesa como investigador es esta: la única barrera que separó a un modelo de IA generativa de uso cotidiano de su integración sin restricciones en sistemas de vigilancia masiva y armas autónomas fue la decisión ética de una empresa privada.
No una ley. No un tratado. No un organismo regulador.
¿Por qué importa que sea una empresa y no una ley?
Cuando un Estado quiere prohibir algo, lo legisla. Cuando una empresa quiere prohibir algo, actualiza sus términos de servicio.
La diferencia no es menor. Una ley tiene legitimidad democrática — emerge de un proceso representativo, es exigible mediante sanciones, y no puede modificarse por decisión unilateral de quien la aplica. La política de uso aceptable de Anthropic no tiene ninguna de esas propiedades: es voluntaria, modificable en cualquier momento por la dirección o los nuevos propietarios de la empresa, y carece de cualquier mecanismo de supervisión externa que la haga verificable.
Luciano Floridi (2024) tiene un término para este fenómeno: ethics washing — la adopción corporativa de marcos éticos maleables que funcionan, en la práctica, como sustitutos precarios de la regulación vinculante. Su utilidad no es garantizar el bien público, sino gestionar el riesgo político.
La pregunta incómoda que el caso Pentágono-Anthropic plantea es: ¿si la dirección de Anthropic hubiera tomado una decisión diferente — o si la presión del gobierno hubiera sido más alta, o si la empresa hubiera cambiado de manos — qué habría impedido ese despliegue?
La respuesta honesta es: nada.
El vacío normativo que el caso hace visible
El marco regulatorio que rodea el caso es llamativamente hueco.
La Directiva DoDD 3000.09 del propio Departamento de Defensa regula el proceso de aprobación de armas autónomas y exige “niveles apropiados de juicio humano sobre el uso de la fuerza”, pero no prohíbe el desarrollo de armas autónomas. Las leyes de autorización de defensa establecen deberes de notificación al Congreso, no prohibiciones sustantivas.
En el plano internacional, la situación es aún más frágil. La Recommendation on the Ethics of Artificial Intelligence de la UNESCO (2021) es el marco normativo de mayor alcance en la materia, articula con claridad principios de evaluación de impacto ético y supervisión — y en su propio texto pide a los Estados aplicar sus disposiciones “sobre una base voluntaria”. La Resolución 78/241 de la Asamblea General de la ONU (2023), dedicada específicamente a los sistemas de armas autónomas letales, se limita a “subrayar” la urgencia, “solicitar” opiniones y “decidir” incluir el tema en la siguiente agenda.
Aun en la cuestión de delegar decisiones letales a máquinas, el principal foro multilateral del mundo responde con una declaración de intención.
El resultado es un escenario que la literatura académica llama regulatory vacuum: no solo ausencia de leyes específicas, sino el desfase estructural entre la velocidad de innovación tecnológica y la capacidad de respuesta de los sistemas normativos — lo que Sheila Jasanoff (2016) describe como el pacing problem. En este vacío, el poder de decisión migra de la esfera pública a la privada, y las corporaciones se convierten en legisladores de facto de tecnologías con impacto sistémico en la seguridad global.
El problema específico de las armas autónomas
El caso adquiere su dimensión más grave cuando se considera el tipo de uso que estaba en discusión: sistemas de armas totalmente autónomas.
Jun Guo (2025) argumenta que estos sistemas carecen de legitimidad ética porque generan brechas de responsabilidad (responsibility gaps): al desacoplar la acción letal de la agencia humana, ningún actor moral identificable puede responder por el daño causado. La violencia legítima, en la tradición del derecho internacional humanitario, exige un ser humano capaz de asumir responsabilidad. Un sistema autónomo no puede ser juzgado, sancionado ni rendir cuentas.
La conclusión de Guo es directa: los Estados deben perseguir tratados internacionales vinculantes que prohíban los sistemas de armas autónomas sin control humano significativo. Wang et al. (2025), desde la comunidad técnica, llegan a un diagnóstico convergente: los riesgos técnicos, éticos, estratégicos y legales de la IA generativa militar solo pueden contenerse mediante un mecanismo de gobernanza global e inclusivo.
Ambos están describiendo lo que no existe hoy.
Lo que el caso de Anthropic nos deja
La negativa de Anthropic es, en cierto sentido, admirable. Una empresa privada mantuvo una posición ética frente a la coerción de la potencia militar más grande del mundo. Pero el modo en que funcionó esa barrera — de forma unilateral, inmediatamente expuesta a represalias comerciales, sin ninguna garantía de permanencia — revela exactamente el problema que pretendía resolver.
Que la barrera resistiera en este caso es un hecho notable. Que esa barrera resistente sea la única disponible es, precisamente, el problema.
La gobernanza de la IA generativa de uso militar no puede descansar sobre la buena voluntad de empresas privadas. Esa voluntad no es democrática, no es exigible y no es permanente. Cerrar el vacío que el caso hace visible exige avanzar hacia marcos vinculantes: tratados que prohíban sistemas de armas autónomas sin control humano significativo, y esquemas de exigibilidad que superen tanto el voluntarismo corporativo como la lentitud de la regulación estatal tradicional.
Mientras eso no existe, el único límite entre un modelo de lenguaje de uso cotidiano y su integración en sistemas de vigilancia masiva o armas autónomas sigue siendo una cláusula en los términos de servicio de una empresa que puede cambiar mañana.
Este análisis se basa en el estudio de caso del conflicto Pentágono-Anthropic (febrero de 2026), reconstruido mediante triangulación documental de fuentes institucionales (CRS, 2026), especializadas (CAP, 2026) y periodísticas (EFE / Forbes México, 2026). El encuadre de los usos pretendidos está en disputa: el Departamento de Defensa calificó de “narrativa falsa” la atribución de intenciones de vigilancia masiva y armas autónomas. El análisis prioriza los hechos verificables sobre las intenciones atribuidas a cualquiera de las partes.
Referencias principales
- Congressional Research Service. (2026). Pentagon-Anthropic dispute over autonomous weapon systems (IN12669).
- Guo, J. (2025). The ethical legitimacy of autonomous weapons systems. Ethics & Global Politics, 18(3), 27–39.
- Moloney, K., & Legrand, T. (2024). Actors, alterations, and authorities. Policy and Society, 43(1), 1–10.
- UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence.
- Wang, X., Yang, J., & Jia, M. (2025). Research on military AI risk governance. DSAI 2025 Proceedings, 657–660.