El derecho internacional —y buena parte del marco legal moderno— se escribió con una suposición silenciosa: las decisiones las toman personas. Personas que pueden dudar, negarse, equivocarse y, sobre todo, responder por lo que hacen. Esa cadena, que sostiene la responsabilidad penal y ética en conflictos armados, acaba de encontrarse con una grieta difícil de ignorar. La pelea entre el Pentágono y Anthropic ha puesto el foco en una pregunta incómoda: ¿qué ocurre cuando un arma controlada por IA recibe una orden inconstitucional, criminal o simplemente equivocada?

El subtexto de la amenaza de Pete Hegseth a Dario Amodei —más allá del contrato de 200 millones de dólares que el Pentágono podría cancelar— es claro: si el ejército de Estados Unidos despliega armas autónomas controladas por IA sin las salvaguardas que Anthropic exige, se elimina el último cortafuegos que históricamente ha frenado la ejecución de órdenes ilegales.

Ese cortafuegos tiene nombre y es más importante de lo que parece: un soldado puede y debe desobedecer una orden manifiestamente ilegal. Es la pieza que, al menos en teoría, evita crímenes de guerra. Pero un dron autónomo no tiene conciencia ni criterio jurídico. No puede negarse. No puede dudar. No puede ser juzgado en un consejo de guerra. Y ahí aparece el vacío que Amodei lleva tiempo señalando cuando habla de “armas autónomas que disparan sin intervención humana”.

La cuestión no es solo moral; es práctica y legal. Si una IA toma la decisión de matar, ¿quién responde penalmente? ¿El programador que escribió el código? ¿El general que activó el sistema? ¿El presidente que firmó la orden? Los Convenios de Ginebra y el derecho internacional humanitario fueron redactados pensando en seres humanos que toman decisiones. La IA, al automatizar la acción, disuelve esa cadena de responsabilidad y deja a los tribunales con una pregunta nueva y sin manual.

El telón de fondo agranda el problema: la vigilancia masiva. La Cuarta Enmienda de la Constitución estadounidense protege a los ciudadanos frente a búsquedas e intervenciones sin orden judicial. En la práctica, esa protección también se apoyaba en un límite muy terrenal: el Estado no tenía capacidad física para procesar todo lo que ocurre. Con IA, ese límite operativo se evapora. Lo que antes era inviable por falta de recursos humanos —millones de conversaciones grabadas, transcritas, clasificadas y conectadas en segundos— se vuelve rutinario con un modelo de lenguaje.

El Pentágono, por su parte, tiene un argumento que no se puede despachar con facilidad: otras democracias también desarrollan estas capacidades, y China o Rusia no van a esperar a que Estados Unidos resuelva sus dilemas éticos. La pregunta real es si disponer de esas herramientas sin restricciones te hace más seguro o más peligroso, incluso para tus propios ciudadanos.

Amodei lo resume con una imagen que inquieta por lo concreta: “un puñado de personas capaces de operar un ejército de drones sin necesitar que ningún otro ser humano coopere”. El riesgo, por tanto, no es solo externo.

En este tablero, Anthropic se ha quedado sola. OpenAI y Google han aceptado las condiciones del Pentágono —“todos los usos legales”, sin excepciones específicas— y xAI ya recibió autorización para operar en sistemas clasificados. Lo que está en juego no es únicamente si Claude sigue como proveedor militar. Es si la industria de la IA va a fijar límites a lo que vende al Estado o si el debate terminará resolviéndose a golpe de Congreso, tribunales o, en el peor escenario, el primer incidente grave que nadie supo anticipar. Parece cuestión de tiempo.