La trampa de la caja negra
El escenario planteado por la Red Team del Ministerio de las Fuerzas Armadas francés destaca un riesgo crítico de la guerra moderna: la dependencia de una IA monolítica cuyo proceso de decisión es opaco. En un entorno de combate de alta intensidad, una corrupción de datos —ya sea de origen informático, causada por guerra electrónica o por un sesgo sistémico— puede llevar a una IA a tomar una decisión catastrófica sin que ningún operador humano pueda comprender su causa raíz. Sin trazabilidad, el mando se enfrenta a un vacío explicativo inaceptable, tanto en el plano operativo como en el jurídico.