L’apparato militare degli Stati Uniti ha sfiorato un incidente internazionale di proporzioni critiche a causa di un’allucinazione algoritmica. Nella scorsa primavera, durante le operazioni nel teatro mediorientale, i comandi della difesa hanno disposto l’intercettazione immediata di un’imbarcazione commerciale cinese. Squadre d’assalto pronte all’arrembaggio e caccia già decollati hanno risposto all’allarme lanciato da un documento operativo, convinti che il natante trasportasse componenti destinati a un programma nucleare. Soltanto pochi istanti prima dell’azione, una verifica sui sistemi ha svelato che l’intero dossier derivava da una grossolana svista generata da un chatbot.
La sintesi errata ha avuto origine all’interno dello US Special Operations Command Pacific di stanza alle Hawaii. Un analista ha interrogato un sistema di elaborazione del linguaggio naturale incrociando i manifesti di carico con dati intercettati e registri aperti. Il modello linguistico ha unito le informazioni in modo arbitrario, classificando il carico mercantile innocuo come una fornitura per armamenti atomici. L’operatore ha poi riutilizzato l’automazione per impaginare e distribuire il bollettino agli ufficiali, senza condurre riscontri incrociati sulla veridicità del testo.
La vicenda dimostra come le architetture generative, persino quando isolate in contesti governativi, rimangano soggette a derive statistiche incompatibili con decisioni critiche. Secondo quanto ricostruito da fonti informate interne alla difesa, il software impiegato consisteva in una copia interna di modelli commerciali riadattati all’ambiente militare. Diversi esperti del settore hanno rimarcato come tali interfacce non siano altro che repliche mascherate dei motori consumer, prive del rigore deterministico indispensabile per analizzare dati grezzi e autorizzare missioni sul campo.
L’integrazione forzata degli algoritmi e le falle della catena di comando
La vicenda si colloca al centro di una transizione tecnica accelerata dal Dipartimento della Difesa. Nel luglio 2025 il Pentagono ha assegnato a Google una commessa da 200 milioni di dollari per implementare soluzioni basate su reti neurali, mossa seguita dal varo della piattaforma GenAi.Mil. Nel gennaio 2026, il segretario alla Difesa Pete Hegseth ha formalizzato l’Artificial Intelligence Acceleration Strategy, spingendo per una diffusione massiccia di questi applicativi tra oltre tre milioni di dipendenti civili e personale in divisa.
La frammentazione dei protocolli interni accresce il margine di rischio. Non esiste tuttora un impianto univoco per validare la coerenza delle risposte prima che confluiscano nei canali tattici. I singoli comandi periferici operano con strumenti differenti, generando una disparità evidente tra il rigore richiesto dalle sale operative e la volatilità intrinseca delle elaborazioni testuali. L’impiego di algoritmi di targeting bellico rischia di depotenziare il controllo umano, favorito dalla propensione dei quadri più giovani ad accettare acriticamente gli esiti sintetizzati dallo schermo.
Affidare la ricognizione a motori statistici introduce inevitabilmente una vulnerabilità strutturale nei processi decisionali. La fretta di elaborare dati complessi comprime i controlli di sicurezza, rischiando di tramutare una semplice correlazione errata in un confronto a fuoco tra superpotenze. Senza vincoli procedurali stringenti sul trattamento delle fonti, il pericolo maggiore non riguarda una remota autonomia decisionale delle macchine, ma l’eccesso di delega da parte di comandi umani disposti ad assecondare allucinazioni digitali.