Een inlichtingenrapport dat dit voorjaar binnen het Amerikaanse leger werd verspreid, heeft bijna geleid tot een nieuwe oorlog. Het rapport, dat met behulp van kunstmatige intelligentie was opgesteld, signaleerde een Chinees schip in het Midden-Oosten dat onderdelen voor een kernwapenprogramma zou vervoeren. Dat blijkt echter onjuist te zijn. De Amerikaanse nieuwszender CNN meldt dit op basis van vier bronnen die bekend zijn met de gebeurtenis.
Het AI-gegenereerde rapport leidde tot grote bezorgdheid binnen de Amerikaanse defensietop. Op basis van de informatie werd een Chinees vrachtschip in de regio als een directe dreiging beschouwd. Militaire eenheden zouden in gereedheid zijn gebracht voor een mogelijke onderschepping of aanval. De situatie escaleerde bijna tot een gewapend conflict tussen de Verenigde Staten en China, aldus de bronnen.
De foutieve informatie werd uiteindelijk ontkracht nadat nader onderzoek uitwees dat het schip geen verboden lading vervoerde. Het is niet duidelijk hoe de AI tot de onjuiste conclusie kwam. Wel roept de kwestie vragen op over het gebruik van geautomatiseerde systemen voor het genereren van inlichtingenrapporten. Bij een daadwerkelijke aanval had de fout verstrekkende gevolgen kunnen hebben voor de veiligheid in het Midden-Oosten en de verhoudingen tussen Washington en Peking.
Het voorval onderstreept de risico's van het vertrouwen op kunstmatige intelligentie bij het nemen van militaire beslissingen. Inlichtingenrapporten vormen de basis voor het beoordelen van dreigingen en het nemen van maatregelen. Wanneer die rapporten onjuist zijn, kunnen ze leiden tot verkeerde inschattingen met mogelijk catastrofale gevolgen. Het Amerikaanse leger heeft nog niet publiekelijk gereageerd op het incident.
De betrokkenheid van AI bij het opstellen van het rapport betekent niet dat er geen menselijke controle was. Het is gebruikelijk dat dergelijke rapporten door analisten worden beoordeeld voordat ze worden verspreid. Of dat in dit geval is gebeurd en waarom de fout niet eerder werd opgemerkt, is niet bekend. CNN baseert zich op vier anonieme bronnen die direct op de hoogte zouden zijn van de gang van zaken.
De kwestie komt op een moment dat de Verenigde Staten en China al jarenlang spanning kennen over elkaars militaire activiteiten, met name in de Zuid-Chinese Zee en het Midden-Oosten. Een verkeerde inschatting kan in zo'n omgeving snel uit de hand lopen. Het incident met het AI-rapport laat zien hoe kwetsbaar die situatie is.