Velika napaka umetne inteligence skoraj zanetila vojno med dvema velesilama

Ameriška vojska je spomladi med vojno z Iranom skoraj izvedla operacijo proti kitajski ladji na Bližnjem vzhodu.

Po navedbah štirih virov, seznanjenih z dogodkom, so se ameriške sile pripravljale, da ladjo ustavijo in da se nanjo vkrcajo oboroženi vojaki. V zraku so bila tudi vojaška letala.

Šele tik pred načrtovano operacijo so ameriški uradniki podrobneje preverili poročilo in ugotovili, da je bilo pripravljeno s pomočjo klepetalnega robota umetne inteligence, ki je napačno identificiral ladijski tovor.

Dogodek, ki bi lahko povzročil vojno

Eden od virov je poročilo označil za "popolnoma napačno", drugi pa je dejal, da je dogodek "skoraj povzročil vojno". Morebitna ameriška vojaška akcija proti kitajski ladji bi namreč lahko prerasla v oborožen spopad med ZDA in Kitajsko.

Primer kaže na tveganja vse širše uporabe umetne inteligence v ameriški vojski in obveščevalnih službah. Ameriški uradniki si prizadevajo tehnologijo vključiti v številna področja, od analize velikih količin obveščevalnih podatkov in določanja ciljev za napade do logistike, proračunskega načrtovanja in upravljanja dobavnih verig.

V konkretnem primeru je analitik poveljstva za posebne operacije uporabil klepetalni robot za analizo obveščevalnih podatkov o ladji. Sistem je združil podatke iz javnih virov s tajnimi obveščevalnimi informacijami in prišel do napačnega sklepa o tovoru.