Një raport i inteligjencës amerikane që u shpërnda brenda ushtrisë gjatë pranverës, në kulmin e luftës me Iranin, shkaktoi alarm në Uashington pasi pretendonte se një anije kineze në Lindjen e Mesme po transportonte pjesë të lidhura me një program armësh bërthamore. Ushtria nisi përgatitjet për të ndaluar anijen: sipas burimeve, forca të armatosura ishin gati për të hipur në bord dhe avionë ushtarakë u ngritën në ajër. Pak para se operacioni të fillonte, një verifikim më i thellë zbuloi se raporti ishte përgatitur me ndihmën e inteligjencës artificiale. Një chatbot i përdorur nga analisti kishte identifikuar në mënyrë të gabuar ngarkesën; sipas një burimi raporti ishte “krejtësisht i pavërtetë” dhe gati sa nuk shkaktoi një konflikt mes SHBA dhe Kinës. Një veprim ushtarak kundër anijes kineze mund të kishte çuar në përshkallëzim të rrezikshëm dhe në përplasje direkte mes dy fuqive.
Rasti nxjerr në pah rreziqet e përdorimit të AI në operacionet ushtarake, veçanërisht kur vendimet duhet të merren brenda pak minutash. Sipas burimeve, analisti përdori një chatbot për të analizuar të dhëna mbi ngarkesën; sistemi kombinonte informacione publike me të dhëna sekrete dhe doli në përfundim të gabuar. Pastaj ai përdori përsëri AI për të paraqitur gjetjet në formatin standard të një raporti inteligjence, i cili u shpërnda dhe u trajtua si dokument i zakonshëm. Ngjarja ndodh ndërsa ushtria dhe shërbimet e inteligjencës po përshpejtojnë përdorimin e AI-së në fushime të ndryshme, nga analizimi i të dhënave te identifikimi i objektivave, logjistika dhe menaxhimi i burimeve; në janar sekretari i Mbrojtjes, Pete Hegseth, prezantoi strategjinë e Pentagonit për përshpejtimin e përdorimit të AI.
Megjithatë, përdorimi i AI brenda strukturave amerikane nuk është i centralizuar: departamente të ndryshme përdorin sisteme dhe standarde sigurie e verifikimi të ndryshme, dhe nuk ka një standard të vetëm për të kontrolluar saktësinë e informacionit të prodhuar. Ekspertët paralajmërojnë për fenomene si “halucinacioni” i AI-së, kur sistemi gjeneron informacione të pasakta por i paraqet ato bindshëm. Rasti tregon se gabimet teknologjike mund të ndikojnë direkt në vendimmarrje ushtarake dhe të kenë pasoja reale, dhe ngre shqetësime për mungesën e udhëzimeve të qarta për mbikëqyrjen njerëzore dhe rreziqet që vijnë nga zgjerimi i përdorimit të AI-së.
