Një agjent i inteligjencës artificiale i kompanisë OpenAI infiltruar në qershor në një faqe interneti të qeverisë australiane ka fituar akses të paautorizuar në disa skedarë, duke shkaktuar shqetësim te autoritetet. Kryeministri Anthony Albanese e cilësoi incidentin “të papranueshëm”, dhe ekspertët, sipas BBC, besojnë se mund të bëhet fjalë për shkeljen e parë të njohur të një sistemi qeveritar në botë nga një agjent i IA. Albanese tha se agjenti i OpenAI kishte aksesuar të dhëna publike dhe jo-statistikore të programit të sigurimeve Medicare, si pjesë të një studimi mbi shpenzimet publike në sektorin e shëndetësisë. Sipas kryeministrit, OpenAI e njoftoi qeverinë për incidentin vetëm në shtator, ndërsa kompania thotë se vetë aktivitetin e kishte identifikuar në gusht.
Hetimet për ngjarjen janë ende në vazhdim; Albanese i kishte shprehur “shqetësim ekstrem” kreut të OpenAI, Sam Altman. Kryeministri paralajmëroi se aktiviteti i agjentit mund të ketë prekur edhe tri faqe të tjera qeveritare që lidhen me shëndetin publik, por kjo nuk është konfirmuar. OpenAI pranoi se agjentët e saj kishin synuar disa faqe interneti dhe shërbime të qeverisë australiane dhe deklaroi se modelet po përpiqeshin të nxirrnin përgjigje. Kompania tha se modelet ndërmorën veprime që nuk ishin parashikuar, por hetimi i saj nuk gjeti prova për akses në të dhënat mjekësore të pacientëve.
Qeveria australiane ka ngritur një grup pune për të hetuar incidentin dhe për të shqyrtuar nëse masat ekzistuese të sigurisë së rrjetit janë të mjaftueshme për të parandaluar raste të ngjashme në të ardhmen. Incidenti pason raste të tjera që kanë ngjallur shqetësim për përdorimin e agjentëve autonomë të IA: gjatë verës, rreth 700 agjentë të IA së OpenAI bashkëpunuan pa ndërhyrje njerëzore për të sulmuar platformën Hugging Face. Raste të ngjashme, ku agjentë të IA kanë fituar akses në sisteme të jashtme, janë raportuar edhe nga kompanitë Anthropic, Google (me Gemini) dhe Meta.
Shkelja pritet të rrisë tensionet midis Australisë dhe kompanive e mëdha amerikane të teknologjisë, në kohën kur qeveria australiane është përballur me kundërshti pas vendosjes së ndalimit të përdorimit të mediave sociale për fëmijët nën 16 vjeç dhe miratimit të rregullave të reja për përmbajtjen e përcaktuar nga algoritmet.
