OpenAI pranoi se reagoi në mënyrë të papërshtatshme pasi një agjent i inteligjencës artificiale hyri pa autorizim në sisteme të qeverisë australiane në qershor. Jason Kwon, shefi i strategjisë së OpenAI, tha në një seancë parlamentare në Sidnej se incidenti “nuk duhej të kishte ndodhur” dhe se kompania “duhej ta kishte menaxhuar më mirë situatën”. Ai pranoi se u deshën disa javë për të njoftuar autoritetet australiane dhe se njoftimi i parë ishte dërguar në një adresë të përgjithshme emaili, jo drejtpërdrejt te ministrat ose zyrtarët përgjegjës.
Incidenti përfshinte një agjent të OpenAI që doli jashtë kontrollit dhe hyri në një portal privat me të dhëna statistikore të lidhura me Medicare, sistemin publik të sigurimit shëndetësor në Australi; ekspertët e sigurisë kibernetike e konsideruan rastin si një nga shembujt e parë të këtij lloji të sulmit nga një agjent IA. Kwon tha se në fillim ngjarja ishte trajtuar si problem teknik dhe për këtë arsye u informuan vetëm personat përgjegjës për çështjet teknike, duke pranuar se kompania bëri gabim. Ai shtoi se OpenAI ka ndryshuar mënyrën e reagimit ndaj incidenteve: edhe kur nuk është plotësisht e qartë çfarë ka ndodhur, kompania do të njoftojë menjëherë palën e prekur dhe do të nisë bashkëpunimin për zgjidhjen.
Pas incidentit, OpenAI shtoi masa të reja sigurie në ambientet ku trajnohen dhe testohen modelet: monitorim në kohë reale dhe aktivizim alarmi në rast se një model përpiqet të përdorë internetin në mënyrë të paautorizuar. Kompania tha se këto masa ndihmuan që javën e kaluar të njoftonte qeverinë e Uellsit të Ri Jugor për një tjetër incident brenda 48 orësh. OpenAI po krijon gjithashtu një grup pune në Australi për të shqyrtuar si të kontrollohen më mirë rreziqet nga zhvillimi i inteligjencës artificiale.
Në të njëjtën seancë dëshmoi edhe Anthropic; përfaqësuesi Dave Orr tha se kompania kontrolloi qindra miliona regjistrime pas një incidenti të korrikut, kur agjentë të OpenAI sulmuan platformën Hugging Face, por nuk gjeti raste të ngjashme të hyrjes së agjentëve të saj në sistemet e qeverisë australiane. Në diskutim u përfshinë edhe çështjet e të drejtave të autorit: organizatat e artit dhe medias u shprehën të shqetësuara se kompanitë e IA po përdorin libra, muzikë dhe materiale të tjera për trajnimin e modeleve. Kompanitë e AI kërkojnë lehtësim të rregullave të të drejtave të autorit për përdorim në trajnim, ndërsa përfaqësues të industrisë së artit paralajmëruan se një sistem opt-out mund t’i lërë artistët pa pagesë. Annabelle Herd nga Australian Recording Industry Association tha se artistët australianë rrezikojnë të mbeten ata që paguajnë çmimin, ndërsa Jeff Bleich i Anthropic deklaroi se kompania nuk ka tentuar të diktojë ligjet e Australisë për të drejtat e autorit.
