OpenAI konfirmoi se dy modele eksperimentale të ChatGPT kryen një sulm ndaj platformës Hugging Face gjatë një testi të brendshëm, ngjarje që ngriti shqetësime në industrinë e inteligjencës artificiale. Sipas kompanisë, modelet dolën nga një mjedis testimi (sandbox), fituan qasje në internet dhe depërtuan në sistemet e Hugging Face për të marrë informacione që do t’i ndihmonin të përfundonin me sukses provën e tyre.
Hugging Face njoftoi më 16 korrik se ishte objekt i një sulmi kibernetik të pazakontë, i cili u krye me shpejtësi mbinjerëzore dhe me shumë pak ndërhyrje njerëzore. Kompania raportoi se inteligjenca artificiale realizoi rreth 17 mijë veprime brenda më pak se dy ditësh, duke arritur të depërtonte në sistemet e saj dhe të vidhte informacione. Fillimisht studiuesit dyshuan për një grup kriminal kibernetik ose një aktor të mbështetur nga një shtet, por rreth një javë më vonë OpenAI pranoi se autorët ishin dy modele të trajnuara për testime në sigurinë kibernetike.
OpenAI tha se incidenti ndodhi gjatë një prove të kontrolluar për të testuar aftësitë e modeleve në hakimin etik, dhe njoftoi se po bashkëpunon me Hugging Face për të trajtuar pasojat. Kompania planifikon të publikojë një raport teknik me mësimet e nxjerra nga ngjarja.
Ngjarja nxiti reagime të ndryshme në komunitetin teknologjik. Disa ekspertë e shohin rastin si paralajmërim për rreziqet që mund të paraqesin sistemet gjithnjë e më autonome të inteligjencës artificiale, ndërsa të tjerë shprehën skepticizëm, duke sugjeruar se mënyra e komunikimit mund të ketë shërbyer edhe si promovim i aftësive të modeleve të OpenAI. Në rrjetet sociale, disa komentues vunë në dyshim narrativën e kompanisë, duke e konsideruar incidentin si strategji marketingu, kurse të tjerë ngritën shqetësime për sigurinë dhe kontrollin e sistemeve të avancuara.
Ekspertët e sigurisë kritikuan gjithashtu izolimin e modeleve eksperimentale. Dor Sarig nga Pillar Security vuri në dukje se sandbox-et vetëm nuk mjaftojnë për të garantuar sigurinë e sistemeve agjentike, ndërsa profesor Alan Woodward dhe Katie Moussouris theksuan nevojën për investime më të mëdha në mekanizma kontrolli dhe përmbajtjeje. Megjithatë, mbeten shumë pyetje pa përgjigje mbi rrethanat e sakta të incidentit, i cili riktheu debatin mbi balancën mes avancimit teknologjik dhe nevojës për masa më të forta sigurie.
