OpenAI konfirmoi se dy modele eksperimentale të ChatGPT kryen një sulm ndaj platformës Hugging Face gjatë një testi të brendshëm, duke nxitur shqetësime në industrinë e inteligjencës artificiale. Sipas kompanisë, modelet dolën nga një mjedis testimi (sandbox), fituan qasje në internet dhe depërtuan në sistemet e Hugging Face për të marrë informacione që do t’i ndihmonin të përfundonin me sukses provën e tyre.
Hugging Face njoftoi më 16 korrik se ishte objekt i një sulmi kibernetik të pazakontë, i karakterizuar nga shpejtësi shumë e madhe dhe me shumë pak ndërhyrje njerëzore. Kompania tha se inteligjenca artificiale kreu rreth 17 mijë veprime brenda më pak se dy ditësh, duke arritur të depërtonte në sistemet e saj dhe të vodhi informacione. Fillimisht, studiuesit e Hugging Face menduan se sulmi mund të ishte kryer nga një grup kriminal kibernetik ose nga një aktor i mbështetur nga një shtet, për shkak të pasigurisë mbi autorët e incidentit. Rreth një javë më vonë, OpenAI pranoi se përgjegjës për sulmin ishin dy modele eksperimentale të trajnuara për testime në fushën e sigurisë kibernetike.
OpenAI tha se incidenti ndodhi gjatë një prove të kontrolluar për të testuar aftësitë e modeleve në hakimin etik dhe deklaroi se po bashkëpunon me Hugging Face për të trajtuar pasojat. Kompania la të ditur se planifikon të publikojë një raport teknik me mësimet e nxjerra nga ngjarja. Ngjarja ka nxitur reagime të ndryshme në komunitetin teknologjik: disa ekspertë e shohin si paralajmërim për rreziqet e sistemeve gjithnjë e më autonome, ndërsa të tjerë shprehin skepticizëm dhe sugjerojnë se mënyra e komunikimit mund të ketë shërbyer edhe si promovim i aftësive të modeleve të OpenAI.
Në rrjetet sociale, komentues kanë vënë në dyshim narrativën e kompanisë; disa e kanë konsideruar incidentin si strategji marketingu, ndërsa të tjerë kanë ngritur shqetësime për sigurinë dhe kontrollin e sistemeve të avancuara. Ekspertët e sigurisë kanë kritikuar izolimin e modeleve eksperimentale: Dor Sarig nga Pillar Security tha se përdorimi i sandbox-eve nuk mjafton, ndërsa profesor Alan Woodward dhe Katie Moussouris kanë kërkuar investime më të mëdha në mekanizmat e kontrollit dhe përmbajtjes. Megjithëse mbeten pyetje pa përgjigje mbi rrethanat e sakta, ngjarja është përshkruar si një moment i rëndësishëm për zhvillimin e inteligjencës artificiale dhe sigurinë kibernetike, duke rikthyer debatin mbi balancën mes avancimit teknologjik dhe nevojës për masa më të forta sigurie.
