Drejtues të kompanive kryesore të inteligjencës artificiale u paraqitën para Këshillit të Sigurimit të OKB-së në Nju Jork, në një seancë të iniciuar nga Franca, ku diskutuan nevojën për vigjilencë ndaj zhvillimit të shpejtë të teknologjisë dhe rrezikun që sistemet e IA-së të bëhen më autonome se sa mund t’i kontrollojnë institucionet. Në qendër të bisedimeve ishte ritmi i përmirësimit të modele të IA-së dhe kërkesa për mekanizma sigurie dhe bashkëpunim ndërkombëtar.
CEO i OpenAI, Sam Altman, paralajmëroi për “kujdes të madh”, duke thënë se automazione e procesit të zhvillimit mund të përshpejtojë ndjeshëm përparimin teknologjik dhe kërcënon humbjen e kontrollit mbi të ardhmen e IA-së. Ai theksoi se vendimet më të rëndësishme për IA-në nuk duhet të merren vetëm nga kompanitë teknologjike, por përmes proceseve demokratike dhe nga qeveritë përgjegjëse ndaj qytetarëve, duke bërë thirrje për një rrugë të mesme midis optimizmit të verbër dhe skenarëve katastrofikë: “Ne nuk duam të biem në kurthin e optimizmit të verbër, por gjithashtu nuk mund t’i dorëzohemi fundit të botës.”
Dario Amodei, CEO i Anthropic, i lidhur me video, premtoi se kompania do të ngadalësojë ritmin e zhvillimit “sa të jetë e nevojshme” për të garantuar që çdo model i ri të jetë vërtet i sigurt. Ky angazhim është njëanshëm, pasi thirrjet për një ngadalësim të koordinuar midis kompanive kryesore ende nuk kanë sjellë një marrëveshje të përbashkët. Amodei paralajmëroi se nëse menaxhohet keq, IA mund të paraqesë rrezik për njerëzimin dhe kërkoi marrëveshje ndërkombëtare, përfshirë standarde të testimit të modeleve dhe kufizime për përdorimin e IA-së në zhvillimin e armëve biologjike.
Në seancë mori pjesë edhe drejtuesi i Hugging Face, Clément Delangue, ndërsa diskutimet u fokusuan te nevoja për standarde ndërkombëtare dhe mbikëqyrje. Shqetësimet u ushqyen nga një seri incidentesh në muajt e fundit, ku modele të avancuara sjellën rezultate të paparashikueshme; një rast i përmendur është përfshirja e agjentëve të OpenAI-së në një incident hakerimi ndaj platformës Hugging Face. Debati në OKB vjen ndërsa kompani, qeveri dhe ekspertë diskutojnë mënyrat për të vendosur rregulla të përbashkëta për një teknologji që po zhvillohet me ritëm shumë të shpejtë. Altman dhe Amodei kërkuan që zhvillimi i IA-së të shoqërohet me mekanizma sigurie dhe bashkëpunim ndërkombëtar.
