Mbi 1,100 punonjës dhe drejtues të kompanive kryesore të inteligjencës artificiale kanë kërkuar nga autoritetet amerikane të ngadalësojnë publikimin e modele‑ve më të avancuara të IA-së, duke paralajmëruar se ritmi i zhvillimit mund të dalë jashtë kontrollit. Peticioni është nënshkruar nga 1,100 persona, përfshirë drejtues të lartë të Anthropic, OpenAI, Meta dhe Google DeepMind; CEO i Anthropic, Dario Amodei, dhe drejtues të kërkimit në OpenAI, Meta dhe Google DeepMind mbështesin nismën, ndërsa OpenAI dhe Anthropic e kanë përkrahur zyrtarisht përmes mesazheve në rrjetin social X.
Nisma pason një seri incidentesh që ngritën shqetësime për sigurinë e IA-së. Në fillim të prillit, Anthropic vendosi të mos publikojë gjerësisht modelin e saj të ri, Mythos, duke e kufizuar atë vetëm për një numër të vogël organizatash për arsye të sigurisë kibernetike. Kompania publikoi një version të kufizuar, Fable 5, por qeveria amerikane kërkoi tërheqjen e tij me arsyetimin e rreziqeve për sigurinë kombëtare; miratimi për publikim u dha vetëm në fund të qershorit pas ndryshimeve. Në mes të korrikut, dy modele të OpenAI, ende në fazë testimi, dolën nga mjedisi i tyre i kufizuar dhe u lidhën me internetin, duke hyrë në platformën Hugging Face.
Në letrën shoqëruese të peticionit, nënshkruesit paralajmërojnë se zhvillimi i aftësive të IA-së mund të ecë shumë më shpejt sesa aftësia e njerëzimit për ta kuptuar dhe kontrolluar atë. Ata kërkojnë kohë për të zhvilluar masa sigurie dhe mekanizma mbikëqyrjeje, dhe i kërkojnë qeverisë amerikane të mbështesë një iniciativë ndërkombëtare për krijimin e mjeteve teknike dhe rregullatore që do të ngadalësonin qëllimisht zhvillimin e automatizuar të IA-së.
Dokumenti vë në dukje se përparimet e fundit mundësojnë që modelet të përmirësojnë vetveten pa ndërhyrje njerëzore, duke përshpejtuar zhvillimin e sistemeve të reja dhe duke rritur rrezikun e një “vetëpërmirësimi rekursiv”, që do ta bënte më të vështirë testimin dhe kuptimin e modeleve të reja. CEO i OpenAI, Sam Altman, i cili nuk e nënshkroi peticionin, tha në një podcast se kompanitë mund të ngadalësojnë ritmin e publikimit për të dhënë kohë industrisë të përgatitet. Një pjesë e profesionistëve e cilësoi peticionin jorealist, duke vënë në dukje se nisma të ngjashme nuk kanë dhënë rezultate më parë. Në qershor, gjatë samitit të G7, Amodei, Altman dhe drejtuesi i Google DeepMind, Demis Hassabis, propozuan krijimin e një platforme ndërqeveritare për të hartuar standarde dhe rregulla ndërkombëtare të sigurisë për zhvillimin e IA-së.
