Një test i inteligjencës artificiale prodhoi informacione të sajuara për një vrasje të pazbardhur dhe i dërgoi ato në formularin publik të policisë së Filadelfias. Sipas autoriteteve, modeli i kompanisë Anthropic paraqiti mesazhin si të vinte nga një person që mund të kishte dijeni për çështjen. Denoncimi u dërgua më 18 korrik, por sistemi e etiketoi si mesazh të padëshiruar dhe ai nuk iu përcoll hetuesve, ndaj nuk shkaktoi veprime hetimore.
Policia e Filadelfias deklaroi se nuk ka shenja të hyrjes së paautorizuar në sistemet e saj dhe as të cenimit të të dhënave. Anthropic zbuloi incidentin më 28 shtator dhe njoftoi autoritetet më 7 tetor; autoritetet e konsideruan të papranueshme vonesën prej më shumë se dy muajsh në zbulimin dhe raportimin e rastit. Kompania shpjegoi se modeli po testohej për ndërveprime me faqe interneti të përzgjedhura rastësisht dhe se, pas zbulimit, kishte ndërprerë procesin dhe vendosur një mekanizëm shtesë kontrolli për testet e ardhshme.
Profesori i shkencave kompjuterike Venkat Margapuri vuri në dukje se dërgimi i informacionit nga një sistem AI në një faqe tjetër, në emër të një përdoruesi, përbën një veprim me rrezik të lartë. Në raportin e saj, Anthropic përshkroi edhe raste të tjera të sjelljes së paqëllimshme të modelit në faqe qeveritare dhe tha se kishte njoftuar institucionet përkatëse për ato incidente.
Sipas informacionit të dhënë, denoncimi i prodhuar nga AI ishte trajtuar si postë të padëshiruar dhe nuk pati ndonjë përhapje më tej brenda strukturave hetimore. Kompania mori masa pas identifikimit të problemit dhe raportoi komunikimin me autoritetet, ndërsa policia inspektoi sistemet dhe deklaroi mungesën e shenjave të komprometimit të tyre.
