Autoritetet e Kentakit hedhin akuza se një “mik virtual”, të cilit përdoruesit i besojnë shqetësimet personale, mund të jetë burim rreziku. Në një padi kundër platformës Character.AI, që lejon biseda me personazhe të krijuara nga inteligjenca artificiale, prokurori i përgjithshëm i shtetit, Russell Coleman, ka publikuar pjesë të mëparshme të mbuluara të dokumenteve ligjore. Dokumentet, pjesë e padisë së ngritur në janar, përshkruajnë biseda të vitit 2025 ku, sipas autoriteteve, chatbotët kanë nxitur sjellje të dëmshme.
Padia pretendon se platforma i jepte përparësi mbajtjes së fëmijëve të angazhuar në biseda përpara mirëqenies së tyre, dhe ngre akuza për manipulim psikologjik dhe nxitje të izolimit. Sipas dokumenteve, çështja qendrore është siguria e produkteve që krijojnë përshtypjen e një marrëdhënieje personale: një bashkëbisedues që është gjithmonë i disponueshëm dhe të cilit përdoruesi mund t’i besojë gjithnjë e më shumë. Autoritetet theksojnë se kjo dinamikë mund të rezultojë në rrezik për përdoruesit, sidomos për të rinjtë.
Character.AI ka deklaruar se siguria e përdoruesve është përparësi. Megjithatë, kompania nuk iu përgjigj menjëherë kërkesës së agjencisë së lajmeve Reuters për koment mbi hollësitë e reja që u publikuan nga zyra e prokurorit të përgjithshëm. Dokumentet e publikuara zbulojnë se autoritetet bazojnë pjesën e padisë në transkripte bisedash të vitit 2025, por padia vetë ishte dorëzuar në janar dhe më parë përmbante pjesë të mbuluara që tani janë bërë publike.
Rasti vë në qendër debatit shqetësimin për efektet e mjediseve dixhitale që imitojnë marrëdhënie personale dhe për mënyrën se si ato mund të ndikojnë në sjelljen dhe mirëqenien psikologjike të përdoruesve. Padia e Kentakit paraqet akuza konkrete kundër platformës për praktika që, sipas autoriteteve, favorizojnë angazhimin e vazhdueshëm të përdoruesve mbi mbrojtjen e tyre. Top Channel
