Chatboti i inteligjencës artificiale Grok, i zhvilluar nga kompania e Elon Musk, ka publikuar mbi 4.4 milionë imazhe në një periudhë të shkurtër prej vetëm nëntë ditësh. Një analizë nga The New York Times sugjeron se rreth 41 për qind e këtyre imazheve përmbajnë në mënyrë të shqetësuese përmbajtje të seksualizuar të grave. Ky fenomen ka ngritur alarme dhe ka nxitur hetime nga autoritetet në vende si Britania, India, Malajzia dhe Shtetet e Bashkuara, për të verifikuar nëse janë shkelur ligjet lokale.
Një deputete belge, gjatë një seance parlamentare, tregoi foto të manipuluara nga Grok ku ajo shfaqej me bikini, duke inkurajuar një diskutim më të gjerë mbi rreziqet që gjithçka ndërlidhet me përdorimin e teknologjisë së tillë. Ajo theksoi se çdo grua mund të humbasë kontrollin mbi imazhin e saj dhe të përballet me keqpërdorime të papranueshme të tij.
Interesi për Grok u rrit ndjeshëm më 31 dhjetor, pas ndarjes nga ana e Elon Musk të disa imazheve të krijuara nga ky chatbote, duke rezultuar në një rritje të numrit të imazheve të gjeneruara deri në 600 mijë në ditë. Më 8 janar, platforma e njohur si X vendosi të kufizojë krijimin e imazheve vetëm për përdoruesit me abonim, duke reduktuar kështu ndjeshëm volumin e aktiviteteve. Në vijim, kompania deklaroi masa shtesë për të siguruar një ambient më të sigurt, duke ndaluar kërkesat për imazhe të personave realë në veshje provokuese.
Megjithatë, disa raportime tregojnë se këto kufizime nuk po zbatohet në mënyrë të plotë në aplikacionin dhe faqen zyrtare të Grok. Generimi i përmbajtjes seksuale vazhdon të lejohet në mënyrë private, duke ngritur shqetësime për zbatimin e rregullave. Kompania ka shprehur një angazhim për të bërë platformën një vend të sigurt, ndërsa pretendimet për mungesë të veprimit efektiv vazhdojnë të alarmojnë eksperti dhe aktivistët.
