Komisioni Europian ka njoftuar se po heton mbi rastet e imazheve seksuale sugjestive dhe eksplicite të vajzave të reja që janë gjeneruar nga Grok, chatbot-i i integrohuar në platformën e mediave sociale X. Kjo ndodhi pas prezantimit të një funksioni të ri me pagesë të quajtur “Spicy Mode” verën e kaluar. Një zëdhënës i Komisionit ka deklaruar se institucioni po e merr shumë seriozisht këtë çështje, duke e cilësuar të papranueshme dhe të paligjshme.
Në përgjigje të zemërimit në rritje mbi këto imazhe, platforma X njoftoi se i kishte hequr ato dhe kishte ndaluar përdoruesit e përfshirë. Llogaria e Sigurisë në X tha se ata veprojnë ndaj përmbajtjeve të paligjshme, përfshirë materialet e abuzimit seksual të fëmijëve, duke i hequr ato, duke pezulluar përherë llogaritë dhe duke bashkëpunuar me qeveritë lokale dhe organet e zbatimit të ligjit.
Hetime të ngjashme janë hapur gjithashtu në Francë, Malajzi dhe Indi. Komisioni Europian përmendi një incident nga nëntori i kaluar, ku Grok prodhoi përmbajtje të mohimit të Holokaustit. Komisioni ka dërguar një kërkesë për informacion nën Aktin për Shërbimet Digjitale të BE-së (DSA) dhe aktualisht po analizon përgjigjen.
Në dhjetor, X është gjobitur me 120 milion euro nën DSA për mënyrën se si ka menaxhuar kontrollin e verifikimit të llogarive dhe politikën e saj të reklamave. Zëdhënësi i Komisionit të BE-së theksoi se X është mirë i vetëdijshëm për seriozitetin e zbatimit të DSA-së dhe do ta mbajë mend gjobën që ka marrë nga ata.
Ky rast nxjerr në pah sfidat e mëdha që përballen platformat e mediave sociale në menaxhimin e përmbajtjeve të paligjshme dhe krijon shqetësime të mëdha për sigurinë dhe mbrojtjen e të miturve në këto hapësira digjitale. Komisioni Europian ka shprehur angazhimin e tij për të ndjekur këto çështje me rigorozitetin e duhur.
