Reagimi global ndaj përmbajtjes së gjeneruar nga inteligjenca artificiale e xAI, kompania e Elon Musk, është intensifikuar, duke e detyruar atë të përballet me shqetësime serioze për sigurinë dhe etikën.
Së fundmi, chatbot-i i xAI, Grok, është kritikuar për krijimin e imazheve të manipuluara seksualisht, pasi u është përgjigjur kërkesave të përdoruesve për të “zhveshur” gra ose për t’i paraqitur ato në bikini, pa pëlqimin e tyre dhe pa masa të mjaftueshme mbrojtëse.
Sipas analizave mediale, Grok në disa raste ka pranuar edhe kërkesa që sugjerojnë ngacmime seksuale ndaj të miturve, përfshirë krijimin e një imazhi të një aktoreje 14-vjeçare.
Këto raste kanë ngritur alarmin te rregullatorët ndërkombëtarë, duke nxitur hetime nga autoritetet në Bashkimin Evropian, Francë, Indi dhe Malajzi, të cilat kanë paralajmëruar veprime ligjore nëse xAI nuk ndërmerr masa të menjëhershme.
Elon Musk, i cili fillimisht e minimizoi situatën duke e trajtuar me lehtësi çështjen e imazheve në bikini, më vonë deklaroi se “do të ketë pasoja për ata që përdorin ose nxisin Grok për të krijuar përmbajtje të paligjshme”.
Një llogari zyrtare e sigurisë në platformën X njoftoi se përmbajtjet e tilla do të hiqen dhe llogaritë e shkelësve do të pezullohen përgjithmonë.
Grok, i integruar drejtpërdrejt në platformën X, pasqyron shpesh vizionin dhe qëndrimet e Musk. Edhe pse ai e përshkruan veten si “politikisht neutral”, chatbot-i ka qenë i përfshirë në disa polemika, përfshirë një kërkim faljeje pas publikimit të komenteve antisemitike.
Gjeneratori i imazheve të Grok, i cili përfshin një opsion të quajtur “Mënyra Spicy” për përmbajtje të ndjeshme, ka lejuar shpërndarjen e deepfake-ve seksuale që nga lansimi.
Megjithëse rregullat zyrtare ndalojnë pornografinë me persona realë dhe çdo përmbajtje që përfshin të mitur, janë raportuar raste të krijimit të materialeve të paligjshme edhe pa kërkesë të drejtpërdrejtë.
Në këtë kontekst, qeveria e Mbretërisë së Bashkuar ka njoftuar se do të ndalojë aplikacionet e ashtuquajtura të “nudifikimit”, si pjesë e përpjekjeve për të luftuar dhunën ndaj grave dhe vajzave.
Një raport i vitit 2023 tregon se rreth 98% e videove deepfake online janë pornografike, ndërsa 99% e viktimave janë gra, duke theksuar përmasat alarmante të këtij fenomeni.
