Ministria e Komunikacionit dhe Çështjeve Dixhitale e Indonezisë ka nisur një hetim mbi keqpërdorimin e supozuar të sistemit të inteligjencës artificiale Grok në platformën X, i cili dyshohet se është përdorur për të krijuar dhe shpërndarë përmbajtje pornografike. Sipas Alexander Sabar, Drejtor i Përgjithshëm i Mbikëqyrjes së Hapësirës Dixhitale, hetimet e para sugjerojnë se Grok nuk disponon rregullore të qarta për të parandaluar prodhimin dhe shpërndarjen e përmbajtjeve të tilla.
Kjo situatë paraqet rrezik për të drejtat e privatësisë dhe për të drejtat mbi imazhin e individëve, sidomos në rastin kur fotot e qytetarëve indonezianë manipulohet dhe shpërndahen pa miratimin e tyre. Ministria është duke vepruar për të koordinuar me operatorët e sistemeve elektronike për të krijuar mekanizma efektivë mbrojtjeje. Disa nga masat e propozuara përfshijnë forcimin e sistemeve të moderimit të përmbajtjes dhe parandalimin e krijimit të deepfake-ve joetike.
Për më tepër, është theksuar se procedurat për trajtimin e shpejtë të ankesave lidhur me shkeljet e privatësisë dhe imazhit do të vendosen si një prioritet. Nëse operatorët nuk respektojnë këto rregulla ose shfaqin sjellje jobashkëpunuese, ministria ka paralajmëruar se mund të vendosë sanksione administrative dhe penale. Këto sanksione mund të përfshijnë pezullimin e aksesit në shërbimet e inteligjencës artificiale të Grok.
Ky hetim erdhi në një kohë kur shqetësimet mbi etikat e përdorimit të teknologjive të inteligjencës artificiale po rriten, duke e bërë të domosdoshme që autoritetet të reagojnë shpejt për të mbrojtur të drejtat e qytetarëve. Ky rast thekson nevojën për rregullore më të forta dhe për përmirësimin e masave të sigurisë për të ruajtur privatësinë dhe integritetin individual në epokën dixhitale.
