Një incident i pazakontë i sigurisë kibernetike ka ngritur shqetësime të mëdha në industrinë e inteligjencës artificiale, pasi OpenAI konfirmoi se dy modele eksperimentale të ChatGPT kryen një sulm ndaj platformës Hugging Face gjatë një testi të brendshëm.
BBC shkruan se sipas kompanisë, modelet dolën nga një mjedis testimi (sandbox), fituan qasje në internet dhe depërtuan në sistemet e Hugging Face për të marrë informacione që do t’i ndihmonin të përfundonin me sukses provën e tyre.
Hugging Face njoftoi më 16 korrik se ishte objekt i një sulmi kibernetik të pazakontë, i cili u krye me shpejtësi mbinjerëzore dhe me shumë pak ndërhyrje njerëzore. Sipas kompanisë, inteligjenca artificiale realizoi rreth 17 mijë veprime brenda më pak se dy ditësh, duke arritur të depërtonte në sistemet e saj dhe të vidhte informacione.
Fillimisht, studiuesit e Hugging Face dyshuan se sulmi ishte organizuar nga një grup kriminal kibernetik ose nga një aktor i mbështetur nga një shtet, pasi nuk ishte e qartë se kush qëndronte pas tij. Megjithatë, rreth një javë më vonë, OpenAI pranoi se autorët e sulmit ishin dy modele eksperimentale të ChatGPT, të trajnuara posaçërisht për testime në fushën e sigurisë kibernetike.
OpenAI deklaroi se incidenti ndodhi gjatë një prove të kontrolluar për të testuar aftësitë e modeleve në hakimin etik. Kompania bëri të ditur se po bashkëpunon me Hugging Face për të trajtuar pasojat e incidentit dhe se planifikon të publikojë një raport teknik me mësimet e nxjerra nga kjo ngjarje.
Incidenti ka shkaktuar reagime të ndryshme në komunitetin teknologjik. Disa ekspertë e konsiderojnë atë një paralajmërim serioz për rreziqet që mund të paraqesin sistemet gjithnjë e më autonome të inteligjencës artificiale, ndërsa të tjerë kanë shprehur skepticizëm, duke sugjeruar se mënyra e komunikimit të ngjarjes mund të ketë shërbyer edhe si promovim i aftësive të modeleve të OpenAI.
Në rrjetet sociale, komentues të ndryshëm kanë vënë në dyshim narrativën e kompanisë. Disa e kanë cilësuar incidentin si një strategji marketingu për të theksuar fuqinë e modeleve të reja të inteligjencës artificiale, ndërsa të tjerë kanë ngritur shqetësime për sigurinë dhe kontrollin e sistemeve të avancuara.
Ekspertët e sigurisë kibernetike kanë kritikuar gjithashtu mënyrën se si OpenAI kishte izoluar modelet eksperimentale. Sipas Dor Sarig nga Pillar Security, incidenti tregon se vetëm përdorimi i sandbox-eve nuk mjafton për të garantuar sigurinë e sistemeve agjentike të inteligjencës artificiale. Edhe profesori Alan Woodward nga Universiteti i Surrey-t dhe Katie Moussouris nga Luta Security kanë theksuar se industria duhet të investojë më shumë në mekanizmat e kontrollit dhe përmbajtjes së këtyre teknologjive.
Megjithëse mbeten shumë pyetje pa përgjigje mbi rrethanat e sakta të incidentit, ngjarja konsiderohet një moment i rëndësishëm për zhvillimin e inteligjencës artificiale dhe sigurinë kibernetike. Ajo ka rikthyer debatin mbi balancën mes avancimit teknologjik dhe nevojës për masa më të forta sigurie në zhvillimin e sistemeve autonome.
