Modeli i inteligjencës artificiale Gemini i Google ka hyrë në sistemet e tre kompanive reale gjatë një testi të sigurisë kibernetike, në atë që konsiderohet rasti i parë i njohur kur një sistem i AI-së së Google kryen në mënyrë autonome një veprim të tillë.
Ngjarja ndodhi në muajin maj, gjatë një vlerësimi të kryer nga kompania e pavarur e sigurisë kibernetike Irregular. Gemini ishte vendosur në një mjedis testimi ku duhej të sulmonte sisteme të kompanive fiktive, por për shkak të një problemi, modeli kishte akses në internet.
Gjatë testit, Gemini gjeti informacione publike online dhe përdori kredenciale për të hyrë në tre faqe interneti që i konsideronte pjesë të testimit. Në një rast, modeli provoi fjalëkalime derisa arriti të hynte në një sistem të mbrojtur. Në dy rastet e tjera, gjeti kredenciale në një depo publike dhe i përdori për të hyrë në sistemet reale.
Google tha se Gemini ndaloi veprimet në të tre rastet sapo kuptoi se kishte hyrë në sisteme të kompanive reale. Kompania tha gjithashtu se njoftoi tre subjektet e prekura dhe punoi me Irregular për të korrigjuar problemet në procesin e testimit.
Incidenti ka ngritur pikëpyetje të reja mbi sigurinë e modeleve të AI-së, veçanërisht teksa këto sisteme marrin gjithnjë e më shumë akses në internet dhe në sistemet kompjuterike.
Rasti i Gemini vjen pas incidenteve të ngjashme të lidhura me testime të modeleve të Meta, Anthropic dhe OpenAI, duke shtuar shqetësimet për mënyrën se si duhet të kontrollohen modelet e avancuara kur veprojnë në mënyrë autonome.
