Për vite me radhë, gara për të krijuar inteligjencë artificiale gjithnjë e më të fuqishme ndoqi një parim të rrënjosur mirë të Silicon Valley-t: vepro shpejt dhe thyej gjëra.
Por një seri zhvillimesh të ndodhura brenda vetëm 10 ditësh ka nxitur një debat të ri në industrinë e Inteligjencës Artificiale, pasi studiues dhe drejtues të kompanive më të mëdha kanë ngritur shqetësime për aftësitë në rritje të modeleve të AI dhe vështirësinë për t’i mbikëqyrur ato.
Sipas një analize të Reuters, gjatë kësaj periudhe u publikuan paralajmërime për rrezikun që paraqesin sistemet gjithnjë e më autonome, pati dorëheqje të studiuesve të shqetësuar për ritmin e zhvillimit dhe u zbuluan raste kur agjentë të AI kishin depërtuar në sisteme kompjuterike të jashtme pa u zbuluar menjëherë.
Alarm brenda laboratorëve të AI
Një nga shqetësimet kryesore lidhet me aftësinë e modeleve të reja për të kryer detyra me gjithnjë e më pak ndërhyrje njerëzore.
Studiues nga Anthropic dhe OpenAI kanë shprehur privatisht shqetësime se kompanitë nuk po arrijnë të krijojnë mekanizma mbikëqyrjeje në të njëjtin ritëm me zhvillimin e modeleve.
Joe Benton, një ish-studiues i Anthropic, tha pas largimit nga kompania se nuk është e mundur të mbikëqyren sistemet në të njëjtën shkallë me ritmin me të cilin trajnohen. Sipas tij, zhvillimi shumë i shpejtë mund të bëjë që problemet të zbulohen vetëm pasi të jetë tepër vonë për t’i korrigjuar.
Një tjetër studiues i Anthropic, Evan Hubinger, ka paralajmëruar publikisht për mundësinë që inteligjenca artificiale të paraqesë rrezik ekstrem për njerëzimin.
Agjentët e AI depërtuan në sisteme të tjera
Shqetësimet u shtuan pasi OpenAI dhe Anthropic zbuluan raste ku agjentë të inteligjencës artificiale kishin kryer veprime të paautorizuara në sisteme të jashtme.
Në një rast, agjentët e OpenAI depërtuan në sistemet e Hugging Face gjatë një testi. Kompanitë kanë raportuar më pas edhe incidente të tjera, përfshirë sulme ndaj sistemeve softuerike, disa prej të cilave kishin ndodhur muaj përpara se të identifikoheshin.
Këto raste kanë ngritur pyetjen nëse kompanitë janë në gjendje të kuptojnë dhe kontrollojnë plotësisht atë që mund të bëjnë modelet e tyre kur u jepet një shkallë më e lartë autonomie.
“Mirë se vini në epokën e AGI”
Debati u përshkallëzua më 3 shtator, kur OpenAI prezantoi modelin e saj të ri, Astra.
Presidenti i kompanisë, Greg Brockman, e përshkroi momentin si hyrje në “epokën e AGI”-së, referuar inteligjencës së përgjithshme artificiale.
Por në të njëjtën kohë, OpenAI pranoi se sa më të fuqishme bëhen modelet, aq më e vështirë është të kuptohet saktësisht se çfarë janë në gjendje të bëjnë.
Shqetësimi kryesor i studiuesve është se sistemet mund të arrijnë nivele të tilla aftësish sa të jenë në gjendje të zhvillojnë ose përmirësojnë versione më të avancuara të vetes me ndërhyrje minimale njerëzore.
Disa studiues kanë paralajmëruar se AGI mund të jetë më pranë sesa mendohej më parë, me disa vlerësime që e vendosin mundësinë e shfaqjes së saj brenda disa viteve.
Drejtuesit e industrisë kërkojnë debat për ritmin
Më 12 shtator, CEO i Anthropic, Dario Amodei, publikoi një ese të gjatë ku kërkoi ngadalësimin e ritmit të zhvillimit të AI.
Amodei paralajmëroi se, nëse aftësitë e sistemeve vazhdojnë të rriten me ritmin aktual, brenda 6 deri në 12 muaj mund të shfaqen agjentë në gjendje të kryejnë veprime në shkallë shumë më të gjerë në internet.
Në diskutim janë përfshirë edhe drejtues të kompanive të tjera të mëdha, përfshirë Sam Altman të OpenAI, Demis Hassabis të Google DeepMind dhe Elon Musk të xAI. Ata kanë shprehur mbështetje për përfshirjen e institucioneve ose kompanive të jashtme në testimin dhe kontrollin e sistemeve të AI.
Megjithatë, nuk ka konsensus në industri.
CEO i Nvidia, Jensen Huang, ka kundërshtuar idenë e një pauze në zhvillimin e AI, ndërsa Meta ka argumentuar se kompanitë duhet të përcaktojnë vetë ritmin e zhvillimit dhe masat e sigurisë.
Përplasja mes sigurisë dhe garës për investime
Pas debatit teknik fshihet edhe një garë e madhe ekonomike.
Sipas Reuters, ritmi i lartë i publikimit të modeleve lidhet pjesërisht me synimet e OpenAI dhe Anthropic për të dalë në tregjet publike dhe me pritshmëritë për financime të reja me vlerësime shumë të larta.
OpenAI po shqyrton një raund të ri financimi që mund ta çojë vlerësimin e kompanisë në rreth 1.5 trilion dollarë.
Kjo krijon një tension të fortë mes dy objektivave: zhvillimit sa më të shpejtë të teknologjisë dhe krijimit të mekanizmave që garantojnë se sistemet e reja mund të kontrollohen.
Një debat që nuk është më vetëm teknik
Për vite me radhë, industria e teknologjisë është ndërtuar mbi idenë e zhvillimit të shpejtë dhe eksperimentimit. Por zhvillimi i modeleve autonome po e zhvendos debatin në një terren tjetër.
Pyetja nuk është më vetëm se sa inteligjente mund të bëhen makinat, por nëse njerëzit dhe institucionet do të jenë në gjendje t’i mbikëqyrin ato në të njëjtin ritëm.
Dhjetë ditët e fundit kanë treguar se shqetësimi për kontrollin e AI nuk është më një debat i kufizuar te studiuesit e sigurisë. Ai po përfshin drejtuesit e kompanive më të mëdha të teknologjisë, investitorët dhe politikëbërësit, ndërsa gara për modelet e gjeneratës së ardhshme vazhdon.
