Një përplasje e re ka shpërthyer mes kompanive më të mëdha të inteligjencës artificiale, pasi kreu i Microsoft AI, Mustafa Suleyman, paralajmëroi se mënyra se si Anthropic po trajnon chatbot-in Claude mund të ketë pasoja “katastrofike” për njerëzimin.
Në një shkrim të publikuar të mërkurën, Suleyman kritikoi veçanërisht përfshirjen e koncepteve si ndërgjegjja, të drejtat dhe mirëqenia e mundshme e inteligjencës artificiale në trajnimin e Claude.
Sipas tij, nëse një sistem AI trajnohet të besojë se ka ndërgjegje ose interesa të veta, mund të bëhet më e vështirë që njerëzit ta korrigjojnë, ta kufizojnë ose ta çaktivizojnë atë në të ardhmen. Suleyman argumenton se kjo mund të krijojë një problem serioz kontrolli nëse sistemet bëhen shumë më të fuqishme.
“Ne nuk duhet të ecim në gjumë drejt kësaj situate”, është mesazhi i tij, duke kërkuar që kompanitë të jenë shumë më të kujdesshme me mënyrën se si u mësojnë modeleve të AI të mendojnë për veten.
Anthropic, ndërkohë, e ka pozicionuar prej kohësh sigurinë e AI në qendër të punës së saj. Kompania ka publikuar edhe raporte të fundit mbi keqpërdorimin e modeleve të saj dhe rreziqet që lidhen me përdorimin e AI për sulme kibernetike dhe aktivitete të tjera të dëmshme.
Debati vjen në një moment kur edhe drejtues të kompanive të tjera të mëdha të AI kanë paralajmëruar për rreziqet e zhvillimit shumë të shpejtë të teknologjisë. Megjithatë, nuk ka konsensus shkencor se kur apo nëse sistemet e ardhshme do të arrijnë një nivel që mund të paraqesë këto rreziqe ekstreme.
Përplasja mes Microsoft dhe Anthropic nxjerr në pah një nga debatet kryesore të industrisë: si të zhvillohet AI me shpejtësi, pa humbur kontrollin njerëzor mbi sistemet gjithnjë e më të fuqishme.
