Armët biologjike, sulmet ndaj infrastrukturës kritike dhe sistemet autonome jashtë kontrollit janë ndër rreziqet që diskutohen nga studiuesit e inteligjencës artificiale. Por përqindjet alarmuese për zhdukjen e njerëzimit janë vlerësime personale, jo probabilitete të vërtetuara shkencërisht.
Paralajmërimet për rreziqet e inteligjencës artificiale po nxisin një debat gjithnjë e më të gjerë: a mund të shkaktojë kjo teknologji një katastrofë globale dhe si do të ndodhte konkretisht?
Në një analizë të publikuar më 14 shtator, revista gjermane Der Spiegel shqyrton skenarët që përmendin studiuesit dhe drejtuesit e kompanive teknologjike, duke dalluar kërcënimet nga keqpërdorimi i AI-së prej hipotezave për një superinteligjencë që mund t’i shpëtojë kontrollit njerëzor, shkruan Reporteri.net.
Debati mori hov pas dorëheqjes së Jacob Coxon, një studiues që kishte punuar në OpenAI dhe më pas në Anthropic. Ai i akuzoi të dyja kompanitë për papërgjegjësi, duke pretenduar se gara drejt një superinteligjence që përmirëson vetveten po rrezikon jetën e njerëzve.
Punonjësi i Anthropic, Evan Hubinger, mbështeti shqetësimin e tij. Sipas Spiegel, Hubinger e vlerësoi personalisht në mbi 10 për qind mundësinë që AI të shkaktojë zhdukjen e njerëzimit gjatë dhjetë vjetëve të ardhshëm. Megjithatë, ai sqaroi se rrezikun nga modelet aktuale e konsideron të ulët.
Spiegel thekson se shifra të tilla nuk mbështeten në llogaritje që përcaktojnë me besueshmëri probabilitetin e një katastrofe. Ato pasqyrojnë gjykime subjektive, edhe kur vijnë nga njerëz me rol të rëndësishëm në zhvillimin e teknologjisë.
Një nga shqetësimet më konkrete është përdorimi i AI-së për qëllime biologjike të dëmshme. Sipas raportit të sigurisë së Anthropic, të cituar nga revista, ekziston frika se modele gjithnjë e më të afta mund të ndihmojnë në bërjen më të rrezikshëm të patogjenëve ekzistues ose në krijimin e të rinjve.
Kjo nuk nënkupton se një sulm i tillë është i pashmangshëm. Shqetësimi lidhet me mundësinë që teknologjia të rrisë aftësitë e personave apo grupeve që synojnë ta keqpërdorin atë.
Një tjetër fushë rreziku janë sulmet kibernetike. Analiza përshkruan skenarë ku agjentë të avancuar të AI-së mund të çaktivizojnë rrjete energjetike, shërbime financiare ose qendra të të dhënave, me pasoja për furnizimet dhe funksionimin e shoqërisë.
Situata mund të bëhet veçanërisht e rëndë nëse disa kriza ndodhin njëkohësisht, për shembull një sulm biologjik dhe bllokimi i sistemeve informatike të spitaleve.
Drejtuesi i Anthropic, Dario Amodei, paralajmëron edhe për grupe agjentësh të AI-së që bashkëpunojnë dhe kryejnë detyra me ndërhyrje të kufizuar njerëzore. Sipas tij, sisteme më të fuqishme që veprojnë në mënyrë të gabuar mund të shkaktojnë dëme katastrofale. Spiegel vëren, megjithatë, se edhe parashikimet e tij mund të kundërshtohen dhe nuk duhen trajtuar si rezultate të sigurta.
Skenarët më spekulativë lidhen me krijimin e një superinteligjence që zhvillon versione më të afta të vetvetes dhe që njerëzit nuk arrijnë më ta kuptojnë apo kontrollojnë.
Studiues si Geoffrey Hinton dhe Stuart Russell kanë paralajmëruar se sisteme të tilla mund të synojnë më shumë kontroll ose t’u kundërvihen përpjekjeve për t’i çaktivizuar. Por këto mbeten hipoteza për sisteme të ardhshme. Vetë Russell, sipas artikullit, e konsideron keqpërdorimin njerëzor të AI-së rrezikun më të madh në një apo dy vjetët e ardhshëm.
Jo të gjithë ekspertët pajtohen me paralajmërimet për zhdukje. Kritiku i AI-së, Gary Marcus, argumenton se njerëzit janë tepër të shpërndarë gjeografikisht, të larmishëm dhe të aftë për t’u përshtatur që zhdukja e plotë të konsiderohet një përfundim i lehtë.
Megjithatë, ai pranon se AI mund të rrisë rrezikun e katastrofave të mëdha, veçanërisht përmes armëve biologjike dhe sulmeve të rënda kibernetike.
Analiza e Spiegel nënvizon se trajtimi i këtyre rreziqeve nuk kërkon domosdoshmërisht pajtim me skenarët e fundit të njerëzimit: edhe dëmet që nuk çojnë në zhdukjen e tij meritojnë masa serioze parandaluese.
Marrë nga Der Spiegel
