Սթիվեն Հոքինգի վերջին նախազգուշացումը արհեստական բանականության մասին․ ինչի՞ մասին էր նա զգուշացնում մարդկությանը

Աշխարհահռչակ ֆիզիկոս Սթիվեն Հոքինգի վերջին նախազգուշացումը վերաբերում էր արհեստական բանականության վտանգներին։ Գիտնականը զգուշացնում էր, որ մի օր այն կարող է այնքան զարգանալ, որ սկսի ինքնուրույն կատարելագործվել և ի վերջո իր մտավոր կարողություններով գերազանցի մարդուն։

Նա գիտնականներին կոչ էր անում այնպես զարգացնել արհեստական բանականությունը, որ դրա նպատակները չհակասեն մարդկության շահերին և վտանգի տակ չդնեն մարդկանց գոյությունը։ Այս մասին գրում է WION պարբերականը։

Հոքինգի համոզմամբ՝ հենց որ արհեստական բանականությունը հասնի ինքնուրույնության որոշակի մակարդակի, կկարողանա ինքն իրեն կատարելագործել՝ ընդ որում, ավելի ու ավելի արագ։ Իսկ մարդը պարզապես չի կարողանա մրցել դրա հետ, քանի որ մարդկային կարողությունների զարգացումը կախված է կենսաբանական էվոլյուցիայից, որը շատ ավելի դանդաղ է ընթանում։

Վտանգը ոչ թե չարամիտ ռոբոտներն են, այլ չափազանց խելացի համակարգերը

Հոքինգը բացատրում էր, որ իրական վտանգը ոչ թե մարդկանց վնասելու մտադրություն ունեցող ռոբոտներն են, այլ այնպիսի արհեստական բանականությունը, որը կարող է չափազանց արդյունավետ գործել։ Եթե նման համակարգի նպատակները չհամընկնեն մարդկության գոյատևման շահերի հետ, այն կարող է նույնիսկ վերացնել մարդկությանը՝ առանց նման նպատակ ի սկզբանե ունենալու։

Քեմբրիջի համալսարանում ունեցած ելույթում Հոքինգը նշել էր, որ արհեստական բանականության ստեղծումն ու հաջող զարգացումը կարող են դառնալ մարդկության պատմության ամենակարևոր իրադարձությունը։ Սակայն նա նաև զգուշացրել էր՝ դա կարող է լինել նաև վերջինը, եթե մարդիկ չսովորեն կանխել դրա հետ կապված վտանգները։

Սպառազինությունների մրցավազք, որը կարող է սպառնալ մարդկության գոյությանը

Կյանքի վերջին տարիներին Հոքինգը միացել էր տեխնոլոգիական ոլորտի մի շարք առաջատար մասնագետների, որոնք ահազանգում էին արհեստական բանականության վրա հիմնված սպառազինությունների համաշխարհային մրցավազքի վտանգների մասին։

Նրա կարծիքով՝ ինքնուրույն որոշումներ կայացնող զենքերը կարող են դառնալ մարդկանց ճնշելու չափազանց արդյունավետ միջոց, եթե դրանց ստեղծումն ու կիրառումը խիստ վերահսկողության տակ չառնվեն։

Իր վերջին՝ «Համառոտ պատասխաններ մեծ հարցերին» գրքում Հոքինգը ևս մեկ անգամ դիմել էր մարդկությանը՝ կարևոր կոչով։ Նա հորդորում էր գիտնականներին և քաղաքական գործիչներին ամեն ինչ անել, որպեսզի արհեստական բանականության զարգացումը միշտ ծառայի մարդուն, այլ ոչ թե սպառնա նրա գոյությանը։