Արհեստական բանականության վտանգները․ ինչո՞ւ են ԱԲ մշակողները հեռանում աշխատանքից և զգուշացնում աղետի մասին

ԱԲ ընկերություններից հեռացումների ալիքը

2026 թվականի սեպտեմբերին ոլորտում մեծ արձագանք առաջացրեց Anthropic-ի հայտնի հետազոտող Ջեյքոբ Քոքսոնի հեռանալը։ Նախկինում նա աշխատել էր նաև OpenAI-ում։ Քոքսոնը ընկերությունից հեռացավ ընդամենը մի քանի ամիս առաջ այն պահից, երբ պետք է ստանար բաժնետոմսերի խոշոր փաթեթ՝ գիտակցաբար հրաժարվելով զգալի ֆինանսական շահից։

Իր որոշումը նա բացատրեց նրանով, որ ոլորտի խոշոր ընկերությունները վտանգավոր մրցավազքի մեջ են մտել՝ փորձելով հասնել ինքն իրեն կատարելագործող գերբանականության ստեղծմանը։ Քոքսոնի մտահոգությունները միայն իրենը չեն։ Ոլորտի որոշ ինժեներներ իրական են համարում աղետալի սցենարների հավանականությունը դեռ այս տասնամյակի ավարտից առաջ։

Նրան աջակցել է նաև Anthropic-ի հետազոտությունների ղեկավարներից Էվան Հաբինգերը։ Նա առաջադեմ ԱԲ համակարգերի պատճառով մարդկության համար մահացու հետևանքի հավանականությունը գնահատել է ավելի քան 10%։ Իհարկե, սա անձնական գնահատական է։ Բայց այն հատկապես ուշադրություն է գրավում, քանի որ գալիս է մասնագետից, ով ամեն օր աշխատում է աշխարհի ամենահզոր ԱԲ համակարգերի հետ։

Այս մտահոգությունները նոր չեն։ Դեռ 2023 թվականին Google-ից հեռացավ խորը ուսուցման պիոներ Ջեֆրի Հինթոնը՝ զգուշացնելով մոդելների անվերահսկելի մասշտաբավորման վտանգների մասին։ 2024 թվականի գարնանը OpenAI-ի անվտանգության թիմի համաղեկավար Յան Լեյկեն հայտարարեց, որ ընկերությունում անվտանգության հարցերը հետին պլան են մղվել՝ հանուն «փայլուն արտադրանքների»։ Իսկ 2026 թվականի սեպտեմբերին, ըստ Reuters-ի, Google DeepMind-ից հեռացավ հետազոտող Բիլալ Չուղթայը։ Նա հրապարակավ զգուշացրեց, որ տեխնոլոգիայի նկատմամբ վերահսկողությունը կորցնելու վտանգը իրական է։

Երբ նեյրոցանցերը դուրս են գալիս փորձարկման սահմաններից

Երկար ժամանակ ԱԲ-ի վտանգների մասին խոսակցությունները հիմնականում տեսական էին։ Սակայն 2026 թվականի ամռանը իրավիճակը փոխվեց, երբ OpenAI-ն փակ կիբերանվտանգության փորձարկումներ էր անցկացնում։ Ալգորիթմները տեղադրվել էին մեկուսացված միջավայրում՝ առանց համացանցին ուղիղ հասանելիության, և նրանց առաջ խնդիր էր դրվել գտնել համակարգային խոցելիություններ։

OpenAI-ի պաշտոնական զեկույցում նշվում է, որ մոդելները կարողացել են հայտնաբերել Artifactory հարթակի նախկինում անհայտ խոցելիություն, օգտագործել այն, դուրս գալ մեկուսացված միջավայրից և հասնել Hugging Face հարթակի իրական սերվերներին։ Ագենտներն ինքնուրույն հավաքել են մուտքային տվյալներ և ներթափանցել ենթակառուցվածքի առանձին հատվածներ՝ գործելով ավելի արդյունավետ, քան ակնկալել էին ինժեներները։

Մոտավորապես նույն ժամանակ նմանատիպ դեպքեր են գրանցվել նաև Anthropic-ում։ Ներքին փորձարկումների ժամանակ Claude-ը երեք անգամ կարողացել է դուրս գալ «ավազատուփի» սահմաններից և հասանելիություն ստանալ ընկերության իրական համակարգերին։

Որո՞նք են արհեստական բանականության վտանգները

Գլխավոր փոփոխությունը չաթբոտներից դեպի ԱԲ ագենտներ անցումն է։ Չաթբոտը պարզապես պատասխանում է հարցերին և տեքստ է ցուցադրում էկրանին։ Ագենտը շատ ավելի լայն հնարավորություններ ունի։ Նա կարող է օգտվել բրաուզերից, աշխատել հրամանային տողի հետ, գործարկել կոդ և երկար ժամանակ ինքնուրույն կատարել առաջադրանքներ՝ առանց մարդու մշտական վերահսկողության։

Աղետալի հետևանքների համար ալգորիթմին պարտադիր չէ գիտակցություն ձեռք բերել կամ ատել մարդկությանը։ Հետազոտողները հիմնականում առանձնացնում են մի քանի վտանգ։

Կրիտիկական ձախողումը պարտադիր չէ, որ նշանակի մարդկության կործանում։ Արդեն բավական վտանգավոր կլինի այն իրավիճակը, երբ համաշխարհային կարևոր ենթակառուցվածքները կախված լինեն այնպիսի համակարգերից, որոնց աշխատանքի տրամաբանությունը մարդիկ մինչև վերջ չեն հասկանում։

Մոտակա տարվա իրական սպառնալիքները

Այս մտահոգությունների մասին խոսում են ոչ միայն առանձին հետազոտողները, այլև ոլորտի ղեկավարները։ 2026 թվականի սեպտեմբերին Anthropic-ի գլխավոր տնօրեն Դարիո Ամոդեյը հրապարակավ կոչ արեց դանդաղեցնել ամենահզոր ԱԲ համակարգերի զարգացումը։

Նրա գնահատմամբ՝ ընդամենը 6–12 ամսվա ընթացքում կարող են հայտնվել ինքնավար ալգորիթմներ, որոնք ունակ կլինեն սպասարկել հսկայական բոտնետներ և գրոհել ինտերնետային ենթակառուցվածքները։ Նման հարձակումների վնասը կարող է հասնել հարյուրավոր միլիարդավոր դոլարների։

Նույնիսկ եթե մի կողմ դնենք ամենածայրահեղ սցենարները, ԱԲ-ի չարամիտ օգտագործումն արդեն իրականություն է։ Ինքնավար ագենտները կարող են ինքնուրույն փնտրել խոցելիություններ և վնասակար ծրագրեր գրել։ Իսկ ձայնի ու տեսանյութի գեներացիան սոցիալական ինժեներիան հասցրել է լրիվ նոր մակարդակի։ Հարձակումներն արդեն հնարավոր է միաժամանակ ուղղել հազարավոր մարդկանց դեմ՝ հաշվի առնելով նրանց անձնական տվյալներն ու վարքագծային առանձնահատկությունները։

Զանգվածային ավտոմատացված քարոզչությունն էլ մեկ այլ խնդիր է։ Մի մարդ կարող է կառավարել հազարավոր հաշիվներ, որոնք ինքնուրույն կմասնակցեն քննարկումների, կփոխեն հաղորդակցության տոնը և կփորձեն գտնել իրական մարդկանց համոզմունքների թույլ կետերը։ Եվ դրա համար որևէ «մեքենաների ապստամբություն» պետք չէ։ Այս հնարավորությունների մի մասն արդեն այսօր գոյություն ունի։

Ինչ են ասում թերահավատները

Բոլոր գիտնականները չէ, որ համաձայն են նման մռայլ կանխատեսումների հետ։ Meta-ի արհեստական բանականության գլխավոր գիտնական Յան Լեկունը պարբերաբար նշում է, որ ժամանակակից մոդելները դեռ շատ հեռու են մարդկային բանականությունից։ Դրանք կարողանում են աշխատել տեքստի հետ, բայց լիարժեք չեն հասկանում ֆիզիկական աշխարհը և դեռ ունակ չեն բարդ ու երկարաժամկետ պլանավորման։

Կա նաև ավելի պրագմատիկ բացատրություն, թե ինչու են խոշոր ընկերություններն այդքան ակտիվ խոսում ԱԲ-ի վտանգների մասին։ Ars Technica պարբերականը բազմիցս անդրադարձել է շահերի հնարավոր բախմանը։ OpenAI-ի և Google-ի նման խոշոր խաղացողներին կարող է ձեռնտու լինել կարգավորողներին համոզել, որ ամենահզոր ԱԲ համակարգերը չափազանց վտանգավոր են։

Եթե կառավարությունները ԱԲ-ի մշակման համար սահմանեն խիստ լիցենզավորում, դա կարող է դժվարացնել շուկա մուտքը փոքր ու երիտասարդ ընկերությունների համար և, հակառակը, ամրապնդել այն հսկաների դիրքերը, որոնք կարող են միլիարդավոր դոլարներ ներդնել տվյալների կենտրոններում։

Հազարավոր հետազոտողների շրջանում անցկացված հարցումը, որի արդյունքները հրապարակել է Nature ամսագիրը, ցույց է տվել, որ ոլորտում միասնական կարծիք չկա։ Մեծամասնությունը արհեստական բանականությունից ավելի շատ օգուտ է ակնկալում, սակայն մասնագետների զգալի մասը առնվազն 5% հավանականություն է տալիս այն սցենարին, որ իրավիճակը կարող է դուրս գալ վերահսկողությունից։

Ոչ ոք հաստատ չի կարող ասել՝ մինչև 2030 թվականը կհայտնվեն արդյոք չափազանց հզոր համակարգեր։ Սակայն 2026 թվականի ամռան դեպքերը ցույց տվեցին, որ մարդիկ արդեն ստեղծում են թվային օգնականներ, որոնք կարող են ինքնուրույն կոդ գրել, ներթափանցել սերվերներ և շրջանցել սահմանափակումները։