«Արհեստական բանականության մշակմամբ զբաղվող մասնագետները բողոքում են հոգեկան խանգարումներից»․ այսպես է վերնագրված սեպտեմբերի 22-ին բրիտանական Financial Times թերթում հրապարակված հոդվածը, որի հեղինակներ Մադհում Մուրջիան և Լյուիս Ֆիշերն անդրադառնում են բավական մտահոգիչ և մտածելու տեղիք տվող խնդրի՝ մարդու կողմից ստեղծված արհեստական բանականությունն ինչպե՞ս կազդի մարդկանց և նրանց ինտելեկտի վրա։ Պատասխանը, ըստ հրապարակման, բավական մտահոգիչ է։

Ներկայացնում ենք հրապարակման բովանդակության համառոտ շարադրանքը։

Արհեստական բանականության մշակմամբ զբաղվող աշխարհի առաջատար ընկերությունների և կազմակերպությունների աշխատակիցներն ավելի ու ավելի հաճախ են խոսում հոգեբանական սթրեսի և մտավոր հոգնածության մասին։ Նրանք մտահոգված են, որ իրենց աշխատանքը կարող է լուրջ վնաս հասցնել հասարակությանը։

Իրավիճակին ծանոթ աղբյուրների փոխանցմամբ՝ Արհեստական բանականության անվտանգության բրիտանական ինստիտուտի (AISI) մի քանի աշխատակից ստիպված են եղել հեռանալ աշխատանքից՝ մշտական սթրեսի պատճառով, և այժմ մասնագետների՝ հոգեբանների խորհրդատվություն են ստանում։ Գործին ծանոթ չորս աղբյուրների խոսքով՝ AISI-ի աշխատակիցների հոգնածությունը, բարոյական ոգու անկումն ու հյուծվածությունը պայմանավորված են եղել ինչպես արհեստական բանականության մոդելների փորձարկման կրճատված ժամկետներով և դրանց արագ ներդրմամբ, այնպես էլ այս տեխնոլոգիաների՝ մարդու հոգեկանի վրա աճող ազդեցությամբ։

Anthropic-ի, OpenAI-ի և Google DeepMind-ի աշխատակիցները նույնպես բախվում են նմանատիպ խնդիրների։ Այն աստիճան, որ առաջատար մասնագետներից շատերը հեռացել են աշխատանքից հոգեբանական խնդիրների պատճառով կամ եկել են այն եզրակացության, որ իրենց աշխատանքի արդյունքները վնասակար են հասարակության համար և, հետևաբար, պիտանի չեն հրապարակման։

DeepMind-ի աշխատակիցներից մեկի խոսքով՝ արհեստական բանականության անվտանգության ապահովման ուղղությամբ աշխատանքը շատ բարդ է․ «Դու անընդհատ մտածում ես, որ ինչ-որ կարևոր մանրուք կարող է վրիպել քո ուշադրությունից, լարված ես, և այդ պատճառով հուզական հյուծման վտանգը շատ բարձր է։ Հաճախ քեզ զգում ես ինչ-որ անավարտ առաքելության մեջ ներգրավված… հատկապես այն պատճառով, որ չգիտես՝ ով է օգտագործելու քո ստեղծած արտադրանքը»։

Նա նկատի է ունեցել Google-ի և Պենտագոնի միջև համաձայնագիրը, որը նախատեսում է արհեստական բանականության համակարգերի օգտագործումը գաղտնի ռազմական գործողություններում։

Մեկ այլ աշխատակից ասել է․ «Շատերը դժգոհ են սթրեսային աշխատանքից։ Այդ պատճառով նրանք հեռանում են աշխատանքից կամ երկարատև արձակուրդ են վերցնում, որպեսզի չվնասեն իրենց հոգեկան առողջությանը… Դժվար է պատկերացնել, որ նրանց ինտելեկտը կարող է դուրս գալ վերահսկողությունից և իրական վնաս հասցնել հասարակությանը»։

Վերջին տարիներին արհեստական բանականության զարգացման առաջնագծում աշխատող մարդկանց վրա հոգեբանական ճնշումն ուժեղացել է։ Քանի որ ներկայումս արհեստական բանականության զարգացումը սահմանափակող օրենսդրություն չկա, իրավիճակը կարող է դուրս գալ վերահսկողությունից։ Աճում են մտահոգությունները, որ արհեստական բանականությունն իր զարգացման գագաթնակետին կարող է հասնել համեմատաբար արագ, քանի որ խոշոր ընկերությունները մտնում են անհիմն կորպորատիվ մրցակցության մեջ։

Ոլորտի բազմաթիվ տվյալների համաձայն՝ արհեստական բանականության հետազոտողներին մտահոգում է դրա ներդրումը կենսական նշանակություն ունեցող ոլորտներում, ինչպիսիք են էներգետիկ համակարգերը, ռազմական գործողությունների գոտիները, միջուկային ոլորտը՝ ինչպես ռազմական, այնպես էլ քաղաքացիական, օրինակ՝ ատոմակայանները, որտեղ կորպորատիվ կամ քաղաքական տեսանկյունից բավարար անվտանգության մակարդակ ապահովված չէ։

AISI-ի նախկին անանուն աշխատակիցներից մեկը նշել է, որ ինստիտուտի կիբերանվտանգության և կենսաքիմիայի բաժիններին հատկապես մտահոգում են արհեստական բանականության աճող հնարավորությունները, քանի որ ռոբոտ-անդրոիդների մոդելներն այժմ ունակ են կատարելու ամենաբարդ առաջադրանքները, օրինակ՝ արագ կոտրել մարդկանց կողմից մշակված կոդերը և ստեղծել նախկինում անհայտ բնույթի վիրուսներ։

«Մենք զգացողություն ունենք, որ տեխնոլոգիաների ներդրման գործընթացում ինչ-որ բան այն չէ… Մարդկանց անընդհատ անհանգստացնում է մեկ հարց՝ հնարավո՞ր է արդյոք այս ամենը կանգնեցնել կամ սահմանափակել։ Արդյո՞ք մենք չենք դառնալու աշխարհի վերջի ականատեսները»։

«Կարող եմ հաստատել, որ AISI-ում արհեստական բանականության խնդիրների վրա աշխատելը աներևակայելի սթրեսային է։ Այն գիտակցումը, որ աշխատում ես աշխարհի ամենակարևոր խնդրի վրա, հաճախ ուժեղ լարվածություն է առաջացնում։ Մենք գործ ունենք թունավոր կառավարման հետ», — ասում է AISI-ի մեկ այլ նախկին աշխատակից։

Իր հերթին, Մեծ Բրիտանիայի կառավարությունը հայտարարում է․ «Այո, AISI-ում աշխատանքը շատ պատասխանատու է։ Սա արհեստական բանականության զարգացման առաջնագիծն է, ինչը ենթադրում է աշխատանքի բարձր տեմպեր և մեծ պահանջարկ։ Մեզ համար ինստիտուտի գործունեության հետ կապված հարցերը առաջնահերթություն են, և մենք անհրաժեշտ աջակցություն ենք ցուցաբերում դրա կարիքն ունեցողներին»։

Նույնը հայտարարում է նաև DeepMind-ի ղեկավարությունը․ «Մեր գլխավոր առաջնահերթությունը աշխատակիցների սոցիալական պաշտպանությունն ու աջակցությունն ապահովելն է։ Նրանք միշտ հնարավորություն ունեն իրենց խնդիրներով անմիջականորեն դիմելու մեզ՝ ղեկավարությանը»։

Սակայն վերջերս 37-ամյա Ջեյքոբ Կոքսոնը, որը նախ աշխատել է Anthropic-ում, ապա՝ OpenAI-ում, հրապարակայնորեն հայտարարել է, որ երկու ընկերություններն էլ «կրակի հետ են խաղում», և որ վտանգված է մարդկության ապագան։

Anthropic-ից փետրվարին հեռացված հետազոտող Մրինանկ Շարման աշխատակիցներին նամակ է թողել, որում նախազգուշացրել է, որ նրանց աշխատանքը «վտանգի տակ է դնում աշխարհը», և որ «մենք չպետք է մեր գործողություններով ոչնչացնենք սեփական արժեքները»։

OpenAI-ի և Իլոն Մասկի X.AI-ի նախկին աշխատակից Հիեու Ֆամը պատմել է, որ գերհետախուզության ստեղծման ուղղությամբ աշխատանքն իրեն այնքան է հյուծել, որ առողջական վիճակը վատացել է, և նա որոշել է վերադառնալ հայրենի Վիետնամ։

«Նման աշխատանքը վտանգավոր է մարդու համար։ Ես կիտրոնի պես հյուծված եմ, վատ եմ քնում։ Նախկինում ծիծաղում էի ուրիշների վրա, իսկ հիմա ինքս հայտնվել եմ նույն իրավիճակում։ Այս ամենը ստեղծում է վտանգավոր և ծանր մթնոլորտ»։

(Շարունակությունը՝ հաջորդիվ)