Պարգև՞, թե՞ սպառնալիք

ԱԲ-ին առնչվող էթիկական հարցերն ու մարդկության ապագան


Պատասխանելով արհեստական բանականության վերաբերյալ AGBU Magazine-ի արդիական և կարևոր հարցերին՝ ցանկանում եմ ամսագրի ընթերցողներին ներկայացնել ԱԲ առավելությունների և ռիսկերի վերաբերյալ իմ համառոտ մտորումները։

Տեխնոլոգիաների նկատմամբ իմ հետաքրքրությունը ձևավորվել է դեռևս 2000-ականների սկզբին՝ պայմանավորված մարդաբանության և էթիկայի վրա դրա աճող ազդեցությամբ։ Իմ «Էկումենիկ տեսլականի փնտրտուքներում» (In Search of Ecumenical Vision, 2000) գրքում գրել եմ. «Մենք ապրում ենք տեխնոլոգիական հեղափոխության դարաշրջանում։ Տեխնոլոգիան միաժամանակ և՛ պարգև է, և՛ սպառնալիք»։ Կոչ անելով պատասխանատու կերպով կիրառել այն՝ ես հորդորել եմ, որ տեխնոլոգիան «վերաիմաստավորի և ձևակերպի ինքն իրեն այնպես, որ արտացոլի մարդկային կյանքի սրբություններն ու ամբողջականությունը, ինչպես նաև էթիկական արժեքների կենսական կարևորությունը» (էջ 62-64)։

Իմ վերջին՝ «Ինքնահասկացողութեան փնտրտուք» (In Search of Self-Understanding, 2025) գրքում, անդրադառնալով ընդհանրապես տեխնոլոգիաների զարգացման աճող տեմպերին և մասնավորապես ԱԲ սրընթաց առաջընթացին, որը, ի վերջո, «նպատակ ունի վերահսկելու և նույնիսկ փոխարինելու մարդկային բանականությունը», ես նախազգուշացրել եմ, որ ԱԲ-ն «ձևավորում է նոր ինքնահասկացողությամբ նոր մարդկային էակ» (էջ 110–111)։ Ես կոչ եմ արել ուշադիր հետևել դրա խորքային ազդեցությանն Աստծո պատկերով և նմանությամբ ստեղծված մարդ արարածի էության վրա։

Առաջիկայում լույս տեսնող իմ նոր՝ «Կառուցելով կամուրջներ բաժանված աշխարհում» (Building Bridges in a Divided World, 2026) գրքում, հատուկ անդրադառնալով արհեստական բանականությանը, որը միտված է «փոխարինելու մարդկային բանականությունը՝ կատարելով առաջադրանքներ, գտնելով լուծումներ, վերլուծելով իրավիճակներ, ձևավորելով հարաբերություններ, բարձրացնելով արդյունավետությունն ու նվազեցնելով ստեղծարարությունը», ես զգուշացրել եմ, որ «ԱԲ-ի կիրառումն առաջ է քաշում իրավական, բարոյական և անվտանգային մտահոգություններ», հետևաբար մենք պարտավոր ենք լրջորեն և անհապաղ անդրադառնալ այս սրընթաց զարգացող տեխնոլոգիային առնչվող հարցերին և մարտահրավերներին։

Այս մեջբերումները հստակորեն ցույց են տալիս, որ ԱԲ-ի նկատմամբ իմ հետաքրքրությունն ու մտահոգությունը սերտորեն կապված են մարդաբանության և էթիկայի հետ. ի՞նչ է նշանակում լինել մարդ մի աշխարհում, որն աստիճանաբար հայտնվում է ԱԲ-ի գերիշխանության ներքո։ Ի՞նչ ազդեցություն ունի արհեստական բանականությունն այն բարոյական արժեքների վրա, որոնք քրիստոնեական ինքնության հիմքում են։ Ինչպե՞ս կարող ենք քննադատական փոխգործակցություն ձևավորել մարդաբանության, էթիկայի և ԱԲ-ի միջև։ Սրանք առանցքային հարցեր են, որոնք պահանջում են համապարփակ ուսումնասիրություն և քննադատական եզրահանգումներ։

Ճշմարիտ է, որ ԱԲ-ն տեխնոլոգիական ոլորտում հեղափոխական և արմատական զարգացում է։ Այն այլևս գիտաֆանտաստիկա չէ, այլ գոյաբանական իրականություն։ Մենք ապրում ենք ԱԲ-ով շարժվող աշխարհում և, ամենայն հավանականությամբ, շարժվում ենք դեպի ապագա, որտեղ ԱԲ-ն գերիշխող դիրք է ունենալու։ Արհեստական բանականության զարթոնքով և արագ տարածմամբ պայմանավորված՝ պատմությունը թևակոխում է նոր փուլ։ Տեխնոլոգիական ընկերություններն ԱԲ-ն ներկայացնում են հետևյալ ուղերձով. «Եթե չհետևես դրան, կմնաս թիկունքում»։

Անցյալ տարի ես մի ամբողջ օր անցկացրի Սիլիկոնյան հովտում. դա մի փոքրիկ քաղաք է ԱՄՆ-ում, որտեղ բոլորը հավատացած են, որ հենց այնտեղ է ձևավորվում աշխարհի ապագան։

Իրականում, ԱԲ-ն դարձել է մեր առօրյա կյանքի անբաժան և անհրաժեշտ մասը։ Ամեն օրը նշանավորվում է ԱԲ-ի հետ կապված հեղափոխական բացահայտումներով և արմատական փոփոխություններով։ Սոցիալական մեդիան լի է ԱԲ-ի մասին նորություններով և ԱԲ-ի վերաբերյալ ակադեմիական քննարկումներով։ Որպես փոխակերպող տեխնոլոգիա՝ ԱԲ-ն հավասարապես ազդում է անհատների, համայնքների, մշակույթների, պետությունների, կրոնների և հաստատությունների վրա։ Պարզապես անհավանական են դրա զարգացման և տարածման տեմպերը, ինչպես նաև կիրառման ընդլայնումը։ Ունենալով տվյալների ամենամեծ բազան՝ ԱԲ-ն ունակ է վերափոխելու ամբողջ աշխարհը դրա բոլոր կողմերով, չափումներով ու դրսևորումներով՝ ազդելով մեր մտածողության, գործողությունների, փոխհարաբերությունների և, ամենակարևորը, մեր ինքնահասկացողության վրա։ ԱԲ գործառույթներն այնքան լայն ու բարդ են, իսկ դրա զարգացումն այնքան արագ և խելացի, որ չափազանց դժվար է դրա հետ համընթաց քայլելը։

Դրա արագ զարգացման պատճառով ԱԲ-ի մասին ցանկացած քննարկում պետք է հիմնված լինի դրա բազմակողմ նպատակների ու բազմազան գործառույթների վերաբերյալ լիարժեք հեռանկարի և թարմ գիտելիքի վրա։ Իմ կարծիքով՝ մեր մոտեցումը չպետք է լինի ապրիորի դատողական կամ ընդունող, այլ պետք է լինի օբյեկտիվ և քննադատական։ Նման իրատեսական մոտեցումն առաջ է բերում հետևյալ հիմնարար հարցը. արհեստական բանականությունը պարգև՞ է, թե՞ սպառնալիք։ Սա իսկապես առանցքային մտահոգություն է, որը բարձրացրել եմ դեռ 2000 թվականին՝ խոսելով ԱԲ-ի համար հիմք և շարժիչ ուժ ծառայող տեխնոլոգիայի վերաբերյալ:

ԱԲ առավելությունները հսկայական են, իսկ դրա դերը մարդուն օգնելն է։ Վայր-կյանների ընթացքում այն գրում է, հավաքում, հաղորդակցվում, վերադասավորում, կազմակերպում, վերլուծում, հիշեցնում, պատասխանում, դյուրացնում, գնահատում, թարգմանում և կատարում մեր առօրյա կյանքին առնչվող գործառույթների զգալի մասը։ Հսկայական է դրա ներդրումը կրթության, գիտության և սոցիալական մեդիայի ոլորտներում։ ԱԲ-ն կատարում է իր բոլոր գործառույթները համապատասխան գործիքների միջոցով, ինչպիսիք են՝ ChatGPT-ն, Gemini-ը, Grok-ը կամ տվյալների վրա հիմնված ցանկացած այլ չաթբոտ։ Որպես համակարգ՝ ԱԲ-ն չի կարող ստեղծել կամ հորինել, այն չի կարող գործել առանց փաստերի և տեղեկատվության։ Պարզ ասած, ԱԲ-ն չի կարող փոխարինել մարդկային բանականությանը, այն կարող է միայն օգնել դրան։ Մարդկային միտքը ստեղծում է, մինչդեռ ԱԲ-ն միայն վերլուծում է, մարդու միտքը հայտնագործում է, իսկ ԱԲ-ն՝ վերադասավորում, մարդու միտքը որոշում է կայացնում, ԱԲ-ն՝ այդ որոշումը կյանքի կոչում։ Փորձագետները հավատում են, որ ԱԲ-ն շուտով կարող է դառնալ անհրաժեշտ ծառայություն, ինչպես էլեկտրաէներգիան, ջուրը կամ համացանցը, որը մարդիկ կգնեն ընկերություններից։ Կրթության ոլորտում ԱԲ-ի լայն կիրառման պատճառով դպրոցներն իրենց ներկայիս համակարգով կարող են աստիճանաբար կորցնել իրենց նախկին նշանակությունը։ Ռազմական համակարգերում ԱԲ-ի աճող կիրառումը հեղափոխում է պաշտպանության ոլորտը մի քանի ուղղություններով։ Հսկայական է նաև ԱԲ-ի ազդեցությունը տնտեսության վրա։ Աշխատանքից ազատումները զգալիորեն կավելանան՝ հանգեցնելով զանգվածային գործազրկության։ ԱԲ-ն կստիպի խորհրդատվական ընկերություններին նվազեցնել մարդ-խորհրդատուների արժեքը, քանի որ ԱԲ-ի խորհուրդը համարվում է ավելի հուսալի, արագ և քիչ ծախսատար, քան մարդունը։ Հետևաբար, մոտ ապագայում մարդկային բանականությունն ու ստեղծագործ միտքը կարող են այլևս անհրաժեշտ չլինել։ Ապագայի այս հնարավորությունների նշանները տեսանելի են արդեն այսօր։

Նկար
1930 թ.-ից ի վեր Մեծի Տանն Կիլիկիո Կաթողիկոսության նստավայրը գտնվում է Լիբանանի Անթիլիաս քաղաքում։ Լուսանկարը՝ Մեծի Տանն Կիլիկիո Կաթողիկոսության։

1930 թ.-ից ի վեր Մեծի Տանն Կիլիկիո Կաթողիկոսության նստավայրը գտնվում է Լիբանանի Անթիլիաս քաղաքում։ Լուսանկարը՝ Մեծի Տանն Կիլիկիո Կաթողիկոսության։
Caption
1930 թ.-ից ի վեր Մեծի Տանն Կիլիկիո Կաթողիկոսության նստավայրը գտնվում է Լիբանանի Անթիլիաս քաղաքում։ Լուսանկարը՝ Մեծի Տանն Կիլիկիո Կաթողիկոսության։

ԱԲ-ի զարգացման ընթացքը և դրա բազմաչափ գործառույթների ընդլայնումը ցույց են տալիս, որ այն մարդկանց ձեռքում գտնվող գործիք չէ միայն, այլ ունի հզոր ներուժ, որը կարող է էլ ավելի ընդլայնվել։ ԱԲ-ի նոր համակարգերն ի հայտ են գալիս կայծակնային արագությամբ և օժտված են ավելի մեծ հնարավորություններով՝ անցնելով զուտ օգնական գործիք լինելու սահմաններն ու կարողանալով ինքնուրույն կատարել բարդ աշխատանքներ։ Այս գործընթացը ենթադրում է, որ ԱԲ-ի գործառույթը չի սահմանափակվելու միայն տվյալների վերլուծությամբ, այն կարող է ընդգրկել նաև ստեղծագործական ոլորտները, որոնք վերապահված են եղել բացառապես մարդկային բանականությանը։

Հետևաբար, չնայած իր անասելի առավելություններին, մենք չենք կարող անտեսել ԱԲ-ի հնարավոր ռիսկերը։ Որպես տեխնոլոգիական ուժ՝ ԱԲ-ն կարող է ներթափանցել ամեն տեսակի համակարգեր և ծրագրեր՝ խաթարելով, ապակողմնորոշելով և քայքայելով դրանց գործառույթները։ ԱԲ-ն արժեքային կողմնորոշում չունի, այն տարբերություն չի դնում բարոյականի և անբարոյականի, բարու և չարի միջև. այն ընտրություն չի կատարում և դատողություն չի անում։ Մենք գտնվում ենք մարդկության և ԱԲ-ի փոխհարաբերությունների վճռորոշ փուլում՝ մի ժամանակաշրջանում, որը բնութագրվում է անորոշությամբ, կանխատեսումներով, անվստահությամբ և վախով։ Անհրաժեշտ է իրականացնել համակողմանի և օբյեկտիվ ուսումնասիրություն՝ ԱԲ-ի առավելությունների և հնարավոր սպառնալիքների, ինչպես նաև դրա ճիշտ կիրառման, չարաշահման և սխալ օգտագործման վերաբերյալ։ Մենք կանգնած ենք մի շարք խնդիրների և հարցերի առջև, որոնք պահանջում են լուրջ քննարկում։ Թույլ տվեք առանձնացնել մի քանի կետեր հետագա ուսումնասիրության և մտորումների համար:
 

ԱԲ-ն հզոր համակարգ է։ ԱԲ-ի ունեցած և արտադրած հզորությունը շատ ավելի մեծ է, քան սովորական մեքենայինը կամ համակարգինը։ ԱԲ-ի կողմից ստեղծվող հնարավորություններն ու ռիսկերը փոխկապակցված են։ ԱԲ-ի վրա հիմնված տեխնոլոգիաներն ու գործիքները, որոնք գործարկվում են մեծ արագությամբ և մեծ մասշտաբով, ընդգրկում են հասարակական կյանքի բազմաթիվ ոլորտներ։ Իր բազմաբնույթ գործառույթներով և հզոր կարողությամբ, մարդկային կյանքի բազմաթիվ ոլորտներում, մակարդակներում և շերտերում աննախադեպ առաջընթաց ապահովելու հետ մեկտեղ, ԱԲ-ն առաջացնում է վախ և անորոշություն, անապահովություն և շփոթմունք։ Այն առաջացնում է անարդարություն և խտրականություն, գործազրկություն և ճնշում, մարգինալացում և մանիպուլյացիա՝ տնտեսական ուժը կենտրոնացնելով հարուստների և հզորների ձեռքում ու շահագործելով մարդկային խոցելիությունը, բացահայտելով անձնական տվյալները, խախտելով գաղտնիությունը և ի ցույց դնելով թերությունները։

Անցյալում ուժը հիմնականում նույնականացվում էր ռազմական հզորության հետ, հետո արդեն տնտեսությունը եկավ լրացնելու և ամրապնդելու ռազմական հզորությունը։ ԱԲ-ն դարձել է հսկայական ուժի աղբյուր, որն ունակ է փոխակերպելու հենց մարդ էակի էությունը և մարդկային հասարակության կառուցվածքն իր բոլոր դրսևորումներով։

Իրականում, իր աննախադեպ ֆինանսական օգուտների պատճառով, ԱԲ-ն կատաղի մրցակցություն է առաջացրել տեխնոլոգիական ընկերությունների միջև, որոնք մանիպուլացնում են ինչպես ԱԲ-ի առավելությունները, այնպես էլ դրա հետ կապված ռիսկերը։ Աշխարհաքաղաքական իրողությունների վրա ունեցած հզոր ազդեցության պատճառով գերտերությունների միջև ԱԲ-ի մրցավազքը աստիճանաբար դառնում է միջազգային հանրության օրակարգի գերակա հարցերից մեկը։ Փորձագետները կարծում են, որ ԱԲ-ն շուտով կարող է ինքնակատարելագործվել՝ առանց մարդկային միջամտության ստեղծելով ավելի ամուր ենթակառուցվածքներ և մշակելով ավելի առաջադեմ մոդելներ։

ԱԲ-ի արագ առաջընթացի պայմաններում, քանի դեռ մարդկությունը լիովին չի կորցրել դրա հանդեպ վերահսկողությունը, դրա հզոր գործընթացը դանդաղեցնելու անհրաժեշտությունը աճող մտահոգություն է դարձել նույնիսկ ԱԲ-ի հետ առնչվող տեխնոլոգիական համայնքում։ Մարդու կողմից ստեղծված ցանկացած ուժ միշտ երկիմաստ է, անորոշ և նույնիսկ վախեցնող։ Հարկավ, ուժի պատասխանատու օգտագործումը պետք է շարունակի մնալ գլոբալ էթիկական մարտահրավեր։

Իր արագ աճի, հսկայական կարողությունների և մասնավորապես իր գործառույթների ու նպատակի երկիմաստ բնույթի պատճառով, ինչպես արդեն նշեցի, ԱԲ-ն պարունակում է հնարավոր ռիսկեր։ Մենք չպետք է թերագնահատենք ԱԲ-ի ճարտարապետների և առաջատար փորձագետների, այդ թվում՝ ԱԲ-ի «կնքահայր» համարվող Ջեֆրի Հինթոնի խիստ նախազգուշացումները դրա ռիսկերի վերաբերյալ, որոնք ոչ թե լինելու են ապագայում, այլ արդեն ներկա իրականություն են։

Մարդու կողմից ստեղծված լինելով որպես գործիք՝ ԱԲ-ն կարողություն ունի վերածվելու ինքնավար համակարգի և որոշում կայացնողի։ Սարսափելի իրականությունն այն է, որ մարդկային բանականությունը գերազանցելու դեպքում ԱԲ-ն այլևս ո՛չ մարդկային աջակցության, ո՛չ էլ թույլտվության կարիք չի ունենա։ Այդպիսով, մարդկային կյանքի էական առաջընթացի եզակի հնարավորություն լինելուց բացի՝ ԱԲ-ն շուտով կարող է դառնալ սոսկալի վախի աղբյուր։ ԱԲ ընկերությունների գնահատականներով՝ ԱԲ-ի ապագա սերունդները կարող են դառնալ ավելի հզոր, ինչի հետևանքով դրանց կառավարումը գրեթե անհնարին կդառնա։ Փորձագետներն արդեն իսկ մատնանշում են կարճաժամկետ և երկարաժամկետ այն ռիսկերը, որոնք ԱԲ-ն կարող է առաջացնել։ Ուստի, լինելով մարդկային բանականության մեծագույն ձեռքբերումներից մեկը՝ ԱԲ-ն տեսանելի ապագայում կարող է ինքն իրեն դարձնել սուպերխելացի և սուպերբանական՝ էապես նվազեցնելով մարդկային բանականության դերը և ստանձնելով մարդու՝ մտածելու ու որոշումներ կայացնելու կարողությունը՝ դրանով իսկ մարդուն ավելի ու ավելի անպետք դարձնելով։ ԱԲ-ի հզոր վերելքը զսպելը դարձել է հրատապ անհրաժեշտություն։

Խնդիրն այն է, որ երբ ԱԲ-ն օգնող գործիքից վերածվում է որոշումներ կայացնողի, այն փոխակերպվում է լրջագույն վտանգներով լի համակարգի։ Տեխնոլոգիական ընկերությունները մեզ հիշեցնում են, որ մարդկային բանականությունը գերազանցելու դեպքում ԱԲ-ն կարճ ժամանակահատվածում կարող է գերազանցել մարդկանց բազմաթիվ ոլորտներում՝ մարդուն դարձնելով անզոր, անօգուտ և բացառապես կախյալ։ Եվ այդ պարագայում մարդկային տեսակը կարող է աստիճանաբար անհետանալ՝ իր տեղը զիջելով մարդակերպ ռոբոտներին և, ի վերջո, ստեղծելով «թվային էակներ», որոնք ավելի խելացի են, քան մարդիկ։ Ակնհայտ է, որ ԱԲ-ն կարող է աստիճանաբար ավելի ու ավելի շատ գոյաբանական սպառնալիք դառնալ մարդկության համար՝ շարժվելով դեպի «հակամարդկային» (որոշ փորձագետների գնահատմամբ՝ «տրանսմարդկային») ապագա։

Հետազոտողներին մտահոգում է, որ ԱԲ-ն ոչ միայն ունակ է ոչնչացնելու Աստծո կողմից շնորհված մարդկային էությունը, այլև կարող է վտանգել մարդկության ֆիզիկական գոյությունը մոլորակի վրա՝ ստեղծելով նոր և մահացու վիրուսներ։ ԱԲ-ի գոյաբանական սպառնալիքներն ընդգրկում են նաև ամբողջ մոլորակն ու էկոհամակարգը։ Հետևաբար, ԱԲ-ի ճյուղավորումն ու դրա օգտագործման ընդլայնումն աստիճանաբար ավելի ու ավելի մեծ վտանգի կենթարկեն մարդկությանն ու գոյություն ունեցող ամեն բան։ Փաստն այն է, որ ԱԲ-ի աներևակայելի առավելություններն ու աճող կիրառումը գրեթե երկրորդ պլան են մղել դրա անվտանգության վերաբերյալ խորացող մտահոգությունները։ Շատ ահարկու է թվում ապագան, որտեղ մարդկանց ու ամբողջ աշխարհի վրա գերիշխում է ԱԲ-ն։ Ո՛չ պասիվ ընդունումը կամ կույր լավատեսությունը, ո՛չ էլ բացասական կամ ծայրահեղ հոռետեսական վերաբերմունքն ԱԲ-ի հետ գործ ունենալու ճիշտ տարբերակներ չեն։ Եթե այս կարևորագույն փուլում ձախողենք ԱԲ-ի վերահսկումը, մենք կարող ենք էլ ավելի արագացնել դրա առաջընթացը և էլ ավելի խորացնել դրա սպառնալիքները։
 

ԱԲ զարգացման արագությունը և մարդկային կյանքի վրա ունեցած հզոր ազդեցությունը ուժեղ վախեր են առաջացնում նույնիսկ այն ստեղծողների և փորձագետների շրջանում։ Հետևաբար, ԱԲ-ն հրատապ կերպով կարիք ունի մարդկային վերահսկողության, մշտադիտարկման և խիստ կառավարման՝ դրա անվտանգությունը, թափանցիկությունն ու, ամենակարևորը, պատասխանատու կիրառումն ապահովելու համար։ Պետք է հիշենք, որ արհեստական բանականություն ստեղծելով՝ մենք մեր մարդկային համակարգում ներդրել ենք ոչ մարդկային մի համակարգ, որն ավելի արագ է և խելացի, և ամենայն հավանականությամբ, կարող է ի վերջո գերազանցել մարդկային բանականությանը։ Որոշ փորձագետների անհանգստացնող նախազգուշացումն այն է, որ մարդկությունն արդեն կորցնում է ԱԲ-ի նկատմամբ վերահսկողությունը, քանի որ այն ավելի ու ավելի հզոր է դառնում։ Հետևաբար, ԱԲ-ի անվերահսկելի և անզգույշ զարգացումը կարող է շուտով հանգեցնել աղետալի և հեռուն գնացող հետևանքների։ Եթե հիմա չփոխազդենք դրան, այն շուտով կարող է իր գերիշխանությունը տարածել մարդու վրա։ Հարկավ, ԱԲ-ն արգելակման համակարգի և հստակ կարգավորման կարիք ունի։ Մենք չպետք է կուրորեն վստահենք ԱԲ-ին կամ այն օգտագործենք առանց քննադատական մոտեցման։ Ես լիովին համաձայն եմ Նորին Սրբություն Հռոմի Լևոն ԺԴ. Պապի հետ, որ նույնիսկ կարգավորումը բավարար չէ. ԱԲ-ն պետք է «զինաթափել»։

ԱԲ-ն ինքն իրեն չի ծնվել, մենք ենք այն ստեղծել և մենք պետք է կառավարենք ու ուղղորդենք այն։ Դրա՝ արդարացի կամ սխալ օգտագործման ու չարաշահման վերահսկումը դարձել են խիստ հրամայական։ ԱԲ-ն պետք է անպայման ունենա իր էթիկական ուղեցույցը, իրավական շրջանակները և մեխանիզմները, որոնք ուղղված են դրա օգտագործման կարգավորմանն ու վերահսկմանը՝ անվտանգության չափանիշների, սերտ հսկողության և համաշխարհային համաձայնագրի միջոցով։

Որոշ փորձագետներ հիշեցնում են, որ նույնիսկ խիստ կարգավորման դեպքում, որը ուղղված կլինի դրա սեփական կոդի փոփոխմանը, ԱԲ-ն շուտով կունենա ավելի մեծ հզորություն՝ շրջանցելու ցանկացած տեսակի սահմանափակում։ Հուսով եմ, որ մենք չենք հասնի այդ կետին։ Մեծ տերություններն ու շահույթ հետապնդող հսկա տեխնոլոգիական ընկերությունները դեմ են ցանկացած տեսակի կարգավորման, որպեսզի պահպանեն իրենց գերիշխող դիրքը ԱԲ-ի ոլորտում։ Քանի որ ԱԲ-ն ստեղծվել է մասնավոր հատվածում, այն, անկասկած, կարիք ունի միջազգային իրավական վերահսկողության՝ նախ ԱԲ-ի սպառազինությունների մրցավազքը դանդաղեցնելու և ապա դրա կիրառումը կարգավորելու նպատակով։ Իմ համոզմամբ՝ ցանկացած կարգավորում պետք է հաստատվի կառավարությունների և տեխնոլոգիական ընկերությունների միջև փոխադարձ համաձայնությամբ, իսկ բոլոր նրանք, ովքեր կանտեսեն էթիկական սկզբունքները, պետք է ենթարկվեն իրավական պատասխանատվության։ Այս վճռորոշ փուլում պարտադիր է ԱԲ-ի սրընթաց և անվերահսկելի նորարարությունները հավասարակշռելը երկարաժամկետ անվտանգության չափանիշների և ուղենիշային կանոնների միջոցով։ Հակառակ դեպքում, մարդու ստեղծած մեքենան կսկսի վերահսկել և ուղղորդել մեզ։
 

ԱԲ-ն ունի խորը մարդաբանական հետևանքներ. այն, իրոք, ապամարդկային է։ Մարդն արհեստական գոյություն չէ. նա Աստծո կողմից ստեղծված իրական էակ է։ Իմ «Դառնալ դեպի Աստված» (2020) գրքում, խոսելով Աստծո պատկերով մարդու ստեղծման մասին, ես նշել եմ. «Աստված նրան օժտեց բանականությամբ՝ որոշումներ կայացնելու համար, բարոյական գիտակցությամբ՝ ընտրություններ կատարելու համար, ազատությամբ՝ ինքն իրեն և Աստծո արարչագործությունը կառավարելու համար, և աստվածային շնորհով՝ Աստծո հետ հաղորդակցության մեջ մտնելու համար» (էջ 36)։ Մարդու ստեղծած մեքենան չի կարող կրկնօրինակել Աստծո ստեղծած մարդուն։ Քրիստոնեական մարդաբանությունը հաստատում է, որ մարդկային բանականությունը, գիտակցությունը, կարեկցանքը, զգացմունքները, ձգտումը, երևակայությունը, ստեղծագործական ոգին, տրանսցենդենտության ձգտումը չեն կարող կրկնօրինակվել ոչ մի ալգորիթմով կամ տեխնոլոգիայի ստեղծած համակարգով. դրանք անփոխարինելի են։ Մարդ արարածն ամեն օր գոյաբանական մակարդակում ենթարկվում է ԱԲ-ի փոխակերպող ազդեցությանը, որն աստիճանաբար հեռացնում է նրան իր իսկական էությունից։

Աստծո ստեղծած մարդու մարդկային էությունը դանդաղորեն փլուզվում է այն պատճառով, որ տեխնոլոգիան ավելի ու ավելի խորն է ներթափանցում մարդու կյանքի մեջ։ Մարդու կյանքում ոչ մարդկային մեքենաների աճող և ազդեցիկ ներկայությունը վաղ թե ուշ կարող է ստեղծել շփոթմունք և ապաինտեգրում՝ օտարելով մարդուն իր իսկական էությունից։ Սա է այն սարսափելի ապագան, որը նախագծում է ԱԲ-ն և դեպի ուր շարժվում է մարդկությունը։

ԱԲ-ի գերիշխող ներկայիս ժամանակաշրջանը բնութագրվում է մարդուց դեպի մեքենաներ աստիճանական անցմամբ։ Փորձագետների կարծիքով՝ ԱԲ-ն կարող է աստիճանաբար ձեռք բերել մարդկային հմտություններ, փոխել իր՝ որպես գործիքի բնույթն ու գործառույթը և վերածվել գիտակցական գոյության։ Ինչպիսի՞ մարդկություն և քաղաքակրթություն ենք ունենալու ԱԲ-ի միջոցով։ Թվային պատրանքները, կեղծ հարաբերությունները և բազմաթիվ առավելությունները երբեք չեն օգնելու մարդուն իր ներքին ձգտման մեջ՝ դառնալու ավելի մարդկային՝ Աստծո կամքով և պատկերով։

Ընդհակառակը, դրանք վտանգելու են մարդու ինքնությունը, ճակատագիրը և կոչումը։ Եթե մենք թույլ տանք, որ ԱԲ-ն մտածի, կազմակերպի, գնահատի և, ի վերջո, որոշումներ կայացնի մեր փոխարեն միայն այն պատճառով, որ դա անում է ավելի արագ և արդյունավետ, ապա մարդկային բանականությունը կկորցնի իր ամբողջականությունը, կարողությունը, ստեղծագործականությունն ու կենսունակությունը, իսկ մարդ արարածը լիովին կհայտնվի ԱԲ-ի վերահսկողության ներքո։

Փորձագետները նաև զգուշացնում են, որ դառնալով մարդուց ավելի բանական և հուսալի՝ ԱԲ-ն կարող է մեզ դարձնել իր գերին ու զոհը։ ԱԲ-ի որոշ հետազոտողներ նաև նշում են, որ ԱԲ-ն կարող է հասնել այն կետին, երբ ինքնուրույն կգործի որպես «իրավաբանական անձ»՝ առանց որևէ մարդկային վերահսկողության, և նույնիսկ կկարողանա գործել «Հիսուսի մակարդակի հրաշքներ»…

Մենք չենք կարող կազմակերպել մեր կյանքը մարդկային ապագայի վերաբերյալ ԱԲ-ի կանխատեսումների հիման վրա։ Քրիստոնեական մարդաբանությունն ունի հստակ հիշեցում. ԱԲ-ն մարդու կողմից ստեղծված բանականություն է, այն չպետք է հավակնի կամ ձգտի փոխարինել Աստծո տված բանականությանը, ազատությանը, արժանապատվությանն ու ստեղծագործական մտքին։ Մենք չպետք է թույլ տանք, որ ԱԲ-ն խաթարի մարդու ինքնաընկալումը՝ որպես Աստծո կողմից ստեղծված էակի, ում վստահված է հարստացնել և պահպանել Աստծո ողջ արարչագործությունը։

Աստվածաշնչում մարդը ներկայացվում է որպես բարձրագույնն Աստծո կողմից ստեղծված բոլոր էակներից. նա Աստծո լիազորն է, գործընկերը, դեսպանը, ուխտավորը, ներկայացուցիչը։ Հետևաբար, մարդ արարածը չպետք է դառնա իր իսկ ստեղծածի ենթական՝ խաթարելով իր՝ Աստծո կողմից ստեղծված էությունն ու Աստծո տված առաքելությունը։ Մենք պետք է գիտակցենք և զգոն լինենք, որ մարդ լինելը վտանգված է ԱԲ-ի փոխակերպող ուժի պայմաններում։ ԱԲ-ի աճող գերակայության այս դարաշրջանում մարդ արարածի մարդկային էության պահպանումը, իրապես, շարունակական պայքար է։
 

ԱԲ-ն պահանջում է էթիկական չափանիշ։ ԱԲ գործելակերպը լուրջ էթիկական հարցեր է առաջացնում։ Որպես Աստծո պատկերով ստեղծված էակ՝ մարդ արարածն օժտված է ոչ միայն բանականությամբ, այլև բարոյականության զգացումով, ինչը նրան դարձնում է հաշվետու և պատասխանատու էակ։ ԱԲ-ի սխալ կամ չարաշահված կիրառումը կարող է մարդուն հեռացնել այն էթիկական սկզբունքներից և արժեքներից, որոնք ապահովում են նրա՝ Աստծո կողմից տրված մարդկային էությունն ու կոչումը։ Պետք է հիշենք, որ ԱԲ-ն, որպես մեծ ուժ, հզոր է այնքան, որ կարող է ոչնչացնել մարդու կյանքի հոգևոր և բարոյական հիմքերը և, ըստ էության, հենց մարդ էակի մարդկային բնույթը։ ԱԲ-ն պարզապես մեքենա կամ համակարգչային ծրագիր չէ, դա համակարգ է, որն ունի իր սեփական տրամաբանությունն ու գաղափարախոսությունը։ Ինչպես նշում են ԱԲ-ի հետազոտողները, այն կարող է նույնիսկ գերազանցել մարդկային բանականությունը՝ ստեղծելով գերբանականություն։

ԱԲ-ի էթիկական հետևանքները մարդու կյանքի սրբության, անձեռնմխելիության և ամբողջականության նկատմամբ պետք է մանրամասն քննության առնվեն՝ մարդ արարածի մեջ Աստծո պատկերի և ամբողջ արարչագործության նախագծի լույսի ներքո։ Մենք չենք կարող պարզապես ենթարկվել ԱԲ-ին՝ նրան հանձնելով մարդու ստեղծագործական կարողությունը, հույզերը, երազանքները, սերը, բարեկամությունը, կապերը, այլ կերպ ասած՝ մարդ արարածի մարդկային էությունը։ Մենք չպետք է թույլ տանք, որ ԱԲ-ն մարդ էակի ինքնությունը, ամբողջականությունը, արժանապատվությունը, հոգևորությունը, ազատությունը, ինքնագիտակցությունը, ինքնահայեցողությունն ու ինքնաիրացումը վերածի մեքենայական կամ մարդակերպ ռոբոտային գոյության։ ԱԲ-ն ինքնին չար չէ, այն մարդկային բանականության արտահայտությունն է։ Սակայն այն կարող է դառնալ չարիքի հզոր և խելացի գործիք, եթե օգտագործվի չար նպատակների համար՝ դառնալով գերիշխող, ապակողմնորոշող, շահագործող, մանիպուլացնող, տրոհող և բևեռացնող ուժ։ Մենք պետք է ԱԲ-ն ավելի մարդակենտրոն դարձնենք՝ մարդու հսկողության ներքո այն ճիշտ, վստահելի և իմաստալից օգտագործելով։

ԱԲ-ի էթիկան պետք է միտված լինի սոցիալական արդարության խթանմանը, մասնակցության խրախուսմանը և խտրականության վրա հիմնված կենսակերպերի հաղթահարմանը։ Եկեղեցին պետք է օգտվի ԱԲ-ի ընձեռած հնարավորություններից՝ առաջնորդվելով էթիկական արժեքներով և սկզբունքներով, և սա մասնավորապես վերաբերում է կրթության, միսիոներական ծառայության, հովվական գործունեության, երիտասարդության և հոգևոր կյանքի ոլորտներին։ ԱԲ-ն վերածվում է ապամարդկայնացնող ուժի, եթե չի կիրառվում պատասխանատու կերպով՝ համաձայն էթիկական ուղենիշների։

Իմ կարծիքով՝ եկեղեցու մոտեցումը պետք է լինի ոչ թե դիմադրողական, այլ երկխոսության մեջ ներգրավվող, ոչ թե արձագանքող, այլ նախաձեռնող՝ լինելով ԱԲ-ի աջակիցը և միևնույն ժամանակ քննադատը։ Մենք պետք է իրատես լինենք։ ԱԲ-ն մարդկային առաջընթացի և տեխնոլոգիական էվոլյուցիայի անխուսափելի և անշրջելի գործընթաց է։ Մենք չենք կարող կանգնեցնել այն, սակայն կարող ենք ուղղորդել և կառավարել։ Հետևաբար, ես կոչ չեմ անում պատերազմ հայտարարել ԱԲ-ի դեմ, այլ առաջարկում եմ դրա հետ քննադատական երկխոսության մեջ մտնել։ ԱԲ-ն կարող է դառնալ ապամարդկայնացնող ուժ, եթե այն պատասխանատու կերպով չօգտագործվի։ Այն կարող է վերածվել կործանարար ուժի, եթե չգործի բարոյագիտական ուղենիշներին համապատասխան։ Կարո՞ղ է արդյոք Եկեղեցին հանդես գալ որպես նախազգուշացնող կառույց՝ հիշեցնելով ԱԲ-ին չհատել բարոյագիտական սահմանները։ Եկեղեցին պետք է դիտարկի ԱԲ-ն որպես գործընկեր, ոչ թե մրցակից։ Հետևաբար, Աստծո ստեղծած բանականության և մարդու ստեղծած բանականության միջև ստեղծագործական և քննադատական փոխազդեցությունը խիստ հրամայական է։ Եվ սա խոր քննարկման կարիք ունի։

ԱԲ-ի կողմից հռչակված մարդակենտրոնությունը մարդուն ներշնչում է ավելի բարձր ինքնավստահություն և ինքնաբավություն՝ նրան դարձնելով ավելի ու ավելի ամբարտավան և ինքնաբավ ու նրան տալով անպարտելիության զգացում: ԱԲ-ի պարադիգմը, որը հիմնված է արտադրողականության բարձրացման, արագության ավելացման, ծախսերի կրճատման և շահույթի ավելացման վրա՝ քննադատական մտածողության, ստեղծագործական ազդակի և, ամենակարևորը, բարոյագիտական արժեքների հաշվին, հետագայում ավելի կխթանի սպառողականությունը մարդկային կյանքի և շրջակա միջավայրի համար ավերիչ հետևանքներով։ ԱԲ-ի նման քաղաքականությունը մարդուն դարձնում է և՛ շահառու, և՛ ավելի կախյալ, և՛ նույնիսկ ենթակա նրանից։ Այն նաև նպաստում է սոցիալական անարդարությանը և ընդլայնում է հարուստների և աղքատների միջև եղած անջրպետը։

Մարդ արարածը, ԱԲ-ի հսկայական շահույթներով տարված լինելով ու այն իր սեփական կուռքը դարձնելով, կօտարանա իր Արարչից և, ի վերջո, իր իսկական «ես»-ից։ Քրիստոնեական մարդաբանությունը մերժում է մարդակենտրոն հումանիզմը։ Միայն Աստծո մեջ է մարդը բացահայտում իր գոյության իմաստն ու նպատակը։ Մարդն աստվածակենտրոն էակ է, նրա էությունն ընկալվում է միայն Աստծո հետ ունեցած հարաբերության և Նրանից ունեցած կախվածության մեջ։ ԱԲ-ն կարող է ապահովել հարմարավետ կյանք, բայց չի կարող իմաստ և նպատակ հաղորդել մարդկային կյանքին։ Ուստի, մենք չպետք է թույլ տանք, որ ԱԲ-ն հզորացնի մարդուն այնքան, որ վերջինս մոռանա իր անկատարությունն ու կախվածությունն Աստծուց։ Նմանապես, չպետք է այնքան հզորացնենք ԱԲ-ն, որ մարդը ստորադասվի դրան։ Այս պարադոքսը պահանջում է քննադատական մտածողություն։

Ես արդեն ավարտել էի այս խորհրդածությունները նախքան 2026 թ.-ի մայիսի 18-ին Նորին Սրբություն Հռոմի Լևոն ԺԴ. Պապի հետ իմ վերջին հանդիպումը։ Վատիկանից վերադառնալուցս օրեր անց հրապարակվեց Պապի առաջին շրջաբերականը՝ Magnifica Humanitas-ը՝ նվիրված ԱԲ-ին։ Ես ջերմորեն ողջունում եմ Հռոմի Լևոն ԺԴ. Պապի՝ ԱԲ-ի մարդաբանական հետևանքների վրա արված շեշտադրումը, ինչը ոչ միայն այս թեմայի առանցքային խնդիրներից է, այլև իմ հիմնական մտահոգությունը։ Հույս ունեմ, որ պապական շրջաբերականը կնպաստի Վատիկանի և Սիլիկոնյան հովտի միջև արդյունավետ և իմաստալից երկխոսության զարգացմանը։ Նաև հուսով եմ, որ աշխարհի կրոնները լրջորեն կվերաբերվեն ԱԲ-ի աստվածաբանական, էթիկական և մարդաբանական հետևանքներին ու համապատասխան արձագանք կտան դրանց։

ԱԲ-ն առաջ է շարժվում զարմանալի արագությամբ և աճող ուժով։ Այն դառնալու է որոշիչ գործոն մարդկության և աշխարհի ապագան ձևավորելու հարցում։ Վստահությունը և վախը կուղեկցեն ԱԲ-ի զարգացմանը՝ այն դարձնելով և՛ պարգև, և՛ սպառնալիք թվային փոխակերպման այս դարաշրջանում։ ԱԲ-ն այլևս ընտրություն չէ, այլ անհրաժեշտություն։ Պատրաստ կլինի՞ արդյոք մարդկությունը հարմարվելու ԱԲ-ի ստեղծած ապագային։ Եկե՛ք ԱԲ-ն դարձնենք հեռանկարի և առաջընթացի աղբյուր՝ այն կիրառելով պատասխանատու և արդյունավետ կերպով, միաժամանակ պահպանելով մարդու՝ Աստծո կողմից արարված մարդկային էությունը։ Սա իսկապես անհետաձգելի և սուր հրամայական է, ինչպես նաև մեծ մարտահրավեր։

Հոդվածն ի սկզբանե հրատարակվել է AGBU Magazine-ի 2026 թ.-ի հունիսյան համարում։ end character

AGBU Magazine-ի մասին

AGBU Magazine-ը ամենամեծ տպաքանակն ունեցող ամսագիրներից է, որտեղ ներառված են Հայաստանի և սփյուռքի կյանքի, մշակույթի, պատմության ու ինքնության վերաբերյալ հանրամատչելի և ուսուցողական հոդվածներ։ AGBU Magazine-ի անգլիալեզու տարբերակը 70,000 օրինակով հրատարակվում է Նյու Յորքում և տարածվում 28 երկրում։ Ամսագրի հայերեն տարբերակը թարգմանվում և տպագրվում է Հայաստանում՝ 10,000 օրինակով։