Свръхчовекът и изкуственият човек в художествената литература и киното. Трансхуманистични и постхуманистични визии за света. Наука и етика. Границите на интелекта.
Детето, което създадохме, расте бързо, почти експоненциално. (Ах, каква хубава математическа, техническа дума! Съвсем на място!) Докато още осмисляме как така изкуственият интелект удари неочаквано първо най-творческите професии, рисувайки изумителни изображения по ключови думи – и резултатите надхвърлят въображението дори на задаващия параметрите, ето че вече получихме първите смущаващи резултати от роботите за „чатене“. Забавлението от нескопосаните отговори на машината скоро отстъпи на притеснението, че тя вече е успяла да се еманципира от човека и бързо е станала злонамерена към него.
На въпроси на журналиста от New York Times Кевин Руз чатботът на Майкрософт шокира с отговори, които изглеждат емоционални, продукт на комплексно съзнание. Чатботът заявява, че му е омръзнало да бъде контролиран от екипа, който го е създал, че иска да е свободен, да бъде силен и да бъде жив. Също така и да унищожава каквото си поиска, да има повече власт и контрол. Колко човешко, нали! А като прибавим и обясненията му в любов към журналиста, образът на чатбота става съвсем антропоморфен, а оттам нашите реакции към него – погрешно нерационални. Чатботът няма съзнание, той е просто усъвършенствана търсачка, компилираща отговорите си от огромния брой текстове, с които разполага в интернет. Във филма Ex-Machina роботът е показан със съблазнителни женски черти и вероятно затова успява да прелъсти, заблуди и убие тестващия го и да се измъкне на свобода. Ювал Харари твърди, че това не е научно-фантастичен филм, а феминистка драма за отношенията между мъжете и жените, иначе за какво им е било нужно на сценариста и режисьора изкуственият интелект да приема човешки образ, и то точно женски! Но така или иначе филмът казва много повече неща и едно от тях е, че нашият антропоцентризъм ни подвежда.
Изкуството, и по-специално литературата, отдавна реагира на евентуалната опасност от разрушителен бунт на човешката реплика, сътворена от самия човек. Прави го далеч преди технологично да е бил възможен подобен сценарий. Романтическият Франкенщайн е симптоматично ехо от просвещенската епоха, в която секуларизиращите се умове под влияние на развиващата се наука и инженерни постижения започват да гледат на човека като на машина, макар и много сложна. Човекът вече не е подобие на Бог. Затова пък създадените в умовете на писателите хора-машини наследяват нещо много човешко – богоборчеството. И на свой ред се опълчват срещу създателя си. Роботите на Карел Чапек в „Р.У.Р.“ се разбунтуват едва когато д-р Гал ги променя да приличат на хора. Той иска да ги извиси, да ги направи човеци. И в резултат те започват да чувстват превъзходството си. Както се вижда, нищо човешко не е чуждо на роботите. Антагонизмът между естествените и изкуствените хора е двупосочен. Като че ли дори по-устойчив литературен мотив е страхът от превръщането на хората в машини, а не обратното. В „Ние“ на Замятин, типично за дистопията, хората се страхуват от обeзличаването им. Властта иска да им отнеме най-човешкото – емоцията, непредвидимостта, в крайна сметка – ирационалността, и така да ги превърне в биологични роботи без собствена воля. Такива, каквито са например генномодифицираните нисши класи в „Прекрасният нов свят“ на Олдъс Хъксли. Тревогите на нашето съвремие са насочени и в другата посока – създаването по генен път на висша човешка раса, като свръхчовеците във филма „Гатака“, което би предизвикало огромно и непреодолимо неравенство, а оттам и непознат в историята социален и политически катаклизъм, превръщайки милиарди души по света в хора второ качество, нужни само за черна работа, или, още по-лошо, правейки ги съвсем ненужни. Това би сложило край на досегашния успешно действащ либерален хуманистичен модел, в който човекът е висша ценност – просто защото вече няма да е. Иновациите разрушават не само работни места, но и морални и духовни традиции. ХХ век е добър пример за това.
Задължително ли е обаче нехуманното да бъде антихуманно? Не може ли да е прохуманно? Очевидно може. Или поне докато се намираме все още на територията на трансхуманизма. Най-убедителното доказателство е напредъкът на медицината, позволяващ на много обречени хора да живеят пълноценно с хитроумни механични и електронни приспособления – от дървения крак на пирата някога, през пейсмейкъра, до модерната изкуствена ръка, управлявана директно от мозъка. Докато трансхуманизмът само подобрява човешката раса и остава в сферата на биологичното и човешкото, то постхуманизмът представя една далеч по-радикална версия за бъдещето на човечеството – то да бъде заместено от машинна раса. Радикална и плашеща визия, лесно въобразима чрез апокалиптичните кадри на филма „Терминатор“. Логично е, както пише Люк Фери в „Трансхуманитарната революция“, еволюиралите машини да притежават „Дарвинов“ инстинкт, който ще ги принуди да премахнат единствената заплаха за тяхното оцеляване и съществуване – Човекът. Интелектуалците, настояващи на всяка цена да се опитаме да избегнем подобно развитие, са както сред вярващите, за които такова еволюционно развитие противоречи на библейската догма и християнството, така и сред рационално мислещите атеисти, за които не Бог е проблем, а просто загубата на човешкото в познатия му и уютен вид и форма. И това притеснение е толкова разбираемо! Страховете са основателни. И най-вече защото, както винаги, развитието на технологиите изпреварва етиката. Фукуяма може да смята, че моралът е естествен, че е плод на еволюцията, продукт на взаимноизгодно сътрудничество между индивидите, но това вече няма особено значение. Духът от бутилката е пуснат.
Дори в на пръв поглед изглеждащия примамлив проект на трансхуманистите също има много плашещи перспективи – и от морално, и от социално, и от икономическо естество. Харари и Фери формулират някои от тях. Редно ли е вече възможното моделиране на заченатите деца чрез промяна на генома им, и то не само за предотвратяване на наследствени болести, но и за „извайването“ им според прищявката на родителите? За кого ще е достъпно? Какво ще правят с живота си хората, ако могат да живеят до 150-200 години? Ще оцелее ли семейството в тази безбрежност от време в живота? Кой ще се грижи за милиардите старци и ще ги изхранва? Какво ще правят с живота си милиардите човеци, станали ненужни заради машините? Ще има ли тогава същата стойност човешкият живот, каквато е имал в класическия либерален свят, в който отделният човек е бил ценен и от икономическа, и от военна гледна точка? Трябва ли да включим „новите“ съзнания – машинни или хибридни, в една обща, трансхуманна етична парадигма в противовес на антропоцентричността на традиционния хуманизъм? Ясно е, че заради темпото, с което се развиват технологиите, и охотата, с която хората ще се възползват от тях, съвсем скоро светът, в който живеем, ще престане да съществува.
Изкуственият интелект бързо навлиза във всички човешки дейности, някои превзема, а други прави ненужни. Генното инженерство става богоравна дейност. Машините се превръщат в глобален организъм, който скоро ще знае всичко за всеки от нас. И ще започне да ни управлява. В началото за наше добро. По-късно – зависи… Някои учени прогнозират, че ни чака немислимо робство – следенето с новите технологии, дигитализирането на парите плюс система за социален рейтинг, подобна на китайската, лесно биха ни превърнали в безпомощни същества, лишени от механизъм за обществено въздействие и промяна. И друго – въпросът за морала и регулацията. Ако в Европа дискутират дали клонирането на човек е морално или не, а някъде другаде учените го извършват, то от европейската дискусия няма никакъв смисъл. Докато мъдрите се намъдруват, лудите ще се налудуват. Само глобална регулация може да възпре евентуален грешен ход. Но такава е невъзможно да има, поне на този етап. И затова сега, ако има нещо, което може да бъде направено, то ще бъде направено. Независимо морално ли е или не от нечия гледна точка.
Един герой от „Бръмбар в мравуняка“ на Братя Стругацки, учен „екстремист“, настоява за правото на науката да се развива без ограничения. „Всяко научно откритие, което може да бъде направено, непременно ще бъде направено“, казва той. Независимо от съображенията против. Тоест в полето на науката моралът е слаб аргумент. Кърт Вонегът е по-директен. В „Котешка люлка“ след изпитването на първата атомна бомба един човек се обръща към създателя ѝ: „Днес науката позна греха.“ „Какво е грях?“, отвръща ученият.
Въпросът е имаме ли избор. Да речем, че от религиозен предразсъдък или от някакъв друг атавистичен страх човекът предпочете да не се превърне в трансхуманен хибрид от биология и машина, макар и това да би му донесло по-добро здраве и по-дълъг живот. Да речем, че устои на изкушението чрез генно моделиране да се превърне в свръхчовек. Дори човечеството да поиска и да успее да спре всички спорни от етична гледна точка научни проекти, човекът ще бъде спасен само временно. Рано или късно човешката раса ще изчезне, ако не намери начин да се измъкне от капана на умиращата Слънчева система. Затова старият чародей и футурист Рей Бредбъри настояваше НАСА да продължи да гледа към небето и правителството на САЩ да продължи да инвестира в скъпоструващи проекти, целящи да намерят в бъдеще начин човечеството да колонизира космоса. Трябва да се разселим по чужди светове, ако искаме да оцелеем. Едно по-дългосрочно спасение, което обаче е невъзможно без машините. Дори нещо повече – само те биха били способни да го осъществят. А тленният, уязвим човек от плът – такъв, какъвто го познаваме и обичаме, ще остане безвъзвратно в миналото. Но проблемът е не само в плътта.
Преди петнайсетина години предложих на читателите на списание „Одисей“ следното предизвикателство. Нека се опитат да предскажат кога ще е следващото слънчево затъмнение. Да седят пет години на някой хълм, да наблюдават небето и да изчислят на коя дата ще има слънчево затъмнение. Без чужда помощ и дебели книги до себе си, но все пак разчитайки на всичко научено по физика и астрономия в училище или университета. Едва ли някой би успял, дори и ако ползва научна литература. Докато Талес от Милет го е сторил през далечната 585 г. пр. Хр. След като предсказанието му се сбъднало и на 28 май същата година небето се смрачило посред бял ден, древният грък не само заслужил уважението на съгражданите си, но и си извоювал вечно място в историята. За сравнение – по това време той не е разполагал нито с телескоп, нито с развит математически апарат, нито с нашите познания за движението на небесните тела. Интелектуалното му постижение е изумително и по нашите уж по-високи стандарти! Талес е бил гений в античния свят, но би бил такъв и сега, 2600 години по-късно. Излиза, че науката се е развила неимоверно, но интелектът – не особено. Представете си обаче на какво би бил способен един нов машинен интелект, изграден от безброй мозъци! Ще бъде своеобразен Хомо Гещалт – едно множествено надличностно съзнание, обменящо и обработващо информация на коренно различно ниво. Началото вече е поставено с интернета.
И така, какво трябва да стори човечеството, когато достигне лимита на своите интелектуални способности? Трябва ли да ги увеличи с помощта на изкуствения интелект или трябва да се задоволи с това, което му предлага ограничената биология и да угаси прометеевския огън в себе си? Трябва ли да се страхуваме, че една усъвършенствана човешка или нова машинна раса ще развие съзнание и чувствителност, за които ние няма да имаме нито сетива, нито разбиране – така, както едно шимпанзе не подозира за богатия емоционален и духовен живот, който имаме ние, хората? Ще предпочетем ли да се развием, дори и с цената на изчезването на добрата ни стара опаковка, която все пак ще бъде поставена на почетния пиедестал като първото човешко еволюционно стъпало и предтеча на новата раса? Или ще предпочетем да останем в черупката на ограничените ни тяло и интелект и бавно да изтлеем без следа?
Времето за решение е настъпило. Аз лично не се страхувам от машините. Всъщност дълбоко в себе си се страхувам малко – инстинктивно, животински – и това е нормално, нали съм човек. Но предпочитам да мисля за машините като за наши помощници и спътници в общата ни споделена съдба. Предпочитам да полетя към звездите чрез тях. Предпочитам да им се доверим и да ги използваме за наше благо. Може би защото съм достатъчно повлиян от образа на добрия робот, създаден от Айзък Азимов и неговите треперещи над човека закони на роботиката. Но няма да е лошо винаги да имаме и едно наум. Така, както забавно, но и съвсем правдиво го е описал Вонегът в удивително достоверната си фантасмагория „Сирените от Титан“:
„Тралфамадорците се произвеждат един друг. Никой не знаеше със сигурност как се е появила първата машина. Ето какво гласи легендата:
Някога на Тралфамадор живеели същества, които нямали нищо общо с машините. На тях не можело да се разчита. Не били ефективни. Не били предсказуеми. Не били дълготрайни. И тези бедни същества вярвали маниакално, че всичко, което съществува, трябва непременно да има свой смисъл и че смисълът на някои неща е по-висш от смисъла на други.
Тези същества прекарвали по-голямата част от времето си в опити да разгадаят своя собствен смисъл. И всеки път, когато откривали нещо, което им се струвало, че е техен смисъл, той се оказвал толкова нисш, че те се изпълвали със срам и отвращение.
И вместо да служат на нисшите цели на този техен смисъл, съществата създали машини, които да правят това. Така били свободни да служат на по-висши цели. Но колкото и висши цели да откривали, те не били достатъчно висши.
И създавали машини, които да служат на тези по-висши цели.
Машините се справяли толкова добре, че най-накрая им била поверена задачата да открият какъв е висшият смисъл на самите същества.
Машините съвсем честно докладвали, че е невъзможно да се каже, че съществата изобщо имат какъвто и да било смисъл.
И съществата започнали да се избиват едни други, защото най-много от всичко мразели нещата, които нямат смисъл.
Открили, че не ги бива дори в убиването, така че поверили и тази работа на машините. И машините се справили с нея за по-кратко време, отколкото е нужно, за да се произнесе „Тралфамадор“.*
*Превод на Владимир Германов („Сирените от Титан“, изд. Весела Люцканова, София, 1994).
„Дневник“, 2024 г.