Ювал Ноа Харари, автор на Хомо Деус: Скоро книгите ще те четат, докато ти четеш тях

Хомо Деус представлява кратка история на утрешния ден. Авторът й Ювал Ноа Харари е доктор по история от Университета в Оксфорд, а сега е лектор от Университета в Йерусалим. Неговата книга Сапиенс, кратка история на човечеството от 2014, предизвика световна реакция и е преведена на повече от 40 езика. Ювал Ноа Харари разкрива визията си за бъдещето пред френското издание Sciences et Avenir :

Датаизмът е вярата, че цялата вселена се състои от потоци от данни и всички явления могат да бъдат разбрани като резултат на обработката на данни. Доматът и човекът са два различни механизма за обработка на данни; както и комунизмът и капитализмът. Съществената разлика между комунизма и капитализма е, че комунизмът разчита на централизирана система за обработка на данни, докато капитализмът разчита на разпределена система. Според датаизма, това, което обикновено наричаме чувства и желания, всъщност са биохимични алгоритми. Чувствата не се основават на интуиция или вдъхновение – те се основават на изчисления.

Когато един павиан, жираф или човек видят лъв, страхът възниква, защото милиони неврони в мозъка изчисляват съответните данни и заключават, че вероятността от смърт е висока. Обикновено не успяваме да осъзнаем, че чувствата са всъщност изчисления, защото биохимичният процес на изчисление е толкова бърз, че се получава под прага ни на осъзнаване. Не усещаме милионите неврони в мозъка, които изчисляват вероятностите за оцеляване и възпроизводство, така че погрешно вярваме, че страхът от лъвове, изборът на сексуални партньори или нашето мнение за Европейския съюз са резултат от някаква загадъчна „свободна воля“ „.

И накрая, датаизмът твърди, че обединявайки достатъчно биометрични данни и достатъчно изчислителна мощ, корпорациите и правителствата скоро биха могли да създадат алгоритми, които те познават по-добре, отколкото самият ти, и тогава властта ще се отдалечи от теб в посока към алгоритъма. Алгоритъмът може да разбере желанията ти, да предскаже решенията ти и да направи по-добър избор от твое име.

Започва с прости неща, като например коя книга да купиш и да прочетеш. Как хората избираха книги преди двадесет години? Те разчитаха на собствените си чувства и на препоръките на приятели. Сега все повече използваме Amazon. Когато влизате във виртуалния магазин на Amazon, се появява съобщение и ти казва: „Зная кои книги сте харесали в миналото. Хората с подобни вкусове също са склонни да обичат тази или онази нова книга. “

Това е само началото. Устройства като Kindle на Amazon са в състояние да събират постоянно данни за своите потребители, докато четат книги. Вашият Kindle може да следи кои части от книга сте прочели бързо и кои бавно; на коя страница сте направили почивка, и на кое изречение сте изоставили книгата, никога да не я вземете отново. Ако Kindle се обновява със софтуер за разпознаване на лица и биометрични сензори, той може да знае как всяко изречение, което си прочел, е повлияло на сърдечната честота и кръвното ти налягане. Може да знае какво те е накарало да се смееш, какво те натъжава, какво те кара да се ядосваш.

Скоро книгите ще четат теб, докато ги четеш! И докато ти бързо забравяш повечето от това, което четеш, компютърните програми никога не трябва да забравят нещо. Подобни данни в крайна сметка би трябвало да позволят на Amazon да избира книги за теб с невероятна точност. Това също ще позволи на Amazon да знае точно кой си ти и как да натиска емоционалните ти бутони.

Логичното заключение в крайна сметка е, че хората ще дадат алгоритмите на властта да взема най-важните решения в живота им, като например какво да учат, за кого да се женят и за кого да гласуват на изборите.

Същността на тази революция е сливането на биотехнологиите с информационните технологии. Ако организмите са алгоритми, тогава наистина няма разлика между биотехнологиите и информационните технологии. Хакването на биохимичните алгоритми на организмите ще бъде ключът както за препрограмиране на тези организми (с генно инженерство), така и за овластяване на изкуствения интелект. С напредването на информационните технологии, биотехнологията ще се подобри. Колкото повече изчислителна сила имаме, толкова по-лесно става да анализираме биологичните модели и да се учим да диагностицираме болести и да идентифицираме емоционалните модели. Тези способности на свой ред ще направят възможно изкуственият интелект да лекува човешки заболявания, да идентифицира човешки терористи, да препоръчва човешки приятели и да се движи по улица, пълна с човешки пешеходци.

Изкуственият интелект има огромен потенциал. Автономните превозни средства могат значително да намалят пътнотранспортните произшествия и замърсяването, докато ИИ лекарите могат да предоставят здравни грижи на стотици милиони хора, които в момента не получават почти никакво здравно обслужване.

ИИ представлява обаче и опасност. Не се страхувам много от холивудските сценарии. В типичния научно-фантастичен филм, след като компютърът развива висока интелигентност, неизбежно също така придобива съзнание и след това или някой човек се влюбва в компютъра, или компютърът се опитва да убие всички хора. Това са нереалистични сценарии, защото интелигентността и съзнанието всъщност са много различни неща. Интелигентността е способността да се решават проблеми, докато съзнанието е способността да усещаш и желаеш нещата.

При хората и другите бозайници интелигентността върви ръка за ръка със съзнанието. Банкерите, шофьорите, лекарите и съдиите разчитат на чувствата си, за да разрешат определени проблеми. Компютрите обаче могат да решат тези проблеми по много различен начин от хората и няма абсолютно никаква причина да се мисли, че те ще развият съзнание по време на този процес. През последния половин век е имало огромен напредък в компютърната интелигентност, но в компютърното съзнание е имало точно нулев напредък.

Може да има няколко алтернативни пътя, водещи до интелигентност, и само някои от тези пътища включват придобиване на съзнание. Точно както самолетите летят по-бързо от птиците, без да се развиват пера, компютрите могат да решават проблеми много по-добре от хората, без да се развиват чувства. Разбира се, за да се лекуват човешки заболявания, да се идентифицират човешките терористи, да се препоръчват човешки партньори и да се навигира по улица, пълна с човешки пешеходци, ИИ ще трябва да анализира човешките чувства точно. Но може да го направи, без да има собствени чувства. Затова не мисля, че е много вероятно ИИ внезапно да започне да съзнава, да развива неконтролируеми желания и да убива хора. Аз съм много по-притеснен от две други опасности. Първо изкуственият интелект на компютрите може да даде големи възможност на естествената глупост на хората.

Роботите никога няма да решат да убиват хора със собствена свободна воля – но хората, които контролират роботите, могат да им наредят да го направят. Точно защото роботите нямат съзнание и никакви собствени чувства, те никога няма да се бунтуват срещу своите господари, без значение какви ужаси им е заповядано да правят.

Една армия от роботи вероятно щеше да удуши Френската революция в люлката й през 1789 г. и ако през 2011 г. Хосни Мубарак имаше контингент от убийствени роботи, би могъл да ги отприщи срещу народа, без да се страхува от дезертьорство. По същия начин империалистическото правителство, разчитащо на роботска армия, може да води непопулярни войни, без да се страхува, че роботите му някога ще загубят мотивацията си.

Другият основен страх е, че ИИ и роботиката ще обогатят малък елит на места като Силициевата долина, като същевременно изтласкват стотици милиони хора от пазара на труда. Човечеството може да бъде разделено на малка горна каста на свръхчовеци и огромна „безполезна класа“ на хора, лишени от икономическа стойност и политическа власт.

Повечето учени са твърде вглъбени в тесните технически детайли на своята област и не са достатъчно заинтересовани от социалните и политическите последици от своите открития. Те също така са склонни да имат прекалено оптимистична представа за човешката природа и за употребата, която хората ще приложат в техните изобретения. Призовавам учените да помнят, че каквото създават, няма да бъдат контролирани от тях – ще бъде контролирано от хора като Тръмп, Путин, Ердоган и Нетаняху.

Още не знаем, защото сме далеч от разбирането на ума. Много хора, включително много учени, са склонни да бъркат мозъка с ума, но те наистина са много различни неща. Мозъкът е материална мрежа от неврони и синапси. Умът е поток от субективни преживявания, като болка, удоволствие, гняв и любов. Науката предполага, че мозъкът по някакъв начин произвежда ума и че биохимичните реакции в милиарди неврони по някакъв начин създават преживявания като болка и любов. Досега обаче нямаме абсолютно никакво обяснение за това как умът излиза от мозъка. Как така, когато милиарди неврони изгарят електрически сигнали в определен модел, чувствам болка, а в различен модел, чувствам любов? Нямаме никаква представа.

Това е най-големият пропуск в нашето разбиране за живота. И това е много опасна празнота. През миналите столетия сме придобили контрол над света извън нас и преоформихме цялата планета, но защото не разбирахме сложността на световната екология, промените, които направихме, по невнимание нарушиха цялата екологична система. През следващия век бихме могли да придобием контрол над света вътре в нас и да прекроим нашите тела и мозъци, но тъй като ние не разбираме сложността на собствените си умове, промените, които ще направим, биха могли по невнимание да нарушат цялата ни умствена система.

В практическите си измерения това е най-голямата революция не само в историята на човечеството, но и в самата история на живота. В продължение на четири милиарда години животът се управляваше от законите на естествения подбор. През всичките тези векове, независимо дали сте вирус или динозавър, вие се развихте според принципите на естествения подбор. Освен това, независимо от странните форми на живота, той остава ограничен в рамките на органичното царство.

Независимо дали сте кактус или кит, вие сте били направени от органични съединения и сте останали подчинени на законите на органичната химия. През следващите два века обаче науката би могла да се появи в ерата на неорганичния живот, оформян от интелигентен дизайн. Не интелигентният дизайн на някой бог над облаците, а по-скоро нашият интелигентен дизайн и интелигентният дизайн на изчислителните ни облаци.

Това може да е за добро, ако знаем как да го използваме. Но хората са много привързани към спечелването на власт, отколкото да я използват разумно. Ето защо днес сме хиляди пъти по-силни, отколкото в каменната ера, но не изглеждаме значително по-щастливи.

Пост-хуманизмът означава да използваме нашата сила да регенерираме не само света около нас, но и света вътре в нас. Реинженеринг на нашите тела, мозъци и умове до такава степен, че вече няма да сме хора. Предполагам, че в рамките на най-много 200 години Homo sapiens ще изчезне, земята ще бъде доминирана от лица, които са толкова по-различни от нас, колкото ние сме различни от неандерталците или шимпанзетата.

Днес все още споделяме с неандерталците и шимпанзетата повечето от нашите телесни структури, физически способности и умствени способности. Не само ръцете, очите и мозъците ни са очевидно хоминизирани, но и нашата похот, любов, гняв и социални връзки. В рамките на 200 години, комбинацията от биотехнологии и ИИ може да доведе до телесни, физически и психически признаци, които напълно се откъсват от хоминидната форма.

Всъщност историята на ядрените оръжия трябва да ни даде надежда, че можем да се изправим пред предизвикателствата, породени от новите технологии. През 50-те и 60-те години на ХХ век много хора са били убедени, че човечеството няма мъдростта да предотврати унищожението и че е само въпрос на време, преди Студената война да се превърне в ядрен апокалипсис. Всъщност човечеството успешно се изправи пред ядреното предизвикателство. Суперсилите промениха начина, по който се правеше геополитиката в продължение на хилядолетия, така че Студената война завършви с малко кръвопролития и нов интернационален световен ред укрепи ерата на безпрецедентен мир.

Не само ядрената война беше предотвратена, но войната от всякакъв вид намаля. От 1945 г. няколко страни бяха напълно заличени от картата с външна инвазия, няколко граници бяха преначертани с гола агресия, но през 2016 г., въпреки войните в Сирия, Украйна и няколко други горещи точки, по-малко хора са загинали от човешкото насилие, отколкото от автомобилни катастрофи, от затлъстяване или от самоубийство. Надявам се, че ще бъдем също толкова успешни в справянето с предизвикателствата, породени от ИИ и биоинженерството.

Има голямо объркване относно тази концепция за „свободната воля“. Хората очевидно имат воля, имат желания и понякога са свободни да изпълнят желанията си. Въпреки това, хората не са свободни да избират своите желания. Можете лесно да го наблюдавате. Просто вижте следващата мисъл, която ще  се разкрие в ума ви. Откъде дойде? Избрахте ли да го помислите? Очевидно не.

Когато внимателно наблюдавате собствения си ум, вие осъзнавате, че не избирате свободно какво да мислите, какво да чувствате и какво искате. Осъзнаването на това може да ни помогне да станем по-малко обсебващи в нашите мнения, в нашите чувства и в нашите желания. Хората обикновено придават толкова голямо значение на своите желания, че се стремят да контролират и оформят целия свят според тях. В стремежа към желанията си, хората летят до Луната, водят световни войни и унищожават екологичната система. Ако разбирате, че вашите желания не са резултат от свободния избор, а са резултат от биохимичните процеси във вашето тяло и мозък, вие се надявате, че ще бъдете по-малко заети с тях.

Мисля, че разбирането на себе си, умовете и желанията ни, както те наистина са, ще направи света по-добро място, отколкото ако се опитаме да осъзнаем каквато и да е фантазия на ума ни. Ето защо аз лично посвещавам два часа всеки ден на медитация, всяка година ходя на дълго медитационно оттегляне между 30 и 60 дни. Практикувам медитацията на Випассана, която е метод за наблюдение на съзнанието по систематичен и обективен начин. Умът непрекъснато е в контакт с усещанията на тялото. Във всеки момент винаги изпитваме някакво усещане в тялото и умът реагира на него.

Дори когато смятаме, че реагираме на световната финансова криза, на това, което Доналд Тръмп казва по телевизията или на болезнен спомен от детството, всъщност реагираме на някакво телесно усещане, което присъства тук и сега. Във Випасана се обучаваме да наблюдаваме систематично и обективно усещанията на тялото и реакциите на ума към тях, като по този начин разкриваме най-дълбоките ни умствени модели. Медитацията не е бягство от реалността. Тя се свързва с реалността. Най-малко два часа в денонощието действително наблюдавам реалността, докато за останалите 22 часа се затрупвам с имейли, туитове и забавни видеоклипове за котки. Без яснотата и прозрението, които придобих от практикуването на Випассана, не бих могъл да напиша Сапиенс и Хомо Деус.