logo

Thursday, 20 September 2018 23:41

ГАКНУТИ ЛЮДИНУ. НОВА ЗАГРОЗА ДЛЯ ЛІБЕРАЛЬНОЇ ДЕМОКРАТІЇ

Юваль Харарі, The Guardian, 14.09.2018

 

Невдовзі уряди та корпорації знатимуть нас краще за нас самих. А віра в ідею «свободи волі» стане небезпечною.


Чи варто науковцям служити істині, навіть ціною соціальної гармонії? Чи варто нам викривати фікцію, навіть якщо на цій фікції ґрунтується соціальний порядок? Коли я писав свою останню книгу «21 урок для 21 століття», я був змушеним боротися з цією дилемою, беручи до уваги і лібералізм. 

 

З одного боку, я вірю в те, що ліберальна історія є хибною. Вона не каже правди про людство. А для того, аби вижити та процвітати у 21 столітті, нам треба вийти за її межі. З іншого ж боку, у теперішньому часі ліберальна історія є все ще фундаментальною для функціонування глобального порядку. Навіть більше, лібералізм зараз страждає від атак релігійних та націоналістичних фанатиків, які вірять у свої ностальгічні фантазії, які є щоразнебезпечнішими та шкідливішими. 


Тож, чи треба мені відкрито висловлювати свою думку, ризикуючи, що мої слова можуть вирвати з контексту та використати демагоги з автократами для своїх подальших нападок на ліберальний порядок? Чи може мені краще застосувати самоцензуру? На неліберальних режимах лежить справжнє клеймо: вони роблять свободу слова складнішою навіть за їхніми кордонами. Через поширення таких режимів мислити критично про майбутнє нашого виду стає неймовірно небезпечною справою. 

 

Зрештою, я обрав вільну дискусію замість самоцензури, головно завдяки моїй вірі в силу ліберальної демократії та у потребу дещо її модернізувати. Велика перевага лібералізму над іншими ідеологіями – це його гнучкість та відсутність чітких догм. Він може сприймати критику краще за будь-який інший соціальний порядок. А й справді, це єдиний соціальний порядок, що дозволяє людям ставити під сумніви навіть їхні власні фундаментальні засади. Лібералізм уже пережив три великі кризи: Першу світову війну, фашистську загрозу 1930-х років, а також небезпеку комунізму в 1950-1970-х роках. Тож, якщо гадаєте, що зараз лібералізм має проблеми, тоді просто пам’ятайте, наскільки гірше було в 1918, 1938 чи 1968 році. 

 

У 1968 році вважалося, що ліберальні демократії — це вид, який вимирає. Навіть у межах їхніх кордонів вони страждали від масових бунтів, убивств, терористичних атак та запеклих ідеологічних боїв. Якщо ви опинялися серед масових заворушень у Вашингтоні в день після убивства Мартіна Лютера Кінга, або ж у Парижі у травні 1968 року, або на зустрічі демократичної партії в Чикаго серпня 1968 року, тоді ви певно добре розуміли, що кінець – близько. Поки Вашингтон, Париж та Чикаго занурювалися в хаос, у Москві та Ленінграді було спокійно, а Радянському Союзу, здавалося, судилось переходити через усі складнощі завжди. Але через 20 років саме радянська система опинилася в колапсі. Битви 1960-х років загартували ліберальну демократію, у той час, як атмосфера тиску в Радянському блоці передрекла його крах. 

 

Тому ми сподіваємося, що лібералізм зможе знову перевинайти себе. Але головний виклик, з яким він стикається зараз, виходить не від фашизму чи комунізму, навіть не від демагогів чи автократів, що плодяться, наче жаби після дощу. Цього разу головний виклик випливає з лабораторій. 

Лібералізм засновано на вірі у людську волю. Вважається, що на відміну від пацюків та мавп, людські істоти повинні мати «свободу волі». Саме «свобода волі» робить людські емоції та вибори ультимативними моральними засобами впливу у світі. Лібералізм каже нам, що виборець знає краще, що клієнт – завжди правий, і що нам слід думати про себе та йти за покликом душі. 

 

На жаль, «свобода волі» не є науковою реальністю. Це лише міф, успадкований від християнської теології. Теологи розвинули ідею «свободи волі», аби пояснити, чому Бог правий, караючи грішників за їхній неправильний (поганий) вибір та нагороджуючи святих за їхній правильний (хороший) вибір. Якщо ж нас змусили зробити вибір, чому Бог має карати чи нагороджувати нас за це? За словами теологів, Богові є сенс робити так, адже наш вибір відображає волю наших вічних душ, що не залежать від усіх фізичних чи біологічних складових. 

 

Цей міф має мало спільного з тим, чого нас зараз вчить наука про Homo sapiens та інших тварин. Безперечно, люди мають свободу волі, але вона – не наша. Ви не можете вирішити, які бажання мати. Не вирішуєте, бути вам інтровертом чи екстравертом, розслабленим та спокійним, чи тривожним і схвильованим, геєм чи натуралом. Люди роблять свій вибір, але ніколи цей вибір – незалежний від чогось. Кожен залежить від багатьох біологічних, соціальних та особистих умов, які ти не можеш сам визначити для себе. Я можу обрати, що їсти, з ким одружитися та за кого голосувати, але ці вибори частково визначаються моїми генами, моєю біохімією, статтю, родиною, національною культурою і т. д. І я не обирав своїх генів чи родину. 

 

Це не абстрактна теорія. Ви можете легко це побачити. Просто стежте за наступною ж думкою, що виникне у вашій голові. Звідки вона надійшла? Ви справді самі обрали, про що думати? Очевидно, що ні. Якщо ви обережно поспостерігаєте за вашим розумом, то швидко усвідомите, що ледь контролюєте те, що відбувається там, і що ви не обираєте своїх думок, почуттів та бажань. 

 

Хоча «свобода волі» і була завжди міфом, у попередніх століттях це був дуже допоміжний міф. Він наповнював надією людей, що були змушеними боротися з Інквізицією, божественним правом королів, КГБ та ККК. У міфу цього була й невелика ціна. В 1776 чи 1945 віра у те, що ваші почуття та вибір були результатом «свободи волі», а не біохімії та неврології, завдавала небагато шкоди. 

 

Але сьогодні вона стає небезпечною. Якщо урядам та корпораціям вдасться гакнути людей, найлегше стане маніпулювати тими, хто якраз вірить у свободу волі. 

 

Для того, аби успішно гакнути людей, вам потрібні дві речі: хороше розуміння біології, а також багато комп’ютерної потужності. Інквізиції та КГБ не вистачало цих знань та потужностей. Але скоро корпорації та уряди можуть мати обидві ці речі. І, коли вони зможуть гакнути вас, то зможуть не лише передбачити ваш вибір, але й також реінжирувати ваші почуття. Для цього їм не обов’язково знати все про вас. Це просто неможливо. Їм потрібно буде лише знати вас трішки краще, ніж ви самі. І якраз це можливо, адже більшість людей не знають себе. 


Якщо ви вірите у традиційну ліберальну історію, тоді найімовірніше ви просто відкинете цей виклик. «Ні, цього ніколи не станеться. Ніхто ніколи не зможе гакнути людський дух, тому що в ньому є щось, що виходить за межі людських ген, нейронів та алгоритмів. Ніхто не може успішно передбачати чи маніпулювати нашим вибором, тому що мій вибір відображає мою волю». На жаль, уникання цього виклику не дасть йому зникнути. Воно лише ще більше послабить вас. 

 

Все починається з простого. Ви проглядаєте щось в Інтернеті, один заголовк привертає вашу увагу. «Банда іммігрантів порізала місцеву жінку». Ви натискаєте на нього. В цю ж мить ваша сусідка також проглядає щось у неті, і вже зовсім інший заголовок привертає її увагу. «Трамп готує ядерний удар на Іран». Вона клікає на нього. Обидва – фейкові новини, історії, змодельовані, можливо, московитськими тролями або ж веб-сайтом, який прагне збільшити обсяги трафіку, аби збільшити дохід від реклами. Ви і ваша сусідка відчуваєте, що клікнули за своєю волею. Але насправді вас гакнули.

Звичайно, немає нічого нового у пропаганді чи в маніпуляції. Та, якщо в минулому вони працювали за принципом килимового бомбардування, то зараз це точно скеровані удари. Коли Гітлер виголошував свою промову по радіо, то націлювався насамперед на найнижчий спільний знаменник, позаяк не міг адаптувати своє повідомлення під слабкості індивідуалів. Зараз же стало можливим зробити саме це. Алгоритм може сказати, що ви вже упереджено ставитеся до імігрантів, у той час, як ваша сусідка вже недолюблює Трампа, бо ви бачите один заголовок, а ваша сусідка бачить разом з вами інший. Останніми роками деякі із найрозумніших людей цього світу лише й працюють над гакінгом людського мозку, аби змушувати вас клікати на рекламу та продавати свої речі. Зараз ці методи використовують, аби «продавати» вам політиків та ідеології також. 

 

І це лише початок. Зараз гакери покладаються на аналіз сигналів та дій зі зовнішнього світу: продукти, які ви купуєте, місця, що відвідуєте, слова, які забиваєте в пошук. Та через кілька років біометричні сенсори дадуть гакерам прямий доступ до вашого внутрішнього світу, вони зможуть спостерігати за тим, що діється всередині вашого серця. Йдеться не про улюблену в ліберальних фантазіях метафору серця, а скоріше м'яз, який регулює ваш кров'яний тиск та вашу мозкову активність. Гакери могли би співвіднести ваш пульс із вашою кредитною карткою, або ж кров'яний тиск з історією пошуку. Що робила б Інквізиція чи КГБ з біометричними браслетами, які постійно моніторять ваш настрій та емоції? Залишайтесь з нами. 

 

Лібералізм розвинув великий арсенал аргументів та установ для захисту індивідуальних свобод проти зовнішніх атак репресивних урядів та фанатичних релігій. Але він не є готовим до ситуації, в якій індивідуальна свобода підривається зсередини, а самі концепти «індивідуму» та «свободи» не мають більше особливого сенсу. Для того, аби вижити та процвітати у 21 столітті, нам треба залишити позаду наївний погляд людей як вільних індивідів (погляд, успадкований від християнської теології так само, як і від сучасного Просвітництва) та вдатися до визначень того, ким люди насправді є — звірами, яких можна гакнути. Нам потрібно знати самих себе краще. 

 

Звичайно, навряд чи ця порада є новою. Ще зі стародавніх часів мудреці та святі повторювали людям одну й ту ж пораду: «пізнавати себе». Та все ж у дні Сократа, Будди та Конфуція ми не мали реальних змагань. Якщо ви ігнорували цю пораду, однаково залишалися «невідомими» для решти людства. Зараз же ми маємо справжні змагання. Поки ви читаєте ці рядки, уряди та корпорації прагнуть гакнути вас. Якщо вони знатимуть вас краще за вас самих, то зможуть продати вам все, що тільки забажають: чи буде це продукт чи, наприклад, політик. 

 

Особливо важливо знати свої слабкості. Це головні засоби тих, хто намагається гакнути вас. Комп'ютери зламують через уже наявні помилкові коди. Людей же гакають через уже наявні в них страх, ненависть, упередження та вподобання. Гакери не можуть створити страх чи гнів з нічого. Але, коли вони дізнаються, чого люди бояться чи що ненавидять, дуже легко натискати на емоційні кнопки та провокувати навіть більшу лють. 

 

Якщо людям не виходить пізнавати себе самим, можливо, ту ж технологію гакерів можна використати для нашого захисту. Як ваш комп'ютер має антивірусну програму, що відображає шкідливе програмне забезпечення, можливо, так само і нам потрібен антивірус для мозку. Ваш комп’ютерний помічник дізнається про ваші окремі слабкості (чи це будуть смішні відео з котиками чи скандальні історії з Трампом) та заблокує їх на вашу ж користь. 

 

Але все це насправді лише побічна тема. Якщо людей можна гакати, і якщо наш вибір та наші думки не відображатимуть нашої волі, тоді, якою слід бути політиці? 

 

300 років ідеали лібералізму надихали на політичний проект, спрямований на те, аби дати якомога більше індивідам змогу іти за своїми мріями та виконувати свої бажання. Зараз ми, як ніколи, близькі до цієї мети. Але, крім цього, ми, як ніколи, близькі і до усвідомлення того, що все це базувалося на ілюзії. Ті ж технології, які ми винайшли для того, щоб допомогти індивідам слідувати за їхніми мріями, також роблять можливим перебудувати ці мрії. Тоді, яким чином я можу довіряти будь-якій із моїх мрій? 

 

З одного боку, це відкриття дає людям зовсім новий різновид свободи. Раніше ми дуже сильно ототожнювали себе з нашими бажаннями, тож прагнули свободи для їхньої реалізації. Яка б думка не з'явилася в нашій голові, ми поспішали виконувати її веління. Витрачали наші дні, крутячись навколо, наче божевільні, каталися на цих «американських гірках» наших думок, почуттів та бажань, які ми помилково вважали відображенням нашої волі. Що ж трапиться, якщо припинити ідентифікувати себе за цими «гірками»? Що ж трапиться, якщо ми обережно простежимо за наступною думкою, що виникне в нашій голові та запитаємо себе: «Звідки вона надійшла?». 

 

По-перше, розуміння, що наші думки й бажання не відображають нашу волю, може допомогти нам стати менш одержимими ними. Якщо я бачу себе у ролі вільного суб’єкта, що обирає свої бажання, жодним чином не залежачи від світу, з'являється бар'єр між мною та всіма іншими суб’єктами. Взагалі, мені й не потрібен жоден із них, я – незалежний. Водночас це надає величезне значення моїй кожній примсі - адже я вибрав це конкретне бажання з усіх можливих бажань у Всесвіті. Коли ми надамо таку важливість нашим бажанням, то очевидно спробуємо контролювати та формувати цілий світ, керуючись ними. Ми розпалюємо війни, вирубуємо ліси та приводимо у дисбаланс усю екосистему, керуючись нашими примхами. Але, якщо усвідомити, що наші бажання не є результатом нашого вибору, тоді, сподіваюся, ми менше думатимемо про них, а також відчуємо себе більш пов’язаним з рештою світу. 

 

Деколи люди уявляють собі, що коли ми відмовимося від нашої віри у «свободу волі», то станемо повністю апатичними, згорнемося десь у куточку і голодуватимемо до смерті. Фактично відмова від цієї ілюзії може мати два протилежних ефекти: по-перше, може створитися міцніший зв'язок з рештою світу – ви станете уважніше ставитися до свого середовища, а також потреб і бажань інших. Це наче мати розмову з кимось. Якщо ви сконцентровуєтесь на тому, що хочете сказати, то навряд чи слухаєте. Ви лише чекаєте на можливість висловити іншій особі свою думку. Та якщо відсунете свої думки вбік, то зможете почути інших. 

 

По-друге, відмова від міфу про свободу волі може розпалити глибоку цікавість. Якщо ви сильно ототожнюєте себе з думками і бажаннями, що виникають у вашій свідомості, вам не треба докладати багато зусиль, аби пізнати себе. Ви думаєте, що вже точно знаєте, ким ви є. Але як тільки ви усвідомлюєте: «Хей, це не я. Це всього лише якась зміна біохімічного явища», то зрозумієте, що взагалі не знаєте, хто – або що – ви насправді. Це може стати початком найбільш захопливої подорожі, яку тільки може здійснити будь-яка людина.m

 

Немає нічого нового в тому, аби сумніватися у свободі волі або у вивченні справжньої природи людства. Ми, люди, обговорювали це тисячу разів. Але ніколи до цього у нас не було технологій. А вони змінюють усе. Стародавні проблеми філософії стають практичними проблемами техніки і політики зараз. І якщо філософи – це дуже терплячі люди (вони можуть безрезультатно сперечатися між собою 3 000 років), то інженери є менш терплячими. Політиків узагалі важко назвати терплячими. 

 

Як ліберальна демократія функціонує в епоху, в якій уряди і корпорації можуть гакнути людей? Що залишилося від переконань «виборець знає краще» і «клієнт завжди правий»? Як вам живеться, розуміючи, що ви – істоти, яких можна зламати, що ваше серце може виявитися державним агентом, що ваша мигдалина може працювати на Путіна, і що наступна думка, яка виникне в голові, цілком може бути результатом якогось алгоритму, який краще за вас знає, хто ви? Це найцікавіші питання, з якими зараз стикається людство. 

 

На жаль, не ці питання задають більшість людей. Замість того, щоб відкривати те, що очікує нас за межами ілюзії про «свободу волі», люди в усьому світі відступають, шукають прихистку у навіть ще старіших ілюзій. Замість того, аби зіткнутися з викликом «штучного інтелекту» та біоінженерії, багато людей звертаються до релігійних та націоналістичних фантазій, які мають менше спільного з науковими реаліями нашого часу, ніж лібералізм. Замість нових політичних моделей, переупаковуються залишки ХХ століття або навіть Середньовіччя. 

 

Коли ви намагаєтеся зайнятися цими ностальгічними фантазіями, то опиняєтеся у дискусіях щодо правдивості Біблії та святості нації (особливо, якщо ви, як і я, живете в такому місці, як Ізраїль). Для вченого це розчарування. Сперечатися щодо Біблії було гарячою справою в часи Вольтера, а дебати щодо переваг націоналізму були наріжною філософією століття тому. В 2018 ж це все схоже на порожнє гаяння часу. ШІ та біоінженерія скоро змінять курс еволюції, як такої. А ми маємо всього кілька десятиліть, аби розібратися, що ж робити з ними. Не знаю, звідки прийдуть відповіді, але їх точно не знайдеш у колекції історій, написаних тисячі років тому.

То що робити? Нам треба боротися одночасно на двох фронтах. Ми повинні захищати ліберальну демократію не тільки тому, що вона виявилася м'якшою формою правління, ніж будь-яка з її альтернатив, але також і тому, що вона прибирає найменші обмеження для обговорення майбутнього людства. Водночас нам треба поставити під сумнів традиційні припущення про лібералізм і розробити новий політичний проект, який краще відповідає науковим реаліям і технологічним силам XXI століття. 

 

Грецька міфологія розповідає про Зевса та Посейдона, двох найвеличніших богів, які боролися за руку богині Тетіс. Але, почувши пророцтво, в якому Тетіс виносить сина могутнішого за свого батька, обидва забили тривогу. Оскільки боги планують існувати завжди, вони зовсім не бажають, щоб могутніше за них дітище змагалося з ними. Тож Тетіс одружилася із смертним царем Пелеєм і дала життя Ахіллу. Смертним і справді хочеться, щоб їхні діти перевершували їх. Цей міф міг би навчити нас чогось важливому. Автократи, які планують керувати вічно, не бажають заохочувати народження нових ідей, які могли б їх витіснити. Але ліберальні демократії надихають на створення нового бачення, навіть якщо доведеться ставити під сумнів власні ж фундаментальні засади.

 

переклад українською — Петро Козак

Схоже в даній категорії: « PREVIOUS Статті NEXT »

100 LATEST ARTICLES

AUTHORS & RESOURCES

Archive of articles