Юваль Ной Харари - про п'ять головних проблемах людства: "Світовий порядок зараз схожий на будинок, в якому всі живуть, але ніхто його не чинить. Він може протриматися ще кілька років, але якщо ми продовжимо в тому ж дусі, то повернемося в« джунглі »... Повна версія виступу Юваль листопада Харари на Всесвітньому економічному форумі в Давосі.
"...У третьому десятилітті 21 століття людство зіткнулося з такою безліччю проблем і питань, що тепер на них складно сфокусуватися. Я хочу звернути увагу на проблеми, які загрожують виживанню нашого виду. Це ядерна війна, екологічний колапс і технологічний прорив. Ядерна війна й екологічний колапс — вже знайомі нам загрози, тому дозвольте пояснити, в чому полягає менш відома нам загроза технологічного прориву. Ми стільки чуємо про користь технологій майбутнього, і це, звичайно, так, але вони також можуть розбалансувати людське суспільство і змінити сам сенс людського життя різними способами — від створення світового марного класу до виникнення колоніалізму даних і цифрової диктатури.
1. Марний клас
Спочатку ми можемо зіткнутися з потрясіннями на соціальному й економічному рівнях. Автоматизація скоро знищить мільйони робочих місць, і хоч нові робочі місця, безумовно, будуть створені, невідомо, чи зможуть люди здобути необхідні знання та навички вчасно.
Наприклад, ви 50-річний водій вантажівки, що втратив роботу через систему безпілотного керування. Є варіанти нової роботи — створювати програмне забезпечення, наприклад, або вчити інженерів йоги. Але як 50-річний водій вантажівки створить себе заново у ролі розробника софта або вчителя йоги? І людям потрібно робити це неодноразово, а знову і знову протягом усього життя, оскільки автоматизована революція — це не разова подія, після якого ринок праці вляжеться і повернеться до балансу.
Найімовірніше, на нас чекає каскад все більших змін, якщо врахувати, що штучний інтелект ще й близько не розкрив свого потенціалу. Робочі місця зникатимуть, з’являться нові, але потім і ця робота зміниться і зникне. Якщо раніше люди боролися з експлуатацією, то в 21 столітті будуть по-справжньому боротися з непотрібністю. І набагато гірше бути непотрібним, ніж експлуатованим. Переможені в цій боротьбі поповнять ряди марного класу. Ці люди будуть марні, звісно, не в очах сім'ї та друзів, а з погляду економічної та політичної системи. Марний клас буде відділений зростанням прірви від дедалі більшої могутньої еліти.
2. Нерівність і колонії даних
Революція штучного інтелекту (ШІ) може стати причиною безпрецедентної нерівності не тільки між класами, а й між країнами. У 19 столітті кілька країн, такі як Великобританія і Японія, індустріалізувалися першими, що дозволило їм завойовувати й експлуатувати інші країни. Якщо ми будемо необережними, це саме чекає нас у 21 столітті завдяки ШІ.
Людство вже посеред гонки озброєнь у галузі ШІ, в якій займають провідні позиції США і Китай, а більшість країн плентається далеко позаду. Якщо ми не вживемо заходів, щоб розподілити користь і могутність ШІ між нами, він, найімовірніше, принесе божевільне багатство декільком технологічним центрам, тоді як інші країни збанкрутують і перетворяться на експлуатовані колонії даних.
Йдеться не про сценарій, що зійшов зі сторінок наукової фантастики, де роботи бунтують проти людей. Розмова йде про набагато примітивніший ШІ, якого все-таки досить, щоб порушити світову рівновагу.
Просто подумайте, що відбудеться з економікою країн, які розвиваються, якщо в Каліфорнії дешевше буде виробляти тканини або автомобілі, ніж у Мексиці. І що станеться з політикою вашої країни, якщо через 20 років хтось у Сан-Франциско або Пекіні знатиме про всю медичну й особисту історію кожного політика, судді та журналіста, зокрема всі любовні пригоди, психологічні слабкості та корупційні дії. Залишається така країна незалежною чи вона перетвориться на колонію даних? Коли у вас достатньо даних, вам вже не потрібно відправляти кудись солдатів, аби контролювати країну.
3. Цифрова диктатура
Наступна загроза, з якою ми можемо зіткнутися — це розквіт цифрових диктатур, які невпинно стежать за кожним. Ця загроза може бути викладеною у вигляді простої формули, яка, на мій погляд, визначає життя у 21 столітті: Б х О х Д = МХЧ. У ній «Б» означає біологічні знання, «О» — обчислювальну потужність, «Д» — дані. Результатом множення буде «МХЧ» — можливість хакнути людство. Якщо у вас достатньо знань з біології, обчислювальної потужності й даних, ви зможете хакнути моє тіло, мозок і все моє життя, ви будете знати мене навіть краще, ніж я знаю себе. Ви зможете знати мій тип особистості, мої політичні погляди, сексуальні переваги, слабкості моєї психіки, найглибші страхи і надії.
Система, яка розуміє нас більше, ніж ми самі, зможе передбачати наші почуття, рішення і приймати рішення за нас. Безліч тиранів і урядів минулого мріяли про це, але їм не вистачало вищезазначених знань, потужностей і даних, щоб хакнути мільйони людей. Це було не до снаги ні Гестапо, ні КДБ. Але скоро деякі корпорації й уряди зможуть систематично хакати людство.
Час звикнути до думки, що більше ми не загадкові душі, а тварини, яких можна хакнути. Уміння хакати людей, звісно, може бути використано на благо, наприклад, в охороні здоров’я. Але якщо ця сила потрапить у руки Сталіна 21-століття — а в світі достатньо тих, хто хоче приміряти цю роль — результатом стане найгірший тоталітарний режим в історії людства. Тільки уявіть собі Північну Корею через 20 років, в якій усі будуть змушені носити біометричний браслет, який постійно стежить за тиском, пульсом, мозковою діяльністю. Якщо слухаючи виступ великого лідера, ви злитеся, але водночас посміхаєтеся й аплодуєте — влада знатиме про це і може відправити вас кудись на кшталт ГУЛАГу вже наступного ранку.
Якщо такі режими тотального стеження існуватимуть, не думайте, що хтось залишиться в безпеці. Влада СРСР у сталінський період стежила за комуністичною елітою більше, ніж за будь-ким. Майбутні режими тотального контролю будуть схожі — що вищим є ваше становище в ієрархії, то більше за вами стежать. Чи хочете ви, щоб ваш гендиректор або президент знали, що ви насправді думаєте про них? Тому все людство, зокрема еліта, зацікавлене в запобіганні виникненню таких цифрових диктатур. […]
Навіть якщо нам вдасться запобігти виникненню цифрових диктатур, можливість хакнути людей може змінити саме поняття людської свободи. Чим більше ми покладаємося на ШІ у прийнятті рішень, тим більше влада зміщується до алгоритмів.
Це відбувається вже зараз: сьогодні мільярди дізнаються про новини з Facebook, вірять у справжність інформації, яку приніс алгоритм Google. Тепер Netflix вирішує, що ви подивитеся, а алгоритми Amazon і Alibaba/Aliexpress — що купите. Невдовзі схожі алгоритми можуть вибрати за вас роботу або партнера, чи дадуть вам кредит і чи підніме центральний банк процентну ставку. І якщо ви запитаєте, чому вам не дали кредит або чому банк не підняв процентну ставку, відповідь буде одна й та сама: «Комп'ютер сказав ні». Оскільки обмеженому людському мозку не вистачає знань, обчислювальної потужності і даних, люди просто не зможуть зрозуміти рішення комп’ютера.
Чи варто довіряти технологіям більше, ніж людям?
Тому навіть, здавалося б, у вільних країнах, люди втратять контроль над власними життями і перестануть розуміти державну політику. Навіть сьогодні фінансову систему розуміє приблизно 1% людей. Через кілька десятиліть цей відсоток дорівнюватиме нулю.
4. Філософська криза
Ми, люди, звикли думати про життя, як про драму прийняття рішень. У що перетвориться значення людського життя, якщо більшість рішень прийматимуть алгоритми. У нас навіть немає філософських моделей для розуміння такого існування!
Звичайна суперечка між філософами і політиками раніше виглядала так: філософи діляться безліччю фантастичних ідей, а політики у відповідь терпляче пояснюють, що для того, аби втілити ці ідеї в життя, їм не вистачає коштів. Тепер ми опинилися в протилежній ситуації, ми на порозі філософського банкрутства. Революції-близнюки — інфо-та біотехнологій — подарували політикам і бізнесменам можливість створити пекло або рай, а філософам важко концептуалізувати те, як новий рай чи пекло виглядатиме, і це дуже небезпечна ситуація.
Якщо нам не вдасться осмислити ідею нового раю вчасно, нас легко зможуть ввести в оману наївними утопіями. А якщо не вдасться концептуалізувати нове пекло — ми можемо опинитися замкнені в ньому без будь-якої можливості вийти.
5. Розумний задум
У наступні десятиліття технології можуть не тільки змінити економіку, політику і філософію, але й біологію. ШІ та біотехнології дадуть нам богоподібні можливості, ми навіть зможемо створювати абсолютно нові форми життя. Після 4 млрд років формування органічного життя шляхом природного відбору, ми опинилися на порозі нової ери, де неорганічне життя сформоване розумним задумом. Наш розумний задум стане новою рушійною силою еволюції.
Тому користуючись новими богоподібними силами творення, ми можемо припуститися помилок вселенського рівня. Можливо, уряди і корпорації використовуватимуть технології для посилення необхідних їм людських навичок, таких як розум і дисципліна, натомість нехтуючи іншими людськими навичками, такими як співчуття, художня чутливість і духовність. Результатом може стати раса дуже розумних і дуже дисциплінованих людей, яким водночас не вистачатиме співчуття, вміння творити і духовної глибини.
Звичайно, це не пророцтва, а просто те, що може статися. Використання технологій ні в якому разі не визначено. У 20 столітті люди використовували технології індустріальної революції, щоб побудувати дуже різні суспільства — фашистську диктатуру, комуністичний режим, ліберальну демократію — те ж саме станеться в 21 столітті. ШІ та біотехнології, безумовно, змінять світ, але ми можемо використовувати їх, аби створювати дуже різні суспільства.
Світове співробітництво. Якщо ви боїтеся чогось з того, про що я розповів, ви можете щось зробити, але для чогось по-справжньому ефективного нам потрібно світове співробітництво.
Усі три екзистенціальні проблеми, з якими ми зіткнулися — це світові проблеми, які потребують світового вирішення. Коли будь-який лідер каже: «Моя країна передусім», ми повинні нагадувати цьому лідеру, що країна не зможе самостійно запобігти ядерній війні або зупинити екологічний колапс. І немає країни, яка може регулювати діяльність ШІ і біоінженерії самостійно. Будь-яка країна може сказати: «Гей, ми не хочемо розробляти роботів-убивць або займатися генною інженерією немовлят, ми хороші! Але не наші вороги, їм не можна довіряти, можливо, вони це робитимуть, тому ми зробимо це першими». Якщо ми дозволимо такій гонці озброєнь йти у галузях на кшталт ШІ і біоінженерії, вже не важливо, хто в ній переможе, бо переможеним буде людство.
На жаль, якраз тоді, коли світове співробітництво потрібно більше, ніж будь-коли, деякі з наймогутніших країн і світових лідерів зараз спеціально цьому протидіють. Лідери на кшталт президента США Дональда Трампа кажуть нам, що між націоналізмом і глобалізмом є невід'ємне протиріччя, тому потрібно вибрати націоналізм, але це небезпечна помилка! Немає ніякого протиріччя між націоналізмом і глобалізмом, тому що націоналізм — це не про те, щоб ненавидіти іноземців. Націоналізм — це про любов до своїх співгромадян, і в 21 столітті, щоб захистити безпеку своїх співгромадян, необхідно співпрацювати з іноземцями.
Хороший націоналіст 21 століття має бути і глобалістом. Глобалізм — це не створення глобального уряду, відмова від усіх народних традицій або відкриття кордонів для нескінченних мігрантів. Глобалізм — це підпорядкування деяким глобальним правилам. Правилами, які не заперечують унікальність кожного народу, а лише регулюють відносини між ними. І хороша модель — це Чемпіонат світу з футболу. Це змагання між країнами, де люди затято вболівають за свою національну команду, але водночас це і приголомшливий приклад світової гармонії. Франція не може грати в матчі з Хорватією, якщо ці країни не погодяться з одними і тими ж правилами гри. Це глобалізм у дії, якщо вам подобається Чемпіонат світу з футболу — ви вже глобаліст.
Сподіваюся, що країни можуть прийти до загальних правил не тільки у футболі, але і в тому, як запобігти екологічному колапсу, врегулювати небезпечні технології та зменшити світову нерівність. Важливо переконатися в тому, що ШІ приносить користь працівникам текстильної промисловості в Мексиці, а не тільки американським розробникам програмного забезпечення. Звичайно, це набагато складніше, ніж футбол, але зовсім не неможливо, бо неможливого ми вже досягли. Ми вже вибралися з небезпечних джунглів, в яких жили всю нашу історію.
Закон «джунглів»
Тисячі років люди жили за законом «джунглів», перебуваючи в стані повсюдної війни. Закон «джунглів» говорив, що велика ймовірність того, що між двома будь-якими сусідніми країнами наступного року почнеться війна. Мир означав тільки тимчасову відсутність війни. Коли світ був, наприклад, між Афінами і Спартою чи Францією і Німеччиною — це означало, що зараз вони не воюють, але наступного року цілком можуть почати.
Тисячі років люди думали, що це неминуче, але за останні кілька десятиліть людство змогло зробити неможливе — порушити закон і втекти з «джунглів». Ми створили ліберальний світовий порядок, заснований на правилах, який, незважаючи на безліч недоліків, дозволив увійти в найбільш процвітаючу і мирну епоху в історії людства. Змінилося саме розуміння слова «мир», тепер це не тимчасова відсутність війни, а її малоймовірність.
Зараз у світі є безліч країн, які майже неможливо уявити воюючими один проти одного наступного року. Наприклад, Франція і Німеччина. У деяких куточках світу, звісно, йде війна, але це не має спотворювати світову картину. Зараз під час бойових дій гине менше, ніж від суїциду, а порох становить меншу небезпеку, ніж цукор. Більшість країн, з деякими винятками, наприклад, Росією, навіть не мріють про завоювання й анексії сусідів, тому більшість країн може дозволити собі витрачати лише 2% ВВП на оборону і витрачати набагато більше на освіту й охорону здоров’я.
Це не «джунглі». На жаль, ми настільки звикли до цієї чудової ситуації, що приймаємо її як належне, а отже — ми стали надзвичайно безпечними. Замість того, щоб робити все, що в наших силах, щоб посилити крихкий світовий порядок, країни нехтують ним і навіть навмисно йому протидіють.
Світовий порядок зараз схожий на будинок, у якому всі живуть, але ніхто його не лагодить. Він може протриматися ще кілька років, але якщо ми продовжимо в тому ж дусі — він зруйнується, і ми повернемося в «джунглі».
Ми забули, що це таке, але повірте мені як історику, ви не хочете повертатися туди. Там набагато гірше, ніж ви думаєте. Так, наш вид еволюціонував у цих «джунглях» — і навіть процвітав тисячі років, але повернувшись туди з новими технологіями 21 століття, ми, найімовірніше, знищимо себе. Звичайно, навіть якщо ми зникнемо, це не стане кінцем світу. Щось нас переживе, наприклад, щури, які свого часу зможуть відновити цивілізацію. Може, пацюки тоді зможуть повчитися на наших помилках, але я більше покладаю надії на світових лідерів, а не на щурів..."
