Харарі: 2026 рік — останній шанс зупинити гонку ШІ

У інтерв'ю для The Economist Ювал Ной Харарі заявив, що уявлення про незворотність цифрової диктатури стало зручним щитом для технологічних корпорацій, які таким чином знімають із себе відповідальність за наслідки прискореної автоматизації. На його думку, у 2026 році людство все ще зберігає важелі управління, однак вікно для збереження цієї автономії стрімко зачиняється.

Філософ вказує на логічні суперечності в риториці найбагатших людей світу. Зокрема, Ілон Маск публічно прогнозує захоплення планети алгоритмами через десять років, але водночас будує довгострокові соціальні прогнози на два десятиліття вперед. Якщо ШІ повністю змінить цивілізацію за десятиліття, будь-які прогнози на 20 років стають фізично неможливими. Схожа суперечність — в економічному мисленні техномагнатів: вони пророкують зникнення традиційних грошей і дефляцію через зростання продуктивності ШІ, але водночас скорочують фінансову допомогу Африці заради копійчаної економії бюджету.

Окрему увагу Харарі приділяє майбутньому фінансової системи. Він нагадує, що історія грошей — це історія створення соціальних інструментів довіри між незнайомцями. З розвитком облігацій та похідних паперів людський мозок уже працює на межі можливостей, а для алгоритмів обробка таких масивів даних — елементарне завдання. Невдовзі фінансова система ШІ створить інструменти такої складності, які жоден експерт не зможе осягнути. У разі масштабного колапсу радники не зможуть пояснити президентові причини кризи — вони лише передадуть вказівку алгоритму, не розуміючи його логіки.

Найціннішим ресурсом цивілізації філософ називає довіру, і зараз відбувається її масштабна міграція від людей до машин. Це видно у фінансах — через зневіру в центральних банках люди обирають криптовалюти, які управляються алгоритмами. Це видно в інформаційному просторі, де мільйони довіряють формування світогляду рекомендаційним стрічкам. Найнебезпечніше — масове виробництво емоційної близькості: вже кожен п'ятий молодий американець підтримує персональні взаємини з цифровим співрозмовником. Тоталітарні режими минулого не мали технічної змоги будувати індивідуальні довірчі відносини з кожним громадянином, а ШІ робить це реальністю.

Харарі наводить приклад із власного життя: у мережі з'явилася згенерована 30-хвилинна лекція з його участю, і навіть рідні сестри філософа, які знають його понад 50 років, сумнівалися у підробленості відео. Автору знадобилося півтори хвилини аналізу, щоб підтвердити фальсифікацію.

Поріг незворотності, за оцінками Харарі, може бути пройдений уже до листопада 2028 року, а до 2036 року будь-які законодавчі обмеження втратять сенс. Він пропонує першочергові кроки: повну заборону на надання ШІ статусу юридичної чи цифрової особи, заборону імітації алгоритмами людської свідомості, криміналізацію «цифрових партнерів» для неповнолітніх та законодавче сповільнення темпів розробки автономних систем.

Гонка технологій — не стихійне лихо, а свідомий вибір відмови від відповідальності. Якщо суспільство не змусить політичні інститути встановити жорсткі рамки для алгоритмів уже сьогодні, людство добровільно поступиться правом визначати власне майбутнє на користь систем, принцип роботи яких воно більше не здатне зрозуміти.