ШІ та «зоопарки» для людей: що стоїть за прогнозом ексдослідника OpenAI

Заява Кокотайла з'явилася не у вакуумі. Незадовго до неї, 9 вересня, про звільнення з Anthropic оголосив співробітник компанії Джейкоб Коксон, пояснивши це побоюваннями, що ШІ «може вбити нас усіх до кінця десятиліття». Кокотайло, який близько двох років пропрацював в OpenAI у підрозділі, що опікувався питаннями управління, запропонував власне пояснення того, як такий сценарій міг би виглядати.

Суть його аналогії проста. Людство протягом останнього століття знищило чимало видів — але не тому, що ставило собі за мету когось винищити. Воно «робить свою справу. Воно індустріалізується. Воно вирубує ліси, щоб створювати ферми, і забудовує території, створюючи паркінги, дороги, мости тощо». Тварини просто втрачають середовище існування, а разом із ним — і сам спосіб життя. «Подумайте про те, скільки видів було доведено людством до вимирання протягом останнього століття. Не тому, що людство спеціально поставило собі за мету знищити ці види, а просто через, ну, втрату середовища існування», — зауважив він.

Перенесення цієї логіки на ШІ дає похмуру картину. На думку Кокотайла, майбутні системи можуть не мати наміру знищувати людей — зникнення стане побічним наслідком розбудови нової інфраструктури та економічної трансформації. Системи ШІ, за його словами, «не переймаються людьми так само, як люди тією чи іншою мірою не переймаються тваринами, або принаймні більшість людей». Звідси й образ «зоопарків» чи «заповідників», які ШІ нібито міг би створити для «наукових цілей», тоді як решта світу перебудовується без участі людини. «Можливо, через 10 років нас уже не буде», — попередив дослідник.

Що це означає для України та світу практично? По-перше, дискусія про безпеку ШІ поступово виходить за межі суто технічних кіл і стає політичною. Верховний комісар ООН з прав людини Фолькер Тюрк уже назвав стрімкий розвиток ШІ екзистенційною загрозою, що може підірвати демократію та критичну інфраструктуру, і закликав технологічні компанії та держави до жорстких гарантій безпеки. Він також засудив використання Росією повністю автономних дронів проти України та виступив за термінову заборону летальної автономної зброї. По-друге, самі заяви колишніх і чинних працівників провідних лабораторій показують, наскільки глибоким є розкол усередині галузі: частина фахівців вважає, що темпи розробки випереджають здатність суспільства їх контролювати.

Сценарій Кокотайла не є ані доведеним, ані неминучим — це радше метафора, яка допомагає побачити механізм: великі системи змінюють світ не через злий умисел, а через байдужість до того, що не входить у їхні цілі. Саме тому питання запобіжників, міжнародних правил і публічного контролю перестають бути абстракцією. Від того, чи встигне суспільство виробити ці правила, залежить, чи залишиться людина суб'єктом власної історії, а не експонатом у чужому заповіднику.