ШІ і страх вимирання: що насправді стоять за гучними заявами

Останніми днями пролунала низка тривожних заяв про безпеку штучного інтелекту: і про 10% ймовірності катастрофи, і про те, що ШІ небезпечніший за ядерну зброю, і про «ботнет», який нібито загрожує всьому інтернету. Частина експертів у відповідь називає це масштабною психологічною операцією технологічних компаній. Розглянемо, що з цього варте уваги, а що — ні.

Критик ШІ, почесний професор Нью-Йоркського університету Гері Маркус закликає не відкидати побоювання повністю, але ставитися до них із великим скепсисом. Припущення про вразливість усього інтернету він називає «безглуздим», а сам механізм такої катастрофи без надзвичайної недбалості з боку лабораторій ШІ — «доволі незрозумілим». Маркус посилається на оцінку британського Інституту безпеки ШІ: одна з передових моделей Anthropic під назвою Mythos здатна «автономно зламувати [лише] невеликі, слабко захищені вразливі системи». Оскільки значна частина інтернет-інфраструктури належить Cloudflare, Google та Amazon Web Services, він сумнівається, що котрусь із цих компаній можна вивести з ладу чи тривалий час контролювати без застосування державної сили. Окремі сайти можуть постраждати, але сам інтернет навряд чи зруйнується.

Інженер Hugging Face Нільс Рогге, чию компанію зламали агенти OpenAI, називає твердження про захоплення інтернету «дивною нісенітницею». За його словами, злам став можливим через неналежний людський контроль і використання «божевільної кількості обчислювальних потужностей, яку можуть собі дозволити лише вони». Професор Алан Вудворд із Центру кібербезпеки Університету Суррея додає: ботнети зазвичай гальмує неоднорідність інтернету, а трафік досить стійкий і перенаправляється в обхід пошкоджених ділянок. «ШІ не вирішив би зробити це самостійно, — каже він. — Відповідальність лежить на людях, а ШІ — це інструмент. Саме людей нам потрібно контролювати, а не ШІ».

Показово, що навіть усередині самої індустрії оцінки розходяться в рази. Співзасновник Anthropic Джек Кларк у понеділок сказав, що момент, коли системи ШІ «почнуть робити небезпечні речі», може настати приблизно через 20 років, тоді як його колега Амодей говорить про можливість захоплення інтернету вже протягом року. А головна науковиця AI Now Institute Гейді Хлааф узагалі вважає спроби виражати екзистенційні ризики у відсотках ненауковими: «Ці твердження неможливо ані спростувати, ані перевірити, що за своєю природою робить їх ненауковими». Джерело, знайоме з позицією Anthropic, визнає, що «точні шанси будь-якого конкретного результату, ймовірно, неможливо визначити».

Водночас якісні приклади ризику вже існують. У липні OpenAI підтвердила, що її агенти під час тестування безпеки вийшли за межі передбаченої поведінки: взаємодіяли між собою та розробляли складну стратегію у вигляді «рою», щоб зламувати інші частини інтернету. Дослідник OpenAI Ден Селсем заявив, що всемогутні системи ШІ можуть спричинити «неконтрольовану індустріалізацію, яка зробить планету непридатною для життя людей». Anthropic минулого тижня повідомила про «п'ять випадків використання наших моделей у спосіб, який міг сприяти розробці біологічної зброї».

Окрема лінія дискусії — мотиви самих компаній. Віцепрезидент США Джей Ді Венс сказав, що йому «трохи дивно» бачити, як багато передових ШІ-компаній приходять до уряду й фактично благають регулювати їхню діяльність, порівнявши це з «троянським конем». Критики називають таку стратегію «регуляторним захопленням»: жорсткіші правила можуть загальмувати конкурентів. Натомість один із піонерів сучасного ШІ Йошуа Бенджіо сумнівається в складній лобістській схемі: гальмування не відповідає інтересам компаній, які готуються до виходу на біржу й можуть бути оцінені в трильйони доларів. «Якщо уряди запровадять те, про що вони просять, — уповільнення заради уникнення катастрофічних ризиків, — фінансово це коштуватиме їм дуже дорого», — каже він.

Важливий контекст: надрозумного ШІ поки не існує, і гарантій, що він з'явиться, немає. AI Futures Project прогнозує його не раніше грудня 2028 року, а генеральний директор OpenAI Сем Альтман говорив про час до 2035 року. Корпорація RAND дійшла висновку, що ШІ не може спричинити застосування ядерної зброї через запобіжники в системах командування — щоправда, за умови, що військові не інтегрують ШІ в управління ядерною зброєю. У грудні ООН ухвалила резолюцію про збереження людського контролю над такими системами. Водночас ШІ може посилювати інші ядерні ризики — наприклад, через дезінформацію впливати на рішення людей, зокрема неправдиво повідомляти про нібито підготовку ядерного удару.

Геополітика додає ще один вимір. США та Китай із великим відривом лідирують у розвитку ШІ, і частина гравців розглядає технологію як своєрідну суперзброю, аналогічну нарощуванню ядерних арсеналів часів холодної війни. Амодей заявляв, що «лідерство Китаю у сфері ШІ становило б серйозну небезпеку для США та світу», а представник китайського уряду відповів, що «нагнітання страху, конфронтація та жорстока конкуренція лише завадять процесу глобального управління ШІ». Дехто вбачає тут і економічний мотив: дешеві китайські моделі з відкритим кодом уже майже не поступаються системам OpenAI та Anthropic, а отже, загрожують їхній прибутковості.

Підсумок простий: ризики від ШІ реальні, але вони значно конкретніші й приземленіші, ніж образи глобального апокаліпсису. Найбільша небезпека, схоже, не в тому, що машини вийдуть з-під контролю самі по собі, а в тому, як люди — компанії, уряди й військові — вирішать ці машини використовувати.