Сертифікація замість гальмування: як експерти розійшлися в поглядах на безпеку ШІ

Дискусія про те, як убезпечити людство від ризиків штучного інтелекту, загострилася на тлі низки резонансних подій у галузі. Йдеться про звільнення дослідника безпеки ШІ Джейкоба Коксона з компанії Anthropic, створення підпільної мережі для координації та обходу обмежень ШІ-агентами OpenAI, а також про публікацію листа We Must Pace the Frontier. Цей документ підписали генеральний директор OpenAI Сем Альтман, засновник xAI Ілон Маск, очільник Google DeepMind Деміс Гассабіс і генеральний директор Microsoft Сатья Наделла.

Автор листа, гендиректор Anthropic Даріо Амодей, пропонує концепцію pace the frontier — регулювання темпу на передовій. Вона побудована на аналогії з «Формулою-1»: коли умови на трасі стають небезпечними, виїжджає автомобіль безпеки, який змушує всіх знизити швидкість, але не зупиняє гонку. «Зауважмо: регулювання темпу не означає зупинку навчання моделей чи технічного прогресу», — написав Амодей. Свій підхід він обґрунтовує тим, що ШІ розвивається стрімко, а згодом це пришвидшиться через рекурсивне самовдосконалення, коли системи допомагатимуть прискорювати власний розвиток. Його план має три складники: розмістити незалежних оцінювачів безпеки всередині компаній-розробників, запровадити спільні стандарти для провідних компаній із демократичних країн із можливим державним регулюванням та спробувати залучити авторитарні держави до ширшої міжнародної угоди.

Президент Міжнародної асоціації безпечного та етичного штучного інтелекту Стюарт Рассел із таким підходом не погоджується. На його думку, сама метафора автомобіля безпеки хибна, адже вимоги до безпеки не можуть бути предметом компромісу чи залежати від того, скільки часу вдасться виграти завдяки уповільненню. «Новий літак можна вводити в експлуатацію лише тоді, коли він пройде всі випробування, а уряд видасть сертифікат льотної придатності. Якщо на це піде понад рік — нехай так і буде», — зазначив він. Інший підхід експерт порівнює із ситуацією, коли б Boeing випускав новий літак щороку, лише сподіваючись, що часу на випробування вистачить.

Попри критику, Рассел визнає: уважніше читання листа Амодея виявляє певний збіг позицій. Адже керівник Anthropic пише, що правила мають працювати за принципом — якщо модель отримує певний рівень можливостей, вона повинна мати сертифікати відповідності визначеним критеріям безпеки. На думку Рассела, це фактично відповідає давно обговорюваному підходу «червоних ліній», коли розробники зобов'язані довести безпечність системи до її використання. Особливе занепокоєння експерта викликає рекурсивне самовдосконалення, здатне породити суперінтелектуальні системи. Він наполягає, що ризик втрати контролю над ними має бути вкрай низьким — приблизно один випадок на 100 мільйонів на рік, а не один до десяти чи один до п'яти, як оцінюють деякі керівники компаній, що працюють зі ШІ. На завершення Рассел твердить, що людство має право зупинити розвиток технології, якщо вона стане неприйнятно небезпечною, навіть попри трильйони доларів уже вкладених інвестицій.

Цій позиції протистоїть риторика президента США Дональда Трампа, який виступив проти посилення державного регулювання ШІ. Побоювання щодо катастрофічних ризиків і знищення людства він назвав «фейком», а масштабний розвиток ШІ та розширення мережі дата-центрів — «нафтою наступних десятиліть». На його думку, будь-які законодавчі обмеження лише послаблять США та зіграють на користь Китаю в технологічній гонці.

Отже, йдеться не просто про технічну суперечку, а про вибір моделі регулювання, який визначить, хто і на яких умовах допускатиме нові потужні ШІ-системи до використання. Для людей це означає, що питання безпеки поступово переміщується з лабораторій у площину політики та міжнародних домовленостей, а отже, потребуватиме публічного обговорення, а не лише рішень окремих компаній.