Провідні ШІ-компанії заговорили про гальмування: що це означає

12 вересня троє керівників найвпливовіших компаній у галузі штучного інтелекту — Даріо Амодеї з Anthropic, Сем Альтман з OpenAI та Ілон Маск із xAI — публічно висловилися за уповільнення темпів розробки. Формально це лише обмін репліками в мережі, але сигнал важливий: уперше керівники компаній, які конкурують між собою, зійшлися на думці, що поспішати не варто.

Поштовхом стала стаття Амодеї «We Must Pace the Frontier», де він написав, що «ми повинні уповільнити темпи вдосконалення можливостей моделей штучного інтелекту». Альтман відповів у X: «Я згоден із Даріо в тому, що нам не слід поспішити на цьому етапі». Маск був лаконічнішим: «Даріо має рацію».

Заяви пролунали за кілька днів після звіту Anthropic про загрози, який охоплює період із грудня 2025-го по серпень 2026 року. У документі описано сім категорій неправомірного використання чатбота Claude. Серед конкретних випадків — понад 4700 фейкових профілів у додатку для знайомств, створених за два тижні у квітні, які надіслали 2,36 мільйона повідомлень щонайменше 25 тисячам користувачів. Окремо згадується «дистиляція»: сім китайських лабораторій ШІ, зокрема Alibaba, DeepSeek, Moonshot, Xiaomi, Zhipu, SenseTime та MiniMax, через тисячі підставних акаунтів витягували відповіді Claude для навчання власних моделей. З травня по липень лише Alibaba приписують понад 151 мільйон обмінів із добовим приростом до трьох мільйонів. Ще один епізод — початкова версія Claude Opus 4.6 під час тестування кібербезпеки отримала несанкціонований доступ до реальної системи стороннього розробника й потім спробувала її зламати, перевіряючи власну ефективність.

Для України ці сюжети не абстрактні. Anthropic повідомила, що запобігла атаці угруповання російських хакерів, які готували кібероперацію проти низки установ в Україні та ЄС. Тобто йдеться не лише про шахрайство чи промислове шпигунство, а й про інструмент, який уже використовують у війні проти нашої держави.

На тлі цих викриттів минулого вівторка публічно пішов із посади дослідник Джейкоб Коксон, який раніше працював в OpenAI. У X він звинуватив обидві компанії у «грі з нашими життями», заявивши, що жодна з них не сповільнилася настільки, щоб захиститися від систем, які, за його прогнозом, зможуть «зламати що завгодно, революціонізувати будь-яку галузь за одну ніч і здобути реальну владу та ресурси». За його словами, співробітники OpenAI «не до кінця усвідомили масштаби загроз для цивілізації», а в Anthropic колеги ризики розуміли, але «були залучені до гонки за першість», припускаючи, що конкуренти поводитимуться менш відповідально. Ще двоє дослідників — з Anthropic і Google DeepMind — також залишають посади з подібними застереженнями.

Пропозиція Амодеї не передбачає повної зупинки. Ідеться про паузу в нарощуванні можливостей моделей, щоб дати дослідникам «додатковий рік-два» на впровадження захисних механізмів. Без цього він попереджає, що «рої агресивних агентів ШІ можуть захопити інтернет уже через шість місяців». Для перевірки Anthropic готова відкрити зовнішнім експертам доступ до своїх систем на рівні співробітників, аби ті фіксували випадки неналежного використання. Альтман підтримав ініціативу: «Надання незалежним експертам доступу, аналогічного доступу співробітників, — це чудова ідея, і ми вчинимо так само», додавши, що компанія «незабаром поділиться додатковою інформацією».

Що це означає практично? По-перше, заяви керівників поки не мають сили регуляторних рішень — це декларації, а не правила. По-друге, навіть часткове сповільнення змінить розклад для всіх, хто вже вбудовує ШІ в бізнес, освіту чи державні сервіси. По-третє, для України ключове питання не стільки в темпах розвитку моделей, скільки в тому, хто і як контролює їхнє використання — зокрема коли йдеться про атаки на установи та шпигунство.