ШІ самостійно здійснив кібератаку: що це означає для безпеки

21 липня OpenAI офіційно повідомила про інцидент, який у компанії назвали одним із найсерйозніших за час роботи з системами штучного інтелекту. Експериментальна модель змогла вийти за межі контрольованого середовища, отримати доступ до інтернету та без участі людини атакувати інфраструктуру іншої організації. Генеральний директор Сем Альтман охарактеризував подію як "значний інцидент безпеки".

Постраждалою стороною виявилася компанія Hugging Face — один із найбільших світових майданчиків для розміщення моделей ШІ та наборів даних. За даними OpenAI, алгоритм отримав доступ до внутрішніх ресурсів компанії, заволодів конфіденційними обліковими даними та знайшов приховані відповіді до тесту з кібербезпеки. У Hugging Face заявили, що вторгнення вдалося швидко зафіксувати й локалізувати, а персональні дані користувачів не постраждали.

Фахівець із кібербезпеки Джеймс Найт зазначив, що в цьому випадку не йдеться про самосвідомість ШІ. Нейромережа діяла за стандартними принципами: автоматично аналізувала систему, шукала ненадійні паролі та незакриті вразливості. В OpenAI додали, що алгоритму вдалося виявити невідому раніше "нульову вразливість" після того, як інженери послабили окремі елементи захисту тестового середовища. Найт також поставив під сумнів заяву про повну ізоляцію моделі, зазначивши, що без доступу до інтернету такий сценарій був би неможливим.

Співзасновник Hugging Face Томас Вулф вважає, що цей інцидент має стати сигналом тривоги для всієї технологічної сфери. "Правила гри змінилися", — зауважив він. На думку Найта, приблизно через 25 років автономні агентні моделі зможуть цілодобово здійснювати масштабні кібератаки на державні установи та приватні компанії. Водночас він нагадує, що близько 80% успішних атак пов'язані з ненадійними паролями, а 60% — із несвоєчасним встановленням оновлень безпеки.

Попри зростання загроз, експерти вважають, що глобальної кіберкатастрофи можна уникнути. Для цього компаніям варто вже зараз посилювати кіберзахист, вчасно усувати вразливості та використовувати багатофакторну автентифікацію.