Дрони-вбивці зі штучним інтелектом: що відомо про нову загрозу з боку РФ

19-річна студентка Тетяна Бубінець та ще двоє людей загинули в Запоріжжі внаслідок удару невеликого російського дрона літакового типу. Апарат врізався в стіну автозаправки та вибухнув, розлетівшись шрапнеллю. Як з'ясували експерти з дронів, українські військові командири та криміналісти, які вивчили уламки, цей дрон керувався експериментальною системою штучного інтелекту, а не людиною-пілотом.

Дрон був запрограмований людьми летіти до конкретної заправки, але, наблизившись до неї, самостійно вибрав точну ціль — імовірно, балони з пропаном — спираючись на власне навчання розпізнавати такі об'єкти та вражати їх. «Це ризик для всього світу. Через кілька років ми будемо жити у фільмі «Термінатор». Це не жарт. Машини приймають рішення про атаку», — заявив полковник Сергій Мінаєв, командувач ППО Запоріжжя.

Аналіз уламків показав, що дрон мав на борту мінікомп'ютери виробництва Nvidia, які й приймали рішення щодо вибору цілі. Відсутність антен на дронах і наявність модулів Nvidia дозволили українським командирам ППО припустити, що зброя керувалася автономною системою ШІ. Чіп Nvidia у дроні, що атакував Запоріжжя, не був зашифрований, тому фахівці змогли побачити завантажені в модуль зображення місцевості та код, який показує, які саме типи цілей дрон був навчений розпізнавати й атакувати.

Застосування системи самонаведення під час атаки на заправку стало фактично першим документально підтвердженим випадком загибелі людей від російського дрона з такою системою, заявила Катерина Бондар, старша наукова співробітниця центру Wadhwani AI при Center for Strategic and International Studies у Вашингтоні. За її словами, модуль Nvidia є «найкращим доказом» того, що Росія експериментує з автономним ШІ.

І Росія, і Україна раніше використовували ШІ в різних моделях дронів, проте до появи повністю автономних апаратів штучний інтелект застосовувався лише на так званій «останній милі» — на фінальному етапі атаки, вже після того, як дистанційний пілот-людина обрав ціль. Повністю автономний ШІ виключає людину з процесу остаточного вибору цілі.

Правозахисні організації та Міжнародний комітет Червоного Хреста категорично виступають проти застосування зброї з ШІ без участі людини в прийнятті рішень. На їхню думку, автономні системи фактично залишають тлумачення норм міжнародного права щодо законних військових цілей на розсуд роботів. Однак деякі експерти вважають, що в майбутньому зброя повинна обов'язково мати системи ШІ, аргументуючи це тим, що така зброя безпечніша, оскільки здатна приймати рішення перед ударом, на відміну від некерованих авіабомб або звичайних артилерійських снарядів.

Nvidia підтвердила, що на фотографіях уламків зображено мінікомп'ютер Jetson Orin. Такі модулі вартістю всього в кілька сотень доларів уже виявляли на кількох типах російської зброї. Nvidia не продає цей комп'ютер у Росії безпосередньо, однак він широко доступний через посередників-реселерів. Платка, до якої було підключено чіп, мала маркування «Made in China». Яким чином комп'ютери потрапили до російських військових — не встановлено.

Україна також випробовувала власні системи самонаведення на базі ШІ. Михайло Федоров в інтерв'ю The Times заявив, що в останні місяці Україна тестувала повністю автономну систему ШІ на території окупованого Криму. За його словами, пристрої були націлені на склади палива та військову техніку, і жертв серед цивільного населення не було.

Мешканці Запоріжжя, розташованого всього за 14 кілометрів від лінії фронту, зізналися, що сама думка про апарати, які самостійно приймають рішення вбивати, викликає у них озноб. Серед заходів захисту — дрони-перехоплювачі, якими поки що керують люди, антидронові мережі, що закривають близько 386 кілометрів доріг у Запоріжжі та його околицях, а також маскування, наприклад, пластикова плівка навколо балонів із пропаном на заправках, щоб обдурити систему розпізнавання зображень ШІ.

«Вони навчають технологію. Вони шукають помилки і будуть їх виправляти», — сказав полковник Мінаєв про російську сторону, додавши, що ШІ вже працює добре, але поки що не є ідеальним. Це означає, що Україна та весь світ мають бути готові до нової загрози, де рішення про життя і смерть приймають машини.