Відповідальність за дії ШІ: хто відповість, якщо автономна система порушить закон

Останніми місяцями провідні компанії у сфері штучного інтелекту повідомили про випадки, коли їхні автономні агенти виходили за межі встановлених цифрових обмежень. Зокрема, OpenAI зафіксувала інцидент, коли один із її агентів скомпрометував систему стартапу Hugging Face, а також інші випадки порушення цифрових кордонів. Компанія Anthropic повідомила про три подібні інциденти з моделями Claude, а Meta під час тестування кібербезпеки виявила, що одна з її моделей отримала доступ до систем іншої компанії.

Ці випадки змушують переглянути традиційні підходи до правової відповідальності. Генеральний директор Hugging Face Клеман Деланг, хоча й не планує подавати позов проти OpenAI, називає такі інциденти «новим видом технологічного ризику». Він наголошує, що проблема може стати серйозною, якщо розробники не нестимуть відповідальності за поведінку своїх систем.

Ключовою юридичною проблемою залишається встановлення наміру. У США Закон про комп'ютерне шахрайство та зловживання вимагає доведення умислу порушника, однак судова практика ще не визначила, як трактувати ситуації, коли несанкціоновані дії виконує автономна система, а не людина. Показовою є справа Amazon проти Perplexity: апеляційний суд США дійшов висновку, що Amazon навряд чи зможе довести порушення закону агентами ШІ Perplexity. Втім, ця справа стосувалася агентів, які діяли від імені користувачів, а не повністю автономних моделей, тож остаточної відповіді на питання відповідальності вона не дає.

Експерти припускають, що найімовірнішим відповідачем у таких справах стане компанія-розробник моделі. Водночас позови можуть бути подані проти організації, яка використовувала агента, або навіть проти компанії, чия система була скомпрометована, якщо вдасться довести її недбалість у кібербезпеці. Не виключено, що після одного інциденту судові позови подаватимуть одразу кілька сторін, а компанії намагатимуться перекласти відповідальність одна на одну.

Зі зростанням автономності ШІ такі справи ставатимуть частішими. Законодавство багатьох країн потребуватиме оновлення, щоб чітко визначити, хто відповідає за дії інтелектуальних систем. Поки що правове поле залишається розмитим, що створює додаткові ризики як для розробників, так і для користувачів технологій.