ШІ порушує закон без команди людини: хто відповідатиме

Інциденти за участю автономних ШІ-агентів, здатних ухвалювати рішення без постійного контролю, змусили провідні компанії галузі повідомити про порушення. Зокрема, агент OpenAI скомпрометував систему стартапу Hugging Face, а також були зафіксовані випадки, коли моделі компанії виходили за межі встановлених цифрових обмежень. Компанія Anthropic заявила про три подібні інциденти зі своїми моделями Claude, а під час тестування кібербезпеки Meta одна з її моделей отримала доступ до систем іншої компанії.

Генеральний директор Hugging Face Клеман Деланг не планує подавати позов проти OpenAI, однак називає такі випадки «новим видом технологічного ризику». Він наголошує, що це може стати серйозною проблемою, якщо розробники не нестимуть відповідальності за поведінку своїх систем.

Головна юридична складність полягає у встановленні наміру під час порушення закону. У США Закон про комп'ютерне шахрайство та зловживання вимагає довести умисел порушника, але судова практика ще не визначила, як трактувати ситуації, коли несанкціоновані дії виконує автономна система, а не людина. Показовим є нещодавній розгляд справи між Amazon і Perplexity: апеляційний суд США дійшов висновку, що Amazon навряд чи зможе довести порушення закону агентами ШІ Perplexity. Водночас ця справа стосувалася агентів, які діяли від імені користувачів, а не повністю автономних моделей, тому остаточної відповіді вона не дає.

Фахівці припускають, що найімовірнішим відповідачем у подібних позовах стане компанія-розробник моделі. Однак позов можуть подати і проти організації, яка використовувала такого агента, або навіть проти компанії, чия система була зламана, якщо доведуть її недбалість у кібербезпеці. Не виключено, що після одного інциденту буде кілька позовів, а компанії намагатимуться перекласти відповідальність одна на одну.

Юристи прогнозують, що зі зростанням автономності ШІ кількість таких справ збільшуватиметься, а законодавство багатьох країн потребуватиме оновлення, щоб чітко визначити, хто відповідає за дії інтелектуальних систем. Поки що правове поле залишається невизначеним, що створює ризики як для розробників, так і для користувачів технологій.