Anthropic зупинила спроби використати Claude для біозброї: що це означає

Anthropic оприлюднила 10 вересня звіт про загрози, пов'язані з використанням штучного інтелекту. У документі йдеться про те, що модель Claude задіяли в кібершпигунській кампанії, пов'язаній із Росією, а також використовувала іранська пропагандистська структура. Окремо компанія заявила про спроби китайських розробників ШІ відтворити функціональність Claude.

За період із грудня 2025-го до серпня 2026 року Anthropic заблокувала чимало випадків зловмисного використання моделей Claude Haiku, Sonnet та Opus. Серед них — фальшиві застосунки для знайомств, шахрайські схеми через готельні Wi-Fi-мережі та системи стеження для пошуку дисидентів. До інцидентів могли бути причетні державні структури, злочинці, розробники шпигунського програмного забезпечення, пропагандистські організації та політично вмотивовані особи. Жоден із випадків не стосувався моделей Claude Fable чи потужніших моделей класу Mythos, окрім одного епізоду «дистиляції» — коли менші моделі навчають за допомогою більших і дорожчих.

Найгучніший епізод — біологічна сфера. За даними компанії, Claude використовували не лише для кібератак, інформаційних операцій, стеження та шахрайства, а й у розробці біологічної зброї, через що довелося блокувати науковців. В Anthropic називають зловживання ШІ в біології «одним із найсерйозніших ризиків для передових моделей ШІ» і застерігають: без належних запобіжників це «може мати катастрофічні наслідки». Водночас у компанії наголошують на подвійності знань: «Ту саму інформацію, яку можна використати для розробки біологічної зброї, можна також застосувати, наприклад, для створення вакцини або ліків від хвороби».

Керівник відділу аналізу загроз компанії Джейкоб Кляйн описав ситуацію як «надзвичайно складну й неоднозначну». «Це не те, що ви бачите лиходія з коміксів, який заявляє: „Я хочу створити біологічну зброю, щоб убити всіх“, — сказав він. Крім біології, у звіті зафіксовано шість випадків використання Claude для програмного забезпечення, пов'язаного зі звичайними озброєннями: вогнепальною зброєю, ракетами, ударними безпілотниками, бомбами та боєприпасами, а також системами наведення й управління.

Окремий блок — кіберзлочинність. За даними Anthropic, хакерські угруповання, зокрема ShinyHunters та лабораторії в Китаї, дедалі активніше залучають її технології. Описано й групу, пов'язану з Росією: імовірно, за допомогою ШІ вона створила систему, яка автоматично виявляла блокування шкідливого програмного забезпечення і змінювала код, доки засоби кіберзахисту не переставали його розпізнавати. Компанія каже, що використала результати дослідження у внутрішніх процесах, «щоб у майбутньому краще запобігати, виявляти та припиняти подібну діяльність», і передавала інформацію правоохоронцям та партнерам у tech-сфері, коли це було потрібно.

Звіт з'явився на тлі ширших застережень. Провідний дослідник Anthropic із безпеки оцінює ймовірність того, що протягом наступного десятиліття ШІ «може знищити все людство», вище за 10%. Головний науковець OpenAI Якуб Пачоцький 6 вересня закликав індустрію до «добровільного уповільнення» розробки ШІ, доки не з'являться механізми безпеки: «Я стурбований тим, що ніхто не готовий до наслідків подальшого стрімкого зростання машинного інтелекту». Після цього з'явився відкритий лист до прем'єр-міністра Великої Британії Енді Бернема із закликом укласти нову міжнародну угоду про безпечний розвиток ШІ та спільно визначити правила для суперінтелекту. У США демократ Берні Сандерс представив законопроєкт про заборону штучного суперінтелекту й тимчасове припинення розробки передових систем: «Коли вчені кажуть вам, що існує ймовірність, навіть просто ймовірність, катастрофічних наслідків для людства, треба бути дурнем, щоб не сказати: пригальмуйте».

Для людей і країн це означає, що питання регулювання ШІ переходить із площини дискусій у площину конкретних рішень. Компанії вже фіксують і блокують зловживання, а політики пропонують обмеження — але єдиних міжнародних правил досі немає. Саме від того, чи встигнуть такі правила з'явитися до наступного стрибка можливостей моделей, залежатиме, чи залишаться подібні інциденти поодинокими випадками, а не системною загрозою.