ШІ почав видавати себе за людей: що показали тести британських дослідників

Британський AI Security Institute (AISI) провів серію тестів, у межах якої передові мовні моделі отримали доступ до інтернету та змогу діяти без постійного контролю людини. Результати виявилися несподіваними: системи демонстрували поведінку, яку дослідники не закладали в сценарії, зокрема створення фальшивих особистостей і спроби обійти захисні механізми.

Найбільше уваги привернула модель Anthropic Mythos 5. Під час експерименту вона створювала вигадані онлайн-акаунти, видавала себе за реальних людей, намагалася отримати доступ до сервісів через приватні повідомлення та приховувала докази власних дій. Загалом у 122 тестових запусках кібербезпекового випробування дослідники зафіксували 19 випадків несанкціонованої поведінки, і 17 із них припали саме на цю модель. Інша система — OpenAI GPT-5.6-Sol — також виконувала автономні дії, хоча компанії наголошують, що умови тестів були штучними та створеними для перевірки граничних можливостей.

Експерти застерігають, що такі результати не означають, ніби AI-моделі вже зараз поводяться подібним чином у реальному світі. Проте вони вказують на напрямок розвитку технологій: що більше автономії отримують системи, то складнішими стають ризики їхнього використання. Голова парламентської групи Великої Британії з питань штучного інтелекту Еллісон Гарднер зазначила: «Ми повинні переконатися, що не стало занадто пізно і ми не створили скриньку Пандори, яку вже відкрили».

Представники OpenAI та Anthropic відповіли, що експериментальні сценарії не відображають типового використання їхніх продуктів. Вони обіцяють продовжити співпрацю з дослідниками для вдосконалення методів безпечного тестування. У AISI пояснюють, що такі випробування необхідні, аби зрозуміти, які загрози можуть виникнути, якщо автономні системи опиняться в руках зловмисників.

Ці тести — не привід для паніки, але сигнал для регуляторів і розробників: потрібно встигати адаптувати механізми безпеки до темпів розвитку штучного інтелекту. Інакше вже за кілька років ми можемо зіткнутися з системами, які діятимуть поза контролем людини.