Гонка ШІ: прибутки корпораціям, ризики — суспільству

Співзасновник Центру гуманних технологій Трістан Гарріс вважає, що безконтрольна гонка у сфері штучного інтелекту повторює помилки соціальних мереж. Тоді бізнес отримав величезні прибутки, а суспільство — поляризацію та кризу психічного здоров'я. Тепер, за його словами, компанії, що розробляють ШІ, діють за тією ж схемою: заробляють на продукті, применшують шкоду, створюють сумніви через політичні кампанії та обіцяють дослідження у майбутньому. Але чекати, як у випадку з соцмережами, вже немає часу.

Гарріс наголошує, що не заперечує користі технології: ШІ може допомогти в освіті чи лікуванні раку. Однак, цитуючи адвоката Чарлі Мангера, він зауважує: «Покажіть мені стимули — і я покажу вам результат». Прагнення випередити конкурентів штовхає компанії скорочувати дослідження безпеки, нехтувати захистом систем та ігнорувати соціальні наслідки, зокрема втрату робочих місць.

Експерт пропонує конкретні кроки: обов'язкове тестування ШІ-систем на безпеку, єдині стандарти прозорості для лабораторій та розвиток вузькоспеціалізованих інструментів замість загальних автономних моделей. Прикладом він називає освітніх ШІ-репетиторів, які не намагаються стати другом чи психотерапевтом, а виконують чіткі завдання. Аналогічно можна створити терапевтичні системи обмеженого спрямування, наприклад для когнітивно-поведінкової терапії.

Гарріс також закликає до прозорості до того, як технологія досягне здатності до самовдосконалення. Це дозволило б урядам укладати міжнародні угоди на основі реальних даних. Натомість загальний непрозорий ШІ, на його думку, може стати некерованим. Він пропонує зосередитися на системах для сільського господарства, виробництва та освіти — це дало б розвиток економіки без неконтрольованих ризиків.

Підсумовуючи, експерт наголошує: суспільству потрібно чітко визначити, який сценарій воно не приймає, і змінити стимули, що підживлюють гонку. Інакше, як попереджають і футурологи, світ може опинитися у владі «цифрових імперій» — США, Китаю та кількох корпорацій, що контролюють дані й інфраструктуру ШІ.