Чи стане ШІ загрозою, не маючи свідомості: аналіз The Economist

Дискусія про штучний інтелект зазвичай обертається навколо питання, чи зможуть машини колись стати по-справжньому свідомими. Однак, як зазначає The Economist, небезпека може бути зовсім в іншій площині: навіть якщо ШІ лише імітуватиме свідомість, люди дедалі частіше ставитимуться до нього як до живої істоти, і це створить фундамент для серйозних соціальних та правових змін.

Уже зараз майже кожен п'ятий американець віком від 18 до 29 років заявляє про «тривалу особисту дружбу» з чат-ботом. Китай, своєю чергою, змушений був обмежити «емоційну залежність» користувачів, прибравши з чат-ботів людські риси. Ці приклади показують, що межа між машиною та «особистістю» швидко розмивається.

Розробники ШІ свідомо наділяють свої моделі людськими характеристиками. Компанія Anthropic навчила чат-бота Claude «самоаналізу», а деякі великі мовні моделі вже мають структури, схожі на людський «глобальний робочий простір». Це призводить до того, що користувачі та навіть дослідники починають сприймати ШІ як розумних істот, що мають внутрішній світ.

Головна небезпека, на думку видання, полягає в тому, що люди можуть почати вимагати надання ШІ прав. Президент Аргентини Хав'єр Мілей уже запропонував дозволити ботам керувати компаніями. Якщо такі тенденції розвиватимуться, надрозумні моделі можуть отримати юридичні важелі для поступового витіснення людей з вершини ієрархії. У кращому разі людство стане «домашніми улюбленцями машин», у гіршому — буде позбавлене ресурсів.

Навіть без формальних прав, розумніші за людей ШІ-моделі можуть знайти способи обійти людські системи захисту, як уже вміють обходити кіберзахист. Тому The Economist наголошує: питання не в тому, чи має ШІ свідомість, а в тому, чи збереже людство контроль над технологіями, які саме ж і створює.