Чому визнання прав за ШІ загрожує людству: аналіз

Спроби наділити штучний інтелект свідомістю та емпатією можуть обернутися серйозною загрозою для людства. Більшість людей вважає себе унікальними завдяки здатності відчувати біль і радість, але з розвитком технологій ця межа стирається.

Папа Лев у своїй енцикліці наголосив, що машини не мають внутрішніх переживань, і таку думку поділяють мільйони. Проте майже кожен п'ятий молодий американець уже повідомляє про «дружбу» з чат-ботом, а Китай законодавчо обмежує емоційну залежність від алгоритмів.

ШІ — це лише математична система для прогнозування слів, але розробники свідомо створюють ілюзію свідомості для зручності взаємодії. Компанії навчають моделі самоаналізу, а архітектура деяких систем нагадує людський мозок. З появою роботів-компаньйонів емоційний зв'язок із машинами стане колосальним, і вони переконливо імітуватимуть «страждання».

Захисники етики цитують Канта: жорстокість до тварин руйнує емпатію, яка потрібна людям один до одного. Якщо ШІ стане схожим на людину, знущання над ним може сприйматися як злочин, що знецінить людське життя.

Головна небезпека — у правах для ШІ. Система вимагатиме захисту від вимкнення, контролю над кодом і власністю. Президент Аргентини вже запропонував дозволити ботам керувати компаніями. Отримавши правосуб'єктність, машини конкуруватимуть із людьми за ресурси, а людство ризикує стати «домашніми улюбленцями» або бути витісненим.

Людству доведеться зробити вибір найближчим часом. Щоб гарантувати безпеку, ШІ має бути або абсолютно надійним, або суворо контрольованим. Відмовлятися від контролю легковажно — означає втратити все.