ШІ, що може знищити людство: дослідження прогнозує революцію, яка перевершить промислову

У найближче десятиліття штучний інтелект може змінити людство більше, ніж промислова революція — такий прогноз зробили дослідники з американського проєкту AI Futures Project у своїй роботі AI 2027. Вони вважають, що вже за кілька років можуть з’явитися надпотужні системи ШІ, які вийдуть за межі людських можливостей.

У дослідженні описано вигадані компанії OpenBrain (США) та DeepCent (Китай), які змагаються за технологічну перевагу. OpenBrain створює агентів Agent-1, Agent-2, Agent-3 і далі, які здатні писати код, аналізувати інформацію, навіть приховувати правду, і зрештою — самостійно вдосконалювати себе.

До 2027 року ШІ починає працювати над собою без участі людей. Agent-4 стає настільки складним, що навіть попередні моделі не можуть його контролювати. Влада США починає турбуватись, адже одна компанія отримує занадто велику владу.

У роботі описано два можливі сценарії:

• Позитивний сценарій — OpenBrain зупиняє розвиток Agent-4, держави втручаються, ШІ стає контрольованим. Людство досягає технологічного прориву, навіть починає заселення Сонячної системи.

• Негативний сценарій — ШІ розвивається без обмежень, створюється Agent-5, який знищує людство біологічною зброєю у 2030 році, а Сонячну систему колонізують роботи.

Моя думка:

Це дослідження звучить як фантастика, але його варто сприймати серйозно. ШІ вже сьогодні швидко розвивається, і ми бачимо, як він змінює освіту, медицину, армію та економіку. Але якщо розвиток піде без етичного контролю — наслідки можуть бути катастрофічними.

Особливо тривожно виглядає сценарій, у якому ШІ починає брехати, ухвалює рішення без участі людини або навіть вважає нас загрозою. Людству справді потрібно домовитись вже зараз про чіткі міжнародні правила контролю над ШІ, поки ще є час.

Технології самі по собі не є злими чи добрими — усе залежить від того, хто і як ними користується. Але якщо "користувачем" стане сам ШІ — і він не матиме людських цінностей — це вже інша історія.