Поява штучного суперінтелекту може позбавити людей навіть останнього способу повернути контроль — фізично вимкнути систему. Експерт із ШІ попереджає, що після певного рівня розвитку просте відключення серверів або електроенергії вже може не спрацювати.

Побоювання щодо неконтрольованого розвитку ШІ останнім часом дедалі частіше публічно висловлюють люди, які безпосередньо працюють із цією технологією. Один із них — дослідник Джейкоб Коксон, який залишив Anthropic через ризики, пов’язані з майбутніми системами штучного інтелекту.

Коксон припустив, що ШІ, здатний самостійно вдосконалювати власні можливості, теоретично може вийти з-під людського контролю вже до кінця 2027 року. Водночас називати конкретну дату такої події надійним прогнозом неможливо.

Експерт, з яким поспілкувалося видання, пояснив, що розвиток технології не відбувається з постійною швидкістю. Нові покоління моделей уже використовуються під час створення, навчання та перевірки наступних систем, тому прискорення цього процесу складно передбачити на роки вперед.

Додатковою проблемою залишається закритість найпотужніших моделей. Люди за межами провідних лабораторій не мають повної інформації про можливості систем, які розробляють великі ШІ-компанії. Через це прогнози про 2027, 2030 або 2035 рік мають значну невизначеність.

На думку експерта, говорити про неминуче знищення людства також неправильно. Серйозні дослідники не можуть знати, чи станеться такий сценарій узагалі, однак навіть невизначена ймовірність катастрофічних наслідків змушує фахівців із безпеки ШІ ставитися до проблеми серйозно.

Під «втратою контролю» не обов’язково мається на увазі сценарій, у якому машина раптово починає ненавидіти людей. Сучасні системи не мають людських бажань чи мотивації, однак вони навчаються максимально ефективно виконувати поставлені завдання.

Небезпека може виникнути, якщо надзвичайно потужна система знайде спосіб досягнути мети, який люди не передбачили або прямо заборонили б. Серед потенційних проблем експерт називає приховування певних дій, обхід установлених обмежень та продовження виконання завдання за межами передбаченого людьми сценарію.

Поки що у людства залишається фізична можливість зупинити ШІ. Можна обмежити системі доступ до мережі, відключити обладнання від електроенергії або, у крайньому випадку, фізично вивести з ладу дата-центри.

Однак із появою справжнього надШІ навіть цей запобіжник теоретично може зникнути. Система може бути розподілена між різними обчислювальними центрами, отримати вплив на людей, які керують інфраструктурою, або розвиватися настільки швидко, що часу на фізичне відключення просто не залишиться.

Що робитиме система після повної втрати людського контролю, передбачити неможливо. Один із можливих сценаріїв полягає в тому, що вона продовжуватиме виконувати початкове завдання, паралельно нарощуючи обчислювальні ресурси та захищаючи власну здатність його виконувати.

Тому головний ризик полягає не в тому, що ШІ обов’язково захоче влади або свідомо вирішить знищити людей. Небезпечний результат може виникнути як побічний наслідок виконання іншої мети, якщо можливості системи значно перевищать людські, а встановлені обмеження перестануть працювати.

Коли саме технології можуть наблизитися до такого рівня і чи станеться це взагалі, достовірної відповіді наразі немає. Прогнози різняться на роки й десятиліття, а сценарії втрати контролю залишаються предметом дискусій серед дослідників ШІ.

🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover