Не повстання машин: розробники ШІ попередили про значно небезпечніший ризик



Важливі новини щодня — додайте «Експерт» в улюблені джерела Google

Провідні компанії, які створюють системи штучного інтелекту, дедалі частіше називають головною загрозою не фантастичний сценарій із повстанням машин, а можливість використання ШІ для створення небезпечної біологічної зброї. Саме цей ризик сьогодні викликає найбільше занепокоєння серед розробників.

За інформацією видання, під час неформальних розмов представники індустрії дедалі частіше називають саме біологічні загрози найнебезпечнішим сценарієм розвитку технологій. Хоча його вважають малоймовірним, він є достатньо реалістичним, щоб вимагати посилення заходів безпеки.

Нещодавно керівник OpenAI Сем Альтман, генеральний директор Anthropic Даріо Амодей, очільник Google DeepMind Деміс Хассабіс, керівник Microsoft AI Мустафа Сулейман та директор Meta Superintelligence Labs Александр Ван підписали відкритого листа. У ньому вони закликали зміцнити механізми захисту від використання штучного інтелекту для створення біологічної зброї.

Ці побоювання підтверджує й нове дослідження MIT FutureTech та Університету Квінсленда. Опитування 272 науковців показало, що вони оцінюють імовірність катастрофічних наслідків від небезпечних можливостей ШІ до 2030 року у 12%. Ще у 12% вони оцінили ризик застосування зброї масового ураження із використанням штучного інтелекту чи інших сучасних технологій.

Дослідники зазначають, що ці оцінки вже враховують чинні механізми безпеки. Без них, за їхніми розрахунками, ризик перевищував би 20%. Під катастрофічними наслідками автори розуміють події, які можуть спричинити понад мільйон смертей або економічні збитки більш як на 100 мільярдів доларів.

Саме тому уряди та технологічні компанії зараз активно обговорюють додаткові перевірки нових моделей ШІ перед їхнім відкритим запуском. Розробники прагнуть створити системи, які блокуватимуть використання моделей у небезпечних цілях та допомагатимуть швидше виявляти потенційні біологічні загрози.

Водночас експерти визнають, що найбільшу проблему становлять моделі з відкритим вихідним кодом. Їх можна вільно змінювати та використовувати без централізованого контролю, що значно ускладнює запобігання можливим зловживанням.

Related Posts

Apple готує незвичайний iPhone: екран смартфона вигинатиметься з усіх чотирьох боків

Apple може повністю змінити зовнішній вигляд своїх флагманських смартфонів до 20-річчя iPhone. За інформацією інсайдерів, майбутні iPhone 20 Pro та Pro Max отримають дисплеї із заокругленими краями з усіх чотирьох…

Кембриджський словник обрав слово року: штучний інтелект змусив переосмислити його значення

Кембриджський словник англійської мови назвав словом 2026 року human — «людина». Причиною такого вибору став стрімкий розвиток штучного інтелекту, через який людство дедалі частіше замислюється над тим, що відрізняє людей…

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *

Інша історія

Apple готує незвичайний iPhone: екран смартфона вигинатиметься з усіх чотирьох боків

  • Автор admin
  • 21 Листопада, 2026
  • 2 views
Apple готує незвичайний iPhone: екран смартфона вигинатиметься з усіх чотирьох боків

Чистий прибуток «Модуль-Україна» за дев’ять місяців зріс на 69,6% – до 35 млн грн

  • Автор admin
  • 21 Листопада, 2026
  • 2 views
Чистий прибуток «Модуль-Україна» за дев’ять місяців зріс на 69,6% – до 35 млн грн

Кактус замість батарейки: вчені навчилися отримувати електрику з живої рослини

  • Автор admin
  • 21 Листопада, 2026
  • 2 views
Кактус замість батарейки: вчені навчилися отримувати електрику з живої рослини

Португалія може вдвічі знизити мінімальні інвестиції для наукових проєктів за програмою ARI

  • Автор admin
  • 20 Листопада, 2026
  • 4 views
Португалія може вдвічі знизити мінімальні інвестиції для наукових проєктів за програмою ARI

Visa запустить в Азії попереднє фінансування міжнародних переказів у стейблкоїнах

  • Автор admin
  • 20 Листопада, 2026
  • 5 views
Visa запустить в Азії попереднє фінансування міжнародних переказів у стейблкоїнах

«Запоріжвогнетрив» за 9 місяців отримав 14,2 млн грн чистого збитку

  • Автор admin
  • 20 Листопада, 2026
  • 3 views
«Запоріжвогнетрив» за 9 місяців отримав 14,2 млн грн чистого збитку