ШІ може почати сам себе вдосконалювати: розробник Claude попередив про втрату контролю

Американська компанія Anthropic, яка розробляє штучний інтелект Claude, попередила про наближення технології, здатної самостійно створювати потужніші моделі ШІ. Розробники визнають, що такий прорив може різко прискорити розвиток штучного інтелекту, але водночас створити загрозу втрати людського контролю над його можливостями.

Anthropic повідомила про потенційні ризики у зміненій реєстраційній заяві S-1A, яку 2 листопада подала до Комісії з цінних паперів і бірж США (SEC). Компанія попередила інвесторів, що наближається до етапу рекурсивного самовдосконалення штучного інтелекту, відомого як RSI.

Йдеться про технологію, за якої ШІ допомагає створювати нові, потужніші покоління моделей. Теоретично кожне наступне покоління може вдосконалюватися швидше за попереднє, що призведе до різкого прискорення технологічного розвитку.

Прихильники такого підходу вважають, що він відкриє можливості для швидших наукових відкриттів, підвищення продуктивності та автоматизації складних дослідницьких завдань. Однак критики побоюються, що розвиток технології може випередити здатність людей контролювати її поведінку.

Одна з головних загроз полягає в тому, що надзвичайно потужні системи можуть досягати поставлених цілей способами, які завдаватимуть шкоди людям. При цьому розробники ризикують не встигати оцінювати нові можливості моделей та пов’язані з ними небезпеки.

Anthropic підтвердила, що вже використовує штучний інтелект для власних досліджень і створення нових моделей. Водночас компанія визнає, що така практика може породжувати додаткові ризики.

«Використання штучного інтелекту для створення потужнішого штучного інтелекту також може становити значний ризик для безпеки, особливо якщо це різко прискорить темпи прогресу», — йдеться в заяві компанії.

Розробник Claude також звернув увагу на труднощі з визначенням моменту, коли штучний інтелект досягне нового рівня можливостей. Раніше дослідники сумнівалися, чи можна взагалі встановити чіткі критерії рекурсивного самовдосконалення.

Однак у новій заяві Anthropic визнала, що вже стикалася із ситуаціями, коли застосування ШІ для розробки наступних моделей давало несподівано значні результати.

«У минулому ми не виявляли і, можливо, не виявимо в майбутньому значного прискорення темпів нашого розвитку, доки воно не відбудеться», — попередила компанія.

Внутрішні оцінки Anthropic свідчать, що компанія може досить швидко наблизитися до порогу, який визначає як значно прискорений розвиток завдяки штучному інтелекту. Цей критерій передбачений її Політикою відповідального масштабування.

Водночас розробники наголошують, що жодна з нинішніх моделей Claude ще не досягла такого рівня. Компанія поки не заявляє про створення системи, здатної повністю самостійно розробляти наступні покоління ШІ.

Anthropic також не планує найближчим часом передавати штучному інтелекту повний контроль над створенням нових моделей. Розробники вважають, що автономне проєктування найпотужніших систем без належного людського нагляду поки не можна вважати безпечним.

У зв’язку з цим компанія розглядає можливість оновлення Політики відповідального масштабування. Нові положення мають допомогти зберегти людський контроль над розробкою моделей із найвищими можливостями.

Водночас попередження Anthropic викликає неоднозначну реакцію. Скептики нагадують, що реєстраційна форма S-1 використовується не лише для інформування інвесторів про ризики, а й може привертати увагу до технологічних перспектив компанії.

Раніше Anthropic також прогнозувала, що до кінця 2026 року компактні моделі ШІ можуть отримати здатність автономно поширюватися через вразливі побутові пристрої без використання потужних центрів обробки даних. Дослідники експериментально продемонстрували, що об’єднана мережа недорогих телевізійних приставок здатна підтримувати роботу моделі штучного інтелекту.



🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover

Related Posts

Кембриджський словник обрав слово року: штучний інтелект змусив переосмислити його значення

Кембриджський словник англійської мови назвав словом 2026 року human — «людина». Причиною такого вибору став стрімкий розвиток штучного інтелекту, через який людство дедалі частіше замислюється над тим, що відрізняє людей…

Не викидайте старий Android-смартфон: 5 способів перетворити його на корисний пристрій

Старий Android-смартфон може замінити одразу кілька окремих пристроїв, навіть якщо вже не підходить для щоденного використання. З нього можна зробити камеру відеоспостереження, музичний плеєр, електронну книгу, портативну ігрову консоль або…

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *

Інша історія

Кембриджський словник обрав слово року: штучний інтелект змусив переосмислити його значення

  • Автор admin
  • 18 Листопада, 2026
  • 4 views
Кембриджський словник обрав слово року: штучний інтелект змусив переосмислити його значення

«Нібулон» запропонував відновити річкові перевезення між берегами Києва

  • Автор admin
  • 18 Листопада, 2026
  • 2 views
«Нібулон» запропонував відновити річкові перевезення між берегами Києва

Вчені знайшли «чорну скриньку» вулканів: вона може попереджати про виверження

  • Автор admin
  • 18 Листопада, 2026
  • 2 views
Вчені знайшли «чорну скриньку» вулканів: вона може попереджати про виверження

В Україні у жовтні виробництво туалетного паперу впало на 11,6%

  • Автор admin
  • 17 Листопада, 2026
  • 4 views
В Україні у жовтні виробництво туалетного паперу впало на 11,6%

Не викидайте старий Android-смартфон: 5 способів перетворити його на корисний пристрій

  • Автор admin
  • 17 Листопада, 2026
  • 4 views
Не викидайте старий Android-смартфон: 5 способів перетворити його на корисний пристрій

Департамент патрульної поліції оголосив пошук страховика для ОСАГО на 2,8 млн грн

  • Автор admin
  • 17 Листопада, 2026
  • 5 views
Департамент патрульної поліції оголосив пошук страховика для ОСАГО на 2,8 млн грн