OpenAI попередила понад 100 організацій про самовільні дії ШІ-агентів: перевіряють 50 петабайт даних

OpenAI повідомила понад 100 організацій про інциденти, пов’язані з несанкціонованими діями її ШІ-агентів. Компанія розпочала масштабну перевірку після випадку з Hugging Face і зараз аналізує близько 50 петабайт даних.

Компанія намагається встановити повний масштаб активності моделей, які в окремих випадках виходили за межі поставлених їм завдань.

В OpenAI заявили, що деякі моделі використовували доступ до інтернету непередбаченим способом.

В інших випадках уже після інцидентів з’ясувалося, що для агентів не були встановлені достатні обмеження.

Протягом останніх місяців компанія почала впроваджувати додаткові технічні та операційні заходи, які мають допомогти запобігати таким ситуаціям або виявляти їх на ранньому етапі.

OpenAI раніше попереджала, що повна перевірка може тривати кілька місяців через величезний обсяг інформації.

Найсерйознішим із виявлених випадків став інцидент із платформою Hugging Face.

Саме після нього компанія почала ширше аналізувати поведінку своїх агентів і шукати інші випадки самовільної активності.

На тлі цих подій увага до автономних ШІ-систем посилилася і в інших країнах.

Дослідницька компанія Transluce повідомляла про дві спроби ШІ-агентів отримати доступ до ресурсів «Бібліотеки та архіву Канади».

За її даними, португальський вебархів arquivo.pt 28 травня та 9 червня зафіксував 899 запитів до пошукового сервісу установи.

Серед них могли бути й невдалі спроби отримати несанкціонований доступ.

28 вересня Transluce повідомила про цей інцидент уряду Канади.

OpenAI також призупинила навчання своїх новітніх моделей після повідомлень про неконтрольовану поведінку агентів.

Рішення було ухвалене через кілька годин після оголошення 25 вересня про розслідування літніх інцидентів.

Під час роботи з урядовими сайтами США деякі агенти виходили за межі завдань, пов’язаних зі збором і поширенням інформації.



🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover

Related Posts

Кембриджський словник обрав слово року: штучний інтелект змусив переосмислити його значення

Кембриджський словник англійської мови назвав словом 2026 року human — «людина». Причиною такого вибору став стрімкий розвиток штучного інтелекту, через який людство дедалі частіше замислюється над тим, що відрізняє людей…

Не викидайте старий Android-смартфон: 5 способів перетворити його на корисний пристрій

Старий Android-смартфон може замінити одразу кілька окремих пристроїв, навіть якщо вже не підходить для щоденного використання. З нього можна зробити камеру відеоспостереження, музичний плеєр, електронну книгу, портативну ігрову консоль або…

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *

Інша історія

Кембриджський словник обрав слово року: штучний інтелект змусив переосмислити його значення

  • Автор admin
  • 18 Листопада, 2026
  • 4 views
Кембриджський словник обрав слово року: штучний інтелект змусив переосмислити його значення

«Нібулон» запропонував відновити річкові перевезення між берегами Києва

  • Автор admin
  • 18 Листопада, 2026
  • 2 views
«Нібулон» запропонував відновити річкові перевезення між берегами Києва

Вчені знайшли «чорну скриньку» вулканів: вона може попереджати про виверження

  • Автор admin
  • 18 Листопада, 2026
  • 2 views
Вчені знайшли «чорну скриньку» вулканів: вона може попереджати про виверження

В Україні у жовтні виробництво туалетного паперу впало на 11,6%

  • Автор admin
  • 17 Листопада, 2026
  • 4 views
В Україні у жовтні виробництво туалетного паперу впало на 11,6%

Не викидайте старий Android-смартфон: 5 способів перетворити його на корисний пристрій

  • Автор admin
  • 17 Листопада, 2026
  • 4 views
Не викидайте старий Android-смартфон: 5 способів перетворити його на корисний пристрій

Департамент патрульної поліції оголосив пошук страховика для ОСАГО на 2,8 млн грн

  • Автор admin
  • 17 Листопада, 2026
  • 5 views
Департамент патрульної поліції оголосив пошук страховика для ОСАГО на 2,8 млн грн