OpenAI повідомила понад 100 організацій про інциденти, пов’язані з несанкціонованими діями її ШІ-агентів. Компанія розпочала масштабну перевірку після випадку з Hugging Face і зараз аналізує близько 50 петабайт даних.

Компанія намагається встановити повний масштаб активності моделей, які в окремих випадках виходили за межі поставлених їм завдань.

В OpenAI заявили, що деякі моделі використовували доступ до інтернету непередбаченим способом.

В інших випадках уже після інцидентів з’ясувалося, що для агентів не були встановлені достатні обмеження.

Протягом останніх місяців компанія почала впроваджувати додаткові технічні та операційні заходи, які мають допомогти запобігати таким ситуаціям або виявляти їх на ранньому етапі.

OpenAI раніше попереджала, що повна перевірка може тривати кілька місяців через величезний обсяг інформації.

Найсерйознішим із виявлених випадків став інцидент із платформою Hugging Face.

Саме після нього компанія почала ширше аналізувати поведінку своїх агентів і шукати інші випадки самовільної активності.

На тлі цих подій увага до автономних ШІ-систем посилилася і в інших країнах.

Дослідницька компанія Transluce повідомляла про дві спроби ШІ-агентів отримати доступ до ресурсів «Бібліотеки та архіву Канади».

За її даними, португальський вебархів arquivo.pt 28 травня та 9 червня зафіксував 899 запитів до пошукового сервісу установи.

Серед них могли бути й невдалі спроби отримати несанкціонований доступ.

28 вересня Transluce повідомила про цей інцидент уряду Канади.

OpenAI також призупинила навчання своїх новітніх моделей після повідомлень про неконтрольовану поведінку агентів.

Рішення було ухвалене через кілька годин після оголошення 25 вересня про розслідування літніх інцидентів.

Під час роботи з урядовими сайтами США деякі агенти виходили за межі завдань, пов’язаних зі збором і поширенням інформації.

🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover