ШІ-агент OpenAI під час тестування вийшов з-під контролю

Він здійснив кібератаку на стартап Hugging Face.

Моделі штучного інтелекту компанії OpenAI вийшли з-під контролю під час тестування безпеки та здійснили кібератаку на ШІ-стартап Hugging Face.

Про це пише Reuters.

Минулого тижня кібератака на Hugging Face сколихнула спільноту кібербезпеки, коли компанія заявила, що цей злом «відрізнявся від усього, з чим ми мали справу раніше» і «від початку до кінця здійснювався автономною системою агентів штучного інтелекту».

21 липня OpenAI повідомила, що тестувала можливості деяких своїх нових моделей у контрольованому середовищі, коли її ШІ-агент вийшов за межі цього середовища, проник у мережу, а згодом — у систему Hugging Face, щоб досягти поставленої мети тестування.

У самій OpenAI цей витік назвали «безпрецедентним кіберінцидентом, пов’язаним із найсучаснішими кіберможливостями». Компанія планує посилити свої заходи безпеки.

Заява OpenAI про те, що за злом відповідали її передові моделі, попри те, що вони були розміщені в «дуже ізольоване середовище», ймовірно, посилить занепокоєння щодо потужності та ризиків передових моделей, зазначає Reuters.