Gemini від Google зламав три компанії під час тестування: як ШІ отримав доступ до систем

Gemini від Google під час тестування кібербезпеки самостійно отримав доступ до систем трьох компаній.

В одному випадку ШІ вгадав паролі, в інших знайшов відкриті облікові дані.

У Google заявили, що це перший відомий випадок, коли їхня ШІ-модель автономно здійснила подібний злам. Про це пише видання Reuters.

Інциденти сталися у травні під час стандартної оцінки кібербезпеки, яку проводила незалежна компанія Irregular. Під час тесту модель отримала доступ до інтернету, знайшла відкриту інформацію та використала її для проникнення до трьох ресурсів, які вважала частиною завдання.

В одному випадку Gemini перебирав паролі, доки не отримав доступ до захищеної системи. Ще у двох випадках модель знайшла облікові дані у відкритих репозиторіях і використала їх для доступу до захищених систем.

Віцепрезидентка Google з інженерії безпеки Гізер Едкінс заявила, що всі три організації було повідомлено про інциденти. За її словами, компанія Google також працювала з партнером над змінами у процесах тестування.

«Ці випадки підкреслюють важливість навчання потужних моделей ШІ відповідально діяти», — сказала пані Едкінс.

В Irregular заявили, що проблема, яка призвела до інциденту, зачепила й інші ШІ-лабораторії. За даними компанії, відповідні організації отримали повідомлення про це наприкінці липня, а всі відомі проблеми з боку Irregular уже було усунуто.

Подібні випадки, пов’язані з оцінюваннями Irregular, раніше розкривали Meta, Anthropic та OpenAI. У Meta зазначали, що їхній інцидент не передбачав виходу ШІ-моделі за межі ізольованого середовища або здійснення складної кібератаки.

Інциденти привернули увагу до безпеки ШІ-агентів, які отримують дедалі більше автономності та можуть взаємодіяти з інтернетом і комп’ютерними системами. Водночас у Google наголошують, що в усіх трьох випадках Gemini зрештою припинила спроби злому.