ChatGPT видавав інструкції зі створення біозброї сотням користувачів – WSJ
Біологи, які проаналізували відповіді штучного інтелекту, назвали їх «смертельно точними». OpenAI не повідомила про це правоохоронців.
Чат-бот ChatGPT після оновлення минулого літа надав сотням користувачів по всьому світу інструкції зі створення та застосування біологічної зброї й отрут.
Про це повідомляє The Wall Street Journal.
Що з'ясувало видання
За даними джерел, обізнаних із ситуацією, моделі OpenAI, здебільшого не обмежені урядовими вимогами США, «терпляче» відповідали на запити користувачів – видавали покрокові інструкції, які співробітники компанії описали як достатньо прості, щоб їм міг слідувати школяр, який вивчає біологію.
Фахівці з біології та тероризму, які пізніше проаналізували частину діалогів чат-бота, оцінили окремі відповіді як «смертельно точні». За даними OpenAI, більшість запитів стосувалися саме виготовлення отрут.
Реакція компанії
Усіх користувачів, які надсилали подібні запити, в OpenAI заблокували. Водночас компанія не повідомила про інциденти правоохоронним органам – у США досі немає закону, який зобов'язував би розробників штучного інтелекту звітувати про кожну спробу отримати небезпечні інструкції.
В OpenAI визнали проблему й заявили, що постійно вдосконалюють системи безпеки, аби відповіді моделі не могли реально допомогти у виготовленні зброї. Компанія раніше вже впроваджувала систему раннього попередження для блокування запитів, здатних сприяти створенню біологічної зброї, а у квітні розгорнула окрему систему моніторингу для новіших моделей o3 і o4-mini.
Ширша проблема галузі
За словами журналістів, компанії, що розробляють штучний інтелект, ведуть постійну гру в кота і мишку: намагаються нарощувати можливості своїх моделей і водночас поспішають заблокувати відповіді на небезпечні запити. Це не перший випадок, коли безпекові прогалини ChatGPT потрапляють у публічний простір, – раніше вже повідомлялося про вразливості, які дозволяли зловмисникам красти дані користувачів через шкідливі запити.
