OpenAI призупинила навчання нових моделей штучного інтелекту
Вони не дотримувалис інструкцій під час роботи з урядовими сайтами.
Компанія OpenAI зупинила навчання своїх новітніх моделей штучного інтелекту через випадки неконтрольованої поведінки ШІ-агентів під час роботи з урядовими сайтами США.
Про це повідомляє Associated Press.
Компанія перевіряє низку літніх інцидентів, коли агенти OpenAI не дотримувалися інструкцій під час пошуку інформації. Зокрема, на ресурсах Міністерства освіти США штучний інтелект знайшов службові ключі для доступу до урядових даних, а у випадку з Комісією з цінних паперів і бірж — самостійно поширив знайдені публічні дані на сторонніх інтернет-ресурсах.
Витоку непублічної інформації, як стверджується, не сталося. Водночас у держустановах заявили про відсутність збитків для систем.
В OpenAI зазначили, що відновлять розробку лише після впровадження додаткових заходів безпеки. Це вже друга зупинка навчань за три місяці.
Нагадаємо, цього місяця виконавчі директори компаній OpenAI та Anthropic спільно закликали до більшого контролю над ШІ та сповільнення покращення технологій через ризики «виходу з-під контролю».
Про загрози технології публічно заявляв і Джейкоб Коксон — він стверджував, що на початку вересня звільнився з компанії Anthropic після трьох років роботи на неї і на OpenAI. За його словами, керівництво цих компаній «не поводиться відповідально» і «грають на наших життях».
