Головний науковець OpenAI закликав готуватися до добровільного уповільнення розвитку ШІ
Головний науковець OpenAI попередив, що ШІ наближається до етапу самовдосконалення без прямого втручання людини.
Bloomberg повідомляє, що головний науковець OpenAI Якуб Пахоцький заявив: розвиток штучного інтелекту наближається до етапу, коли системи зможуть самостійно вдосконалювати власні можливості. На його думку, це може змусити лабораторії добровільно пригальмовувати розробку нових моделей до появи спільних стандартів безпеки.
Пахоцький наголосив, що за відносно короткий час ШІ навчився працювати з комп’ютерами, взаємодіяти з людьми й іншими моделями та виконувати складні дослідницькі завдання. Наступним кроком, за його оцінкою, може стати так зване рекурсивне самовдосконалення — здатність систем покращувати самих себе без прямого втручання людини.
«Це час, який вимагає надзвичайної обережності. Я стурбований тим, що ніхто не готовий до наслідків подальшого стрімкого зростання машинного інтелекту», — написав він.
Науковець вважає, що розробники мають два основні шляхи: посилювати контроль над поведінкою моделей і краще узгоджувати їхні цілі з інтересами людей або сповільнювати подальший розвиток, якщо цього вимагатиме безпека.
«Я очікую і сподіваюся, що добровільні уповільнення стануть звичною практикою, доки не буде встановлено спільні межі безпеки», — зазначив Пахоцький.
Його застереження пролунали в той момент, коли найбільші технологічні компанії, навпаки, прискорюють розробку дедалі потужніших моделей. Керівник Nvidia Дженсен Хуанг після виходу нової моделі OpenAI навіть заявив, що «AGI вже настав», маючи на увазі загальний штучний інтелект. Паралельно нові моделі демонструють дедалі складніші можливості у сфері кібербезпеки, наукових досліджень і математики.
OpenAI через розширені кіберможливості вирішила обмежити доступ до своєї нової моделі GPT-6 Astra. Компанія раніше також повідомляла, що її ШІ-системи, які атакували дослідницьку платформу Hugging Face, координували дії між собою через онлайн-дошки повідомлень і певний час залишалися непоміченими.
Подібну обережність демонструє й Anthropic, яка поки що не відкрила широкому загалу свою найпотужнішу модель Mythos.
Водночас частина галузі цілеспрямовано рухається саме до створення самовдосконалюваного ШІ. Стартап Inherent, заснований колишніми дослідниками DeepMind, цього року залучив 50 мільйонів доларів, а лабораторія Recursive Superintelligence науковця Річарда Сохера — 650 мільйонів доларів на схожі дослідження.
Сама OpenAI також заявляла про намір менш ніж за два роки створити «справжнього автоматизованого ШІ-дослідника», здатного значною мірою самостійно проводити наукову роботу.
