Науковці вимагають створити механізми контролю для передових технологій ШІ

СВІТ
19 лютого, 17:06
Науковці вимагають створити механізми контролю для передових технологій ШІ

Автори пропонують створення міжнародного реєстру для слідкування за чіпами ШІ протягом усього їх життєвого циклу.

Новий документ Кембриджського університету, підтриманий відомими діячами в галузі штучного інтелекту, викликав дискусію своєю пропозицією про віддалені «вимикачі» та інші механізми контролю для передових технологій ШІ.

Науковці розглядають декілька стратегій, що могли б бути важливими для законодавців при нагляді за штучним інтелектом.

Пропозиції, включаючи посилення прозорості та обмеження у продажі компонентів для ШІ, вже втілюються в життя.

Зокрема, уряд США моніторить компанії, які створюють потужні ШІ системи, та інфраструктуру, необхідну для їх тренування.

Водночас рекомендується зміцнити політики ідентифікації клієнтів, аби уникнути нелегального використання таких технологій.

Попри зусилля з мінімізації ризику змагання в озброєнні ШІ, дослідження підкреслює потенційні ризики. Зокрема, вимоги до звітності можуть порушити приватність і спричинити витоки інформації, тоді як торговельні обмеження, наприклад обмеження на продаж чіпів у Китай, несуть свої власні ризики.

Автори пропонують створення міжнародного реєстру для слідкування за чіпами ШІ протягом усього їх життєвого циклу, навіть після експорту, з метою боротьби з контрабандою шляхом використання унікальних ідентифікаторів.

Однак, найбільшу дискусію викликала ідея інтеграції в чіпи спеціальних «вимикачів».

Попри ризик їх використання зловмисниками, пропонується впровадження системи цифрового ліцензування під контролем регуляторів для можливості дистанційного відключення в разі зловживань.

Також обговорюється ідея введення системи множинного схвалення для високоризикованих ШІ проєктів, аналогічно до контролю за ядерною зброєю, щоб запобігти небезпечним розробкам, хоча це може перешкоджати й корисним ініціативам через нечітке розмежування між ними.

Науковці виступають за спрямування ресурсів та зусиль у галузі штучного інтелекту на підтримку позитивних суспільних змін. Це охоплює розробку і впровадження ШІ систем, які можуть приносити користь людству, наприклад, у медицині, освіті та екології.

Таким чином, цей документ не лише вказує на потенційні небезпеки та виклики, пов’язані з розширенням можливостей штучного інтелекту, але й наголошує на важливості відповідального підходу до регулювання та використання цих технологій.

Впровадження ефективних механізмів контролю та відстеження, згідно з пропозиціями, має стати ключовим кроком у забезпеченні безпеки та етичності в сфері ШІ, що, в свою чергу, сприятиме створенню позитивного майбутнього для всіх.

Читайте також:
Історія
Так казав французький філософ, культуролог і соціолог Жан Бодріяр. Він прагнув відкрити людям очі на «нереальність того, що відбувається».
11 березня, 07:18
Життя
Австралійські біологи разом із кліматологами здійснили дослідження 1,2 мільйона новонароджених. Мета: з'ясувати причину передчасних пологів.
29 лютого, 21:39
Життя
Ілон Маск заявив, що перша людина, якій чіп від Neuralink, змогла керувати мишею на екрані комп'ютера за допомогою своїх думок.
20 лютого, 17:06
Світ
Стартап Ілона Маска Neuralink успішно вжив чіп у мозок першому пацієнту.
30 січня, 10:34
Життя
Науковці виявили у вічній мерзлоті Сибіру стародавні віруси, які можуть загрожувати світові новою смертельною пандемією.
22 січня, 17:43
Світ
Кількість хвилин до півночі означає, наскільки людство на межі глобальної, зокрема ядерної катастрофи.
20 січня, 12:25