У ЄС ухвалили законопроект про регулювання ШІ
До нього можуть бути внесені винятки, які можуть дозволити використання розпізнавання облич з метою національної безпеки.
Законодавці Європейського Союзу зробили великий крок до регулювання використання систем штучного інтелекту, ухваливши законопроєкт, відомий як Закон про ШІ.
Про це повідомляє Engadget.
Фінальну версію документа може бути затверджено приблизно наприкінці цього року.
Як зазначає The New York Times, це лише частина тривалого процесу, і найшвидше ми зможемо побачити остаточну версію закону, швидше за все, пізніше цього року.
Нинішня редакція Закону про ШІ передбачає заборону використання в ЄС біометричних систем, що працюють у режимі реального часу, та віддалених біометричних систем, таких як системи сканування з розпізнаванням осіб.
Також документ забороняє пристрої, які демонструють когнітивні маніпуляції, такі як іграшки з голосовим управлінням. Вважають, що вони заохочують небезпечну поведінку у дітей. Водночас будуть заборонені технології, які класифікують людей на основі їх соціально-економічного статусу чи особистих характеристик.
Водночас підлягають обов’язковій реєстрації в базі даних ЄС технології, які вважаються «високоризиковими». До них належать системи ШІ для біометричної ідентифікації та системи, призначені для використання правоохоронними органами.
Європейська комісія вперше запропонувала Закон про ШІ ще у квітні 2021 року – задовго до стрімкого зростання популярності генеративних систем ШІ, що призвело до зростання закликів до регулювання штучного інтелекту. Минулого місяця документ отримав схвалення профільного комітету Європарламенту.
У поточній версії законопроєкту містяться правила для компаній, які займаються генеративним ШІ, таких як OpenAI.
У тому числі є вимога розкривати будь-який контент, створений штучним інтелектом. Ці компанії також повинні гарантувати, що їхні великі мовні моделі не зможуть генерувати нелегальний контент. Крім того, їм доведеться публікувати зведення захищених авторським правом даних, які використовуються для навчання їх моделей.
До свого затвердження Закон про ШІ ще може зазнати деяких змін.
Закон про ШІ, швидше за все, пройде через кілька ітерацій після цього розгляду. Офіційні особи ЄС сподіваються затвердити всі деталі до кінця року.
Представники Європейського парламенту, Європейської комісії та Ради Європейського Союзу ще мають узгодити деталі остаточної версії закону.
Вони можуть вирішити змінити деякі його аспекти та додати певні винятки, наприклад дозволити використання розпізнавання обличчя в цілях національної безпеки.
Після цього голосування Закон про штучний інтелект, ймовірно, пройде кілька ітерацій, хоча офіційні особи ЄС сподіваються завершити деталі до кінця року.
Розпізнавання обличчя – це зручна і практична функція ідентифікації без пароля. З нею добре знайомі користувачі найсучасніших смартфонів. Сама технологія відноситься до галузі застосування теорії розпізнавання образів, яка виникла значно раніше, ніж сучасні комп'ютерні системи.
Алгоритм роботи технології розпізнавання обличчя складається з двох етапів:
1) ідентифікація (хто ця людина?)
2) верифікація (а чи та це людина, за яку вона себе видає?).
Понад 50 організацій, що займаються питаннями цифрових прав, звернулися до Європейської комісії (ЄК) з вимогою повністю заборонити використання технології розпізнавання обличчя для масового стеження за людьми. Серед них: Big Brother Watch UK, AlgorithmWatch і European Digital Society та інші.
Автори звернення опублікували відкритий лист європейському комісару з питань юстиції Дідьє Рейндерс (Didier Reynders). Лист був опублікований за кілька тижнів до прийняття Європейською комісією довгоочікуваних нових правил етичного використання штучного інтелекту.
Автори листа закликали комісара підтримати в майбутніх законах посилення захисту основних прав людини, зокрема, що стосується використання в громадських місцях систем розпізнавання обличчя та інших біометричних технологій для масового стеження.
На думку експертів та прихильників заборони використання цієї технології, немає прикладів, які доводять, що використання систем розпізнавання обличчя з метою масового спостереження могло б виправдати збиток, який воно може завдати основним правам і свободам людини (право на недоторканність приватного життя, захист даних, недискримінацію і свободу слова).
