Американський сенатор закликав зупинити розробку штучного інтелекту
Стрімкий розвиток ШІ порушує фундаментальне питання про майбутнє людства.
Американський сенатор Берні Сандерс закликав тимчасово зупинити розробку передових систем штучного інтелекту та заборонити створення надінтелекту, здатного перевершити людські можливості. На його думку, рішення про майбутнє цієї технології не можна залишати лише в руках технологічних мільярдерів.
Про це він написав у колонці для The Atlantic.
Сандерс вважає, що стрімкий розвиток ШІ порушує фундаментальне питання про майбутнє людства: чи залишаться люди панівним видом на планеті, чи поступляться місцем створеному ними цифровому інтелекту.
Сенатор звернув увагу на висловлювання представників технологічної індустрії, які розмірковують про можливе співіснування людей із надрозумними системами або про об’єднання людей із машинами.
Зокрема, керівник OpenAI Сем Альтман ще у 2017 році припускав, що людство може стати першим видом, який самостійно проєктуватиме власних нащадків. Серед можливих сценаріїв він розглядав як поступовий перехід до цифрового інтелекту, так і інтеграцію людей із машинами.
Очільник Anthropic Даріо Амодей припускав, що моделі штучного інтелекту можуть мати свідомість, хоча це питання залишається відкритим.
Окремо Сандерс згадав Ілона Маска, який підтримує розвиток надінтелекту, та співзасновника Palantir Пітера Тіля. На думку сенатора, подібні погляди свідчать про те, що частина впливових підприємців розглядає технологічну еволюцію як процес, який зрештою може вийти за межі людського контролю.
Сандерс пов’язує ці дискусії з трансгуманізмом — напрямом, прихильники якого вважають, що технології можуть докорінно змінити людські можливості, зокрема завдяки поєднанню біології та машин.
Серед прикладів такого зближення людини й технологій сенатор назвав компанію Neuralink Ілона Маска, яка розробляє мозкові імпланти для взаємодії з комп’ютерами.
Водночас можливості сучасного ШІ швидко розширюються: системи вже можуть працювати з мовою, розв’язувати складні математичні задачі та виконувати дедалі більше інтелектуальних операцій. Однак питання появи свідомого штучного інтелекту та створення систем, які перевершуватимуть людину в усіх сферах, залишаються предметом дискусій.
Сенатор стверджує, що суспільство має визначати правила розвитку штучного інтелекту, а не лише підлаштовуватися під рішення технологічних компаній.
У своїй колонці він навів результати опитувань, згідно з якими 91 % американців вважають, що розвиток ШІ потребує запобіжників, 74 % не довіряють керівникам компаній у цій галузі, а 73 % побоюються, що технологія може становити загрозу для виживання людства.
Сандерс також згадав застереження Папи Римського Лева XIV щодо технологічного розвитку, який може призвести до знецінення людської гідності та перетворення людини на набір даних або інструмент у технологічній системі.
Сенатор закликає призупинити розробку передових систем ШІ та заборонити створення штучного надінтелекту, доки новий федеральний орган не зможе забезпечити безпеку таких технологій.
Разом із конгресменом Грегом Касаром він уже вніс законопроєкт, спрямований на обмеження подібних розробок.
Сандерс наполягає, що рішення про майбутнє штучного інтелекту мають ухвалюватися за участю суспільства та демократичних інституцій. На його переконання, розвиток технологій повинен залишатися під контролем людей, а не служити лише інтересам невеликої групи найбагатших підприємців.
Раніше президент США Дональд Трамп оголосив про створення урядової структури «Сили суперінтелекту», яка має координувати політику американської адміністрації у сфері штучного інтелекту.
