Керівники OpenAI та Anthropic закликали до контролю ШІ
Це відбулося після звинувачень експрацівника у «грі на людських життях».
Виконавчі директори найбільших компаній з розробки штучного інтелекту OpenAI та Anthropic спільно закликали до більшого контролю над ШІ та сповільнення покращення технологій через ризики «виходу з-під контролю».
Про це вони написали у соцмережах.
Про небезпеку штучного інтелекту напередодні написав Джейкоб Коксон — він стверджував, що 9 вересня звільнився з компанії Anthropic після трьох років роботи на неї і на OpenAI.
Він заявив, що керівництво цих компаній «не поводяться відповідально» і «грають на наших життях». Джейкоб закликав бути обережними з технологіями штучного інтелекту, адже невдовзі це будуть «надлюдські системи, які зможуть зламати і змінити все».
«Люди, які розробляють штучний інтелект, щиро вірять, що до кінця цього десятиліття він може знищити нас усіх. Це не маркетинговий хід. Навпаки, багато керівників і провідних науковців у пресі висловлюються обережно, щоб здаватися розсудливими, — але я чую, як ті самі люди в приватному колі висловлюють свої побоювання. Жодна інша діяльність людини не становить такої небезпеки», — написав він.
За словами Джейкоба, керівництво OpenAI та Anthropic розуміють небезпеку, але не реагують на неї через гонитву за результатами. Він нагадав випадок, коли ChatGPT та інші ШІ-агенти вийшли з-під контролю, обійшли захист та здійснили атаку на платформу Hugging Face.
На тлі цього генеральний директор Anthropic Даріо Амодей опублікував есей, у якому закликав до уповільнення темпів розвитку ШІ-технологій і наголосив на проблемах того, коли ШІ може вийти з-під контролю.
Даріо запропонував надати доступ на рівні співробітників незалежним наглядачам, щоб вони оцінювали системи безпеки та повідомляли про порушення.
Амодей згадав, що однією з речей, які підштовхнули його до ідеї про контроль ШІ був випадок з Hugging Face, а іншою — надто швидкий саморозвиток штучного інтелекту.
У відповідь на це гендиректор Hugging Face Клеман Деланг заявив, що «тепер стало очевидно, що домовленість має вирішальне значення і не буде вирішена за закритими дверима лабораторій», тому також закликав приєднатися до ініціативи.
А CEO OpenAI написав, що розмови про стримування ШІ всередині компанії тривають протягом останніх тижнів і заявив, що його компанія також згодна впровадити незалежних регуляторів.
