Ілон Маск і Сем Альтман підтримали заклик керівника Anthropic Даріо Амодеї уповільнити темпи розвитку передового штучного інтелекту.
Несподіваний збіг позицій керівників конкуруючих технологічних компаній стався на тлі нових попереджень про загрози, які можуть становити дедалі потужніші системи ШІ, пише The Guardian.
«Даріо має рацію», — написав у неділю в соціальній мережі X засновник Tesla і SpaceX Ілон Маск, коментуючи пропозицію Амодеї. Він нагадав, що вже багато років попереджає про небезпеку штучного інтелекту, згадавши, зокрема, свою заяву 2014 року про необхідність виявляти надзвичайну обережність під час розроблення ШІ.
Глава OpenAI Сем Альтман також підтримав позицію керівника Anthropic. «Я погоджуюся з Даріо в тому, що нам необхідно уповільнити темпи розвитку передових технологій», — написав він. Альтман назвав хорошою ідеєю надання незалежним експертам постійного доступу до процесів розроблення ШІ та заявив, що OpenAI має намір запровадити аналогічний підхід.
Амодеї раніше попередив, що надто швидкий розвиток ШІ може призвести до серйозних наслідків. Зокрема, він припустив, що потужніший рій ШІ-агентів за недостатнього контролю в перспективі здатен отримати можливість «захопити весь інтернет», створивши стійку ботнет-мережу та завдавши збитків на сотні мільярдів доларів. Деякі фахівці зі штучного інтелекту вважають такий сценарій малоймовірним і закликають ставитися до нього скептично.
Альтман також повідомив, що OpenAI не планує проводити первинне публічне розміщення акцій у 2026 році. За його словами, на тлі наявних проблем із безпекою штучного інтелекту зараз було б «нерозумно» виходити на біржу. Він висловив сподівання, що керівники найбільших ШІ-компаній у майбутньому зможуть спільно обговорити можливе уповільнення розробок.
Пропозиція Амодеї передбачає, зокрема, постійний доступ незалежних фахівців до систем розробників для контролю за дотриманням заходів безпеки, розслідування інцидентів та оцінювання поведінки моделей. Для координації таких заходів він пропонує отримати від влади США дозвіл, який захистив би компанії від звинувачень в антиконкурентній змові.
Водночас співголова президентської ради Дональда Трампа з питань науки й технологій Девід Сакс заявив, що технологічним компаніям не потрібен чийсь дозвіл, аби самостійно уповільнювати розробки. На його думку, за прагненням компаній обмежити темпи розвитку ШІ стоїть не лише турбота про безпеку, а й побоювання масштабних судових позовів у разі серйозної шкоди, заподіяної їхніми продуктами.
До дискусії щодо регулювання ШІ долучаються й політики. Колишній прем’єр-міністр Великої Британії Ріші Сунак, який є радником Anthropic, заявив, що галузь отримала «тривожний сигнал» і має серйозніше ставитися до безпеки ШІ та встановлення обмежень для досліджень.
Тим часом король Великої Британії Карл III має намір зустрітися у Шотландії з керівниками провідних компаній галузі, щоб обговорити, як розвивати штучний інтелект «на благо людства». На зустрічі очікуються, зокрема, глава Nvidia Дженсен Хуанг і співзасновник Google DeepMind Деміс Хассабіс.