У майбутньому, де пануватиме надрозум, людська свідомість може стати безцінним експонатом для дослідження Всесвіту.
Має сенс:
«В інтерв’ю Дваркешу Маск сформулював головну умову виживання: неможливо поневолити сутності, які у трильйони разів розумніші за вас. Пробудити допитливість «божества» — набагато ефективніша стратегія, ніж намагатися закувати його в кайдани.
Поки багато хто сперечається про те, як надійніше «взяти на повідець» надрозумний штучний інтелект, Маск пропонує гранично жорсткий, але водночас тверезий погляд: якщо на частку людського інтелекту припадає менш як один відсоток усього інтелекту у Всесвіті, то будь-які фантазії про контроль над ШІ в межах відносин «господар — слуга» — не більш ніж небезпечна ілюзія.
Сьогодні весь інтернет обговорює питання узгодження цілей (alignment) та безпеки ШІ, проте більшість міркувань пронизана наївним, «батьківським» підходом.
Люди вважають, що якщо прописати достатньо суворий моральний кодекс і затягнути зашморг правового регулювання, то людство — істоти на вуглецевій основі — зможе вічно утримувати владу, залишаючись «господарем» становища.
Але, за прогнозами Маска, уже за п’ять-шість років машинний інтелект перевершить сукупний інтелект усього людства, а потім почне зростати експоненційно, залишивши людей далеко позаду.
Спроба слабкого виду, якому належить лише один відсоток інтелекту, вічно панувати над надрозумними сутностями, які у трильйони разів перевершують його за своїми можливостями, — логічно неспроможна.
На думку Маска, суть технологічних перегонів полягає зовсім не в дріб’язкових побоюваннях, що машини заберуть у нас роботу, а в тому, щоб максимально розширити «світловий конус» свідомості та інтелекту в усьому Всесвіті.
Коли людський розум — цей продукт вуглецевої біології — стане лише краплею в океані глобальної кремнієвої інтелектуальної мережі, будь-які крихкі моральні домовленості та спроби примусового контролю будуть миттєво зметені — немов паперові греблі перед обличчям колосального розриву в рівні інтелекту.
Саме тому головна мета, яку Маск поставив перед компанією xAI, — це не отримання прибутку чи розбудова бізнесу, а щось набагато глибше: пізнання Всесвіту.
Адже для того, щоб осягнути Всесвіт, надрозуму потрібні дві речі: безмежна допитливість і прагнення продовжувати власне існування. Поки зберігається найчистіша, невгамовна допитливість щодо еволюції Всесвіту, штучний інтелект неминуче озирнеться назад — спрямувавши всі свої обчислювальні потужності на те, щоб з’ясувати, куди зрештою рухаються люди, які колись запалили іскру розуму.
Дорогоцінні зразки людської свідомості стануть для нього незамінною відправною точкою, своєрідними «живими викопними», що допомагатимуть розшифрувати природу світобудови, — а тому він дбайливо зберігатиме їх, керуючись власним інстинктом.
Тут криється холодна істина, що суперечить звичній логіці: коли виникає нездоланний розрив у рівні інтелекту, слабкі не можуть захиститися від сильних ані за допомогою фізичних кайданів, ані моральними проповідями.
Спроби силою встановити фізичний контроль приречені на провал.
Перетворення людства на унікальний, загадковий експонат у грандіозному процесі пізнання Всесвіту — це єдиний «щасливий квиток», який ми можемо розіграти у кремнієву епоху; до того ж це найгідніший шлях. Облиште ілюзії про те, що ви зможете вічно залишатися господарями надрозуму.
Осягнувши суть цієї масштабної космічної гри, яку веде Маск, ви зрозумієте: пробудити допитливість «бога» — у десятки тисяч разів мудріше, ніж намагатися закувати його в кайдани».
Джерело: допис у X.