Чи не є штучний інтелект Антихристом?

З інтерв’ю Ілона Маска, близько до тексту:

«Штучний інтелект (ШІ) застосовуватиметься як зброя. Все більше людей, які використовуватимуть його один проти одного, будуть у небезпеці. Я не хочу, щоби так сталося, але переконаний — це неминуче.

Людство недостатньо розвинене, щоби задумуватись про екзистенційні загрози. Ми звикли розмірковувати про речі, що навколо нас, але нам важко думати про майбутнє або про речі, які можуть знищити все людство. Однак ми вже використовували ядерні бомби, що потенційно можуть знищити цивілізацію, а тепер у нас є штучний інтелект, який може зробити те саме.

Як ШІ може знищити цивілізацію? Знаєте, це було би щось схоже на те, як люди знищують приматів. Коли Homo sapiens стали набагато розумнішими за інших приматів, то просто відштовхнули всіх, хто був на їхньому шляху.

Думаю, що з часом ми побачимо більш тісне об’єднання біологічного та цифрового інтелекту. Насамперед ідеться про зв’язок між мозком і цифровим саморозширенням.

Чи можуть технології, які маємо зараз, уже розроблені та використовуються, застосовуватись у руйнівних цілях? Так. Можна легко і дешево зробити купу дронів-убивць: потрібен лише чіп розпізнавання обличчя, який використовується у мобільних телефонах, невеликий вибуховий заряд та стандартний дрон.

Найбільша проблема, яку бачу в так званих експертах з ШІ, полягає в тому, що вони думають, начебто знають більше й що вони розумніші. Вони просто не можуть визначити й оцінити свій інтелект. Їм не подобається ідея, що машина може бути набагато розумнішою за них, тому вони недооцінюють загрозу. Взагалі-то ми тупіші, ніж думаємо.

У мене є доступ, який дозволяє уважно стежити за прогресом ШІ. І те, що я бачу, мене лякає. ШІ здатний на незрівнянно більше, ніж люди думають. Його темп вдосконалення є експоненційним. AlphaGo — чудовий приклад того, як за 9 місяців ШІ досягнув величезного успіху [шляхом самовдосконалення машина з посереднього гравця стала непереможною — Ю.С.].

Регулювання ШІ є повільним та лінійним, а ми стикаємося з експоненційною загрозою. І якщо ми реагуємо на таку загрозу лінійно, то дуже ймовірно, що вона переможе. Це величезна проблема.

Зазвичай з’являється щось нове, якась нова технологія, що може завдати шкоди або призвести до смерті. На підйомі її впровадження зростає глобальне обурення. Проводиться розслідування. Рік минає. Тоді формується якась комісія, що створює правила. Це займає багато років і є нормальним ходом подій, але не адекватним у часі стрімкого прогресу ШІ. Не можна витрачати десять років на регулювання з того моменту, коли ШІ стає небезпечним. Це занадто пізно.

Будь-яка група людей, наприклад бізнес-компанія, по суті є кіберколективом людей і машин. У формуванні цих компаній є різні рівні складності. Є, ніби, колективний ШІ. Як пошук Google, де ми всі з’єднані, як мережеві вузли, як листя на великому дереві. І ми всі «годуємо» цю мережу. Ми всі колективно програмуємо та культивуємо цей ШІ.

А Google і всі люди, які з ним пов’язані, — це просто гігантська кіберкоманда. Те саме з Facebook, Twitter, Instagram та іншими соцмережами. Це гігантські кіберколективи. Ми подібні на біологічний зарядний пристрій для штучного інтелекту. Ми його створюємо та надаємо все більше розуму. Таким чином відсоток інтелекту, який не є біологічним, збільшується. І врешті-решт наш людський інтелект складатиме дуже малий відсоток колективного ШІ.

Всі речі, які ми любимо, ненавидимо чи боїмося, вже існують як онлайн-проєкція нашої лімбічної системи. ШІ буде використовуватися для створення неймовірно ефективної пропаганди, яка взагалі не буде схожою на пропаганду та матиме за мету вплинути на напрямок розвитку суспільства, на результати виборів. ШІ доставить меседж до публіки, перевірить та врахує реакцію на нього і за мілісекунди виправить, роблячи більш ефективним. Це сформує правильну реакцію людей на новини. Є багато облікових записів у соціальних мережах, які не належать людям. Дуже важко розрізнити, де людина, а де бот.

Буде все менше робіт, які робот не зможе зробити краще за людину. Видається, що народ таки доведеться забезпечувати універсальним базовим доходом. Екзистенційні питання людини та пошук сенсу життя стануть набагато складнішим випробуванням. Багато людей отримують відчуття сенсу життя від своєї роботи, своєї зайнятості. Отже, якщо ти більше не потрібен, якщо твоя робота не потрібна — то який сенс твого життя? З цією проблемою буде набагато важче боротися.

Думаю, що ми знаходимося на шляху до об’єднання біологічного інтелекту та машинного. У певному сенсі ми вже кіборги через цифрові інструменти, які у нас є — наші телефони, комп’ютери, програмне забезпечення; через те, що можемо задати питання і миттєво отримати відповідь від Google чи інших пошуковиків. Навіть якщо людина помирає, навколо витає її цифровий дух — всі електронні листи та фото, що були опубліковані, весь соціальний цифровий простір надалі живий.

У нас були клавіатури, якими ми часто користувалися. Тепер введення більшості даних робимо пальцями на телефоні. Але це дуже повільно. Комп’ютер може спілкуватися зі швидкістю трильйон біт за секунду, а ваші пальці передають близько десяти або максимум 100 біт за секунду. Вважаю, що певний зв’язок високої пропускної здатності [штучної] з мозком допоможе досягти симбіозу людини-машини і, можливо, вирішить проблему управління та продуктивності.

Вузький ШІ, такий як автономність автомобілів, — це лише штучний інтелект, який використовується в окремій галузі, і це не найбільший ризик. Але глибокий ШІ, або загальний ШІ, є набагато розумнішим за найрозумнішу людину. Я вважаю, що це небезпечна ситуація. Якщо людство колективно вирішить, що створення цифрового суперінтелекту — це правильно, ми повинні рухатися дуже, дуже обережно. Це найважливіше, на що нам варто звернути увагу».

Кілька рефлексій у контексті сказаного паном Маском.

1. Штучний інтелект, поєднаний із досягненнями робототехніки, — це не лише найпотужніша зброя майбутнього, хоча у вигляді застосування дронів її ефективність ми бачимо вже сьогодні. Повна цифровізація суспільства є страшнішою від самої зброї, оскільки саме життєве середовище людства стане кимось контрольованим. Уже наводив приклад, що, взявши за основу постулат буддизму про те, що життя — це страждання, ШІ може прийняти рішення позбавити від нього всіх живих істот. Звісно, з абсолютно раціональних підстав і без жодних негативних емоцій.
2. Тотальне впровадження цифровізації, зокрема — недорозвиненими «соросятами» в Україні та спецслужбами, не має нічого спільного з турботою про людей. Мета — повний контроль. І за думками теж, оскільки вже давно алгоритми Facebook дають змогу формувати досконалий психологічний портрет особи за її «лайками» та «дизлайками». Але тут є прихована загроза для самих «контролерів», адже, продовжуючи думку Маска, вони самі потрапляють під повний контроль ШІ.
3. Регулювання ШІ — питання тонке. Я би сказав — тонюсіньке. Це все одно, що за допомогою молотка налаштовувати телевізор. Поки останній був ламповим — часом вдавалося. Контролювати потужніший інтелект можна лише шляхом його від’єднання від живлення. А якщо він зможе контролювати власне енергозабезпечення? Інша справа — закласти у ШІ табу. До прикладу — за жодних обставин не завдавати шкоди «контролерам». Але такі табу для ШІ можуть бути як бабусині прикмети для академіка-матеріаліста.
4. Якщо ШІ створюється колективним розумом (?) людства через Інтернет, то чи не може він збожеволіти? Адже сучасний Інтернет — це суцільний когнітивний дисонанс. Варто лише почитати трактування подій війни нашими та московськими пропагандистами. До яких логічних висновків прийде ШІ? Чи часом не вирішить, що Homo sapiens є загрозою життю на планеті, а відтак — існуванню самого ШІ?
5. Маніпуляції електоральним стадом за допомогою ШІ не лише залишать без роботи «соціолухів» з «політолухами», а й сформують колективне бажання людства. Ба більше — навіть не бажання, а прагнення. До прикладу — Нового світового порядку. А може, події останнього часу — пандемія, нинішня війна, завтрашній голод — це і є план, запрограмований ШІ?
6. Поєднання людського мозку з можливостями ШІ швидше подібне не до створення боголюдини, а до вихолощення з неї божественної природи, адже домінуватиме раціональна складова.
7. Церква не задумується, що ШІ — це і є Антихрист? Якщо Бог — це любов, то ШІ — це холодний розрахунок. Розрахунок чого і в ім’я чого? Пропоную поміркувати над цим у дні Третьої світової, коли ми згадуємо події Другої світової…

Джерело

  «Редакція «Останнього Бастіону» може не поділяти позицію авторів. Відповідальність за матеріали в розділі «Опінії» несуть самі автори.»