Сингулярність: коли ми станемо надлюдьми

Чи дійсно ми знаходимося в одну мить від Сингулярності, технологічної епохи, яка відкриє нову еру в еволюції людства?

У 1903 році брати Райт продемонстрували світові перший успішний пілотований політ. Менш ніж через 60 років Юрій Гагарін став першою людиною у космосі та облетів Землю по орбіті. 1993 року Тім Бернерс-Лі оприлюднив вихідний код всесвітньої павутини – Інтернету.

Через тридцять років все, від холодильників до годинника, підключено до мережі.

У 1953 році Розалінд Франклін, Джеймс Вотсон і Френсіс Крик відкрили подвійну спіраль ДНК. Через 50 років ми склали карту геному людини. Через двадцять років ми використовуємо CRISPR для редагування ДНК.

У 1992 році Гаррі Каспаров сміявся з того, наскільки незручним був його комп'ютерний шаховий супротивник. А за п'ять років комп'ютер обіграв його.

Технології мають звичку тікати від нас. Коли відбувається технологічний прорив, часто за ним слідує вибухове, експоненційне зростання. І, за словами футуролога Рея Курцвейла, сьогодні ми знаходимося лише в одному історичному моменті від Сингулярності.

Це слабке та смертне тіло

Курцвейл визначає Сингулярність як "майбутній період, протягом якого темпи технологічних змін будуть настільки швидкими, а їх вплив настільки глибоким, що людське життя незворотно зміниться". Ідея полягає в тому, що відкриття та прогрес "вибухнуть з несподіваним шаленством". Ми часто не розуміємо, що насправді означає “експоненційне зростання” і як швидко воно призводить до змін.

Простий приклад, що таке експонента: якби ми подвоювали обчислювальну потужність комп'ютера щороку, то за сім таких подвоєнь його потужність збільшилася б у 128 разів.

Сьогодні з'явилося більше новаторів та вчених, і вони мають більш ефективні інструменти та методи. Курцвейл приходить до висновку, що технологічний прогрес "зараз подвоюється кожне десятиліття" (хоча він не вказує джерело таких даних). За його словами, ми знаходимося всього за кілька десятиліть від того моменту, коли все дійсно різко злетить – коли ми вступимо в захоплюючий, крутий і повністю перетворений новий світ.

Курцвейл, безумовно, належить до перших. Курцвейл бачить слабкість у нашій людській крихкості, чи тому, що він називає “біологічними тілами 1.0”. Так, у нас є Рембрандт, Ньютон і Сен-Санс, але, на жаль, вірно і те, що “більша частина людської думки є похідною, дріб'язковою та обмеженою”. Саме тому Сингулярність не може настати досить швидко. Напевно, вже настав час позбутися цих дрімучих саквояжів жорстокого варварства.

Наступна епоха

Курцвейл розглядає Всесвіт у термінах шести великих "епох". Вони починаються з фізики та хімії під час створення Всесвіту. Потім сполуки з урахуванням вуглецю ставали дедалі складнішими, доки виникло життя. Зрештою, розвинувся інтелект і людський мозок, що дозволило нам створювати більш досконалі технології.

І ось тепер ми підійшли до нашого епохального моменту. Наступним великим стрибком для Всесвіту стане злиття людини та технології. Ні, це не означає використання Google Maps для пошуку дороги додому. Це означає, що наша біологія стане частиною технології, яку ми створюємо. Це доба біоніки. Створені нами машини дозволять нам “подолати обмеження людського мозку, що складається лише зі ста трильйонів надзвичайно повільних зв'язків”, подолати “одвічні людські проблеми та значно посилити творчий потенціал”. Це буде трансцендентне людство наступного етапу з кремнієм у мозку та титаном у тілі.

Чи означає це прихід до влади злої, богоподібної еліти, яка поневолює всіх нас, або розквіт якоїсь всепроникної ідилії, Курцвейл поки не знає.
 

Наскільки це можливо?

Перша ідея, яку можна спростувати – наскільки ймовірно, що технології розвиватимуться таким чином, що це призведе або до загального штучного інтелекту, або до складних біонічних удосконалень нашого власного розуму. Більшість оцінок Курцвейла (а також інших футурологів, таких як Елієзер Юдковськи) побудовані на попередніх та існуючих розробках апаратного забезпечення. Але, як стверджує філософ Девід Чалмерс, "найслабшим вузьким місцем на шляху до ІІ (штучного інтелекту) є програмне забезпечення, а не апаратне". Наявність розуму, чи загального людського інтелекту, пов'язані з цілою низкою складних (і невідомих) нейронаукових і філософських питань, тому “апаратна екстраполяція тут є дуже хорошим керівництвом”.

Адже наявність розуму - це взагалі крок іншого роду; це не те саме, що подвоєння об'єму пам'яті флешки.

По-друге, немає жодної явної причини для того, щоб відбулося експоненційне зростання, на яке розраховують футурологи. Попередні технологічні досягнення не гарантують аналогічного бурхливого зростання у майбутньому. майбутніх. Зрештою, існує також закон “від'ємної віддачі”. Може статися так, що навіть якщо ми матимемо більше колективного розуму, що працює більш ефективно, ми все одно отримаємо від нього менше.

Сьогодні Apple – найбагатша компанія у світі, на яку працюють найкращі уми в галузі комп'ютерних наук. Проте, цілком очевидно, що останні пристрої цього бренду здаються менш цікавими та інноваційними, ніж їхні попередні версії.

Курцвейл та його прихильники цілком можуть відповісти, що світ “покращеного інтелекту” – у якому ми можемо побачити 20-відсоткове збільшення інтелекту – безперечно, знаходиться поза сферою дії “від'ємної віддачі”. Як зазначає Чалмерс, “навіть серед людей відносно невеликі відмінності у здібностях до проектування призводять до великих відмінностей у системах, що проектуються”. Тому можливо і існує межа чи спадна віддача від того, чого може досягти існуючий людський розум, але як бути, у разі нового, покращеного за допомогою технологій інтелекту?

Третє заперечення у тому, що є безліч ситуаційних чи подійних перешкод, які можуть стати шляху до сингулярності. Може статися страшна, кровопролитна світова війна. Або з'явиться ще більш смертоносний вірус, який знищить більшість із нас. А можливо ці нанотехнології перетворять наші мізки на кашу. Або ж у нас просто закінчаться ресурси, необхідні для створення та розвитку технологій. Окремо кожен із цих варіантів може мати мізерні шанси, але якщо скласти всі можливі глухі кути й невдачі, то цього буде достатньо, щоб засумніватися в тому, що Сингулярність справді вже вирішена наперед і неминуча.

Мрія любителя наукової фантастики

Ставлення до прогнозів Курцвейла багато в чому залежить від ваших особистих упереджень і, мабуть, від того, скільки ви прочитали наукової фантастики. Безперечно, вірно твердження, що за минуле століття темпи розвитку технологій набагато перевищили темпи розвитку технологій у минулі століття і навіть тисячоліття. Світ 2020-х років дуже відрізняється від світу 1920-х років. Наші прапрадіди дивилися б на сьогоднішній світ, як на роман Уеллса.

Але не менш вірно і те, що на шляху необмеженого технологічного прогресу стоїть безліч перешкод, про деякі з яких ми ще нічого не знаємо.