Чи варто нам усім хвилюватися?
Кажуть, що Марк Цукерберг почав будувати ранчо Кулау площею 5,5 кв. км на гавайському острові Кауаї ще у 2014 році, пише редакторка BBC з питань технологій Зої Кляйнман.
Про це йдеться у матеріалі BBC.
На території комплексу буде укриття з власним джерелом енергії та їжі. Про це відомо переважно з чуток, адже будівельникам, які там працювали, заборонено розголошувати деталі.
Двометрова стіна приховувала будівництво від цікавих поглядів з сусідньої дороги.
На запитання минулого року, чи будує він бункер на кінець світу, засновник фейсбуку відповів категорично «ні». Підземне приміщення площею близько 500 кв. метрів — це «просто маленьке укриття, підвал», пояснив він.
Утім, чутки це не зупинило, насамперед після того, як він придбав 11 об'єктів нерухомості у місті Пало-Альто в Каліфорнії з підземним простором у 650 кв. метрів.
Хоча, за даними New York Times, у його будівельних дозволах згадуються підвали, дехто з його сусідів називає це бункером. Або печерою кажанів для мільярдера.
Схожі чутки ходять і про деяких інших мільярдерів з Кремнієвої долини, які начебто також скуповують ділянки землі з підземними приміщеннями, які можна перетворити на багатомільйонні розкішні бункери.
Рід Гоффман, співзасновник LinkedIn, згадував якось «підстраховку на випадок апокаліпсиса». Він стверджував раніше, що майже половина супербагатіїв світу так і роблять, а популярним місцем для будинків з бункером є Нова Зеландія.
Тож, чи справді вони готуються до війни, наслідків зміни клімату чи якоїсь іншої катастрофи, про яку решта з нас поки що не знає?
За останні кілька років розвиток штучного інтелекту лише поповнив список потенційних екзистенційних загроз. Багато хто глибоко стурбований швидкістю цього прогресу.
Один із них — Ілля Суцкевер, головний науковець і співзасновник Open AI.
У 2023 році компанія з Сан-Франциско випустила ChatGPT — чатбот, яким тепер користуються сотні мільйонів людей у всьому світі, — і вони швидко працюють над його оновленнями.
Однак вже влітку цього року Суцкевер заявив, що вчені близькі до розробки загального штучного інтелекту (ЗШІ) — етапу, на якому машини досягають рівня людського інтелекту.
На зустрічі Суцкевер запропонував колегам викопати підземні укриття для провідних вчених компанії до того, як цю потужну технологію випустять у світ.
Як повідомляють, він додав: «Ми обов’язково побудуємо бункер, перш ніж випустити загальний штучний інтелект». Хоча кого саме він на увазі під «ми», неясно.
Це проливає світло на парадокс — науковці та лідери у сфері технологій, які наполегливо працюють над створення штучного інтелекту, схоже, бояться того, на що він одного дня буде здатний.
Отже, чи зʼявиться такий інтелект і якщо так, то коли? І чи справді він може стати таким небезпечним для звичайних людей?
Технологічні лідери стверджують, що поява загального штучного інтелекту неминуча. Керівник OpenAI Сем Альтман заявив у грудні 2024 року, що це станеться «швидше, ніж думає більшість людей у світі».
Сер Деміс Хассабіс, співзасновник DeepMind, передбачив, що це станеться в наступні п’ять-десять років, а засновник Anthropic Даріо Амодей минулого року написав, що «потужний ШІ», так він воліє називати новий вид інтелекту, може з’явитися вже у 2026 році.
Інші сумніваються. «Вони постійно змінюють правила», — каже Венді Голл, професорка інформатики з Саутгемптонського університету. «Залежить від того, з ким ви розмовляєте». Ми говоримо телефоном, але я майже відчуваю, як вона закочує очі.
«Наукова спільнота каже, що технологія ШІ дивовижна, — додає вона, — але вона далеко не така, як людський інтелект».
Спочатку потрібна низка «фундаментальних проривів», погоджується Бабак Ходжат, головний технічний директор компанії Cognizant.
Більше того, навряд чи це станеться миттєво. Штучний інтелект — це технологія, що швидко розвивається, вона перебуває в процесі, багато компаній по всьому світу змагаються у розробці власних версій.
Але одна з причин, чому це так захоплює декого в Кремнієвій долині, полягає в тому, що ШІ вважають передвісником чогось більш просунутого — технології, яка перевершить людський інтелект.
Ще в 1958 році виникла концепція «сингулярності», яку посмертно приписували математику угорського походження Джону фон Нейману.
Сингулярність — це момент, коли комп’ютерний інтелект виходить за межі людського розуміння.
Зовсім нещодавно, у книзі 2024 року «Генезис», яку написали Ерік Шмідт, Крейг Манді та покійний Генрі Кіссінджер, досліджується ідея надпотужної технології. Вона стає такою ефективною в ухваленні рішень та лідерстві, що ми зрештою повністю передаємо їй контроль.
Автори стверджують, що це питання коли, а не чи.
Прихильники загального штучного інтелекту та просто штучного інтелекту свято вірять у їхні переваги. Вони стверджують, що вони допоможуть знайти нові ліки від смертельних хвороб, вирішити проблему зміни клімату та створити невичерпне джерело чистої енергії.
Ілон Маск навіть заявив, що надрозумний ШІ може започаткувати еру «загального достатку».
Нещодавно він погодився, що ШІ стане таким дешевим і поширеним, що практично кожен захоче мати «власного персонального R2-D2 та C-3PO» (роботи — персонажі «Зоряних воєн»).
«Кожен матиме доступ до найкращої медицини, їжі, транспорту та всього іншого. Сталий достаток», — захоплено заявив він.
Звичайно, є й моторошний бік. Чи можуть технологію захопити терористи та використати її як потужну зброю? А що як вона сама вирішить, що людство є причиною світових проблем і знищить нас?
«Якщо він стане розумнішим за нас, то ми повинні його стримувати, — попередив Тім Бернерс-Лі, творець Всесвітньої павутини, в інтерв'ю BBC на початку цього місяця.
«У нас має бути опція вимкнути його».
Уряди вже вживають певних заходів. У США, де базується багато провідних компаній зі штучного інтелекту, президент Байден у 2023 зобов’язав фірми ділитися результатами тестів з федеральним урядом. Хоча президент Трамп з того часу скасував частину цього наказу, назвавши його «перешкодою» для інновацій.
Тим часом у Великій Британії два роки тому створили Інститут безпеки штучного інтелекту — дослідницький орган, який фінансує уряд. Інститут має вивчати ризики, які виникають через розвиток штучного інтелекту.
Ну а дехто має власні плани, як захиститися на випадок техапокаліпсиса.
«Ну заява, що ти купуєш будинок у Новій Зеландії - це таке підморгування, мовляв, ми щось знаємо», — казав раніше казав Рід Гоффман. Те саме, мабуть, стосується і бункерів.
Але тут є й людський фактор.
Одного разу я зустріла колишнього охоронця одного мільярдера, у якого був власний бункер. І охоронець тоді сказав мені, якщо апокаліпсис дійсно станеться, першим завданням буде ліквідувати згаданого боса та самим потрапити до бункера.
Здається, він не жартував.
Ніл Лоуренс, професор машинного навчання в Кембриджському університеті, вважає всю цю дискусію нісенітницею.
«Поняття штучного загального інтелекту таке ж абсурдне, як і поняття штучного загального транспортного засобу», — стверджує він.
«На кожен випадок потрібен свій транспорт. Я лечу в Кенію Airbus A350, а щодня в університет їжджу своїм автомобіль, ну а в сусіднє кафе я ходжу пішки… Немає універсального транспортного засобу для цього всього».
Для нього розмови про ЗШІ - це відволікання.
«Мене непокоїть, що нас так захоплюють розповіді великих технологічних компаній про ЗШІ, що ми не розуміємо, як нам покращити життя людей».
Сучасні інструменти штучного інтелекту навчаються на величезному обсягу даних і добре виявляють закономірності. Наприклад, вони можуть побачити ознаки пухлини на сканах, чи зрозуміти слово, яке найімовірніше з’явиться після іншого в певній послідовності.
Але вони не «відчувають», якими б переконливими не здавалися їхні відповіді.
Вінс Лінч, генеральний директор каліфорнійської компанії IV.AI, також обережно ставиться до перебільшених заяв про ЗШІ.
«Це чудовий маркетинг, — каже він. — Якщо ви компанія, яка створює найрозумнішу річ, яка коли-небудь існувала, люди захочуть дати вам гроші».
Він додає: «Це не те, чого можна чекати через два роки. Тут потрібно стільки обчислень, стільки людської творчості, стільки спроб і помилок».
На запитання, чи вірить він у те, що ЗШІ колись матеріалізується, настає довга пауза.
«Я справді не знаю».
У певному сенсі штучний інтелект вже взяв перевагу над людським мозком.
Генеративний інструмент штучного інтелекту може в одну хвилину бути експертом з середньовічної історії, а наступної розв’язувати складні математичні рівняння.
Деякі технологічні компанії кажуть, що вони не завжди знають, чому їхні продукти реагують саме так. Мета стверджує, що є деякі ознаки того, що їхні системи штучного інтелекту вдосконалюються.
Зрештою, однак, незалежно від того, якими розумними стають машини, біологічно людський мозок все одно перемагає.
Він має близько 86 мільярдів нейронів і 600 трильйонів синапсів, що набагато більше, ніж штучні еквіваленти.
Мозку також не потрібно робити паузи між взаємодіями, і він постійно адаптується до нової інформації.
«Якщо ви скажете людині, що за межами Землі виявили життя, вона усвідомить цю інформацію, і це вплине на її світогляд у майбутньому. Натомість велика лінгвістична модель (як-от ChatGPT) знатиме про це тільки, поки ви будете повторювати їй цей факт», — каже техдиректор Cognizant Ходжат.
«Великі лінгвістичні моделі також не мають метапізнання, тобто вони не знають, що вони знають. Люди ж навпаки мають здатність усвідомлювати свої знання».
Це фундаментальна частина людського інтелекту, яку ще належить відтворити в лабораторії.