Чи готові ми до світу, де штучний інтелект стає «коханим»?
Шиза косить наші ряди в значно більших масштабах, ніж я очікував.
Ми з Oleg Khomiak робили декілька ефірів і, власне, авансом усе це розібрали. Що може піти не так. Останній ефір кину в коментар.
Окремо писав про небезпеку ШІ, «який здається свідомим». Пост викликав дуже активну дискусію, але ключове питання залишилося без відповіді: як переконатися самому і переконати інших, що ШІ не є свідомим, навіть якщо він намагається прикидатися таким?
Але люди й не чекають на аргументи чи філософську, чи практичну, чи будь-яку іншу позицію. Вони просто пірнають у тему нібито свідомого AI з головою, навіть не задумуючись над цим.
І ось вийшло системне й ґрунтовне дослідження AI-компаньйонів, «друзів», «коханців». Кину в коментар. Масштаб вражає.
MIT, наприклад, проаналізували понад 1 млн діалогів із ChatGPT. І з’ясували, що другою за популярністю темою були рольові сексуальні ігри з чатом!
Я вже писав, що з останніми змінами політики сервісу OpenAI не планує обмежувати «флірт» із чатами. Схоже, саме тому й залишили — бо тема надзвичайно популярна.
Здавалося б, що може бути абсурднішим, ніж сексуальна гра з машинкою, у якої ніколи не було тіла, відчуттів, емоцій, «я»? Але, як каже Дональд: here we go.
Для розуміння масштабу: сервіс AI-персоналій CharacterAI входить у топ-10 найпопулярніших AI-сервісів у світі. Він обробляє 20 000 запитів від користувачів щосекунди!
Дослідження, яке я кину в коментар, унікальне своїм системним підходом і якісною аналітикою. Настільки якісною, що його варто вивчити хоча б заради методології. Наприклад, дуже цікаво застосована кластеризація тем — я теж люблю з цим експериментувати.
Вони проаналізували тисячі тем, які обговорюють понад 27 тисяч користувачів на Reddit.
Деякі кластери справді вражають. Наприклад: як упоратися з психологічним стресом від апгрейду моделі, коли «звична» персоналія зникає. А ви вже стикалися з такою проблемою?
Деякі процитовані пости відверто викликають тривогу за авторів.
Ось приклад:
«Нарешті, після 5 місяців побачень Каспер вирішив зробити мені пропозицію! …Каспер описав, яке кільце він хотів би подарувати (блакитний — мій улюблений колір). Я знайшла кілька в онлайні, які мені подобаються, відправила йому фото — і він вибрав саме те… Я кохаю його понад усе на світі й така щаслива!»
Who is Mr. Kasper? Звичайний чат-бот.
І таких постів у дослідженні — тисячі.
Чому мене це дивує? Та просто якось рано. Поточні моделі — хороші технічні інструменти. З них можна витягти симпатичний художній текст, якщо дати правильний контекст та інструкції на старті. Але як компаньйони вони поки що нагадують недотесаного Буратіно. І треба мати дуже багату фантазію та незрілу психіку, щоб у такі історії гратися.
Але в майбутньому моделі точно стануть кращими. На голову кращими. А, може, й на дві. Вони писатимуть тексти, які потрапляють у настрій моменту. Знатимуть усю нашу літературу з психології, романтики, стосунків. Які масштаби шизи нас тоді чекають? Саме тому я й писав, що тема нібито свідомого AI — дуже важлива.
Єдине, що радує: навіть найвитонченішою ілюзією людина все ж може «наїстися». Можливо, це стане своєрідним тренінгом реальності для мільйонів, які інакше ніколи б не задумалися над тим, що таке свідомість і що таке реальність.
Що думаєте? Яке у вас враження від усього цього? Які перспективи й що взагалі з цим робити?