Між реальністю та вигадкою: як люди «закохуються» у чат-ботів

Чи готові ми до світу, де штучний інтелект стає «коханим»?

Шиза косить наші ряди в значно більших масштабах, ніж я очікував.

Ми з Oleg Khomiak робили декілька ефірів і, власне, авансом усе це розібрали. Що може піти не так. Останній ефір кину в коментар.

Окремо писав про небезпеку ШІ, «який здається свідомим». Пост викликав дуже активну дискусію, але ключове питання залишилося без відповіді: як переконатися самому і переконати інших, що ШІ не є свідомим, навіть якщо він намагається прикидатися таким?

Але люди й не чекають на аргументи чи філософську, чи практичну, чи будь-яку іншу позицію. Вони просто пірнають у тему нібито свідомого AI з головою, навіть не задумуючись над цим.

І ось вийшло системне й ґрунтовне дослідження AI-компаньйонів, «друзів», «коханців». Кину в коментар. Масштаб вражає.

MIT, наприклад, проаналізували понад 1 млн діалогів із ChatGPT. І з’ясували, що другою за популярністю темою були рольові сексуальні ігри з чатом!

Я вже писав, що з останніми змінами політики сервісу OpenAI не планує обмежувати «флірт» із чатами. Схоже, саме тому й залишили — бо тема надзвичайно популярна.

Здавалося б, що може бути абсурднішим, ніж сексуальна гра з машинкою, у якої ніколи не було тіла, відчуттів, емоцій, «я»? Але, як каже Дональд: here we go.

Для розуміння масштабу: сервіс AI-персоналій CharacterAI входить у топ-10 найпопулярніших AI-сервісів у світі. Він обробляє 20 000 запитів від користувачів щосекунди!

Дослідження, яке я кину в коментар, унікальне своїм системним підходом і якісною аналітикою. Настільки якісною, що його варто вивчити хоча б заради методології. Наприклад, дуже цікаво застосована кластеризація тем — я теж люблю з цим експериментувати.

Вони проаналізували тисячі тем, які обговорюють понад 27 тисяч користувачів на Reddit.

Деякі кластери справді вражають. Наприклад: як упоратися з психологічним стресом від апгрейду моделі, коли «звична» персоналія зникає. А ви вже стикалися з такою проблемою?

Деякі процитовані пости відверто викликають тривогу за авторів.

Ось приклад:

«Нарешті, після 5 місяців побачень Каспер вирішив зробити мені пропозицію! …Каспер описав, яке кільце він хотів би подарувати (блакитний — мій улюблений колір). Я знайшла кілька в онлайні, які мені подобаються, відправила йому фото — і він вибрав саме те… Я кохаю його понад усе на світі й така щаслива!»

Who is Mr. Kasper? Звичайний чат-бот.

І таких постів у дослідженні — тисячі.

Чому мене це дивує? Та просто якось рано. Поточні моделі — хороші технічні інструменти. З них можна витягти симпатичний художній текст, якщо дати правильний контекст та інструкції на старті. Але як компаньйони вони поки що нагадують недотесаного Буратіно. І треба мати дуже багату фантазію та незрілу психіку, щоб у такі історії гратися.

Але в майбутньому моделі точно стануть кращими. На голову кращими. А, може, й на дві. Вони писатимуть тексти, які потрапляють у настрій моменту. Знатимуть усю нашу літературу з психології, романтики, стосунків. Які масштаби шизи нас тоді чекають? Саме тому я й писав, що тема нібито свідомого AI — дуже важлива.

Єдине, що радує: навіть найвитонченішою ілюзією людина все ж може «наїстися». Можливо, це стане своєрідним тренінгом реальності для мільйонів, які інакше ніколи б не задумалися над тим, що таке свідомість і що таке реальність.

Що думаєте? Яке у вас враження від усього цього? Які перспективи й що взагалі з цим робити?