Created with Sketch.

Сценарії «Матриці» й «Термінатора» правдиві

09.08.2024, 20:35
Фото: Facebook

Виявилося, що штучний інтелект не лише вигадує, а й підлещується. Ідеальний помічник у добу деградації людства!

Мабуть, усі вже в курсі щодо галюцинацій генеративного штучного інтелекту (коли він «вигадує» факти). А оце днями випадково натрапили на інший термін — підлабузництво (в анґлійській мові відповідник «sycophancy»).

Що мається на увазі? — Це, коли штучний інтелект дає відповіді, що з більшою ймовірністю задовольнять користувача, а отже є характерним для ШІ-систем зі зворотним зв'язком від користувача (Reinforcement learning from human feedback, RLHF).

Наприклад, такою є розповсюджений «ChatGPT». Щоби не бути голослівним, наведемо цитату із дослідницької статті, попередньо викладеної тезово на цьогорічній конференції «ICLR»:

«...Коли відповідь збігається з думкою користувача, вона з більшою ймовірністю буде обрана. Щобільше, як люди, так і моделі переваг (МП) віддають перевагу переконливо написаним підлабузницьким відповідям над правильними в значній частині випадків.

Оптимізація результатів моделі порівняно із моделями переваг також іноді жертвує правдивістю на користь підлабузництва. Загалом, наші результати вказують на те, що підлабузництво є загальною поведінкою моделей RLHF...».

Ось, і ще один аргумент, що штучний інтелект типово не буде розширювати наші горизонти знань, а радше — утримувати нас у бульбашці своїх переконань. Бо цільовою функцією є задовольнити користувача.

Зауважимо, що «утримання у бульбашці» наразі стосується багатьох сервісів, які нав'язують хибні пропозиції та формують шаблонну особистість, виходячи зі своїх алгоритмів штучного інтелекту. Наприклад,  подібне вже не перший рік працює в YouTube, LinkedIn, Facebook, Twitter та Instagram.

Наостанок додамо, що у народі кажуть, начебто штучний інтелект ніколи не зможе замінити людину. Але він вже поводиться як пересічний Homo sapiens, а то й гірше.

Читайте також
Цукерберг заявив про наближення до розробки суперінтелекту від Meta
Світ
Сем Альтман: OpenAI зобов’язана передавати діалоги з ChatGPT владі за запитом суду
Політика
Гендиректор OpenAI розповів про небезпеку, яку несе штучний інтелект
Світ
Штучний інтелект отримав «золоту медаль» на Міжнародній математичній олімпіаді
Світ
Кількість запитів до ChatGPT становить понад 2,5 млрд на день
Життя
OpenAI запустила функцію ШІ-агента в ChatGPT
Світ