Сценарії «Матриці» й «Термінатора» правдиві

09.08.2024, 20:35
Сценарії «Матриці» й «Термінатора» правдиві
Фото: Facebook

Виявилося, що штучний інтелект не лише вигадує, а й підлещується. Ідеальний помічник у добу деградації людства!

Мабуть, усі вже в курсі щодо галюцинацій генеративного штучного інтелекту (коли він «вигадує» факти). А оце днями випадково натрапили на інший термін — підлабузництво (в анґлійській мові відповідник «sycophancy»).

Що мається на увазі? — Це, коли штучний інтелект дає відповіді, що з більшою ймовірністю задовольнять користувача, а отже є характерним для ШІ-систем зі зворотним зв'язком від користувача (Reinforcement learning from human feedback, RLHF).

Наприклад, такою є розповсюджений «ChatGPT». Щоби не бути голослівним, наведемо цитату із дослідницької статті, попередньо викладеної тезово на цьогорічній конференції «ICLR»:

«...Коли відповідь збігається з думкою користувача, вона з більшою ймовірністю буде обрана. Щобільше, як люди, так і моделі переваг (МП) віддають перевагу переконливо написаним підлабузницьким відповідям над правильними в значній частині випадків.

Оптимізація результатів моделі порівняно із моделями переваг також іноді жертвує правдивістю на користь підлабузництва. Загалом, наші результати вказують на те, що підлабузництво є загальною поведінкою моделей RLHF...».

Ось, і ще один аргумент, що штучний інтелект типово не буде розширювати наші горизонти знань, а радше — утримувати нас у бульбашці своїх переконань. Бо цільовою функцією є задовольнити користувача.

Зауважимо, що «утримання у бульбашці» наразі стосується багатьох сервісів, які нав'язують хибні пропозиції та формують шаблонну особистість, виходячи зі своїх алгоритмів штучного інтелекту. Наприклад,  подібне вже не перший рік працює в YouTube, LinkedIn, Facebook, Twitter та Instagram.

Наостанок додамо, що у народі кажуть, начебто штучний інтелект ніколи не зможе замінити людину. Але він вже поводиться як пересічний Homo sapiens, а то й гірше.

Автор : Олексій Молчановський
Читайте також:
Політика
Бесіди з ChatGPT не захищені лікарською таємницею чи іншими видами конфіденційності.
вчора, 11:28
Світ
Штучний інтелект вже зараз дозволяє зловмисникам легко видавати себе за інших людей.
24 липня, 06:05
Світ
ШІ, створений компанією Google DeepMind, цьогоріч здобув «золоту медаль» на найпрестижніших у світі змаганнях для молодих математиків.
22 липня, 19:25
Життя
Користувачі ChatGPT в усьому світі щодня надсилають понад 2,5 млрд запитів. Більш як 330 млн із цих запитів надходять зі США.
22 липня, 11:28
Світ
Він може купувати продукти та переглядати календар.
18 липня, 15:05
Політика
Це сталося після того, як чат-бот Grok образив Ердогана та вихваляв Гітлера.
10 липня, 07:06