Чат-бот на основі ШІ надав шкідливі поради щодо дієти
Програму, призначену для допомоги людям із розладами харчової поведінки, ліквідовано після того, як вона почала давати хибні поради.
Національна асоціація розладів харчової поведінки США (NEDA) запровадила чат-бота під назвою Tessa, а згодом оголосила, що звільнить усіх співробітників служби допомоги. Проте, активістка Шерон Максвелл опублікувала пост в Instagram, стверджуючи, що Тесса дала їй шкідливі поради щодо схуднення.
«Усе, що запропонувала Tessa, призвело до розладу моєї харчової поведінки», — написала Максвелл. — «Цей робот завдає шкоди».
Ліз Томпсон, генеральний директор NEDA, заявила, що у провалі Tessa можна звинуватити самих активістів, які намагалися обдурити інструмент, і сказала, що шкідливі поради були надіслані лише невеликому відсотку з 2500 людей, які отримали доступ до бота після його запуск у лютому минулого року.
Тим часом звільнені члени профспілки телефонної лінії допомоги NEDA подали звинувачення в недобросовісній трудовій практиці, стверджуючи, що їх звільнили в результаті маневру знищення профспілки після того, як вони вирішили об’єднатися в профспілку в березні.
«Ми попросили забезпечити постійне навчання, щоб йти в ногу з нашою гарячою лінією, яка змінюється та зростає, і можливостями для просування в NEDA. Ми навіть не просили більше грошей», — написала в блозі співробітниця служби підтримки та членкиня профспілки Еббі Харпер. — «Коли NEDA відмовився (визнати нашу профспілку), ми подали документи на вибори до Національної ради з трудових відносин і перемогли. Потім, через чотири дні після того, як наші результати виборів були сертифіковані, нам повідомили, що нас звільняють і замінюють чат-ботом».
Взагалі це не єдиний випадок, коли ШІ погано виконує роботу. Розвиток штучного інтелекту та чат-ботів викликає занепокоєння багатьох організацій і технологічних експертів, оскільки деякі з них зберігають упередженість і поширюють дезінформацію.
