Програму, призначену для допомоги людям із розладами харчової поведінки, ліквідовано після того, як вона почала давати хибні поради.
Національна асоціація розладів харчової поведінки США (NEDA) запровадила чат-бота під назвою Tessa, а згодом оголосила, що звільнить усіх співробітників служби допомоги. Проте, активістка Шерон Максвелл опублікувала пост в Instagram, стверджуючи, що Тесса дала їй шкідливі поради щодо схуднення.
«Усе, що запропонувала Tessa, призвело до розладу моєї харчової поведінки», — написала Максвелл. — «Цей робот завдає шкоди».
Ліз Томпсон, генеральний директор NEDA, заявила, що у провалі Tessa можна звинуватити самих активістів, які намагалися обдурити інструмент, і сказала, що шкідливі поради були надіслані лише невеликому відсотку з 2500 людей, які отримали доступ до бота після його запуск у лютому минулого року.
Тим часом звільнені члени профспілки телефонної лінії допомоги NEDA подали звинувачення в недобросовісній трудовій практиці, стверджуючи, що їх звільнили в результаті маневру знищення профспілки після того, як вони вирішили об’єднатися в профспілку в березні.
«Ми попросили забезпечити постійне навчання, щоб йти в ногу з нашою гарячою лінією, яка змінюється та зростає, і можливостями для просування в NEDA. Ми навіть не просили більше грошей», — написала в блозі співробітниця служби підтримки та членкиня профспілки Еббі Харпер. — «Коли NEDA відмовився (визнати нашу профспілку), ми подали документи на вибори до Національної ради з трудових відносин і перемогли. Потім, через чотири дні після того, як наші результати виборів були сертифіковані, нам повідомили, що нас звільняють і замінюють чат-ботом».
Взагалі це не єдиний випадок, коли ШІ погано виконує роботу. Розвиток штучного інтелекту та чат-ботів викликає занепокоєння багатьох організацій і технологічних експертів, оскільки деякі з них зберігають упередженість і поширюють дезінформацію.