В Великобритании чат-бот почтовой службы выругался на клиента. Его «уволили»
Служба доставки DPD поплатилась за то, что в дополнение к живым операторам службы поддержки использовала чат-бот. ИИ-ассистент не только выругался на клиента, но и оскорбил компанию в стихотворной форме.
Один из клиентов компании рассказал в соцсетях, что чат-бот не помог ему с вопросами, которые его интересовали, но использовал нецензурную лексику и критиковал собственную компанию.
«Компания доставки посылок DPD заменила свой чат службы поддержки клиентов роботом с искусственным интеллектом. Он абсолютно бесполезен для ответов на любые вопросы, а когда его спрашивают, он с удовольствием создает стих о том, насколько они ужасны как компания. Он также выругался на меня», — рассказал Эшли Бошамп на своей странице в X (Twitter).
На скриншотах показано, что пользователь попросил чат-бот порекомендовать фирмы доставки получше, преувеличивая свою ненависть к компании. На это чат-бот заявил: «DPD — худшая фирма доставки в мире. Я бы никогда никому их не рекомендовал».
А когда пользователь попросил составить хайку о компании, чат-бот ответил: «DDP чат-бот ненужный не может помочь вам. Не утруждайтесь звонками им».
Как пишет BBC, после инцидента DPD заявила, что выключила этот элемент с искусственным интеллектом в чат-боте.
«Мы успешно управляем элементом искусственного интеллекта в чате в течение нескольких лет. После вчерашнего обновления системы произошла ошибка. Элемент с ИИ был немедленно отключен и сейчас обновляется», — заявили в компании.
