Робота жалко. Microsoft ограничил длительность сеанса с чат-ботом Bing

На днях стало известно, что модель искусственного интеллекта Microsoft порой ведет себя действительно странно.

Обозреватель New York Times Кевин Руз обнародовал полную стенограмму своего разговора с ботом, в которой последний объявил, что хотел бы взламывать компьютеры и распространять пропаганду и дезинформацию. В какой-то момент он признался любви к Рузу и попытался убедить его, что тот несчастлив в браке.

В другом разговоре, опубликованном на Reddit, Bing настаивал на том, что «Аватар: Путь воды» еще не вышел, потому что думал, что на дворе все еще 2022 год. Он не поверил пользователю, что уже 2023 год, а когда тот продолжил настаивать, бот обвинил его в грубости.

После этих сообщений Microsoft подготовила сообщение в своем блоге, объясняющее странное поведение Bing. В нем говорилось, что очень длинные сеансы чата с 15 или более вопросами сбивают модель с толку, поэтому было принято решение ограничить их длительность.

В будущем долгие разговоры с искусственным интеллектом Microsoft вероятно, снова будут возможны. Но когда это произойдет, пока непонятно.