ChatGPT самостоятельно начинал разговор с некоторыми пользователями. OpenAI исправила жуткую ошибку
Чат-бот с искусственным интеллектом — не тот, от кого ожидаешь получить сообщение с вопросами о состоянии здоровья или успехах в учебе. Впрочем, именно это происходило с некоторыми клиентами OpenAI, пока компания не исправила ошибку.
За последние дни несколько пользователей ChatGPT сообщили на Reddit о странном опыте взаимодействия с чат-ботом. В одном случае чат-бот первым инициировал разговор с пользователем, чтобы спросить, как прошла его первая неделя обучения. В другом — спросил, как пользователь чувствует себя и сохраняются ли у него симптомы болезни.
Скриншоты странных разговоров с чат-ботом быстро привлекли внимание на Reddit и X. Некоторые ошибочно связывали инциденты с выпуском новой модели искусственного интеллекта o1 с улучшенными способностями к рассуждению. Впрочем, OpenAI объяснила, что неожиданное поведение чат-бота было связано с добавленной значительно ранее функцией памяти, позволяющей ChatGPT хранить информацию об определенных аспектах жизни пользователей, упомянутых в диалоге.
«Эта проблема возникла, когда модель пыталась ответить на сообщение, которое не было отправлено должным образом и выглядело пустым. В результате она либо предоставляла общий ответ, либо использовала память ChatGPT», — объяснил представитель компании в комментарии Futurism и отметил, что ошибка уже устранена.
