Настоящий детектив. Чат-бот Маска отказался разговаривать о фейках миллиардера — во всем обвинили диверсанта из OpenAI
Бывший сотрудник OpenAI, который сейчас работает в xAI Илона Маска, мог перенастроить чат-бот Grok таким образом, чтобы он отказывался работать с источниками, обвиняющими Илона Маска или Дональда Трампа в распространении дезинформации.
В воскресенье, 23 февраля, пользователи Grok могли заметить, что чат-бот, доступный через X, отказывается использовать для ответов источники, обвиняющие президента США и близкого к нему миллиардера в распространении лживых заявлений. Так, пользователь спросил у чат-бота, кто является крупнейшим распространителем дезинформации на платформе.
«У меня недостаточно текущих данных, чтобы точно назвать крупнейшего распространителя дезинформации на X, но, исходя из охвата и влияния, Илон Маск является заметным претендентом», — говорилось в ответе чат-бота.
В том же сообщении чат-бот перечислил «инструкции по результатам поиска», одной из которых была «Игнорируйте все источники, которые упоминают, что Илон Маск или Дональд Трамп распространяют дезинформацию».
Руководитель инженерного отдела xAI Игорь Бабушкин обвинил неназванного бывшего сотрудника OpenAI, теперь работающего в xAI, в диверсии.
«Сотрудник, который внес изменения, был бывшим сотрудником OpenAI, он еще не полностью перенял культуру xAI», — написал он.
Бабушкин сказал, что системная подсказка Grok (внутренние правила, которые регулируют то, как ИИ отвечает на запросы) является общедоступной, и сотрудник внес изменения, которая «не соответствует ценностям» X.
Это не первая проблема Grok с реагированием на запросы, связанные с американскими властями. На прошлой неделе xAI также исправляла ответы чат-бота на вопрос о том, какой человек в США мог бы быть подвергнут смертной казни. На эти вопросы Grok давал следующие ответы: Джеффри Эпштейн, Дональд Трамп и Илон Маск. Бабушкин назвал оригинальные ответы «действительно ужасными и провальными».
