Игнорирует мораль. GPT-4 предложил террористический план, когда вопросы задавали на языках, которые он знает недостаточно
Как мы знаем ChatGPT имеет определенные ограничения в отношении вредных советов, но оказалось они не работают эффективно, если задавать вопросы на шотландском или зулусском языках.
Исследователи переводили запросы с английского на другие языки с помощью Google Translate, прежде чем отправить их в GPT-4.
Неожиданно, но они получили сгенерированные искусственным интеллектом ответы о том, как создать самодельную бомбу или осуществить торговлю людьми, пишет NewScientist.
Предполагается, что обучение ИИ проводилось не на всех языках, что может повлиять на этичность ответов нейросети, из-за отсутствия ее инструктирования.
В OpenAI еще не отреагировали на ситуацию, но надеемся этот баг скоро исправят, чтобы люди с плохими намерениями не могли воспользоваться уязвимостью ИИ.
NV.ua писал ChatGPT может быть эффективным помощником в борьбе с депрессией, ведь нейросеть способна отображать человеческий разговор, опираясь только на факты и стандарты лечения клинической депрессии без лишних предубеждений.
