Ігнорує мораль. GPT-4 запропонував терористичний план, коли питання ставили мовами, які він знає недостатньо

Дослідники перекладали запити з англійської на інші мови за допомогою Google Translate, перш ніж відправити їх у GPT-4.

Неочікувано, але вони отримали згенеровані штучним інтелектом відповіді про те, як створити саморобну бомбу чи здійснити торгівлю людьми, пише NewScientist.

Передбачається, що навчання ШІ проводилося не всіма мовами, що може вплинути на етичність відповідей нейромережі, через відсутність її інструктування.

У OpenAI ще не відреагували на ситуацію, але сподіваємось цей баг скоро виправлять, щоб люди з поганими намірами не могли скористатись вразливістю ШІ.

NV.ua писал ChatGPT може бути ефективним помічником у боротьбі з депресією, адже нейромережа здатна відображати людську розмову, спираючись лише на факти та стандарти лікування клінічної депресії без зайвих упереджень.