ChatGPT в том числе. Популярные модели ИИ генерируют сексистский контент — ООН

Об этом пишет France24 со ссылкой на AFP.

Крупнейшие компании ИИ, такие как Meta и OpenAI, тренируют свои алгоритмы на огромных объемах данных, что часто приводит к созданию контента, отражающего сексистские стереотипы и предубеждения. Анализ ЮНЕСКО выявил, что алгоритмы Llama 2 от Meta и GPT-2 и GPT-3.5 от OpenAI демонстрируют недвусмысленные признаки предубеждений в отношении женщин.

Программы генерировали тексты, в которых женские имена ассоциировались с домашними обязанностями, в то время как мужские имена были связаны с карьерой и бизнесом.

В то время как мужчины изображались на высокостатусных должностях, таких как учителя, юристы и врачи, женщин часто изображали как работниц секс-индустрии, поваров или домашнюю прислугу.

ЮНЕСКО подчеркивает необходимость обеспечения этики в разработке и использовании искусственного интеллекта. Она рекомендует компаниям нанимать больше женщин и представителей меньшинств, чтобы обеспечить разнообразие в процессе создания алгоритмов.

Также организация призвала правительства регулировать этот процесс для предотвращения усиления неравенства в обществе.