Вооружились ИИ. OpenAI разоблачила Китай, Россию и Иран в использовании ChatGPT для создания пропаганды
Иностранные пропагандисты продолжают использовать ChatGPT в своих кампаниях. OpenAI утверждает, что помешала нескольким операциям в Китае, России и Иране.
OpenAI заявила, что недавно помешала четырем тайным операциям Китая, во время которых использовали ее инструмент ChatGPT. С помощью ChatGPT создавали публикации в социальных сетях TikTok, Facebook, Reddit и X. Сгенерированные сообщения как поддерживали, так и осуждали различные острые вопросы, чтобы разжечь обманчивый политический дискурс. Созданные ИИ комментарии касались многих тем, от политики США до тайваньской видеоигры, в которой игроки борются с Коммунистической партией Китая.
«Мы наблюдаем, как Китай расширяет спектр тайных операций, используя все больше различных тактик», — говорит Бен Ниммо, главный исследователь OpenAI в комментарии NPR.
Хотя OpenAI утверждает, что также помешала нескольким операциям, которые, по ее мнению, происходили из России, Ирана и Северной Кореи, Ниммо подробно рассказал только о китайских операциях. Он сказал, что они были направлены на многие страны и темы, и некоторые из них сочетали элементы операций влияния, социальной инженерии и слежки.
В 2024 году OpenAI опубликовала в своем блоге информацию о своих усилиях по препятствованию пяти операциям, связанным с государствами. Речь шла об игроках из Китая, Ирана и Северной Кореи, которые использовали модели OpenAI в злонамеренных целях. Эти программы включали отладку кода, генерацию скриптов и создание контента для использования в фишинговых кампаниях.
В том же году OpenAI заявила, что сорвала иранскую операцию, в ходе которой использовали ChatGPT для создания длинных политических статей о выборах в США, которые затем публиковались на фейковых новостных сайтах.
