О дивный новый мир! Китай стал первой страной, где урегулируют функции чат-ботов на основе ИИ — как это будет работать?

Эти системы построены на огромном количестве информации, однако они не понимают, что именно они пишут. Поэтому в последнее время появляется все больше новостей о том, что на OpenAI планируют подавать в суд из-за клеветы, ведь ChatGPT в своих попытках выдавать ответы, написанные на «человеческом», а не на «роботском» языке, пишет разнообразные несуразности.

И одно дело, когда эти несуразицы касаются каких-то рекламных или научных фактов — это фактически банальные ошибки, которые можно в конце концов заметить и исправить; все становится гораздо хуже, когда ChatGPT, например, придумывает факты о взятках или домогательствах со стороны людей, которые этого не делали.

Это уже привело к тому, что в Италии запретили доступ к ChatGPT. Суть обвинений в сторону OpenAI состоит в том, что компания массово собирала и использовала персональные данные пользователей без их согласия с целью обучения алгоритмам языковой модели GPT, на которой и построен чат-бот ChatGPT.

За темой активно следят эксперты из других европейских стран — например, Ирландии и Франции.

Согласно европейскому общему регламенту о защите данных (GDPR), компании не могут просто «пылесосить» всю информацию из интернета, чтобы делать с ней что угодно — например, обучать свои модели искусственного интеллекта. Однако это общие правила — в общем, ни в США, ни в Европе нет каких-либо унифицированных правил, регулирующих компании, разрабатывающие системы генеративного искусственного интеллекта.

Первой страной мира, планирующей начать регулировать безопасность деятельности генеративного ИИ, может стать Китай. Стоит отметить, что в этом случае вряд ли Администрация киберпространства Китая руководствуется именно безопасностью пользователей или их персональных данных — уже давно не секрет, что китайские власти активно следят за своими гражданами, чтобы они не начитались «лишнего» в интернете.

Несмотря на то, что Китай действительно стремится быть лучше США буквально во всем, еще больше Компартия хочет, чтобы все происходящее на территории страны было под ее контролем. По словам многих экспертов, подобная цензура уже стала причиной того, что китайские компании проиграют технологическую гонку OpenAI, Google и другим американским и европейским компаниям в сфере генеративного ИИ.

Теперь Пекин планирует ввести регулирование сферы, чтобы контролировать чат-боты, которыми будут пользоваться китайские пользователи. В Bloomberg ожидают, что Китай запретит использование иностранных систем ИИ вроде уже заблокированного ChatGPT, как это произошло ранее с американскими поисковиками и социальными сетями. В то же время, Пекин вряд ли будет сильно ограничивать китайские компании, чтобы таким образом не удавить новорожденную сферу, которой нужно пространство и возможности для развития.

Однако Администрация киберпространства Китая отмечает, что все компании, работающие в сфере ИИ, должны быть прозрачными относительно данных и алгоритмов, используемых для обучения их моделей.

Пока неясно, как именно такое регулирование повлияет на деятельность китайских технологических компаний. В то же время существует обеспокоенность тем, смогут ли китайские компании иметь стабильный доступ к высококачественным чипам и технологиям, необходимым для разработки крупномасштабных моделей ИИ в долгосрочной перспективе из-за ограничений, которые наложила на Китай администрация Байдена.