В Италии запретили ChatGPT, а некоторые страны планируют это сделать в ближайшее время. Что происходит?

Недавно расследование о деятельности компании OpenAI началось и в Канаде. А глава австралийского района Шир Хепберн планирует подать в суд на компанию, если та не опровергнет ложные заявления ChatGPT о том, что он отсидел в тюрьме за взяточничество.

В заявлении итальянского национального органа по защите персональных данных отмечено, что 20 марта ChatGPT «подвергся нарушению данных относительно диалогов пользователей и платежной информации подписчиков на платные услуги». Речь идет о массовом сбое, когда заголовки чатов одних пользователей отображались у других; есть также сообщения о том, что в некоторых случаях ChatGPT выдавал личные данные вроде e-mail адресов и номеров телефонов.

OpenAI борется с такими «дырами» в системе, однако инциденты уже есть, поэтому существует вероятность, что в будущем пользователи найдут новые слабые места и смогут получить доступ к частной информации других людей.

Когда OpenAI выпустила GPT 3 в 2020 году, в своем техническом документе компания показала, что для создания системы генерации текстов использовала миллионы страниц из интернета, соцсетей, книг и т. д. Среди этих данных есть и личная информация, которой люди делятся в сети — и именно эти данные создают проблемы для OpenAI.

Итальянский кейс стал первым случаем, когда меры против ChatGPT принимаются на уровне страны. Это лишь подчеркивает напряженность в сфере конфиденциальности, связанную с созданием гигантских генеративных моделей ИИ, часто обучающихся на огромных массивах интернет-данных, пишет издание Wired.

Ранее подобные жалобы выдвигали художники, обвинявшие разработчиков Midjourney, DALLE — E, Stable Diffusion и других «художественных» нейросетей в использовании их работ для обучения систем генеративного ИИ без разрешения. Теперь регуляторы задумались о том же — но в отношении личной информации людей.

«Если бизнес-модель заключалась в том, чтобы просто выгрести из интернета все, до чего можно дотянуться, то здесь может быть действительно серьезная проблема», — говорит Тобиас Юдин, глава международного отдела Норвежского органа по защите данных (Norwegian Data Protection Authority). По его словам, если модель действительно построена на данных, которые были собраны незаконным способом (если регуляторы в конце концов придут к такому выводу), то возникает резонный вопрос — а может ли вообще хоть кто-то легально пользоваться ChatGPT?

Казалось бы, если человек выложил какую-нибудь информацию в интернет, то нет ли ничего противозаконного в том, чтобы компании использовали эти данные?

На самом деле долгое время все так и работало. Однако европейский общий регламент о защите данных (GDPR), начавший работать в 2018 году, установил довольно простое правило — тот факт, что какая-то информация есть в общем доступе, не означает, что вы можете взять ее себе и делать с ней все, что угодно. Страны ЕС в этой сфере защищены гораздо лучше, чем разрозненные правила конфиденциальности в США или вообще их фактическое отсутствие в некоторых странах мира.

Итальянский регулятор считает, что ChatGPT имеет четыре проблемы с точки зрения GDPR: OpenAI не установили возрастные ограничения, которые запретили бы пользоваться чат-ботом детям младше 12 лет; чат-бот может предоставлять ложную информацию о людях; людям не сообщали, что их информацию собирали; отсутствие правовых оснований для сбора личной информации людей для построения огромных массивов данных, которые позже использовались для обучения ChatGPT.

Есть несколько способов собирать эти данные законным способом, однако OpenAI не пошла ни одним из них. Вместо этого компания банально «пропылесосила» интернет, после чего отдавала всю собранную информацию языковой модели.

Интересно, что во время релиза ChatGPT и GPT-4 OpenAI не обнародовала никаких подробностей о количестве обучающих данных, которые использовались для обучения моделей. И это при том, что, по мнению экспертов, обновленная языковая модель обучена на в разы большем количестве данных, чем GPT-3, имевшая 175 млрд разных параметров.

В техническом документе GPT-4 есть раздел о конфиденциальности, в котором указано, что OpenAI принимает меры по защите приватности людей. Так, компания например использует «тонкую настройку» моделей, чтобы люди, желающие узнать какую-то личную информацию во время общения с чат-ботом, не могли этого сделать; кроме того, в OpenAI утверждают, что удаляют личную информацию «там, где это возможно».

На самом деле OpenAI — это только вершина айсберга. Вопросы, которые затронул итальянский регулятор (и, вероятно, будут поднимать их коллеги из других стран) касаются всех компаний, работающих в сфере генеративного искусственного интеллекта. Регуляторные нормы понемногу разрабатываются, но они очевидно не успевают за скоростью развития технологии, а потому вопрос о том, как законно собирать данные для обучения ИИ, становится все более критическим.

Еще одна проблема — что делать с уже готовыми массивами данных, собранными уже давно, когда о конфиденциальности мало кто задумывался. Как удалить информацию из данных, на которых училась генеративная модель ИИ, — открытый вопрос, ответа на который ни у кого нет. Большинство экспертов сомневаются, что регуляторы смогут найти способ выйти из этой ситуации, кроме банального запрета на использование инструментов, как это произошло с ChatGPT.

Юдин из Норвежского органа по защите данных объясняет, что вычистить языковую модель от всех персональных данных, которые могли быть использованы для ее обучения, будет очень трудно, поскольку часто этого не позволяет даже сама техническая инфраструктура компаний. «Если модель была обучена на незаконно собранных персональных данных, это будет означать, что вы, по сути, не сможете использовать свою модель», — пока это является главным итогом блокировок по состоянию на сегодняшний день.