«Демократии должны лидировать». Google отказалась от запрета на использование ИИ для создания оружия

Google внесла одно из самых существенных изменений в свои принципы в сфере искусственного интеллекта с момента их первой публикации в 2018 году. Поисковый гигант отредактировал документ, изъяв раздел под названием «Программы, которые мы не будем использовать». Вместе с ним исчезли обещания, что компания не будет разрабатывать или развертывать инструменты ИИ для использования в оружии или других технологиях, основной целью или реализацией которых является причинение или непосредственное содействие причинению вреда людям.

Зато появился раздел под названием «Ответственная разработка и развертывание». В нем Google заявляет, что будет внедрять «соответствующий человеческий надзор, надлежащую проверку и механизмы обратной связи для согласования с целями пользователей, социальной ответственностью и общепринятыми принципами международного права и прав человека». Это гораздо более широкие обязательства, чем те, которые компания взяла на себя ранее.

На просьбу прокомментировать ситуацию, представитель Google указал журналистам TechCrunch и Engadget на публикацию в блоге, которую компания опубликовала на прошлой неделе. В ней генеральный директор DeepMind Демис Хассабис и Джеймс Маньика, старший вице-президент Google по исследованиям, сообщали, что появление ИИ как «технологии общего назначения» требовало изменения политики.

«Мы считаем, что демократические страны должны быть лидерами в развитии ИИ, руководствуясь такими основными ценностями, как свобода, равенство и уважение к правам человека. И мы считаем, что компании, правительства и организации, которые разделяют эти ценности, должны работать вместе над созданием ИИ, который защищает людей, способствует глобальному росту и поддерживает национальную безопасность», — написали они.

Напомним, Google опубликовала документ, в котором изложила свои принципы работы ИИ, после завершения проекта Maven в 2018 году. Этот проект должен был предусматривать предоставление программного обеспечения с искусственным интеллектом Министерству обороны США для анализа записей с дронов. В начале этого года газета The Washington Post сообщила, что сотрудники Google неоднократно сотрудничали с Министерством обороны Израиля, чтобы расширить использование правительством инструментов искусственного интеллекта.