Эксперты призывают приостановить разработку искусственного интеллекта. Их раскритиковали — но не потому, о чем вы подумали

Подписанты указывают, что быстрое развитие ИИ, за которым мы наблюдаем в последние годы, уже привело к тому, что вскоре может возникнуть т.н. общий искусственный интеллект (AGI). Это ИИ, главной характеристикой которого является возможность решать любые задачи, которые может выполнять человек. Фактически, когда мы говорим о том, что нас заменят машины, — это буквально этот сценарий.

Именно поэтому эксперты считают, что эта гонка вооружений двигает человечество к катастрофе. Они объясняют это тем, что мы не готовы к появлению подлинного AGI; например, недавнее исследование показало, что новые инструменты ИИ вроде ChatGPT и Midjourney повлияют как минимум на 300 млн рабочих мест. Это не означает, что все эти люди потеряют работу, скорее наоборот, большинство сможет повысить свою производительность, если адаптируется к возможностям, которые предоставляет нам искусственный интеллект прямо сейчас.

Однако AGI — это совсем другое. Это буквальная замена людей почти в любой деятельности. Главная проблема ИИ — невозможность продуцировать что-то свое, креативить; фактически это огромный массив данных, позволяющий тому же ChatGPT «выдавать» релевантные ответы на множество вопросов. Однако чат-бот на самом деле не понимает, что он пишет — это огромный Т9, который прогнозирует каждое следующее слово так, чтобы его текст выглядел в конце концов убедительно. AGI уже будет понимать, что он пишет. Более того, он станет понимать, зачем он это делает.

«AGI может привести к большим изменениям в истории жизни на Земле… К сожалению, сейчас не наблюдается достаточного уровня планирования и управления, а в последние месяцы лаборатории ИИ вышли из-под контроля; никто не может понять, прогнозировать и контролировать разработку и развертывание все более мощных цифровых умов — даже их создатели», — говорится в открытом письме, в котором эксперты призывают приостановить разработку ИИ.

Future of Life Institute призывает все лаборатории ИИ поставить их исследования на шестимесячную паузу, дабы подробнее изучить все вопросы, касающиеся безопасности технологии. В то же время организация не призывает остановить разработку ИИ в целом, а скорее «отступить от опасной гонки к все большим и непредсказуемым моделям черного ящика с чрезвычайными возможностями».

Однако команда других ученых подвергла критике Future of Life Institute и всех подписантов их открытого письма. Тимнит Гебру, Эмили Бендер, Анджелина Макмиллан-Мейджор и Маргарет Митчелл — это специалисты по этике искусственного интеллекта, которые, кроме своей работы, известны тем, что их «выгнали» из Google из-за статьи, в которой они критиковали возможности языковых моделей.

Сейчас они работают в DAIR (The Distributed AI Research Institute, Исследовательский институт распределенного искусственного интеллекта), главная цель которого — изучение, выявление и предотвращение вреда, связанного с искусственным интеллектом. Они опубликовали свой ответ на открытое письмо Future of Life Institute, в котором раскритиковали позицию, высказанную в нем.

По их мнению, открытое письмо акцентирует внимание на гипотетических проблемах будущего, игнорируя при этом актуальную повестку. Исследователи объясняют, что уже сейчас инструменты ИИ могут использоваться для отслеживания людей, воровства данных и эксплуатации работников.

Несмотря на то что команда DAIR соглашается с некоторыми позициями открытого письма, они призывают бороться с возникающими и существующими в современном мире проблемами. Риск апокалипсиса в стиле Матрицы или Терминатора — это точно не то, о чем мы должны беспокоиться сейчас, учитывая бурное развитие ИИ, объясняют они.

В то время как подписанты открытого письма опасаются гипотетической технологии далекого будущего, уже сейчас полиция может использовать инструменты компании Clearview AI для идентификации людей и даже ареста невиновных, если искусственный интеллект начнет ошибаться в этом.

Поэтому ученые призывают не к паузе в исследованиях, а во внедрении прозрачного регулирования, которое позволит сообществу контролировать корпорации и компании, работающие над усовершенствованием систем ИИ. «Пора действовать, но в центре нашего внимания не должны быть мнимые „мощные цифровые умы“. Вместо этого мы должны сосредоточиться на очень реальных и актуальных эксплуатационных практиках компаний, претендующих на их создание, быстро централизирующих власть и усиливающих социальное неравенство», — пишут исследователи.