Маск, Возняк, Харари и другие. Ученые и бизнесмены призывают приостановить разработку искусственного интеллекта

Письмо подписали уже более 1000 различных экспертов, среди которых ученые, бизнесмены, философы — это и CEO SpaceX, Tesla и Twitter Илон Маск, соучредитель Apple Стив Возняк, израильский историк Юваль Ной Гарари, а также исследователи ИИ из университетов по всему миру.

Письмо появилось всего через две недели после публичного релиза GPT-4 от OpenAI. Это пугает исследователей, поскольку, по их мнению, уже совсем близка перспектива возникновения т.н. общего искусственного интеллекта (AGI), способности которого превысят человеческие. Они считают, что нынешняя гонка вооружений за все более идеальной системой ИИ двигает человечество к катастрофе.

«AGI может привести к большим изменениям в истории жизни на Земле… К сожалению, сейчас не наблюдается достаточного уровня планирования и управления, а в последние месяцы лаборатории ИИ вышли из-под контроля; никто не может понять, спрогнозировать и контролировать разработку и развертывание все более мощных цифровых умов — даже их создатели», — говорится в письме.

На сегодняшний день ни один сотрудник OpenAI не подписал письмо. Хотя по информации The Economist, во вторник среди подписавших появилось имя CEO компании Сэма Альтмана — недавно он признался, что и сам боится развития искусственного интеллекта.

Future of Life Institute призывает все лаборатории ИИ поставить их исследования на шестимесячную паузу, чтобы подробнее изучить все вопросы, касающиеся безопасности технологии. В то же время, организация не призывает остановить разработку ИИ в целом, а скорее «отступить от опасной погони ко все большим и непредсказуемым моделям черного ящика с чрезвычайными возможностями».