Маск, Возняк, Харарі та інші. Вчені та бізнесмени закликають призупинити розробку штучного інтелекту

Лист підписали вже більш ніж 1000 різних експертів, серед яких вчені, бізнесмени, філософи — це і CEO SpaceX, Tesla та Twitter Ілон Маск, співзасновник Apple Стів Возняк, ізраїльський історик Юваль Ной Гарарі, а також дослідники ШІ з університетів по всьому світу.

Лист з’явився всього через два тижні після публічного релізу GPT-4 від OpenAI. Це лякає дослідників, оскільки, на їхню думку, вже зовсім близькою є перспектива виникнення т. зв. загального штучного інтелекту (AGI), здатності якого перевищать людські. Вони вважають, що нинішня гонитва озброєнь за все кращою системою ШІ рухає людство до катастрофи.

«AGI може призвести до великих змін в історії життя на Землі… На жаль, зараз не спостерігається достатнього рівня планування та управління, а в останні місяці лабораторії ШІ вийшли з-під контролю; ніхто не може зрозуміти, прогнозувати та контролювати розробку та розгортання все більш потужних цифрових розумів — навіть їхні творці», — йдеться у листі.

Станом на зараз жоден співробітник OpenAI не підписав листа. Хоча за інформацією The Economist, у вівторок серед підписантів з’явилося ім'я CEO компанії Сема Альтмана, який нещодавно зізнався, що й сам боїться розвитку штучного інтелекту.

Future of Life Institute закликає усі лабораторії ШІ поставити їхні дослідження на шестимісячну паузу, щоб детальніше вивчити усі питання, що стосуються безпеки технології. Водночас організація не закликає зупинити розробку ШІ в цілому, а радше «відступити від небезпечної гонитви до все більших і непередбачуваних моделей чорної скриньки з надзвичайними можливостями».