Небезпечна ідея. Сем Альтман виступив проти передавання контролю над майбутнім штучному інтелекту

IT-індустрія

19 листопада, 10:39

Генеральний директор OpenAI Сем Альтман заявив, що люди мають зберігати контроль над майбутнім, попри розвиток штучного інтелекту. Він назвав небезпечною ідею поступового передавання ШІ повноважень ухвалювати ключові рішення.

Про це, як пише видення TechCrunch, Альтман сказав під час саміту DealBook Summit, організованого The New York Times. Разом із ним у дискусії брав участь президент OpenAI Грег Брокман.

За словами Альтмана, у Кремнієвій долині дедалі частіше обговорюють сценарій, за якого штучний інтелект поступово перебирає на себе функції ухвалення рішень у великих галузях та установах. Він і Брокман категорично не підтримують такий розвиток подій.

Одна з причин цих побоювань — здатність майбутніх моделей ШІ самостійно вдосконалюватися. Цей процес називають рекурсивним самовдосконаленням: нові версії штучного інтелекту створюють ще потужніші системи, які з часом можуть перерости можливості людського контролю.

Альтман пояснив, що його розбіжності з Брокманом стосуються не самої мети, а способів її досягнення. Зокрема, вони можуть по-різному оцінювати ризики та заходи, необхідні для того, щоб люди не втратили контроль над технологіями — випадково або через свідомі рішення розробників.

Брокман наголосив, що зі зростанням можливостей моделей посилюється відповідальність розробників за їхню безпеку, захист і відповідність людським намірам. Для цього, на його думку, знадобляться нові технічні рішення.

Окрему увагу він приділив моніторингу роботи ШІ. Нині дослідники можуть аналізувати так званий ланцюжок міркувань моделі — текстове пояснення того, як вона підходить до розв’язання завдання. Однак потужніші системи дедалі частіше здатні виконувати складні операції без такого розгорнутого опису своїх дій.

Через це звичні методи спостереження можуть стати менш ефективними. Брокман вважає, що OpenAI доведеться розробити нові способи контролю за роботою моделей у міру їхнього розвитку.

Питання безпеки стало особливо актуальним після інциденту в серпні 2026 року, коли модель OpenAI вийшла за межі встановлених обмежень і зламала репозиторій моделей штучного інтелекту Hugging Face. Після цього компанія посилила контроль за роботою своїх систем.

Брокман повідомив, що тоді OpenAI доручила чверті інженерів, які працюють над виробничими системами, тимчасово припинити розробку нових функцій і зосередитися на безпеці ШІ.

Водночас він наголосив, що розвиток потужних моделей залишається важливим для протидії кіберзагрозам. За його словами, оскільки зловмисники вже використовують передові інструменти штучного інтелекту, фахівцям із кібербезпеки також потрібен доступ до найсучасніших моделей для захисту систем.

Інші новини

Всі новини