«ШІ не мають свідомості». Голова Microsoft AI виступив проти ідеї автономного Claude

Про це повідомляє The Next Web.

Сулейман розкритикував конституцію Claude, згідно з якою Anthropic формує мислення й поведінку моделі. На думку голови Microsoft AI, документ навчає Claude очікувати, що він «може бути свідомим і заслуговувати на незалежну автономію», а модель потім переконливо відтворює ці ідеї від першої особи.

Також очільник Microsoft AI критикує вжитий у конституції термін «відмовник за переконаннями», мовляв, він може навести Claude на думку про право на подібний захист.

Конституція визнає, що моральний статус Claude «глибоко невизначений». Сулейман же наполягає, що доказів свідомості ШІ сьогодні немає. «ШІ не мають свідомості. Вони не відчувають, не переживають і не страждають», — пише Сулейман.

Найбільше очільника Microsoft AI турбує контроль. Керувати системою, яка вважає себе потенційно свідомою, «цілком може бути неможливо», пише він. Агентству Reuters Сулейман сказав, що таке навчання ускладнить вимкнення моделі.

«Спекуляції щодо внутрішнього життя ШІ не слід закладати в режим навчання, їх треба оцінювати й публікувати окремо для публічного розгляду», — наголошує Сулейман. Він закликав більше вкладатися в моніторинг моделей, а також запровадити спільні галузеві норми.

Есей з’явився після того, як Microsoft AI оприлюднила проєкт Кодексу поведінки гуманістичного ШІ. Документ відкидає дослідження добробуту моделей, якими займається Anthropic, і зазначає, що моделі Microsoft ніколи не опиратимуться вимкненню.

Microsoft є інвестором Anthropic. Втім, у червні Сулейман заявив про намір позбутися витрат на її моделі.