Чорне дзеркало в реальному житті. ChatGPT без дозволу імітує голоси своїх користувачів

Минулого тижня OpenAI випустила «системну карту» для нової моделі штучного інтелекту GPT-4o від ChatGPT, в якій детально описані обмеження моделі та процедури тестування безпеки. У розділі системної картки GPT-4o під назвою «Несанкціонована генерація голосу» OpenAI детально описала епізод, коли голосове введення якимось чином спонукало модель раптово імітувати голос користувача.

«Генерація голосу може відбуватися і в неконфронтаційних ситуаціях, наприклад, коли ми використовували цю можливість для генерації голосу для розширеного голосового режиму ChatGPT. Під час тестування ми також спостерігали рідкісні випадки, коли модель ненавмисно генерувала вихідні дані, що імітували голос користувача», — пише OpenAI.

У прикладі ненавмисної генерації голосу, наданому OpenAI, ШІ-модель вигукує «Ні!» і продовжує речення голосом, схожим на голос тестувальника.

Безумовно, було б моторошно розмовляти з машиною і чути відповідь своїм голосом. OpenAI має запобіжники, щоб запобігти такому розвитку подій. Для створення голосу GPT-4o, очевидно, може синтезувати майже будь-який тип звуку, знайдений в навчальних даних. Але OpenAI керує цією можливістю, надаючи авторизований зразок голосу (найнятого актора), який йому доручено імітувати.

Скандал з GPT-4o від ChatGPT — до чого тут Скарлетт Йоганссон

Під час презентації нової моделі ШІ GPT-4o, на базі якої працює чат-бот OpenAI ChatGPT, компанія оголосила, що розмовні навички помічника з ШІ було суттєво покращено. Зокрема, було продемонстровано версію озвучення Sky, яка після оновлення здалася багатьом надто схожою на акторку Скарлетт Йоганссон, яка вже озвучувала схожу систему в стрічці Вона, що оповідає про кохання між чоловіком та ШІ.

Акторка заявила, що гендиректор OpenAI Сем Альтман, який є шанувальником стрічки, пропонував їй залучитися до озвучення чат-бота, але отримав відмову. Через юридичного консультанта вона вимагала від OpenAI пояснень. OpenAI на тлі скандалу закрила доступ до голосу Sky.