Логіка присутня. Штучний інтелект запропонував приклеювати сир на піцу, аби він не стікав

Експериментальна функція розумного пошуку Google AI Overview нещодавно стала доступною для користувачів зі США. Ще під час презентації інструмент, що має генерувати відповіді і видавати їх у стислому викладі перед звичними результатами пошуку, викликав запитання.

Під час демонстрації функції на Google I/O компанія показала, що на запитання про те, як виправити застряглу плівку в камері, AI Overview запропонувала відкрити фотоапарат і обережно посунути плівку, що, як відомо, може призвести до того, що всі фото зіпсуються. Хоча функція поки запускається для кожного запиту, помилкові, а подекуди й небезпечні відповіді, продовжують надходити.

Зокрема, нещодавно користувачі з’ясували, що у відповідь на запитання про те, що робити, аби сир не стікав з щойно приготованої піци, ШІ відповідає: «Додайте трохи клею. Змішайте приблизно 1/8 чашки клею Elmer з соусом. Нетоксичний клей підійде». Як пише The Verge, таку погану пораду, яка може призвести до проблем з травленням, ШІ, ймовірно, надав, згенерувавши її з ланцюжка жартів на Reddit.

Інші приклади помилкових відповідей включають припущення про те, що Бетмен — поліціянт, а колишній президент США Джеймс Медісон закінчив Університет Вісконсину 21 раз.

Представниця Google Меганн Фарнсворт стверджує, що помилки виникли через те, що запити були незвичайними і такими, що «не відповідають досвіду більшості людей».

Google стверджує, що продовжуватиме вдосконалювати свій продукт. Вже зараз компанія наче і не обіцяє, що результат пошуку буде ідеальним: відповіді AI Overview містять традиційну позначку «Генеративний ШІ є експериментальним». Це не єдина компанія, що створила ШІ, який видає результати з помилками чи «галюцинаціями». OpenAI, Meta та Perplexity та інші теж з цим стикаються. Утім її недосконалий інструмент був розгорнутий у великому масштабі, і те, хто нестиме відповідальність за те, що люди послуговуватимуться цими хибними порадами, стало предметом широкої дискусії.