Быстро не будет. Гендиректор Nvidia спрогнозировал, когда ИИ избавится от галлюцинаций
Гендиректор Nvidia Дженсен Хуанг убежден, что решение проблем с причудливыми и неправильными ответами искусственного интеллекта, которые часто называют галлюцинациями, будет возможным после существенного увеличения вычислительной мощности.
Индустрия искусственного интеллекта не сможет решить проблему галлюцинаций искусственного интеллекта в течение еще нескольких лет, убежден генеральный директор Nvidia, крупнейшего в мире поставщика чипов для ИИ, Дженсен Хуанг.
«Сегодня ответы, которые у нас есть, лучше из возможных. Но нам нужно дойти до точки, когда получаемый ответ не лучший из возможных и при том в какой-то степени приходится решать, галлюцинация это или не галлюцинация, имеет ли это смысл, разумно ли это или не разумно. Мы должны прийти к тому, что получаемому ответу в значительной степени доверяют. Я думаю, что пройдет еще несколько лет до того, как мы сможем это сделать. Тем временем мы должны продолжать увеличивать наши вычисления», — сказал он во время мероприятия в Hong Kong University of Science and Technology (HKUST).
Сейчас галлюцинации, сгенерированные ответы, содержащие ложную или обманчивую информацию, поданную как факт, остаются одной из главных проблем чат-ботов с искусственным интеллектом. В этом году исследователи из Google DeepMind и Стэнфордского университета предложили метод борьбы с ними. Они представили новую систему автоматизированного оценивания SAFE, которая анализирует ответы, предоставленные искусственным интеллектом, и ищет ложные.
