На прошлой неделе OpenAI выпустила свои новейшие модели искусственного интеллекта, o3 и o4-mini. Обе могут «рассуждать» с помощью загруженных изображений. Также модели могут обрезать, вращать и увеличивать фотографии — даже размытые и искаженные — для их тщательного анализа. Пользователи быстро поняли, что это может быть удобным инструментом для определения локации на фото. o3, в частности, достаточно хорошо умеет распознавать города, достопримечательности и даже рестораны и бары по тонким визуальным подсказкам.
Аналогичные возможности были у ChatGPT еще до запуска o3 и o4-mini, но, как пишет TechCrunch, новые модели лучше находили локации на фото, чем, к примеру, более старая GPT-4o. Наличие такого функционала создает потенциальные проблемы для конфиденциальности. Ничего не мешает злоумышленникам, например, сделать скриншот Instagram-истории и определить локацию благодаря чат-боту, чтобы преследовать жертву.
В настоящее время существует немного мер предосторожности для предотвращения такого рода применения ChatGPT. И OpenAI не видит в этом проблемы.
«OpenAI o3 и o4-mini добавляют визуальные аргументы в ChatGPT, делая его более полезным в таких сферах, как доступность, исследование или идентификация мест во время реагирования на чрезвычайные ситуации. Мы работали над тем, чтобы научить наши модели отклонять запросы на конфиденциальную информацию, добавили средства защиты, направленные на то, чтобы запретить модели идентифицировать частных лиц на изображениях», — отметил представитель компании в комментарии TechCrunch.