Что же могло пойти не так? Приложение, которое определяло болезни по фото пениса, оказалось мошенническим
Регуляторы США закрыли дейтинг-приложение, которое предлагало клиентам консультацию по сексуальному здоровью с помощью ИИ. Оказалось, что приложение не отличает фото вазы и фото гениталий и делает ложные выводы о здоровье.
Авторы приложения утверждали, что их искусственный интеллект можно использовать для проверки потенциальных партнеров на наличие проблем с «сексуальным здоровьем» (то есть ЗППП). Приложение было закрыто после того, как Федеральная торговая комиссия (FTC) США узнала о громких заявлениях компании, пишет Gizmodo.
Компания HeHealth утверждала, что ее инструмент Calmara может выявлять до 10 различных заболеваний, передающихся половым путем (ЗППП), с точностью до 94%. А на своем вебсайте компания описала свою программу как «проверку здоровья пениса за 1 минуту на основе искусственного интеллекта». Для «диагностики» пользователей мужского пола просили присылать фотографии членов.
Однако дело в том, что большинство ЗППП невозможно увидеть невооруженным глазом. Кроме того, с видимыми ЗППП программа тоже работала плохо. Издание. Los Angeles Times писало, что программа с трудом различала неодушевленные объекты и человеческие половые органы, выдавая ободряющее сообщение «Чисто!» на изображения вазы и сладостей в форме пениса.
После того, как FTC заметила, что результаты тестов HeHealth не являются оптимальными, она начала расследование в отношении компании. Было установлено, что HeHealth проверяла производительность своего алгоритма искусственного интеллекта на небольшом количестве изображений, а сам инструмент может по фото идентифицировать только 4 заболевания, а не 10, как заявляла компания.
Учитывая эти проблемы, FTC заставила HeHealth закрыть Calmara и удалить все данные клиентов, полученные через этот инструмент. После закрытия программы FTC заявила, что не будет продолжать расследование в отношении компании.
