Обережно з ню. iOS шукатиме фото оголених людей у вашій галереї - суперечливий контент надсилатиметься Apple

Apple розгорнула в Австралії версію iOS, у якій було додано нову функцію безпеки, подібну до суперечливого інструменту для виявлення CSAM, від якого компанії довелося відмовитися кілька років тому. Цього разу Apple виявлятиме заборонений контент за допомогою машинного навчання, а інформація оброблятиметься безпосередньо на пристрої.

Системи компанії скануватимуть фотографії та відео на iPhone та iPad у повідомленнях, AirDrop, контактах (у програмі «Телефон» або «Контакти») і відеоповідомленнях FaceTime. Крім того, вони скануватимуть «деякі сторонні додатки», якщо зображенням намагатимуться поділитися.

В разі виявлення потенційного CSAM, фото чи відео з оголеними людьми буде розмито та з’явиться попередження про те, що вміст може бути конфіденційним. Користувачеві буде запропоновано вихід із розмови, блокування користувача та доступ до ресурсів для допомоги в Інтернеті. Якщо пристрій використовує дитина віком менш як 13 років, вона не зможе продовжити використання гаджета не ввівши пароль пристрою для екранного часу. Ця функція також відображає повідомлення, яке запевняє дитину, що можна не переглядати вміст або залишати чат. Також є можливість надіслати повідомлення батькам або опікунам. Якщо дитині 13 років і більше, вона може підтвердити, що хоче продовжити після отримання цих попереджень — із повторенням нагадувань про те, що можна відмовитися та що доступна додаткова допомога.

Як пише The Guardian, також буде опція повідомити Apple про проблемне зображення та відео. Пристрій підготує звіт, що містить зображення або відео, а також повідомлення, надіслані безпосередньо перед і після зображення або відео. Він включатиме контактну інформацію з обох облікових записів. Також користувачі зможуть заповнити форму з описом того, що сталося. Звіт буде розглянуто компанією Apple, яка може вжити заходів щодо облікового запису, наприклад, вимкнути можливість цього користувача надсилати повідомлення через iMessage, а також повідомити про проблему правоохоронним органам.

Після тесту в Австралії Apple планує запустити функцію по всьому світу. Щойно вона стане доступною всюди, її можна буде активувати в меню налаштувань «Безпека зв’язку».