Видеосистемы идентификации лиц ошибочно признаю покупателей ворами. В Европе разгорается скандал из-за массовых ошибок системы распознавания лиц Facewatch, которая внедрена в крупнейших торговых сетях Home Bargains, B&M, Sports Direct и Spar. Технология, предназначенная для борьбы с кражами, ошибочно идентифицирует обычных граждан как рецидивистов, после чего их публично выдворяют из торговых залов.
Пострадавшие покупатели заявляют, что после инцидентов остаются один на один с алгоритмом, не имея возможности доказать свою невиновность на месте.
Мировой опыт полезен для России. Пенсионер из Честера в Великобритании Иэн Клейтон был принудительно выведен из магазина Home Bargains после того, как сотрудница объявила его магазинным вором на основании данных системы. Позже, после официального запроса персональных данных, выяснилось, что программа ошибочно связала его личность с инцидентом, к которому он не имел отношения.
В качестве компенсации ритейлер предложил мужчине ваучер на 100 фунтов стерлингов в обмен на подписку о неразглашении, но Клейтон отказался, назвав это попыткой купить его молчание. Аналогичный случай произошел с аналитиком данных Уорреном Раджей в Sainsbury's: его заставили бросить корзину с покупками и покинуть здание из-за неверной идентификации сотрудниками.
Разработчик Facewatch заявляет, что точность системы составляет 99,98%, а за последний месяц ритейлерам было разослано 50 288 оповещений о «известных нарушителях». Всего за год программа генерирует более 500 000 предупреждений. Несмотря на эти цифры, контролирующие органы предупреждают об опасности предвзятости ИИ: МВД страны ранее признало, что камеры чаще ошибаются при распознавании женщин, а также темнокожих и азиатов.
Жительница Бирмингема Дженни Сандерс провела несколько дней в состоянии стресса после того, как в магазине B&M охрана преследовала ее по залу, а затем вывела на улицу. Чтобы оспорить обвинение в краже бутылки вина, которой она не совершала, женщине пришлось отправлять в компанию скан своего паспорта.
Представители торговой сети позже признали, что у них нет доказательств вины Сандерс, и предложили ей ваучер на 25 фунтов. Пострадавшая утверждает, что надзорный орган ICO не отвечает на ее жалобы уже семь месяцев, что подтверждает отсутствие реального контроля за частными системами слежки.
Генеральный директор Facewatch Ник Фишер списывает подобные инциденты на «человеческую ошибку» персонала магазинов, а не на сбой софта. Тем временем юристы и правозащитники настаивают, что бесконтрольное использование биометрии нарушает гражданские права, так как механизм обжалования цифровых приговоров фактически отсутствует, а ритейлеры используют мелкие подачки в виде купонов, чтобы избежать судебных разбирательств.
Фото: генерация нейросети РОСТСАЙТ
Читайте также:
Обсуждение
Комментариев пока нет. Будьте первым.