По всему миру все большее количество магазинов и правоохранительных органов начинают использовать технологии распознавания лиц, что вызывает серьезные опасения по поводу точности этих систем и возможных нарушений гражданских прав. Пример Сары из Великобритании, случайно идентифицированной воровкой в магазине, является лишь одним из многих случаев, которые поднимают вопросы о надежности этих технологий.
Сара, которая пожелала остаться анонимной, зашла в магазин Home Bargains за шоколадом. Едва она успела войти, как к ней подошел сотрудник и обвинил ее в краже: «Вы вор, вам нужно покинуть магазин». Системой, которая по ошибке идентифицировала Сару как преступницу, оказалась Facewatch. Её сумку обыскали, вывели из магазина и сообщили, что теперь вход для нее во все магазины компании Home Bargains, а также другие магазины, которые используют эту технологию (Facewatch) — запрещен.
«Я плакала всю дорогу домой… Думала, изменится ли моя жизнь? Теперь меня будут воспринимать как воровку, хотя я никогда ничего не крала», – рассказала Сара.
Facewatch впоследствии признала ошибку и извинилась перед Сарой. Эта система используется в различных магазинах по всей Великобритании, включая Budgens, Sports Direct и Costcutter, для идентификации воров. Представители Facewatch отказались комментировать инцидент, однако отметили, что их технология помогает предотвращать преступления и защищать работников на передовой. Home Bargains также отказался от комментариев.
Не только розничные магазины обращаются к этой технологии. В восточном Лондоне, в районе Бетнал-Грин, полиция разместила модифицированный белый фургон на главной улице. Камеры, установленные на крыше, фиксировали тысячи изображений лиц прохожих. Если система находила совпадения со списком разыскиваемых, офицеры подходили к человеку и, возможно, арестовывали его.
Технология сравнивает лица разыскиваемых полицией людей также на кассах самообслуживания в супермаркетах, где лицо человека становится подобно штрих-коду.
Присоединяйтесь к нашему телеграм-каналуЛиндси Чисвик, директор разведывательной службы столичной полиции, подчеркнула, что скорость технологии крайне полезна: «Технологии требуется меньше секунды, чтобы создать биометрическое изображение лица человека, сравнить его с индивидуальным списком разыскиваемых и автоматически удалить, если совпадений нет».
BBC пообщалась с несколькими людьми, которых остановила полиция и которые подтвердили, что система правильно их идентифицировала – в этом году с ее помощью было произведено 192 ареста только лишь в одном Лондоне.
Однако группы, защищающие гражданские свободы, обеспокоены тем, что точность технологии еще не доказана, и указывают на случаи, которые произошли с такими людьми, как Шона Томпсон. Томпсон, сотрудник организации по защите молодежи Streetfathers, не придал значения фургону у Лондонского моста в феврале. Однако через несколько секунд его остановила полиция и сообщила, что он разыскивается.
«Я почувствовал легкое прикосновение к плечу и услышал, что меня разыскивают», – рассказал Томпсон. Его попросили предоставить отпечатки пальцев и держали в течение 20 минут. Его отпустили только после того, как он предъявил паспорт. Это оказалось ошибкой идентификации.
«Это было навязчиво… Я чувствовал себя виновным, пока не доказал свою невиновность», – добавил он. BBC выяснила, что ошибка могла быть связана с семейным сходством. Столичная полиция отказалась комментировать инцидент.
Силки Карло, директор организации Big Brother Watch, не раз наблюдала за работой полиции с распознаванием лиц. Она была там в ночь, когда полиция задержала Шона Томпсона. «Мой опыт наблюдения за распознаванием лиц на протяжении многих лет показывает, что большинство граждан не понимают, что такое распознавание лиц в реальном времени», – отметила она. По ее словам, любой человек, чье лицо сканируется, фактически становится частью цифровой полицейской структуры.
«Если система выдает совпадение, полиция подходит к человеку, возможно, задерживает его, допрашивает и просит доказать свою невиновность», – объясняет Карло.
Использование технологии распознавания лиц полицией растет. Между 2020 и 2022 годами столичная полиция использовала распознавание лиц девять раз. В следующем году это число выросло до 23. Уже в 2024 году технология была использована 67 раз, и тенденция очевидна.
Сторонники утверждают, что случаи ошибочной идентификации редки. Столичная полиция утверждает, что примерно один из каждых 33 тысяч человек, проходящих мимо ее камер, ошибочно идентифицируется. Однако процент ошибок гораздо выше после того, как человек был отмечен системой: 1 из 40 случаев в этом году оказывается ложным.
Майкл Бертвистл, глава отдела исследований в Ada Lovelace Institute, считает, что технология настолько нова, что законы еще не успели за ней: «Сейчас это настоящая правовая неразбериха. Это вызывает неопределенность в отношении законности использования технологии».
В Бетнал-Грин многие опрошенные люди высказывали опасения по поводу использования технологии, но большинство поддерживали ее, если она помогает бороться с преступностью.
Это поднимает еще один вопрос: поможет ли технология в долгосрочной перспективе? Если люди привыкнут к белым фургонам на оживленных улицах, будут ли те, кто разыскивается полицией, просто избегать камер? Будут ли воры прятать свои лица?
Карло считает, что общество должно остерегаться нормализации распознавания лиц. “Если полиция решит, что это допустимо, и начнет использовать это регулярно, почему бы не включить это в стационарные камеры?”
Это то антиутопическое будущее, которого боятся защитники гражданских свобод — государство тотальной слежки, как в Китае. Сторонники таких прогнозов считают их преувеличенными.
Однако очевидно, что многие из общественности готовы соглашаться на сканирование своих лиц, если это сможет обезопасить их.
