Amazon запретил полиции использовать технологию распознавания лиц

Amazon запретил полиции использовать технологию распознавания лиц

Amazon запретила полиции использовать свое программное обеспечение для распознавания лиц на год. По мнению кабинета министров, мораторий на использование Amazon Rekognition призван дать правительствам много возможностей для введения правил и рамок, предотвращающих содействие распознаванию лиц дискриминации в любой форме. Тем временем Amazon продолжит разрешать организациям, занимающимся решением таких проблем, как торговля людьми и похищение детей, использовать свою технологию. Заявление последовало за аналогичными действиями IBM, которая остановила все разработки и исследования, связанные с спорной технологией, из-за риска неправильного использования.

Распознавание лиц Amazon

Хотя технология распознавания лиц значительно продвинулась за последние годы и может способствовать законным полицейским расследованиям, ее применение всегда вызывало споры. Обеспокоенность по поводу возможности массовой слежки и социального оценивания усугубляется проблемой предвзятости, связанной с ИИ, которая может привести к дискриминации людей по их физическим характеристикам. Методы проверки наборов данных, лежащих в основе моделей ИИ (включая программное обеспечение для распознавания лиц), на предмет предвзятости остаются непоследовательными и нерегулируемыми, что повышает вероятность того, что технология может еще больше нанести вред демографическим меньшинствам. Amazon Rekognition сама взяла на себя расовую предвзятость: в статье 2019 года, написанной в соавторстве с исследователями Джой Буоламвини и Деборой Раджи, утверждается, что программное обеспечение не может правильно идентифицировать темнокожих людей, а также путает женщин с более темной кожей с мужчинами. Исследование также показало, что система Amazon может оценивать изображения светлокожих людей с почти идеальной точностью. Затем результаты были проверены группой исследователей искусственного интеллекта, которые повторили опасения, высказанные Буоламвини, о том, что эту технологию не следует использовать в контексте правоохранительных органов. Amazon, похоже, пришла к такому же выводу, хотя никогда не признавала обвинений в том, что ее программное обеспечение Rekognition имеет расовую предвзятость. «Мы вводим годовой мораторий на использование полицией технологии распознавания лиц Amazon», — говорится в заявлении компании. «Мы выступали за то, чтобы правительства установили более строгие правила, регулирующие этическое использование технологии распознавания лиц, и в последние дни Конгресс, похоже, готов принять этот вызов». «Мы надеемся, что этот годичный мораторий даст Конгрессу достаточно времени для внедрения соответствующих правил, и мы готовы помочь, если нас об этом попросят». Неизвестно, сколько правоохранительных органов использовали Amazon Rekognition до запрета, хотя это решение знаменует собой радикальное изменение политики с 2018 года, когда генеральный директор AWS Энди Ясси сказал сотрудникам, что он удовлетворен ценностью, которую сервис предлагает всем клиентам, в том числе полиция. Через Грань