Axon по этическим соображениям приостановил выпуск полицейских камер с функцией опознавания лица

Axon, крупнейший производитель камер для полицейских органов в США, объявил, что не будет добавлять функцию опознавания лиц к камерам правоохранительных органов до тех пор, пока этические проблемы не будут решены.

«Мы полагаем, что это не та технология, которую мы должны сейчас коммерциализировать, технология и этика не связаны», — сказал Forbes генеральный директор Axon Рик Смит .

«Проблемы точности и предвзятости, которые существуют сегодня, вероятно, будут решены в будущем, и это оставит другие препятствия», — говорит Смит. «Как только эта технология станет точной, нам нужно выяснить этические ограничения использования».

По словам Смита, Axon (ранее Taser International, названный в честь своего первоначального продукта для электрошока) тесно сотрудничал со своим советом по этике, который работает с «членами сообщества гражданских прав», включая ACLU. Это решение основано на 42-страничном отчете Совета по этике компании Axon по искусственному интеллекту и технике безопасности, который он сформировал в прошлом году.

ACLU поблагодарил Axon за его решение отложить использование технологии распознавания лиц в заявлении, в котором цитируется Закон об ответственности камер наблюдения за телом, который запрещает использование распознавания лиц и других биометрических наблюдений на камерах правоохранительных органов. Законопроект был принят в Калифорнии в мае и был одобрен Сенатом в июне.

Смит говорит, что законодательство может показаться шагом в правильном направлении, но в компаниях есть смысл подумать о влиянии их технологий на  угрозы государственного вмешательства.

«Это решение не было в значительной степени под влиянием законодательства», — говорит Смит. «Мы видим, что подобное саморегулирование может привести к улучшению законодательства в долгосрочной перспективе. Если бы мы вышли и начали продавать распознавание лиц в телекамерах, потому что мы могли бы, со всеми сегодняшними проблемами, это привело бы к законодательному решению, которое может быть контрпродуктивным в долгосрочной перспективе ».

В этом Axon является исключением. Конкуренты готовы продавать технологии правоохранительным органам. В мае акционеры Amazon проголосовали против запрета компании продавать правительству свой инструмент Rekognition, который, как показывали, имеет гендерную и расовую предвзятость. Член совета директоров Axon по этике Барри Фридман говорит, что он не ожидает, что воздержание компании от технологии распознавания лиц нанесет ущерб ее прибыли.

« не считаю, что если отрасль поступит правильно, корпоративная прибыль резко упадет», — сказал Forbes Барри Фридман, который также является директором полицейского проекта в Нью-Йоркском университете . «То, что мы изобрели технологию, вовсе не означает, что мы должны запустить ее завтра», — добавил он.

Выручка Axon за I квартал 19 года выросла на 14% по сравнению с аналогичным периодом прошлого года и составила 116 миллионов долларов, из которых 50 миллионов долларов поступили от продажи телекамер. Компания стала лидером в области электрошокового оружия с Tasers в 90-х и продолжила разработку более высокотехнологичных инструментов, таких как Redaction Studio, которая использует AI для поиска и размытия лиц на видеозаписи, используемой полицией. В некоторых случаях редактирование удостоверений позволяет обнародовать отснятый материал в надежде повысить прозрачность.

По словам Смита, Axon продолжит использовать технологию отслеживания лиц. Алгоритмы могут повторно идентифицировать отдельного человека, перемещающегося через отснятый материал тела. Разработка базы данных изображений имеет потенциал для массового государственного надзора. На данный момент Axon использует слежение за лицом при обработке отснятого материала с камеры тела в качестве более основного инструмента.

«Допустим, полиция стреляет, и есть общественный протест, чтобы выпустить видео, полиция должна войти и отредактировать лица, в некоторых случаях они хотят отредактировать только определенные лица, но им нужно оставить других нетронутыми, в этом случае вы хотите  научить программное обеспечение отредактировать «это лицо». Отредактируйте это лицо из всех видео, но «это лицо здесь, не надо».

Смит говорит, что эта версия распознавания лиц в полицейских может способствовать прозрачности, но она все еще готовится, поэтому он против общих законов, которые запрещают технологии в целом.

«Это тот случай, когда некоторые клиенты могут выбрать  конкурента, предлагающего распознавание лиц, а не нас, но мы думаем, что правильные поступки создают сильный бизнес», — сказал Смит.

Источник: Forbes

Добавить комментарий

Заполните поля или щелкните по значку, чтобы оставить свой комментарий:

Логотип WordPress.com

Для комментария используется ваша учётная запись WordPress.com. Выход /  Изменить )

Google photo

Для комментария используется ваша учётная запись Google. Выход /  Изменить )

Фотография Twitter

Для комментария используется ваша учётная запись Twitter. Выход /  Изменить )

Фотография Facebook

Для комментария используется ваша учётная запись Facebook. Выход /  Изменить )

Connecting to %s