На голосовании в среду в Европарламенте проголосовали 377 депутатов. они поддержали резолюцию что ограничивает использование системы распознавания лиц правоохранительными органами. Для справки: 248 проголосовали против и 62 воздержались.
«Системы идентификации на основе искусственного интеллекта уже чаще неправильно идентифицируют группы этнических меньшинств, ЛГБТИ, пожилых людей и женщин. Это вызывает особую тревогу в контексте слежки со стороны правоохранительных и судебных органов», — говорится в заявлении парламента.
Непрозрачные алгоритмы, инквизиторское наблюдение
Чтобы гарантировать соблюдение основных прав при использовании этих технологий, алгоритмы должны быть прозрачными, отслеживаемыми и достаточно документированными. По возможности, государственные органы должны использовать программное обеспечение с открытым исходным кодом, чтобы быть более прозрачными.
Заявление парламента ЕС
Это хорошая новость, что большинство политических представителей ЕС сделали такую оценку. Кто не хочет использовать распознавание лиц для автоматического массового наблюдения за людьми в общественных местах. Мониторинг должен быть ограничен только теми, кто, как предполагается, нарушил закон. Наборы данных, накопленные частными компаниями, также должны быть запрещены, например, Клирвью ИИ, чтобы идентифицировать граждан. Было бы полезно предотвратить, по правде говоря, даже системы, которые позволяют полицейским предсказывать правонарушения от поведения и фона людей.
Вот что сказал парламент ЕС о распознавании лиц и массовом слежке:
«Основные права безусловны», - говорит он. Петр Витанов, депутат Европарламента, представляющий Болгарскую социалистическую партию. «Впервые мы призываем к введению моратория на развертывание систем распознавания лиц для наблюдения и правоохранительных целей, поскольку эта технология оказалась неэффективной и часто приводит к дискриминационным результатам».
Мы явно против превентивной полицейской деятельности, основанной на использовании искусственного интеллекта и любой обработки биометрических данных, которая приводит к массовой слежке. Это великая победа для всех граждан Европы.
Петр Витанов, MEP
Голосование не является обязательным и по этой причине не может напрямую привести к каким-либо изменениям в законодательстве. Среди намерений также — запретить биометрические данные на пограничном контроле для отслеживания путешественников в Европе.
Неудачи еще не завершенной технологии
Развитие этих алгоритмов наблюдения произошло очень быстро и с неполным набором данных. Дискриминация при распознавании лиц является обычным явлением (представьте себе человека, которого алгоритм Facebook идентифицирует как «обезьяну»). В настоящее время цветные люди с гораздо большей вероятностью могут быть ошибочно идентифицированы механизмом аутентификации с распознаванием лиц. И есть один горячий и холодный момент: это алгоритм Uber.
Черный водитель Uber в Великобритании, который потерял работу после того, как его заблокировали в приложении для заказа такси, поскольку система распознавания лиц не смогла его идентифицировать, подает в суд на технологического гиганта. Его поддержит Независимый профсоюз рабочих Великобритании (IWGB), который призвал к 24-часовой забастовке с требованием изменения образа действий.
«Продолжение использования Uber алгоритма распознавания лиц, который неэффективен в отношении цветных людей, является дискриминационным», — сказал он. Генри Чанго Лопес, генеральный секретарь IWGB.
