Полицейская служба Квинсленда (QPS) в Австралии инициирует испытание искусственного интеллекта (ИИ) определить будущий риск что некоторые заявленные субъекты прибегают к домашнему насилию.
Авторы, отнесенные к группе «высокого риска» (на основании предыдущих отчетов, сведений о судимости и т. д.), будут посещаться полицией дома до того, как насилие в семье обострится и будет совершено какое-либо преступление.
Домашнее насилие: профилактика лучше, но ...
Сразу говорю: нам нужно найти более эффективные способы повышения безопасности женщин, ставших жертвами домашнего насилия. Однако использование технологии ИИ в этом контексте может иметь непредвиденные последствия, и этот предлагаемый план поднимает серьезные вопросы о роли полиции в предотвращении случаев домашнего насилия.
Подход основан на алгоритме, который был разработан на основе существующих данных. Все статистические алгоритмы должны оценивать риск на основе имеющихся данных. Это, в свою очередь, означает, что они «только» настолько хороши, насколько хороши подтверждающие их данные. Неслучайно эксперты критикуют инструменты оценки рисков на основе данных в деятельности полиции, указывая на отсутствие прозрачности в конкретных типах анализируемых данных.
Остерегайтесь играть в "Pre Crime"
Как уже упоминалось, ключевыми данными, получаемыми наиболее последовательно, являются информация о прошлых ситуациях, когда вызывалась полиция, и данные о криминальном прошлом. Использование этой информации для обучения алгоритма искусственного интеллекта может усилить существующие предубеждения в системе уголовного правосудия. Это может создать бесконечный цикл обратной связи, тупиковый порочный круг между полицией и теми гражданами, которые больше контактируют с полицией.
Если на ум приходит также этническая дискриминация, значит, вы недалеки от истины. В Австралии, например, с полицией чаще всего контактируют аборигены. Нетрудно представить, что в условиях нового режима «борьбы с домашним насилием» аборигенов будет больше посещать полиция.
Полиция хочет сказать, что для этого пилотного проекта атрибуты этнической принадлежности и географического положения были удалены до обучения модели ИИ. Несмотря на это, по-прежнему существует вероятность того, что аборигены по-прежнему будут подвергаться непропорционально сильному преследованию, поскольку они чрезмерно представлены во всех контактах с полицией.
Основан ли на риске преступления хороший подход?
Цель этих полицейских стратегий, основанных наискусственный интеллект это предотвращение или сокращение преступности путем оценки риска будущих преступлений. Теоретически это означает, что полиция вмешается заранее, чтобы предотвратить преступление. Кто помнит вышеупомянутое «предсмертное преступление» из «Minority Report»?
Я говорю, что при таком подходе есть риски, что полиция может даже создать преступление. «Превентивная» программа такого типа может усилить механизмы сопротивления и обхода: меня не удивит, если это приведет к другим преступлениям.
Таким образом, план, предложенный австралийской полицией, представляет собой явный риск. Это расширение сети криминализации как преступников, так и жертв (которые могут быть ошибочно идентифицированы как преступники). Как? Например, жертв, применивших насилие в целях самообороны, иногда арестовывали вместо преступника.
Может ли это принести дополнительный вред жертвам домашнего насилия?
Вызывает беспокойство и роль жертвы в такой программе. Любая программа, которая углубляет наблюдение за преступниками, также углубляет наблюдение за жертвами.
Жертвы не всегда хотят, чтобы в их жизнь вмешивалась полиция. В некоторых случаях эта форма упреждающей полицейской деятельности может показаться продолжением проверки, а не помощью. Что происходит, когда полиция приходит к нам и обнаруживает, что преступник и жертва повышенного риска снова живут вместе?
Риски есть
Жертвы могут опасаться, что в дело вовлечены органы по защите детей, и вынуждены скрывать тот факт, что они все еще находятся с правонарушителем. И как только жертва была вынуждена солгать, она может не захотеть звонить в полицию в следующий раз, когда им потребуется вмешательство полиции. В других случаях правонарушитель или жертва могут принять решение не следовать советам по безопасности сотрудников полиции, которых они посещают. Непонятно, что может сделать полиция в ситуации, когда они просят нападавшего уйти или пытаются спасти пострадавшего, но отказываются.
Миссия любого вмешательства в связи с домашним насилием должна заключаться в восстановлении власти жертвам. Но мы знаем, что вмешательства не помогают всем женщинам (или мужчинам) одинаково. Структурное неравенство, включая расовое и классовое, означает, что разные люди по-разному переживают вмешательство.
