Полицейская служба Квинсленда (QPS) в Австралии запустит испытание искусственного интеллекта (ИИ) определить будущий риск что некоторые заявленные субъекты прибегают к домашнему насилию.
Правонарушители, отнесенные к категории «высокого риска» (на основании предварительного сообщения, судимости или иным образом), будут посещены полицией на дому до эскалации домашнего насилия и совершения какого-либо преступления.
Домашнее насилие: профилактика лучше, но ...
Скажу сразу: нам нужно найти более эффективные способы повышения безопасности женщин, ставших жертвами домашнего насилия. Однако использование технологии искусственного интеллекта в этом контексте может иметь непредвиденные последствия, и предлагаемый план поднимает серьезные вопросы о роли полиции в предотвращении случаев домашнего насилия.
В основе подхода лежит алгоритм, разработанный на основе существующих данных. Все статистические алгоритмы должны оценивать риск на основе доступных данных. Это, в свою очередь, означает, что они «только» настолько хороши, насколько хороши данные, которые их подтверждают. Неслучайно эксперты критикуют инструменты оценки рисков на основе данных в полиции, подчеркивая отсутствие прозрачности в конкретных типах анализируемых данных.
Остерегайтесь играть в "Pre Crime"
Как уже упоминалось, наиболее последовательно собираемыми ключевыми данными являются информация о прошлых ситуациях, когда вызывалась полиция, и данные о судимости. Использование этой информации для обучения алгоритма ИИ может усилить существующие предубеждения в системе уголовного правосудия. Это может создать бесконечный цикл обратной связи, тупиковый порочный круг между полицией и теми гражданами, которые больше контактируют с полицией.
Если на ум приходит также этническая дискриминация, значит, вы недалеки от истины. В Австралии, например, с полицией чаще всего контактируют аборигены. Нетрудно представить, что в условиях нового режима «борьбы с домашним насилием» аборигенов будет больше посещать полиция.
Полиция хочет сказать, что для этого пилотного проекта атрибуты этнической принадлежности и географического положения были удалены до обучения модели ИИ. Несмотря на это, по-прежнему существует вероятность того, что аборигены по-прежнему будут подвергаться непропорционально сильному преследованию, поскольку они чрезмерно представлены во всех контактах с полицией.
Основан ли на риске преступления хороший подход?
Цель этих стратегий полиции по борьбе с преступностьюискусственный интеллект это предотвращение или сокращение преступности путем оценки риска будущих преступлений. Теоретически это означает, что полиция вмешается заранее, чтобы предотвратить преступление. Кто помнит вышеупомянутое «предсмертное преступление» из «Minority Report»?
Я говорю, что при таком подходе есть риски, что полиция может даже создать преступление. «Превентивная» программа такого типа может усилить механизмы сопротивления и обхода: меня не удивит, если это приведет к другим преступлениям.
Подводя итог, можно сказать, что план, предложенный австралийской полицией, представляет явный риск. Это расширение сети криминализации как преступников, так и жертв (которые могут быть ошибочно идентифицированы как преступники). Как? Например, вместо преступника иногда арестовывали жертв, применивших насилие в целях самообороны.
Может ли это принести дополнительный вред жертвам домашнего насилия?
Вызывает беспокойство и роль жертвы в такой программе. Любая программа, которая углубляет наблюдение за преступниками, также углубляет наблюдение за жертвами.
Жертвы не всегда хотят, чтобы в их жизнь вмешивалась полиция. В некоторых случаях эта форма активной деятельности полиции может восприниматься как расширение контроля, а не как помощь. Что происходит, когда полиция приходит к нам и обнаруживает, что преступник и жертва повышенного риска снова живут вместе?
Риски есть
Жертвы могут опасаться, что в дело вмешаются органы по защите детей, и чувствовать себя обязанными скрывать тот факт, что они все еще находятся с преступником. И как только жертву заставили солгать, она может не захотеть звонить в полицию в следующий раз, когда ему или ей потребуется вмешательство полиции. В других случаях преступник или жертва могут решить не следовать советам по безопасности, полученным от посещающих полицейских. Неясно, что полиция может сделать в ситуации, когда они просят нападавшего уйти или пытаются увести жертву в безопасное место, но они отказываются.
Миссия любого вмешательства в связи с домашним насилием должна заключаться в восстановлении власти жертвам. Но мы знаем, что вмешательства не помогают всем женщинам (или мужчинам) одинаково. Структурное неравенство, включая расовое и классовое, означает, что разные люди по-разному переживают вмешательство.
