«Хизер» 14 лет, у нее есть профиль в Snapchat, но ее не существует. Это новый козырь полиции Нью-Мексико в онлайн-расследованиях против педофилов. Но действительно ли использование ИИ для создания виртуальных несовершеннолетних является правильным решением? Приготовьтесь, ведь эта история заставит вас задуматься.
Когда реальность превосходит «обычное» Черное Зеркало
Онлайн-расследования принимают такой поворот, который даже Чарли Брукер не осмелился бы представить в своем сериале-антиутопии. Полиция Нью-Мексико решила поиграть с цифровым огнем, создав виртуального подростка для привлечения сексуальных хищников в социальных сетях. Блестящая идея или этическая катастрофа, готовая взорваться? Все началось с иском против Snapchat, обвиненного в недостаточной защите несовершеннолетних на своей платформе (эхо вопрос Павла Дурова или я ошибаюсь?). Чтобы продемонстрировать, насколько легко хищникам охотиться на детей, исследователи создали «Хизер», 14-летнюю девочку, сгенерированную искусственным интеллектом.
Они не просто использовали фотографию какой-то молодой женщины-полицейского, как это делалось в старые времена. Нет, они решили повысить ставку, используя искусственный интеллект, чтобы создать изображение максимально реалистичное и убедительное. Результат? Тревожный успех.
Рыбалка в мутной воде с онлайн-расследованиями
Используя «Вереск» в качестве приманки, агенты начали ловить рыбу в черном море социальных сетей. А какую рыбу они поймали! Пользователи с жуткими именами вроде «child.rape» и «pedo_lover10» без колебаний связались с фейковой девушкой, пытаясь получить откровенный материал. Эта тактика сработала слишком хорошо, раскрыв темную сторону приложения, которую многие предпочли бы игнорировать. Но есть и вопросы. Первый, наверное, самый главный: правильно ли создавать сексуализированные изображения несовершеннолетних, пусть даже и фейковые, чтобы поймать настоящих хищников? Это похоже на тушение огня огнем или мы просто подливаем масла в огонь?
Кэрри Голдберг, адвокат, который представлял некоторых жертв Харви Вайнштейн, не сомневается: «Было бы тревожно с этической точки зрения, если бы правительство создало дипфейки жестокого обращения с детьми, потому что эти изображения незаконны, и мы не хотим, чтобы подобные материалы больше находились в обращении».
Слон в комнате ИИ
Дальше возникает еще одна, опять же громоздкая проблема: чтобы генерировать реалистичные изображения детей, ИИ должен обучаться на фотографиях реальных детей. Вас устраивает эта идея? Я не знаю. Я думаю, что нет. Задумайтесь на минутку: мы используем изображения реальных детей, которые не могут дать фактического согласия, чтобы создать сексуализированные, вымышленные версии других детей. Не знаю, как у вас, а у меня от этого мурашки по коже. Мало того, существует риск, что эта тактика обернется против самой полиции. Голдберг предупреждает, что использование фотографий, созданных искусственным интеллектом, может стать аргументом в пользу юридической защиты. Представьте себе адвоката, говорящего: «Мой клиент искал не настоящую маленькую девочку, а искусственное создание полиции».
Онлайн-расследования: технологии и борьба за этику
Пока мы обсуждаем, технологии продолжают развиваться. Количество изображений жестокого обращения с детьми, созданных с помощью ИИ, уже растет. В этом сценарии действия полиции Нью-Мексико кажутся отчаянной попыткой опередить преступников. Но остается вопрос: действительно ли мы защищаем детей или просто создаем новый вид эксплуатации, пусть даже виртуальной?
Мы столкнулись с настоящей «Уловкой 22» цифровой эпохи. Помните роман, и соответствующий парадокс? С одной стороны, эта тактика, похоже, работает на привлечение хищников. С другой стороны, мы вступаем на очень серую, если не совсем черную, этическую территорию.
И сейчас?
Однозначного ответа у меня нет, да и, возможно, ни у кого нет. Не вызывает сомнений то, что эта история ставит перед нами неудобные вопросы о будущем онлайн-расследований и роли искусственного интеллекта в борьбе с преступностью. Возможно, настоящее решение заключается не в создании виртуальных жертв, а в том, чтобы сделать социальные платформы более безопасными в корне. Или, возможно, нам придется признать, что в мире, который становится все более цифровым, для борьбы с преступностью также придется применять методы, которые заставят нас чувствовать себя некомфортно.
Дебаты об онлайн-расследованиях только начинаются, и это будет нелегкий разговор. Но этот разговор нам нужен ради наших настоящих детей, а не детей, созданных ИИ. А ты, на какой ты стороне?
