Наступает момент, когда технология перестает быть инструментом и становится сущностью, способной преобразовать само человечество. Познавать— предложение о виртуальной тюрьме, вызвавшее обсуждения во всем мире, — может стать той самой точкой невозврата.
Преступники сидят в высокотехнологичных капсулах, в их мозг имплантированы искусственные воспоминания, осуществляется манипулирование нейротрансмиттерами и гормонами в режиме реального времени с целью вызвать чувство вины, раскаяния, сочувствия. Нет, это не «Черное зеркало». Исследования на мышах уже показали, что воспоминания можно имплантировать, изменять, трансформировать из негативных в позитивные. Вопрос уже не в том «если», а в том «когда» и, прежде всего: «действительно ли нам нужно это делать»?
Тюрьма, которая проникает в голову
Само название, Cognify, звучит почти как безобидное приложение для улучшения памяти; Вместо этого он скрывает тревожную концепцию: технологические капсулы, где заключенные подключены к системе, которая «внедряет» искусственные впечатления непосредственно в мозг. Меня бросает в дрожь при мысли о том, что совершивший насилие преступник может быть вынужден «переживать» совершенное им преступление с точки зрения жертвы. Или что наркоторговец может «экспериментировать» с симуляциями зависимости и выздоровления.
Идея пришла в голову Хашем Аль-Гайли, кинорежиссер и популяризатор науки из Берлина, который представляет это как необходимую революцию для преодоления ограничений нынешней пенитенциарной системы: переполненности, неэффективной реабилитации, непомерных расходов. С помощью тюрьмы Cognify он утверждает, заключенные не будут гнить в своих камерах, а выйдут из тюрьмы уже через несколько минут, все еще имея перед собой всю жизнь и полностью искупив свои грехи. Короче говоря, они пойдут по «более эффективному пути реформ и социальной реинтеграции». Элегантное решение, если бы не маленькая деталь в виде нарушенной психической целостности.
Он также напоминает, что наука уже продемонстрировала, что можно внедрять ложные воспоминания и преобразовывать страшные воспоминания в позитивные. в 2018исследователям удалось передать память от одной морской улитки к другой. С будущим развитием инструментов ИИ, таких как Сора di OpenAIсоздание гиперреалистичных симуляций станет все более возможным.
Сканированный мозг и искусственные воспоминания
Как работает эта антиутопическая система? Сначала сканирование с высоким разрешением создает карту мозга осужденного, определяя области, в которые Cognify будет «вводить» искусственные воспоминания. Затем гарнитура передает в сознание тюремного гостя персонализированные впечатления, создавая реалистичные переживания, варьирующиеся от сожалений до личностного роста.
Тем временем (и здесь вопрос, возникший в результате провокации Аль-Гаили, становится еще более туманным) данные о мозге заключенного будут отправлены на «центральный компьютер для научного исследования», предположительно, для лучшего понимания «преступного разума» и определения наилучшего подхода к борьбе с будущими преступлениями. Что-то вроде нейронный интеллектуальный анализ данныхКороче.
Этика стирания и переписывания
Этические вопросы взрывоопасны. Может ли кто-либо действительно дать согласие на имплантацию искусственных воспоминаний? Как мы можем гарантировать, что это не приведет к необратимой травме? Сам Аль-Гаили признает:
Существуют опасения по поводу согласия, конфиденциальности и возможных непреднамеренных психологических последствий изменения воспоминаний. Имплантация искусственных воспоминаний также поднимает вопросы о подлинности личности.
И как человек, прожив годы опыта, может снова приспособиться к реальности за несколько минут? Cognify предполагает, что «членам семьи субъекта может быть предоставлен полный отчет о новых искусственных воспоминаниях». но психологический разрыв все равно будет ужасающим.
Даже если бы технология работала идеально, потребовались бы годы тщательного тестирования, чтобы убедиться, что она не нанесет непоправимого ущерба. И остается основной вопрос: действительно ли мы хотим правосудия, которое буквально переписывает сознание?
