Достижения в области нанотехнологий, биотехнологий и кибертехнологий позволяют отдельным лицам или преступным группам преследовать кого угодно, где угодно и во все больших масштабах. Открывается эпоха «всенасилия».
In Будущее насилия, Бенджамин Виттес e Габриэлла Блюм обсудить тревожный гипотетический сценарий. Один преступник в Нигерии, где «распространяется большое количество спама и мошеннических действий в Интернете», обманом заставляет женщин и подростков загружать вредоносное ПО, которое позволяет им отслеживать и записывать свою активность в целях шантажа.
Реальная история, которая вдохновила на создание книги, связана с мужчиной из Калифорнии, которого ФБР в конечном итоге схватило и отправило в тюрьму на 6 лет. Однако не везде это заканчивается так. Многие страны, как отмечают Виттс и Блюм, «У них нет ни воли, ни средств для отслеживания киберпреступлений, судебного преследования преступников или экстрадиции подозреваемых в свои страны».
Политолог Дэниел Додни в нем есть слово для обозначения того, что может быть: «всемогущество». Примеры? Ученый-компьютерщик Стюарт Рассел сделал очень ясным.
Много смертей, мало усилий
Представьте небольшую группу преступников в эпоху всеобщего насилия. Очень, очень маленький квадрокоптер диаметром всего 2,5 сантиметра (1 дюйм) может нести заряд в один или два грамма. Заряд взрывчатого вещества весом в один грамм может пробить даже лист на девять миллиметров стали, и предположительно проткнуть кому-нибудь голову. Три миллиона таких дронов (заказанных у китайского производителя) легко умещаются в сочлененном автобусе.
На трех грузовиках можно атаковать город с 10-миллионным населением: а для проведения небольшого холокоста достаточно 5-10% этого оружия, чтобы поразить цель.
Ущерб, который когда-то могли нанести десятки тысяч солдат, сегодня могут нанести три мальчика. В этом сценарии соотношение убитых и убитых могло бы составить примерно 3/1.000.000, если бы попадал только один дрон из 10 и с одним граммовым зарядом взрывчатого вещества.
Всенасилие - беспрецедентный ужас
Террорист или психопат будущего будет иметь доступ не только к Интернету или дронам. Они смогут добиться еще большего, если будут использовать синтетическую биологию, нанотехнологии и передовые СИСТЕМЫ искусственного интеллекта.
Инструменты, которые «демократизируют» террор даже между разными народами. они делают тривиальным сеять хаос через международные границы. И если кто-то откуда угодно сможет напасть на что-то еще, это поставит все наше общество в кризис. Даже система государств неспособна эффективно обеспечить безопасность границ в мире, где война повсеместна и тотальна.
Война всех против всех в пугающе уязвимом мире.
Худшее лицо анархии
«Homo omini lupus», - сказал бы Томас Гоббс. В мире, который превратился в ежедневную ссору смертных, постоянный страх был бы верховным чувством. Оксфордский философ Ник Бостром он утверждает, что единственный способ защититься от глобальной катастрофы - это использовать универсальную и инвазивную систему наблюдения, которую он называет «высокотехнологичным паноптикумом».
Что такое Паноптикум?
Паноптикум, или паноптик, есть тип тюрьмы спроектирован в 1791 году философом и юристом Джереми Бентам. Совершенная идеальная тюрьма, в которой все камеры охраняются с единой точки. Короче говоря, кошмар, достойный Оруэлла.
Создание и эксплуатация глобального паноптикума потребуют значительных инвестиций, но с падением цен на камеры, передачу данных, хранение и вычисления, а также быстрым развитием искусственного интеллекта это может вскоре стать технологически осуществимым и рентабельным.
Бострому хорошо известны недостатки такого наблюдения: систему можно было использовать в тоталитарных целях, шантажируя кого угодно. Однако, по словам Бострома, ужасный факт заключается в том, что даже Паноптикум может оказаться лучшим вариантом, чем терпеть одну глобальную катастрофу за другой.
Как общество может противостоять всеобщему насилию?
Просвещенный правитель - Первой гипотезой может быть сверхинтеллектуальная машина, чрезвычайно мощный алгоритм, специально разработанный для справедливого управления.
Таким образом, мы могли бы доверить алгоритму сбор наших данных и не беспокоиться постоянно о том, что собранные данные используются ненадлежащим образом или злоупотребляют.
Очевидно, эта гипотеза достаточно оптимистична: использование ИИ в политической и судебной системе было бы сопряжено с проблемами. Но есть ли у нас лучшая идея для предотвращения краха государственной системы под тяжестью повсеместного технологического совершенствования?
Возможно, появится совершенно новая идея по сохранению современного общества, предполагая, что целью является его сохранение. Или, может быть, новые технологии не будут таким сильным инструментом абсолютной власти. Возможно также, что наступательные технологии всегда отстают от оборонительных, и поэтому не будет такой легкости в проведении атак повсюду.
Помимо всенасилия, мир должен укрепиться. По многим причинам.
Возможно также, что прежде чем всеобщее насилие разрушит государственные системы, цивилизация рухнет в силу разных факторов. Возможно, это связано с изменением климата, с сильными смертоносными волнами жары, с сильными засухами. Прибрежные наводнения, повышение уровня моря. Таяние ледников и полярных льдов, опустынивание, разрушение пищевой цепи. Болезни, эпидемии, утрата биоразнообразия, вымирание видов, массовые миграции. Непрерывный? Есть много профессионалов чья работа состоит в том, чтобы перечислить бесчисленное количество возможных причин гибели наших цивилизаций.
Если бы мы снова стали охотниками и собирателями, больше всего беспокоили бы палки и камни, а не патогенные микроорганизмы и искусственный интеллект.
Цивилизация - это эксперимент. Мы можем не получить ожидаемых результатов.
