Достижения в области нанотехнологий, биотехнологий и кибертехнологий позволяют отдельным лицам или преступным группам атаковать кого угодно, где угодно и во все более крупных масштабах. Начинается эпоха «всенасилия».
In Будущее насилия, Бенджамин Виттес e Габриэлла Блюм они обсуждают тревожный гипотетический сценарий. В целях шантажа одинокий преступник в Нигерии, «доме большого количества спама и мошеннической деятельности в Интернете», обманом заставляет женщин и подростков загружать вредоносное ПО, которое позволяет ему отслеживать и записывать их действия.
Реальная история, вдохновившая на написание книги, касалась жителя Калифорнии, которого ФБР в конечном итоге схватило и отправило в тюрьму на 6 лет. Однако не везде так происходит. Многие страны, как отмечают Виттес и Блюм, «У них нет ни желания, ни средств отслеживать киберпреступность, преследовать преступников или экстрадировать подозреваемых в страны своего происхождения».
Политолог Дэниел Додни есть слово для обозначения того, что может получиться: «всенасилие». Примеры? Ученый-компьютерщик Стюарт Рассел сделал очень ясным.
Много смертей, мало усилий
Представьте себе небольшую группу преступников в эпоху всеобщего насилия. Очень, очень маленький дрон-квадрокоптер диаметром всего 2,5 сантиметра (1 дюйм) может нести заряд в один или два грамма. Однограммовый заряд взрывчатого вещества способен пробить даже девятимиллиметровый лист стали и предположительно пробить чью-то голову. Три миллиона таких дронов (заказанных у китайского производителя) легко помещаются в сочленённом автобусе.
На трех грузовиках можно атаковать город с 10-миллионным населением: а для проведения небольшого холокоста достаточно 5-10% этого оружия, чтобы поразить цель.
Ущерб, который когда-то могли нанести десятки тысяч солдат, сегодня могут нанести три мальчика. В этом сценарии соотношение убитых и убитых могло бы составить примерно 3/1.000.000, если бы попадал только один дрон из 10 и с одним граммовым зарядом взрывчатого вещества.
Всенасилие — беспрецедентный ужас
Террорист или психопат будущего будет иметь доступ не только к Интернету или дронам. Они смогут добиться еще большего, если будут использовать синтетическую биологию, нанотехнологии и передовые СИСТЕМЫ искусственного интеллекта.
Инструменты, которые «демократизируют» террор даже между разными странами. они делают тривиальным создание хаоса за пределами международных границ. И если кто-то откуда угодно сможет напасть куда-нибудь ещё, это подорвет всё наше общество. Даже система государств, неспособная эффективно обеспечивать безопасность границ в мире, где война носит повсеместный и тотальный характер.
Война всех против всех в пугающе уязвимом мире.
Худшее лицо анархии
«Homo omini lupus», - сказал бы Томас Гоббс. В мире, который превратился в ежедневную ссору смертных, постоянный страх был бы верховным чувством. Оксфордский философ Ник Бостром он утверждает, что единственный способ защититься от глобальной катастрофы — это использовать универсальную и инвазивную систему наблюдения, которую он называет «высокотехнологичным Паноптикумом».
Что такое Паноптикум?
Паноптикум, или паноптик, есть тип тюрьмы спроектирован в 1791 году философом и юристом Джереми Бентам. Совершенная идеальная тюрьма, в которой все камеры охраняются с единой точки. Короче говоря, кошмар, достойный Оруэлла.
Создание и функционирование глобального Паноптикума потребует значительных инвестиций, но с учетом падения цен на камеры, передачу данных, хранение и вычисления, а также быстрого развития искусственного интеллекта это вскоре может стать технологически осуществимым и экономически эффективным.
Бострому хорошо известны недостатки такого наблюдения: систему можно было использовать в тоталитарных целях, шантажируя кого угодно. Однако, говорит Бостром, ужасный факт заключается в том, что даже Паноптикум может оказаться лучшим вариантом, чем страдать от одной глобальной катастрофы за другой.
Как общества могут противостоять всенасилию?
Просвещенный правитель – Первой гипотезой могла бы стать сверхразумная машина, по сути, чрезвычайно мощный алгоритм, специально разработанный для справедливого управления.
Тогда мы могли бы доверить алгоритму сбор наших данных и не беспокоиться постоянно о том, что собранные данные будут использованы не по назначению или злоупотреблены.
Очевидно, что эта гипотеза очень оптимистична: использование ИИ в политической и судебной системе будет сопряжено с множеством проблем. Но есть ли у нас идея получше, как предотвратить коллапс государственной системы под тяжестью повсеместного расширения технологических возможностей?
Возможно, появится совершенно новая идея сохранения нынешнего общества, если цель состоит в его сохранении. Или, возможно, новые технологии не будут таким сильным инструментом абсолютной власти. Возможно также, что наступательные технологии всегда отстают от оборонительных, и поэтому не везде будет так легко проводить атаки.
Помимо всеобщего насилия, мир должен укрепить себя. По многим причинам.
Возможно также, что прежде чем всенасилие разрушит государственные системы, цивилизация рухнет из-за различных факторов. Возможно, это связано с изменением климата, сильными смертельными волнами жары и сильными засухами. Прибрежное наводнение, повышение уровня моря. Таяние ледников и полярных шапок, опустынивание, разрушение пищевой цепи. Эпидемические заболевания, утрата биоразнообразия, исчезновение видов, массовые миграции. Непрерывно? Есть много профессионалов чья работа состоит в том, чтобы перечислить бесчисленное количество возможных причин гибели наших цивилизаций.
Если бы мы снова стали охотниками и собирателями, больше всего беспокоили бы палки и камни, а не патогенные микроорганизмы и искусственный интеллект.
Цивилизация - это эксперимент. Мы можем не получить ожидаемых результатов.
