Уважаемый Азимов, вот и мы: роботы убьют

Джанлука Риччио

Военный, Robotica

Азимов

Le guerre future saranno più veloci e tecnologiche, ma meno umane che mai: benvenuti nell’era dei robot soldati. C’è un posto perfetto per testare armi avanzate: sono le isole Wallops, un piccolo fazzoletto di terra a largo della Virginia che sembra uscito proprio dalla penna di Asimov. Se un peschereccio fosse passato di là un anno fa avrebbe visto una mezza dozzina di gommoni circolare nell’area: uno sguardo più attento avrebbe rivelato che i gommoni non avevano nessuno a bordo. ... Leggi tutto

Будущие войны будут более быстрыми и технологичными, но менее человечными, чем когда-либо: добро пожаловать в эпоху солдат-роботов.

Есть идеальное место для испытания современного оружия: острова Уоллопс, небольшой участок земли у побережья Вирджинии, который, кажется, вышел прямо из-под пера Азимова. Если бы год назад здесь проходило рыболовное судно, оно увидело бы полдюжины шлюпок, циркулирующих в этом районе: более пристальный взгляд показал бы, что на борту шлюпок никого не было.

Лодки использовали двигатель, который мог корректироваться в зависимости от контекста и передавать действия и позиции всем остальным, мгновенно организуя флот в соответствии со стратегией. Даже стрельба, возможно, для защиты войск, стоящих на берегу.

Полусекретное усилие, являющееся частью программы ВМС США под названием «Sea Mob», - это способ прояснить, что машины, оснащенные искусственным интеллектом, вскоре смогут переносить даже смертоносные атаки без какого-либо человеческого контроля и неуважения к ним. законы робототехники.

Сформулировано Айзек Азимов, один из отцов научной фантастики, три закона робототехники они были впервые опубликованы в рассказе 1942 г. В своих романах российско-американский писатель часто упоминает о них: это жесткие принципы, которые нельзя нарушать, теоретически убедившие человечество в добрых «намерениях» роботов.

Кто знает, предвидел ли Азимов, что его «законы» рискуют развалиться, что вот-вот произойдет.

Автоматическая смерть

Идея отправить в бой большие, смертоносные, автономные машины не нова: Подобные системы тестировались десятилетиями, даже если они носили оборонительный характер, например, те, которые обеспечивают прикрытие от вражеских ракет. Развитие искусственного интеллекта позволит создавать наступательные системы, которые не будут просто реагировать на раздражители, а будут самостоятельно решать, что делать, без участия человека.

Человеку требуется четверть секунды, чтобы среагировать, увидев что-то (представьте, сколько времени нужно вратарю, чтобы решить, куда броситься при пенальти). Машины, которые мы создали, уже превосходят нас, по крайней мере, по скорости. В этом году, например, исследователи из Наньянского технологического университета в Сингапуре обучили нейронную сеть поглощать данные из 1.2 миллиона изображений. Компьютер пытался идентифицировать объекты на фотографиях, и это заняло 90 секунд. 0.000075 секунды на фото.

А пока предстоит еще многое сделать: с такой невероятной скоростью система распознала человека на фотографии только в 58% случаев. Уровень успеха, который был бы катастрофическим в бою. Однако то, что машины способны передвигаться гораздо быстрее нас, – это установленный факт, и он будет только усиливаться. В следующем десятилетии ракеты нового поколения будут перемещаться на суборбитальном уровне слишком быстро, чтобы один человек мог решить, как им противостоять или справиться с ситуацией. Стаи автономных дронов будут атаковать, а другие компьютеры будут реагировать на сверхзвуковой скорости.

«Когда война становится такой быстрой, в какой момент человек становится препятствием?» он задается вопросом Роберт ВоркЗаместитель главы Пентагона с Обамой и Трампом. «У нас нет возможности вмешаться, поэтому мы делегируем полномочия машинам». Кроме Азимова, короче.

Оружие, которое делает сам

Каждый военный аспект сегодня предполагает проведение исследований, направленных на обеспечение более быстрой, более точной и менее гуманной войны.

La Marina Американец испытывает 135-тонный корабль под названием «Морской охотник», который патрулирует океаны без экипажа, в поисках подводных лодок, которые однажды смогут выстрелить напрямую. В одном тесте корабль прошел 4000 км от Гавайских островов до Калифорнии без участия человека, делая все сам.

Армия тем временем он разрабатывает новые системы «наведи и стреляй» для своих танков, а также ракетный комплекс под названием JAGM, Joint Air-to-Ground Missile. JAGM имеет возможность выбирать транспортные средства для нацеливания без вмешательства человека. В марте Пентагон запросил у Конгресса средства на строительство 1051 JAGM стоимостью 360 миллионов евро.

А авиация? Все испытания сосредоточены на проекте «СкайБорг» (название говорит само за себя): беспилотной версии F-16, способной сражаться самостоятельно.

До вчерашнего дня солдатам, которые хотели устроить взрыв на удаленном объекте, приходилось решать, как и когда нанести удар: самолетом? Ракета? Корабль? Бак? Затем им нужно было направить бомбу, прицелиться, отдать команду.

Дроны и системы типа Sea Mob полностью лишают людей возможности принимать такие решения. Единственное решение, которое остается за военным командованием (но оно должно быть принято не раньше и не вопреки всеобщему согласию) - это когда роботов оставляют свободными убивать нарушая знаменитые законы Азимова, возможно, начиная с моментов прерывания радиосвязи во время военной операции.

Это не вопрос только Соединенных Штатов

С 90-х годов Израиль начал разработку системы под названием HARPY, которую сегодня мы бы назвали искусственным интеллектом. Дрон был способен пролетать над зонами, покрытыми радиолокационными средствами, и атаковать их самостоятельно. Затем компания продала эту систему в Китай и другие страны.

Азимов
Изображение ГАРПИИ в действии

В начале 2000-х годовАнглия разработала ракету «Бримстоун», способную находить технику противника на поле боя и «устанавливать», в какую из них поражать.

В прошлом, 2018 году Президент Россия Владимир Путин рассказал о подводном беспилотнике, оснащенном ядерным оружием, открыв сценарий, в котором автоматическое устройство может быть оснащено самым смертоносным оружием, когда-либо созданным человеком. А с другой стороны, сам Путин признал, что нация способна разработать лучший ИИ. «она станет хозяином мира».

La Китай компания не сделала каких-либо громких заявлений, но тот факт, что она находится на переднем крае искусственного интеллекта, все еще заставляет задуматься. По оценкам, в ближайшие 10 лет она станет ведущей страной в этой области и вскоре может использовать это в военных целях.

Технологическая холодная война

Страх перед такими странами, как Китай или Россия, подтолкнул США тратить много средств на развитие ИИ: 600 миллионов долларов в 2016 году, 800 в 2017 году и более 900 в этом году. Пентагон не раскрыл подробностей об этих усилиях, но из официальных интервью легко сделать вывод, что многие решения возникнут в результате развития исследований ИИ. военные технологиидаже если не сразу готов принять командование полностью.

Все же это может случиться

Интенсивные экономические инвестиции, которые США делают, чтобы восстановить уверенность в технологическом (и, следовательно, военном) превосходстве, умножают риски принуждения машин к рукам или позволения им принудить их. Роберт Ворк говорит это ясно: «Наступит момент, когда машины «совершат ошибку», вызванную нами, потому что мы не стремимся создать идеальную машину, а только самую полезную в кратчайшие сроки».

Идея о том, что машины могут вмешаться полностью самостоятельно и принять решение убить людей, нарушив законы робототехники Азимова, все еще принадлежит воображению, которое полностью ее отвергает: что-то близкое к апокалиптическим фильмам, таким как «Терминатор». Но это не отдаленные возможности.

На планете все более конкурентоспособных стран в этой области реальная возможность того, что автономные машины могут нанести ущерб противникам также с точки зрения человеческих жизней, является реальной. Не приятно говорить, еще меньше слышать, но это так.

Такие системы, как Sea Mob, еще не развернуты и не готовы, но «проверяют почву» на предмет таких сценариев. В таком случае, дорогой Исаак, прости нас, потому что мы не узнаем, что мы сделали.