Искусственный интеллект производит революцию во многих отраслях, и военная сфера не является исключением. Растущая способность машин принимать автономные решения без необходимости участия людей поднимает важнейшие вопросы о характере войн в ближайшем будущем.
Пол Шарре, вице-президент Центр новой американской безопасности и эксперт в области применения искусственного интеллекта в обороне, подчеркивает потенциальные проблемы и возможности этой эволюции. В контексте этой дискуссии недавний фильм «Создатель», несмотря на то, что он является развлекательным продуктом, представляет собой культурное размышление по тем же вопросам. Давайте подумаем об этом вместе.
В фильме «Создатель», действие которого происходит во время будущей войны между людьми и искусственным интеллектом, бывший агент спецназа Джошуа, огорченный исчезновением своей жены, завербован, чтобы найти и убить «Создателя», архитектора Продвинутый ИИ. На самом деле эта задача может быть гораздо сложнее.
Первая дуэль (проигранная людьми)? В небе
Есть несколько недавних примеров, которые подчеркивают потенциал ИИ в военном секторе. Из одного (военных дронов, уже автономных по своему выбору) мы говорили здесь. Вы наверняка слышали о другом. Я имею в видуАльфаDogfight Challenge от DARPA, который видел пилота-человека сразиться с ИИ в авиасимуляторе. Результат? ИИ доминировал над пилотом со счетом от 15 до нуля, демонстрируя почти сверхчеловеческие способности, такие как точные выстрелы с точностью до доли секунды, которые пилоты-люди никогда не могли осуществить.
В реальном воздушном бою ИИ уже может одержать верх. Но что все это означает для будущего войны?
ИИ на поле боя
Идея о том, что машины принимают решения о жизни и смерти, поднимает сложные этические вопросы. Хотя такие машины нацелены на гораздо большую, «почти» безошибочную точность, любое отклонение от курса будет представлять собой военное преступление: но кто будет нести прямую ответственность? По мнению Шарра, установить ответственность и прямой контроль над ИИ может быть не так просто.
Однако в ближайшем будущем ИИ, скорее всего, будет использоваться людьми в первую очередь для тактики и анализа. ИИ может обрабатывать информацию более эффективно, делая армию более эффективной. Но это также может привести к большей зависимости от искусственного интеллекта при принятии решений, поскольку конкурентное преимущество в военной среде может оказаться слишком заманчивым, чтобы его игнорировать.
Подводя итог, Шарре считает, что люди создают системы, которые они не до конца понимают и, возможно, не смогут контролировать, в результате чего мы сталкиваемся с беспрецедентными угрозами.
Гонка вооружений ИИ теперь кажется неизбежной
Эксперты уже давно рассеяли свои сомнения по этому поводу: мы станем свидетелями своего рода гонки вооружений в области искусственного интеллекта, аналогичной гонке ядерных вооружений.
Некоторые китайские учёные они выдвинули гипотезу о «сингулярности поля боя»: точка, когда скорость принятия решений, принимаемых ИИ, превосходит способность человека понимать. В таком случае нам, возможно, придется «передать ключи» автономным системам.
По поводу исхода гипотетической войны между людьми и искусственным интеллектом, находящимся вне нашего контроля, Шарре не испытывает оптимизма. И он ясно дает понять это провокационным и ярким сравнением: можем ли мы когда-нибудь проиграть гипотетическую войну против обезьян? Выводы делайте сами.
