На поле битвы недалекого будущего, или о малорассказанном настоящемРешения о жизни и смерти принимаются не людьми, а алгоритмами. Автономное оружие, управляемое искусственным интеллектом, идентифицирует и поражает цели без вмешательства человека. Это уже не научно-фантастический сценарий, и если мы не будем действовать сейчас, он может стать «нормальным»: такова тревога, поднятая Венской конференцией по ИИ-оружию.
«Момент Оппенгеймера» искусственного интеллекта
Венская конференция, международный саммит, собравший около 1000 участников из более чем 140 стран, сравнил текущую ситуацию с автономным оружием с «Момент Оппенгеймеранашего поколения. Подобно пороху и атомной бомбе, ИИ может совершить революцию в войне, сделав человеческие конфликты невообразимо иными и гораздо более смертоносными.
Заключительное заявление конференции — это искренний призыв установить правила для ИИ-оружия, пока оно еще находится в зачаточном состоянии.
На нас лежит ответственность действовать и соблюдать правила, необходимые для защиты человечества. Человеческий контроль должен преобладать над применением силы.
Автономное оружие, дроны-убийцы: реальность становится все ближе
Благодаря сложным датчикам, управляемым алгоритмами, любой тип оружия может быть преобразован в автономную систему, способную идентифицировать, выбирать и атаковать человеческие цели без какого-либо внешнего вмешательства. Хотя большая часть этого оружия все еще находится на стадии идеи или прототипа, уже война в Украине дали нам представление об их потенциале.
Австрия, нейтральная страна, которая активно продвигает разоружение на международных форумах, организовать и провести встречу сообщить о проблеме. в 2023 Венская конференция представила первую резолюцию ООН по регулированию автономных систем вооружения, получив поддержку из 164 штатов. Министр иностранных дел Австрии Александр Шалленберг предупредил, что сейчас настало время договориться о международных правилах и нормах, обеспечивающих контроль человека над этим оружием.
Гонка на время
Венская конференция представляет собой важный шаг на пути к регулированию автономного оружия, но впереди еще долгий путь. В условиях быстрого развития ИИ существует риск того, что развитие этого оружия опередит нашу способность контролировать его. Это гонка со временем, в которой на карту поставлено не только будущее войны, но и сама судьба человечества.
Столкнувшись с этим эпохальным вызовом, мы не можем позволить себе оставаться инертными. Регулирование автономного оружия – это не просто вопрос прагматизма. Как глобальное общество, мы обязаны определить пределы того, что мы готовы делегировать машинам, особенно когда дело касается решений о жизни и смерти.
Венская конференция привлекла внимание к этому важнейшему вопросу, но теперь все мы должны поддерживать пламя живым. Правительства, международные организации, эксперты и граждане должны объединить усилия для создания прочной и общей нормативной базы, пока не стало слишком поздно.
