«Жизнь Джорджа Оруэлла, описанная в 1984 году», «может стать реальностью в 2024 году», если законодатели не защитят общественность от искусственного интеллекта, предупредил президент Microsoft Брэд Смит. И его будет «трудно догнать», учитывая быстрый прогресс этой технологии.
«Если мы не примем законы, которые защитят общественность от такого будущего, мы очень скоро обнаружим, что технологии зашли слишком далеко, чтобы их можно было вернуть под контроль», - прямо сказал Смит.
Мне постоянно напоминают уроки Джорджа Оруэлла из его книги 1984 г. Он говорил о правительстве, которое может видеть все, что делают все, и всегда слышать все, что все говорят. Этого не произошло в 1984 году, но, если мы не будем осторожны, это произойдет в 2024 году.
Если бы Оруэлл был в Пекине
В некоторых частях мира реальность становится все ближе и ближе к антиутопическому видению Джорджа Оруэлла.
Целью Китая является стать мировым лидером в области искусственного интеллекта к 2030 году, и многие считают, что его возможности значительно превосходят возможности Европы.
- В 2019 году в Китае превзойти США по количеству патентов гарантированный академическими учреждениями для инноваций в технологиях искусственного интеллекта.
- Согласно исследованию Comparitech, 54% из 770 миллионов камер видеонаблюдения в мире расположены в Китае..
Доктор Лань Сюэ, советник китайского правительства, сказал, что распознавание лиц может оказаться «чрезвычайно полезным» для идентификации людей на массовых собраниях в случае «серьезного инцидента». И я могу вас заверить, что развитие этой технологии он уже достаточно продвинут.
Реакция Китая на обвинение американцев
Эрик Шмидт, бывший генеральный директор Google, а ныне председатель Комиссии национальной безопасности США по искусственному интеллекту, предупредил, что победить Китай в области искусственного интеллекта крайне важно.
«Мы находимся в геополитическом стратегическом конфликте с Китаем», — сказал он. «Способ победы — объединить наши ресурсы для разработки национальных и глобальных стратегий, которые помогут демократиям победить с помощью ИИ. Если мы этого не сделаем, мы увидим будущее, в котором нам будут навязаны другие ценности». Оруэлловские ценности.
Доктор Сюэ так не думает. «Китай не стремится экспортировать свои ценности. Конечно, они действительно добились огромного прогресса в технологическом развитии, и США чувствуют, что это угроза. Вот почему они начали своего рода холодную войну в области технологий» (и не только это, я бы сказал).
Хотя Китай имеет огромные различия с США в своих ценностях и политике, его мировоззрение - это не конвергенция, а сосуществование.
Кейу Джин, доцент Лондонской школы экономики.
Проект Maven
Однако, когда дело доходит до контроля Оруэлла, США демонстрируют, что у них есть амбиции, не совсем отличные от китайских. Доктор Шмидт стал советником Пентагона в 2016 году, сохранив при этом должность исполнительного председателя Alphabet, материнской компании Google. В последующие годы Google заключила контракт с Пятиугольник что позволяет ему использовать некоторые из своих технологий распознавания изображений в рамках военного проекта.
В проекте под названием Maven использовалось машинное обучение для распознавания людей и объектов в видеороликах с дронов.
«В то время Maven был… способом заменить человеческие глаза машинным зрением для видеозаписи, снятой с дронов, которая использовалась в различных арабских конфликтах», — говорит Шмидт. Думаю, Оруэлл не приходит на ум. «Я рассматриваю использование этой технологии как положительный результат для национальной безопасности и хорошее партнерство для Google». Мне бы хотелось понять, почему технология в руках китайцев сразу же становится «репрессивной», а та же технология в руках американцев сразу же становится «положительной для национальной безопасности», ну и ладно.
И я не единственный, кто задается этим вопросом. Даже сами сотрудники Google поступали так, критикуя проект, подавая петиции против него и даже уйдя в отставку.
«Google не должна заниматься военным бизнесом», — сказал инженер-программист Лаура Нолан которая ушла в отставку в 2018 году, когда узнала о сути проекта. «Мне казалось, что у меня на руках кровь».
Излишне говорить, что Google заявила, что ее ИИ будет использоваться только в ненаступательных целях, прежде чем полностью (?) выйти из проекта Maven в июне 2018 года. Доктор Оруэлл, извините, Шмидт сказал, что, по его мнению, эта технология может помочь военным «создать правильные решения» и верить, что это «хорошо».
Подражатель Оруэлла, гонка вооружений ИИ
Короче говоря, легко сказать «Оруэлл», но правда в том, что граждане мира столкнулись с довольно двухпартийным потенциальным риском. Министерство обороны продолжай искать партнерства в Кремниевой долине, пытаясь вместе с Китаем выиграть глобальную гонку за оружием искусственного интеллекта.
Потому что мы участвуем в гонке, потому что мы участвуем в этом соревновании, вот в чем дело. Помогут ли они нам выиграть эту гонку или же они по сути будут против нас? В Китае нет такой системы правления, как у нас. Может ли гонка вооружений ИИ привести к конфликту с Китаем? Абсолютно."
Сет Моултон, председатель Целевой группы США по вопросам будущего обороны, призывает технологические компании поддержать министерство обороны.
Доктор Оруэлл, извините, Сюэ (теперь я вижу Оруэлла повсюду) согласился, что существует потенциальный конфликт. Но лукаво и в том мягком стиле, который характеризует становление Поднебесной, он говорит, что «но это не неизбежно: Соединённые Штаты и Китай должны действительно сотрудничать, чтобы не допустить этого».
