Президент Microsoft Брэд Смит предупредил, что жизнь, как описал Джордж Оруэлл в 1984 году, «может стать реальностью в 2024 году», если законодатели не защитят общественность от искусственного интеллекта. И это будет «сложно догнать», учитывая стремительный прогресс этой технологии.
«Если мы не будем обеспечивать соблюдение законов, защищающих общественность от такого будущего, мы скоро обнаружим, что технология зашла слишком далеко, чтобы вернуть ее под контроль», - прямо сказал Смит.
Мне постоянно напоминают уроки Джорджа Оруэлла из его книги 1984 г. Он говорил о правительстве, которое может видеть все, что делают все, и всегда слышать все, что все говорят. Этого не произошло в 1984 году, но, если мы не будем осторожны, это произойдет в 2024 году.
Если бы Оруэлл был в Пекине
В некоторых частях мира реальность становится все ближе и ближе к антиутопическому видению Джорджа Оруэлла.
Китай стремится к 2030 году стать мировым лидером в области искусственного интеллекта, и многие считают, что его возможности намного превосходят европейские.
- В 2019 году в Китае превзойти США по количеству патентов гарантированы академическими учреждениями за инновации в технологиях искусственного интеллекта.
- Согласно исследованию Comparitech, 54% из 770 миллионов камер видеонаблюдения в мире расположены в Китае..
Доктор Лань Сюэ, консультант правительства Китая, сказал, что распознавание лиц может оказаться «чрезвычайно полезным» для идентификации людей в массовых скоплениях людей в случае «серьезной аварии». И могу вас заверить, что развитие этой технологии он уже достаточно продвинут.
Реакция Китая на обвинения американцев
Эрик Шмидт, бывший генеральный директор Google, а ныне председатель Комиссии национальной безопасности США по искусственному интеллекту, предупредил, что победить Китай в области искусственного интеллекта необходимо.
«Мы находимся в стратегическом геополитическом конфликте с Китаем», - сказал он. «Путь к победе - объединить наши ресурсы, чтобы разработать национальные и глобальные стратегии победы демократий в ИИ. Если мы этого не сделаем, мы будем смотреть в будущее, в котором нам будут навязывать другие ценности ». Ценности а-ля Оруэлл.
Доктор Сюэ придерживается другого мнения. «Китай не стремится экспортировать свои ценности. Конечно, они действительно добились огромного прогресса в технологическом развитии, и США считают это угрозой. Для этого они развязали своего рода холодную войну в области технологий »(и не только это, я бы сказал).
Хотя Китай имеет огромные различия с США в своих ценностях и политике, его мировоззрение - это не конвергенция, а сосуществование.
Кейу Джин, доцент Лондонской школы экономики.
Проект Maven
Однако, когда дело доходит до контроля Оруэлла, США демонстрируют, что у них есть амбиции, не совсем отличные от китайских. Доктор Шмидт стал советником Пентагона в 2016 году, сохранив при этом должность исполнительного председателя Alphabet, материнской компании Google. В последующие годы Google заключила контракт с Пятиугольник что позволяет ему использовать некоторые из своих технологий распознавания изображений в рамках военного проекта.
В проекте под названием Maven использовалось машинное обучение для распознавания людей и объектов в видеороликах с дронов.
«В то время Maven был… способом заменить человеческие глаза автоматическим зрением для видеозаписей с дронов, которые использовались в различных арабских конфликтах», - говорит Шмидт. Думаю, Оруэлл не приходит в голову. «Я видел в использовании этой технологии явный позитивный фактор для национальной безопасности и хорошее партнерство для Google». Я хотел бы понять, почему технология в руках Китая немедленно становится «репрессивной», а та же технология в руках американцев немедленно становится «положительной для национальной безопасности», и да ладно.
И не только мне это интересно. Даже сотрудники Google сделали это, критикуя проект, подавая петиции против него и даже уйдя в отставку.
«Google не должен участвовать в военном бизнесе», - сказал инженер-программист. Лаура Нолан которая ушла в отставку в 2018 году, когда обнаружила природу проекта. «Мне казалось, что мои руки залиты кровью».
Излишне говорить, что Google заявила, что ее ИИ будет использоваться только в ненаступательных целях, прежде чем полностью отказаться (?) От проекта Maven в июне 2018 года. Доктор Оруэлл, извините, Шмидт сказал, что он считает, что технология может помочь. «принимать правильные решения» и верить в то, что это «хорошо».
Подражатель Оруэлла, гонка вооружений искусственного интеллекта
Короче говоря, легко сказать «Оруэлл», но правда в том, что граждане мира сталкиваются с довольно двусторонним потенциальным риском. Министерство обороны продолжай искать партнерства в Кремниевой долине, пытаясь вместе с Китаем выиграть глобальную гонку за оружием искусственного интеллекта.
Поскольку мы участвуем в соревновании, потому что мы участвуем в этом соревновании, это действительно то, о чем идет речь. Помогут ли они нам выиграть эту гонку или по сути будут против нас? В Китае нет такой системы правления, как у нас. Может ли гонка вооружений ИИ привести к конфликту с Китаем? Абсолютно."
Сет Моултон, председатель Целевой группы США по вопросам будущего обороны, призывает технологические компании поддержать министерство обороны.
Доктор Оруэлл, извините, Сюэ (к настоящему времени я вижу Оруэлла повсюду) согласилась с тем, что существует потенциальный конфликт. Но лукаво и в мягком стиле, характерном для истеблишмента Поднебесной, он говорит, «но это не неизбежно: Соединенные Штаты и Китай должны действительно работать вместе, чтобы этого не произошло».
