Жизнь, описанная Джорджем Оруэллом в 1984 году, «может стать реальностью в 2024 году», если законодатели не защитят общественность от искусственного интеллекта, предупредил президент Microsoft Брэд Смит. И будет "трудно догнать" с учетом стремительного развития этой технологии.
«Если мы не примем законы, защищающие общество от такого будущего, мы очень скоро обнаружим, что технология зашла слишком далеко, чтобы вернуть ее под контроль», — прямо сказал Смит.
Мне постоянно напоминают уроки Джорджа Оруэлла из его книги 1984 г. Он говорил о правительстве, которое может видеть все, что делают все, и всегда слышать все, что все говорят. Этого не произошло в 1984 году, но, если мы не будем осторожны, это произойдет в 2024 году.
Если бы Оруэлл был в Пекине
В некоторых частях мира реальность становится все ближе и ближе к антиутопическому видению Джорджа Оруэлла.
Китай стремится к 2030 году стать мировым лидером в области искусственного интеллекта, и многие считают, что его возможности намного превосходят возможности Европы.
- В 2019 году в Китае превзойти США по количеству патентов гарантируется академическими учреждениями за инновации в технологиях искусственного интеллекта.
- Согласно исследованию Comparitech, 54% из 770 миллионов камер видеонаблюдения в мире расположены в Китае..
Доктор Лань СюэКонсультант китайского правительства сказал, что распознавание лиц может оказаться «чрезвычайно полезным» для идентификации людей в массовых собраниях в случае «серьезной аварии». И я могу заверить вас, что развитие этой технологии он уже достаточно продвинут.
Реакция Китая на обвинения американцев
Эрик Шмидт, бывший генеральный директор Google, а ныне председатель Комиссии национальной безопасности США по искусственному интеллекту, предупредил, что победить Китай в области ИИ просто необходимо.
«Мы находимся в стратегическом геополитическом конфликте с Китаем», — сказал он. «Способ победить — это объединить наши ресурсы, чтобы иметь национальные и глобальные стратегии для демократий, чтобы победить в ИИ. Если мы этого не сделаем, мы будем смотреть в будущее, в котором нам будут навязаны другие ценности». Ценности а-ля Оруэлл.
Доктор Сюэ не придерживается того же мнения. «Китай не пытается экспортировать свои ценности. Конечно, он действительно добился огромного прогресса в технологическом развитии, и США чувствуют в этом угрозу. Вот почему они начали своего рода холодную войну с технологиями» (и не только это, я бы сказал).
Хотя Китай имеет огромные различия с США в своих ценностях и политике, его мировоззрение - это не конвергенция, а сосуществование.
Кейу Джин, доцент Лондонской школы экономики.
Проект Maven
Однако, когда дело доходит до контроля Оруэлла, США демонстрируют, что у них есть амбиции, не совсем отличные от китайских. Доктор Шмидт стал советником Пентагона в 2016 году, сохранив при этом должность исполнительного председателя Alphabet, материнской компании Google. В последующие годы Google заключила контракт с Пятиугольник что позволяет ему использовать некоторые из своих технологий распознавания изображений в рамках военного проекта.
В проекте под названием Maven использовалось машинное обучение для распознавания людей и объектов в видеороликах с дронов.
«В то время Maven был… способом заменить человеческие глаза автоматическим зрением для кадров с дронов, которые использовались в различных арабских конфликтах», — говорит Шмидт. Думаю, Оруэлл не приходит на ум. «Я увидел в использовании этой технологии чистый положительный момент для национальной безопасности и хорошее партнерство для Google». Хотелось бы понять, почему технология в руках китайцев сразу становится "репрессивной", а та же технология в руках американцев сразу становится "позитивной для национальной безопасности", ну и ладно.
И я не единственный, кому интересно. Даже сотрудники Google сделали это, критикуя проект, подавая петиции против него и даже увольняясь.
«Google не должен заниматься военными делами», — сказал инженер-программист. Лаура Нолан которая ушла в отставку в 2018 году, когда узнала о сути проекта. «Я чувствовал, что мои руки были в крови».
Излишне говорить, что Google заявила, что ее ИИ будет использоваться только в ненаступательных целях, прежде чем полностью выйти (?) из проекта Maven в июне 2018 г. Доктор Оруэлл, извините, Шмидт сказал, что, по его мнению, технология может помочь военным «принимать правильные решения» и верить, что это «хорошо».
Wannabe Orwell, гонка вооружений ИИ
Короче говоря, легко сказать «Оруэлл», но правда в том, что граждане мира сталкиваются с довольно двусторонним потенциальным риском. Министерство обороны продолжай искать партнерства в Кремниевой долине, пытаясь вместе с Китаем выиграть глобальную гонку за оружием искусственного интеллекта.
Поскольку мы участвуем в соревновании, потому что мы участвуем в этом соревновании, это действительно то, о чем идет речь. Помогут ли они нам выиграть эту гонку или по сути будут против нас? В Китае нет такой системы правления, как у нас. Может ли гонка вооружений ИИ привести к конфликту с Китаем? Абсолютно."
Сет Моултон, председатель Целевой группы США по вопросам будущего обороны, призывает технологические компании поддержать министерство обороны.
Доктор Оруэлл, простите, Сюэ (теперь я повсюду вижу Оруэлла) согласилась с потенциальным конфликтом. Но лукаво и в том мягком стиле, который характеризует истеблишмент Поднебесной, он говорит, «но это не неизбежно: США и Китай должны действительно работать вместе, чтобы этого не произошло».
