Есть хорошие и очень плохие новости. Хорошая новость, по крайней мере, по словам бывшего руководителя Google, заключается в том, что сингулярность приближается. Теперь дело за нами. Очень плохая новость в том, что это представляет серьезную угрозу для всего человечества.
Ужасное предупреждение исходит от Мо Гавдат, очень «опытный» менеджер. Он был главным коммерческим директором компании Google Moonshot, которую в то время называли. Google X. Его слова предупреждения взяты прямо из интервью, которое Gawdat он уступил Times.
«Общий искусственный интеллект неизбежен»
В интервью бывший руководитель Google сказал, что, по его мнению,общий искусственный интеллект (AGI), своего рода всемогущий, разумный ИИ (чьи гнусные эффекты мы исследовали в научно-фантастических спекуляциях, таких как Скайнет из «Терминатора») неизбежен. Оказавшись здесь, человечество вполне может оказаться в состоянии апокалипсиса, вызванного богоподобными машинами.
Гаудат сказал The Times, что это пугающее открытие он получил во время работы с разработчиками искусственного интеллекта в Google X. Эксперимент, свидетелем которого стал руководитель, не был чем-то особенным, по крайней мере, на первый взгляд. Разработчики создавали роботизированные руки, которые могли находить и подбирать мяч. После периода медленного прогресса, Гавдат сообщает, что одна рука схватила мяч и, казалось, поднесла его к исследователям жестом, который для него выглядел демонстративным жестом.
«И вдруг я понял, что это действительно страшно», - сказал Гавдат. «Это полностью заморозило меня». «Реальность такова, - добавил он, - что мы создаем Бога».
Опасности, которые видит бывший руководитель Google, реальны. Но сначала вы должны столкнуться с настоящими.
Предупреждение бывшего руководителя Google тревожит, но не единственное. В технологическом секторе нет недостатка в мудрых предостерегающих (или опасающихся продавцах, в зависимости от вашей точки зрения) искусственном интеллекте. Илон Маск неоднократно предупреждал мир об опасности того, что ИИ однажды превзойдет человечество, например. Пограничные спекуляции, которые, с одной стороны, предупреждают об опасностях, с другой, кажутся слишком "огромными" и, возможно, отвлекают нас от те очевидны уже сейчас.
Например, распознавание лиц и предсказательная полиция причинить реальный вред малообеспеченным сообществам. Бесчисленные алгоритмы продолжают распространять и кодировать институциональный расизм по всем направлениям. Это проблемы, которые можно решить с помощью надзора и регулирования.
