Есть хорошие и очень плохие новости. Хорошая новость, по крайней мере, по словам бывшего руководителя Google, заключается в том, что сингулярность не за горами. Теперь это на нас. Очень плохая новость заключается в том, что она представляет серьезную угрозу для всего человечества.
Ужасное предупреждение исходит от Мо Гавдат, очень "экспертный" менеджер. Он был главным коммерческим директором организации Google Moonshot, которая в то время называлась Google X. Его слова предупреждения взяты прямо из интервью, которое Gawdat он уступил Times.
«Всеобщий искусственный интеллект неизбежен»
В интервью бывший руководитель Google сказал, что, по его мнению,общий искусственный интеллект (AGI), вид всемогущего разумного ИИ (гнусные эффекты которого мы исследовали в научно-фантастических спекуляциях, таких как Скайнет из «Терминатора») неизбежен. Оказавшись здесь, человечество вполне может столкнуться с апокалипсисом, вызванным богоподобными машинами.
Гаудат рассказал Times, что это пугающее откровение пришло к нему во время работы с разработчиками искусственного интеллекта в Google X. В эксперименте, свидетелем которого стал руководитель, не было ничего особенного, по крайней мере, на первый взгляд. Разработчики создавали роботизированные руки, которые могли найти и поднять мяч. После периода медленного продвижения Гавдат сообщает, что одна рука схватила мяч и, казалось, подняла его к исследователям в жесте, который, по его мнению, выглядел как жест демонстрации.
«И вдруг я понял, что это действительно страшно», — сказал Гавдат. «Это полностью заморозило меня». «Реальность такова, — добавил он, — что мы создаем Бога».
Опасности, которые видит бывший руководитель Google, вполне реальны. Но сначала вам придется столкнуться с настоящими.
Предупреждение бывшего руководителя Google вызывает беспокойство, но не единственное. В технологическом секторе нет недостатка в мудрых предостережениях (или опасениях продавцов, в зависимости от вашей точки зрения) искусственного интеллекта. Например, Илон Маск неоднократно предупреждал мир об опасности того, что ИИ однажды превзойдет человечество. Пограничные спекуляции, которые, с одной стороны, предупреждают об опасности, с другой кажутся слишком «огромными» и, возможно, отвлекают нас от те очевидны уже сейчас.
Например, распознавание лиц и предсказательная полиция причинить реальный вред малообеспеченным сообществам. Бесчисленные алгоритмы продолжают распространять и кодировать институциональный расизм по всем направлениям. Это проблемы, которые можно решить с помощью надзора и регулирования.
