Есть хорошие новости и очень плохие новости. Хорошая новость, по крайней мере, по мнению одного из бывших руководителей Google, заключается в том, что сингулярность приближается. Оно уже почти на пороге. Очень плохая новость заключается в том, что это представляет серьезную угрозу для всего человечества.
Ужасное предупреждение исходит от Мо Гавдат, очень "профессиональный" менеджер. Он был директором по бизнесу в организации Google Moonshot, как она тогда называлась. Google X. Его слова предупреждения взяты прямо из интервью, которое Gawdat он уступил Times.
«Всеобщий искусственный интеллект неизбежен»
В интервью бывший руководитель Google заявил, что верит вобщий искусственный интеллект (AGI), тип всемогущего и разумного ИИ (чье вредное воздействие мы исследовали в научно-фантастических рассуждениях, таких как Скайнет из «Терминатора») неизбежен. Как только это произойдет, человечество вполне может столкнуться с апокалипсисом, вызванным богоподобными машинами.
Гавдат рассказал Times, что это пугающее открытие пришло к нему во время работы с разработчиками искусственного интеллекта в Google X. Эксперимент, свидетелем которого стал руководитель, не был чем-то особенным, по крайней мере, на первый взгляд. Разработчики создавали роботизированные руки, способные находить и поднимать мяч. По словам Гавдата, после периода медленного прогресса чья-то рука схватила мяч и, казалось, протянула его исследователям жестом, который ему показался показухой.
«И вдруг я понял, что это действительно страшно», — сказал Гавдат. «Это меня полностью заморозило». «Реальность такова, — добавил он, — что мы создаем Бога».
Опасности, которые видит бывший руководитель Google, вполне реальны. Но сначала нам нужно разобраться с настоящими.
Предупреждение бывшего руководителя Google тревожит, но не единственное. В технологическом секторе нет недостатка в мудрых предостерегающих (или разжигающих страх, в зависимости от вашей точки зрения) ИИ. Например, Илон Маск неоднократно предупреждал мир об опасности того, что ИИ однажды обгонит человечество. Пограничные спекуляции, которые, с одной стороны, предупреждают об опасностях, с другой кажутся слишком «огромными» и, возможно, отвлекают нас от те очевидны уже сейчас.
Например, распознавание лиц и предсказательная полиция причинить реальный вред малообеспеченным сообществам. Бесчисленные алгоритмы продолжают распространять и кодировать институциональный расизм по всем направлениям. Это проблемы, которые можно решить с помощью надзора и регулирования.
