Поскольку (еще в 1941 году) компьютеры обрели форму, они сначала заполняли целые комнаты, затем офисные столы, а затем карманы. Но всех их объединяло одно: они были созданы человеческим разумом. На протяжении многих лет многие люди задавались вопросом: что, если компьютеры конструируют сами?
Вскоре интеллектуальный компьютер сможет сам создать машину, намного более мощную, чем он сам. Этот новый компьютер, вероятно, в свою очередь сделает еще один, еще более мощный, и так далее. Искусственный интеллект движется по экспоненте вверх, достигая высот познания, непостижимых для человека. Одним словом, технологическая особенность.
Технологическая особенность
Термин «технологическая сингулярность» появился более 50 лет назад, когда ученые только начинали работать с двоичным кодом и схемами, которые сделали возможными базовые вычисления. Даже тогда технологическая сингулярность была ошеломляющей и грозной концепцией.
Новое поколение сверхразумных компьютеров может революционизировать все. От нанотехнологий до иммерсивной виртуальной реальности и сверхсветовых космических путешествий.
Благодаря технологической сингулярности, вместо того, чтобы просто эксплуатировать наш биологический мозг, мы могли бы использовать искусственный интеллект, взаимодействовать с ним. Улучшить или повысить производительность нашего мозга с имплантатами, или даже загрузить наш разум в цифровой выжить в наших телах.
Результатом технологической сингулярности станет человечество, способное мыслить со скоростью света и свободное от биологических проблем.
Совершенно новый мир
Философ Ник Бостром он думает, что этот динамичный мир может открыть совершенно новую эру.
В этом мире мы все были бы больше похожи на детей в гигантском Диснейленде, которым управляют не люди, а машины, которые мы создали или которые они создали сами.
Ник Бостром, философ, писатель и директор Института будущего человечества Оксфордского университета.
Звездное небо надо мной, моральный закон внутри моего процессора
Технологическая сингулярность может привести нас в утопическую фантазию или антиутопический кошмар. И Бостром это хорошо знает. Он десятилетиями думал о появлении сверхразумного ИИ и знает все изнутри. риски, которые влекут за собой такие создания.
Конечно, это классический научно-фантастический кошмар о революции роботов, в котором машины решают, что они предпочли бы контролировать Землю.
Однако еще более вероятным является то, что моральный кодекс сверхразумного ИИ, каким бы он ни был, просто не совпадает с нашим.
ИИ, отвечающий за парки беспилотных автомобилей или за распределение медикаментов, мог бы посеять хаос, если бы он больше не ценил человеческую жизнь так же, как мы.
Проблема выравнивания ИИ, как это называется, приобрела новую актуальность в последние годы, частично благодаря к творчеству таких мыслителей, как Бостром.
Технологическая особенность и различие мышления
Если мы не сможем контролировать сверхразумный искусственный интеллект, наша судьба может зависеть от того, будет ли машинный интеллект будущего думать так же, как мы. На этом фронте Бостром напоминает нам, что предпринимаются усилия по «разработке ИИ так, чтобы он действительно выбирал вещи, которые полезны для людей, и обращался к нам за разъяснениями, когда неясно, что мы имеем в виду. «
Есть способы научить человеческой морали зарождающийся сверхразум. Алгоритмы машинного обучения можно научить распознавать систему человеческих ценностей, как сегодня ГАН они обучаются на базе данных изображений и текстов. Или несколько ИИ могут спорить друг с другом под наблюдением человека-модератора, чтобы построить лучшие модели человеческих предпочтений.
Вопрос уважения
Если технологическая сингулярность должна была создать уже не простые машины, а настоящие искусственные мыслящие разумы, нам следует учитывать и этический аспект. По словам Бострома, возникнет необходимость спросить себя, правильно ли влиять на них и в какой степени.
Короче говоря, в эту эру сознательных машин технологическая сингулярность может наложить на людей новое моральное обязательство: уважительно относиться к цифровым существам.
