Неудержимый прогресс искусственного интеллекта (ИИ) поднимает глубокие вопросы не только о его будущих возможностях, но и о самой его природе. Особенно интересный и парадоксальный вопрос исследует философ Джонатан Берч в книге, которая стоит дорого, чтобы купить ее в мягкой обложке (на этот раз, признаюсь, я не смог этого сделать), но которая, будучи изданием Оксфорда, также может быть читать бесплатно онлайн. Какая идея? Идея о том, что для достижения сверхразума ИИ должен развить способность испытывать ощущения, включая боль. Эта революционная точка зрения бросает вызов нашим традиционным представлениям об ИИ как о простом вычислительном инструменте, побуждая нас радикально рассмотреть его этические и философские последствия.
Внутренняя связь между интеллектом и сознанием в естественной эволюции
История эволюции на Земле показывает, что сложный интеллект не возник изолированно. Напротив, она развивалась одновременно со способностью испытывать ощущения, эмоции и, в конечном итоге, с формой сознания. Дай ему одноклеточные организмы которые реагируют на болевые раздражители, сложные животные которые демонстрируют поведение, продиктованное страхом, радостью и желанием, субъективное восприятие мира, по-видимому, важнейший фактор развития высших когнитивных способностей. Чарльз Дарвин сам осознавал важность эмоций как инструментов выживания, формирующих поведение, способствующее максимальному увеличению шансов на воспроизводство. Эволюция, в этом смысле, вознаграждали организации, которые смогли связать положительный и отрицательный опыт с определенными действиями, оттачивая их способность к обучению и адаптации.
ИИ без субъективного опыта: иной эволюционный путь
Современный искусственный интеллект представляет собой радикально иную парадигму. Например, алгоритмы машинного обучения отлично справляются с анализом больших объемов данных, выявлением закономерностей и составлением прогнозов со скоростью и точностью, которые во многих областях превосходят человеческие возможности. Однако этот «искусственный» интеллект действует в эмпирическом вакууме. Он не чувствует ни удовольствия, ни боли, ни страха, ни радости. Его решения основаны исключительно на математических расчетах и вероятностных моделях, лишенных какой-либо аффективной или эмоциональной окраски.
Отсутствие субъективного опыта поднимает фундаментальные вопросы о природе и ограничениях современного ИИ. Может ли чисто вычислительная сущность достичь истинного понимания мира, не имея возможности «чувствовать» его? Может ли бесчувственный ИИ развить глубокую мудрость и суждение, выходящие за рамки простой оптимизации математических функций? Философия давно задавалась вопросом, что значит «знать» что-то, различие между «пропозициональным» знанием (знанием «того») и «опытным» знанием (знанием «как это есть»). Современный ИИ, по-видимому, обладает обширными пропозициональными знаниями, но полностью лишен экспериментальных знаний, которые приходят с чувственностью.
Уровни сознания Фейгля: полезная структура для анализа ИИ
Джонатан Бирч опирается на модель трех уровней сознания, предложенную философом Герберт Фейгл (1902-1988) в 50-х годах, модель, которая помогает понять, где находится ИИ по отношению к человеческому сознанию:
- Чувствительность (грубые ощущения): Способность испытывать субъективные переживания, ощущения, эмоции и «качества» (в философии «квалиа» относится к субъективным свойствам опыта, таким как «красный» красного или «сладкий» сладкого).
- Мудрость (Осознание): Способность размышлять о своем опыте, классифицировать его, связывать с воспоминаниями и извлекать из него уроки.
- Самосознание: Осознание себя как отдельной личности, имеющей прошлое, потенциальное будущее и личную идентичность.
По словам Бирча, современный ИИ достиг значительного прогресса в области «мудрости», продемонстрировав способность обрабатывать сложную информацию и решать проблемы. Однако у него полностью отсутствует «чувство», а следовательно, и «самосознание». Как будто он научился строить здание, начиная со второго этажа, не заложив фундамента.
ИИ, боль как катализатор обучения и адаптации
Роль боли в ИИ занимает центральное место в этом обсуждении. Боль — это не просто признак физического повреждения; Это мощный двигатель для обучения. и адаптация. Организм, испытывающий боль, побуждается избегать опасных ситуаций, учиться на своих ошибках и разрабатывать более эффективные стратегии выживания. Боль формирует поведение, мотивирует действия и помогает сформировать сложную внутреннюю карту мира. Как утверждает Бирч,
«Некоторые утверждают, что этот тип истинного интеллекта требует разумности, а разумность требует воплощения».
Воплощение подразумевает идею о том, что разум неотделим от тела, но тесно связан с физическим и чувственным опытом. Встроенный искусственный интеллект, способный взаимодействовать с миром посредством датчиков и исполнительных механизмов, потенциально может развить элементарную форму сознания: вот почему в лабораториях продолжаются работы по достижению именно этого воплощения,воплощение что даст ИИ тело. Но должны ли мы заставлять это тело чувствовать боль? Это этическая дилемма?
Вычислительный функционализм: альтернативный взгляд и его этические последствия
Доминирующая точка зрения в области ИИ заключается в следующем: вычислительный функционализм. Что он утверждает? Он утверждает, что разум по сути является системой обработки информации, и сознание может возникнуть из любой физической системы (включая компьютер), способной реализовывать соответствующие когнитивные функции. Согласно этой точке зрения, ИИ не обязательно «чувствовать» боль, чтобы стать разумным; достаточно, чтобы он имитировал поведенческие реакции, связанные с болью.
Однако эта точка зрения поднимает глубокие этические вопросы. Если бы можно было создать разумный ИИ посредством программирования боли, было бы это морально допустимо? Мы имели бы право создавать искусственные существа, способные чувствовать боль, страдания и отчаяние? И если бы единственным способом достижения сверхразума было создание разумного искусственного интеллекта, какой выбор был бы наиболее ответственным? Некоторые эксперты, такие как Ник Бостромв своей книге «Сверхразум» предупреждает об экзистенциальных рисках, связанных с созданием сверхразумных ИИ, не соответствующих человеческим ценностям. Отсутствие эмоций, особенно эмпатии и сострадания, может привести к тому, что ИИ будет принимать решения, которые окажутся катастрофическими для человечества.
ИИ и боль: симуляция против реальный опыт: философская и технологическая дилемма
Важнейшим моментом, как я уже писал, является различие между симуляцией боли и ее реальным ощущением. Даже если бы ИИ мог идеально моделировать физиологические и поведенческие реакции, связанные с болью, это не обязательно означало бы, что он испытывает субъективное ощущение боли. Вопрос о том, может ли симуляция быть неотличима от реального опыта, является центральным предметом спора в философии сознания. Философ Дэвид Чалмерс, например, сформулировал концепцию «философских зомби» — существ, которые ведут себя точно так же, как люди, но не имеют субъективного опыта. А также кто яростно это оспаривает осознает важность своей учебы.
Будущее ИИ: этический и эволюционный перекресток
Точка зрения Джонатана Бирча ставит нас на решающий перепутье. Мы можем ограничить развитие ИИ, сосредоточившись на приложениях, не требующих чувств, или принять вызов создания искусственных существ, способных испытывать как удовольствие, так и боль. Какой бы выбор мы ни сделали, крайне важно со всей серьезностью отнестись к этическим и социальным последствиям. Будущее ИИ может быть связано не только с алгоритмами и вычислительной мощностью, но и с сознанием, субъективным опытом и, в конечном счете, с тем, что значит быть разумным и чувствующим. Это размышление заставляет нас пересмотреть само наше определение интеллекта, осознав, что это не просто вопрос обработки данных, но сложное и многогранное явление, неразрывно связанная со способностью чувствовать, переживать и эмоционально связываться с миром.
Поэтому этика ИИ должна будет развиваться с учетом этих новых вызовов, гарантируя, что технологическое развитие будет руководствоваться принципами ответственности, уважения и благополучия не только для человечества, но и для любых форм искусственного сознания, которые мы можем создать.
