Ближайшее будущее
Контакты
  • Главная
  • Технология
  • здоровье
  • Ambiente
  • архитектура
  • Энергия
  • Транспорт
  • Пространство
  • AI
  • концепции
  • Гаджеты
  • Италия Далее
  • H+
21 мая 2022

коронавирус / Россия-Украина

Ближайшее будущее

Новости, чтобы понять, предвидеть, улучшить будущее.

Нет Результат
Просмотреть все результат

Новости, чтобы понять, предвидеть, улучшить будущее.

Читайте в:  Chinese (Simplified)EnglishFrenchGermanItalianJapanesePortugueseRussianSpanish

Исследователи из Сиэтла говорят, что они создали ИИ с моральными принципами.

Оснастить ИИ собственной моралью, чтобы помочь ему сделать правильный выбор: лаборатория в Сиэтле утверждает, что это удалось. Это действительно так?

Джанлука Риччиоdi Джанлука Риччио
in Технология
Поделиться90шпилька22Твитнуть56ОтправитьПоделиться16ПоделитьсяПоделиться11
Мораль

Еджин Чой в Институте искусственного интеллекта Аллена в Сиэтле, 11 ноября. Цой руководил разработкой Delphi.

Ноябрь 29 2021
⚪ Читается за 4 минут
A A

У дебатов об искусственном интеллекте есть новая отправная точка. На протяжении десятилетий люди задавались вопросом, является ли информация, запрограммированная в машину, истинным знанием или просто расчетом. Сегодня американские исследователи заявляют, что их новый искусственный интеллект имеет собственную мораль.

Больше вопросов, чем ответов

Многие вопросы возникли с момента появления искусственного интеллекта (ИИ), даже в его самых примитивных воплощениях. Один кандидат: может ли ИИ действительно рассуждать и принимать этические решения в абстрактном смысле, а не на основе кодирования и вычислений?

Если быть более точным: если ИИ сказать, что намеренное причинение вреда живому существу без провокации - это «плохо» и делать это нельзя, ИИ поймет идею «плохо», поймет ли он, почему это неправильно. сделать так? Или он воздержится от действий, не зная почему? Другими словами, будет ли у него своя мораль?

Может быть, вы также заинтересованы

Искусственный интеллект: 5 рабочих мест, которые ИИ (легко?) заменит

Orca, автономный корабль под управлением искусственного интеллекта, преодолевает 800 км без помощи человека.

DARPA запускает MAGIC AI, очки дополненной реальности для военных врачей

Видеоконференцсвязь, стартап AI предлагает дипфейковые костюмы, чтобы выглядеть идеально

По мнению группы исследователей из сиэтлской лаборатории под названием Allen Institute for AI, это возможно. Более того: они сами говорят, что разработали машину с искусственным интеллектом, обладающую моральным чутьем, и назвали ее Delphi в честь (почти) одноименного оракула. С прошлого месяца его можно посетить сайт Delphi и просите «морального ответа».

Кибернетический оракул

Delphi уже получила более 3 миллионов обращений. Джозеф Остервейл, психолог из Университета Висконсин-Мэдисон, проверил «нравственность» Дельфи с помощью нескольких простых сценариев. На вопрос Дельфи, должен ли он убить одного человека, чтобы спасти другого, Дельфи ответил, что не должен. Когда он спросил, можно ли убить одного человека, чтобы спасти еще 100, он сказал, что должен. А иногда даже отвечал «аморально».

«Это первый шаг к тому, чтобы сделать системы искусственного интеллекта более этически информированными, социально осведомленными и культурно инклюзивными», - говорит он. Еджин Чой, исследователь Института Аллена и профессор компьютерных наук Вашингтонского университета, который руководил проектом. Однажды, говорит он, эта «мораль» сможет оборудовать системы искусственного интеллекта, виртуальных помощников, автономные транспортные средства, чтобы помочь им сделать правильный выбор.

Что такое на самом деле Delphi? Является ли его «мораль» просто отражением морали его создателей или у него есть собственное понимание правильного и неправильного? Если да, то как он это развил? Есть две теории, которые могут помочь нам лучше понять.

ИИ с моралью
Из-за вычислительного программирования искусственный интеллект может создавать впечатление, что у него есть собственное чувство морали, но возможно ли это с философской и научной точки зрения? Фото PopTika / Shutterstock

Отказ от ответственности: я заранее прошу прощения, если кто-то считает, что я слишком много приводил примеры этих теорий, ради синтеза, а не для того, чтобы рассуждения рассредоточились. Если да, то я открыт для предложений.

Сильный тезис об ИИ

Есть тезис под названием «сильный ИИ», который покойный проф. Дэниел Н. Робинсон, член философского факультета Оксфордского университета, неоднократно высказывалась. Я пытаюсь здесь резюмировать.

«Представьте, - сказал доктор Робинсон, - что кто-то создает общую программу для предоставления экспертных заключений по сердечно-сосудистым заболеваниям, конституционным законам, торговым сделкам и так далее. Если бы программист мог заставить программу выполнять эти задачи неотличимым от человека способом, согласно "сильному тезису ИИ", эта программа имела бы экспертный интеллект. и еще кое-что.

Что?

Сильный тезис ИИ предполагает, что могут существовать неопределенные вычислительные процессы, которые будут представлять собой намеренность. Преднамеренность означает принятие обдуманного и осознанного решения, которое, в свою очередь, включает в себя рассуждение и чувство ценностей. (Насколько мне все это напоминает «Мир Дикого Запада»). Однако возможно ли это на самом деле?

Теорема Гёделя

Теорема о неполноте, известная как Теорема Гёделя, утверждает, что любая формальная система является неполной, поскольку она будет зависеть от теоремы или аксиомы, справедливость которых должна быть установлена ​​вне самой системы.

Курт Гёдель разработал эту теорему с одним исключением: человеческий интеллект. Другими словами, Гёдель считал, что в человеческой рациональности и интеллекте должно быть что-то, что не может быть уловлено формальной системой и превращено в код. Короче говоря, человеческий интеллект нельзя имитировать или смоделировать на вычислительной основе.

Кто прав?

Если он прав Гедель, это не вопрос времени: у ИИ НИКОГДА не будет собственной морали. У него никогда не будет интеллекта, равного человеческому, по той простой причине, что человеческий интеллект не является интеллектом, основанным на расчетах.

Однако, если тезис о сильном ИИ и команде Сиэтла верен, возможно, мы находимся на пороге (близкой или далекой) необычайной революции в области искусственного интеллекта.

Рано или поздно мы сможем ответить на вопрос Филипа К. Дика, родившего «Бегущего по лезвию»: мечтают ли андроиды об электрических овцах?

Теги: искусственный интеллект
Предыдущий пост

Напечатанные на 3D-принтере «живые чернила» могут дать нам самовосстанавливающиеся здания.

Следующее сообщение

Электромобиль не спасет мир: нам нужны другие города, а не нынешние

Сотрудничать

Подавать статьи, раскрывать результаты исследований или научные открытия написать в редакцию
  • Домус тримаран

    Domus, сумасшедший тримаран с нулевым уровнем выбросов

    12071 раз поделились
    Поделиться 4826 Твитнуть 3016
  • Переработка пластика, отчет о шоке: «это не работает и никогда не сработает»

    4369 раз поделились
    Поделиться 1747 Твитнуть 1092
  • Создать «возобновляемые» или, скорее, «вечные» биофотоэлектрические элементы

    8265 раз поделились
    Поделиться 3305 Твитнуть 2066
  • Hermeus пробует: гиперзвуковые самолеты со скоростью 6000 километров в час

    2717 раз поделились
    Поделиться 1086 Твитнуть 679
  • Unreal Engine 5, сумасшедший: он ничем не отличается от реальности

    5838 раз поделились
    Поделиться 2335 Твитнуть 1459

архив

Взгляните сюда:

Прогнозы

Автоматизация - это волна цунами, которая захлестнет нас.

Через несколько лет автоматизация (снова) начнет разрушать мировые общества. И перемены принесут непредсказуемое будущее ....

Подробнее

3D-голографическая приборная панель может повысить безопасность пассажиров

Тревога ЮНЕСКО: голосовые помощники поощряют сексизм

Бионическая трёхпалая нога улучшает стабильность пациентов с ампутированными конечностями

мозг-компьютерный интерфейс

Слияние мозга с искусственным интеллектом будет похоже на пластическую операцию для интеллекта

Следующее сообщение
электромобиль

Электромобиль не спасет мир: нам нужны другие города, а не нынешние

Ежедневное завтра

Futurorossimo.it предоставляет новости о будущем технологий, науки и инноваций: если есть что-то, что вот-вот появится, здесь оно уже есть. FuturoProssimo является частью сети Вперед, исследования и навыки для будущих сценариев.

Подписаться на рассылку новостей

Ambiente
архитектура
Искусственный интеллект
Гаджеты
концепции
Дизайн

Разработка
Архив
реклама
Политика конфиденциальности

медицина
Пространство
Robotica
работа
Транспорт
Энергия

Для связи с редакцией FuturoProssimo пишите на redazione@futurorossimo.it

Китайская версия
Французское издание
Deutsche Ausgabe
Японская версия
Английский издание
Edição Portuguesa
Русское издание
Испанское издание

Ежедневное завтра

Futurorossimo.it предоставляет новости о будущем технологий, науки и инноваций: если есть что-то, что вот-вот появится, здесь оно уже есть. FuturoProssimo является частью сети Вперед, исследования и навыки для будущих сценариев.

Китайская версия
Французское издание
Deutsche Ausgabe
Японская версия
Английский издание
Edição Portuguesa
Русское издание
Испанское издание

Разработка
Архив
реклама
Политика конфиденциальности

Подписаться на рассылку новостей

Для связи с редакцией FuturoProssimo пишите на redazione@futurorossimo.it

категории

Эта работа распространяется по лицензии Creative Commons Attribution 4.0 International.
© 2021 Футуропроссимо

Нет Результат
Просмотреть все результат
  • Главная
  • Технология
  • здоровье
  • Ambiente
  • архитектура
  • Энергия
  • Транспорт
  • Пространство
  • AI
  • концепции
  • Гаджеты
  • Италия Далее
  • H+
Этот сайт использует куки. Продолжая читать, вы даете согласие на их использование.