Этот пост является частью «Periscopio», информационного бюллетеня Linkedin, который каждую неделю посвящен темам Futuro Prossimo, и заранее публикуется на платформе LinkedIn. Если вы хотите подписаться и просмотреть его, найти все это здесь.
Полностью роботизированный мир, в котором машины всеми возможными способами сотрудничают с человечеством, уже много лет повторяется в фантастических произведениях: книгах, фильмах, играх. И как всегда, это сказано поляризованно.
Окажемся ли мы на глобальной свалке, где машины помогают нам искать потерянный смысл жизни среди отходов и металлолома? В постапокалиптическом сценарии, где доминирует искусственный (и враждебный) интеллект? Или на планете, где человечество и машины сосуществуют в роботизированном и смутно асептическом равновесии (как Азимов, чтобы понять)?
Форма будущего, которую мы представляем
Если мы поместим все наши версии роботизированного будущего на один график, у нас может получиться такой вид:
Не будем отрицать: большинство наших взглядов пессимистичны. Правы ли мы, опасаясь худшего? Давайте сравним робототехника и исследования поискусственный интеллект (будет все больше идти рука об руку) с другими технологическими достижениями аналогичного масштаба. Пример прежде всего: исследования в области атомной энергии. Они начали с бомбы, движимой военными программами. И угадайте, что будет сегодня?
Ничего нового. К сожалению.
Все игроки, работающие сегодня в области робототехники и искусственного интеллекта, в целом согласны с тем, что мы должны разрабатывать машины с четкими этическими правилами, которые отдают предпочтение человеческой жизни. Любое роботизированное устройство, оснащенное искусственным интеллектом, должно уметь распознавать людей и не причинять им вреда. Любой ценой.
Это действительно так? Пока я пишу вам, США, Россия, Китай и другие страны проводят программы по созданию (и развертыванию) дронов с искусственным интеллектом и полевых роботов для убийства людей.
Роботы, подобные тому, что на видео ниже, смогут «направлять» себя.
Это драматическое повторение: еще раз, еще до того, как мы вступили в эпоху роботов, мы игнорируем советы двух поколений ученых и футуристов, которые годами размышляли над этими проблемами. Бесполезно?
Мир роботов, который нам нужен, — это еще один
«Мы, люди», сказал бы кто-то, мы не хотим, чтобы на Земле доминировали роботы-убийцы. Умом мы боимся антиутопии, сердцем желаем утопии.
Мы хотим мир, в котором роботы и искусственный интеллект помогут нам сделать все лучше. Но чтобы добраться туда, мы могли бы пройти через ад, если военные цели снова будут управлять роботизированным будущим.
НИКОГДА не недооценивайте научную фантастику. Вдохновляйте будущее, но и фотографирует настоящее. Есть причина, по которой так много нашей научной фантастики вращается вокруг роботов, обретающих самосознание и пытающихся захватить мир или уничтожить людей.
Мы признаем, что это возможно, но это не вина машин. Это наше. Мы те, кто преуспевает в постоянном поиске новых способов подвергнуть себя опасности. Это недоверие к нашему виду? Или глубокое знание его пределов? Обе вещи.
Два способа избежать катастрофы
Отказаться и/или запретить все работы в области искусственного интеллекта? Вероятно, это не сработает. Как и любая попытка контролировать ядерное оружие или этически сомнительные медицинские исследования.
Некоторые согласятся, многие нет. И стоит только поработать против этого: человеческое стремление удовлетворить любопытство и получить преимущество перед другими непреодолимо.
Второе: воспитывать, воспитывать, воспитывать. Обучение людей и машин. Постарайтесь убедиться, что все понимают потенциальные опасности, и выстраивайте социальную, политическую, культурную, но прежде всего технологическую основу.
Структура, в которой роботизированный мир не является местом, враждебным людям. Придет оно или нет, Технологическая особенность это по определению что-то насильственное и внезапное, важная передача эстафетной палочки.
Если мы не подготовим почву должным образом, потеря контроля невозможна. но естественная и внезапная уверенность. Эволюция машин выйдет из-под нашего контроля, и мы окажемся в положении, подобном тому, в которое мы поставили равнинную гориллу или гигантскую панду.
По этой причине я приветствую первые, почти трогательные усилия техников и ученых по «привить» машинам мораль что мы сами не умеем уважать.
Нам нужно сделать это до того, как эти машины откроют глаза и зажгут искру. Мы должны сделать это, чтобы это была искра любви: возможно, это также научит нас чему-то о себе.