Этот пост является частью «Periscopio», информационного бюллетеня Linkedin, который каждую неделю исследует будущие выпуски и публикуется заранее на платформе LinkedIn. Если вы хотите подписаться и просмотреть его, найти все это здесь.
Полностью роботизированный мир, в котором машины сотрудничают с человечеством всеми возможными способами, уже много лет повторяется в произведениях научной фантастики: книгах, фильмах, играх. И как всегда рассказано поляризованно.
Окажемся ли мы на глобальной свалке, где машины помогают нам искать потерянный смысл жизни среди отходов и металлолома? В постапокалиптическом сценарии, где доминирует искусственный (и враждебный) интеллект? Или на планете, где человечество и машины сосуществуют в роботизированном и смутно асептическом равновесии (как Азимов, чтобы понять)?
Форма будущего, которую мы представляем
Если мы поместим все наши версии роботизированного будущего на один график, у нас может получиться такой вид:
Не будем отрицать: большинство наших взглядов пессимистичны. Правы ли мы, опасаясь худшего? Давайте сравним робототехника и исследованияискусственный интеллект (они будут все чаще идти рука об руку) с другими технологическими достижениями аналогичного масштаба. Прежде всего один пример: исследования в области атомной энергии. Они начали с бомбы, управляемой военными программами. И угадайте, что будет сегодня?
Ничего нового. К сожалению.
Все действующие лица, работающие сегодня в области робототехники и искусственного интеллекта, в целом согласны с тем, что мы должны разрабатывать машины с соблюдением четких этических правил, отдающих предпочтение человеческой жизни. Любое роботизированное устройство, оснащенное искусственным интеллектом, должно уметь распознавать людей и не причинять им вреда. Любой ценой.
Это действительно так? На момент написания этой статьи в США, России, Китае и других странах осуществляются программы по созданию (и развертыванию) управляемых искусственным интеллектом дронов и полевых роботов для убийства людей.
Роботы, подобные тому, что на видео ниже, смогут «управляться» самостоятельно.
Это драматическое повторение: еще раз, еще до вступления в эру роботов, мы игнорируем советы двух поколений ученых и футуристов, годами размышлявших над этими проблемами. Бесполезно?
Мир роботов, который нам нужен, — это еще один
«Мы, люди, — сказали бы некоторые, — мы не хотим, чтобы на Земле господствовали роботы-убийцы. Умом мы боимся антиутопии, сердцем желаем утопии.
Мы хотим мир, в котором роботы и искусственный интеллект помогут нам сделать все лучше. Но чтобы добраться туда, мы могли бы пройти через ад, если военные цели снова будут управлять роботизированным будущим.
НИКОГДА не недооценивайте научную фантастику. Вдохновляйте будущее, но и фотографирует настоящее. Есть причина, по которой так много нашей научной фантастики вращается вокруг роботов, которые осознают себя и пытаются захватить мир или уничтожить людей.
Мы признаем, что это возможно, но это не вина машин. Это наше. Мы те, кто преуспевает в постоянном поиске новых способов подвергнуть себя опасности. Это недоверие к нашему виду? Или глубокое знание его пределов? Обе вещи.
Два способа избежать катастрофы
Отказаться и/или запретить все работы по искусственному интеллекту? Вероятно, это не сработает. Как и любая попытка контролировать ядерное оружие или этически сомнительные медицинские исследования.
Кто-то согласится, многие нет. И стоит только погрести против него: человеческое желание удовлетворить любопытство и получить преимущество перед другими непреодолимо.
Второе: воспитывать, воспитывать, воспитывать. Обучение людей и машин. Постарайтесь убедиться, что все понимают потенциальные опасности, и выстраивайте социальную, политическую, культурную, но прежде всего технологическую основу.
Сеттинг, в котором мир роботов не является враждебным для человека местом. Придет или нет, там Технологическая особенность это по определению что-то насильственное и внезапное, важная передача эстафетной палочки.
Если мы не подготовим почву должным образом, потеря контроля невозможна. но естественная и внезапная уверенность. Эволюция машин выйдет из-под нашего контроля, и мы окажемся в положении, подобном тому, в которое мы поставили низинную гориллу или гигантскую панду.
По этой причине я приветствую первые, почти трогательные усилия техников и ученых по "прививать" машинам мораль что мы сами не умеем уважать.
Это нужно сделать до того, как эти машины откроют глаза и дадут искру. Мы должны сделать это так, чтобы это была искра любви: может быть, это также учит нас чему-то о самих себе.
