Миллион раз научная фантастика представляла себе полностью автоматизированную Землю, где роботы сотрудничают с людьми всеми возможными способами.
Время от времени мы рисуем мир роботов, где машины помогают нам устранять причиненный нами ущерб (ВАЛЛ-И). Или постапокалиптический результат искусственного интеллекта, который рассматривает людей как чуму, которую нужно искоренить (Терминатор). Или мир, в котором люди и роботы мирно сосуществуют («Двухсотлетний человек»).
Если бы нам нужно было оценить распространенность позиций в целом, я бы сказал, что большинство людей склонны больше думай об опасностях чем возможности. Через 1000 лет наше воображение видит роботизированное будущее, больше похожее на апокалипсис и решительно отличающееся от земного рая.
Роботизированное будущее: откуда такой пессимизм?
Мы склонны сравнивать исследования в области робототехники и искусственного интеллекта с другими аналогичными технологическими достижениями, которые часто приводили к ужасающим результатам. Фактически, работы по атомной энергетике начались с бомб, продолжились с атомных электростанций (и здесь тоже свет и тень) и пока не проявили аспектов ослепительной яркости.
Чтобы завоевать всеобщее доверие, мир роботов должен быть разработан с нуля с учетом четких правил его взаимоотношений с человечеством. Искусственный интеллект робота должен уметь распознавать людей и любой ценой избегать причинения им вреда. Вы знаете Азимова?
Это непросто, если учесть, что пока вы читаете эту статью, США, Россия, Китай и другие страны разрабатывают программы для дронов и роботы, способные убивать людей. Даже самостоятельно.
Проблема с роботами все там
Мы вот-вот вступим в важную эпоху, но продолжаем игнорировать советы двух поколений ученых. Люди, которые годами исследуют и изучают проблемы роботизированного будущего. Гении, провидцы и пионеры технологий, такие как Курцвейл, Маск, Хокинг, Харари, Гаудат, Азимов, Виндж и многие другие на протяжении десятилетий предупреждали нас об опасностях, присущих искусственному интеллекту и робототехнике.
Я, как и все, не хочу, чтобы на Земле доминировали роботы-убийцы. Я бы хотел, чтобы мир больше походил на Джетсонов ("Правнуки"). Мир роботов, в котором наши творения работают вместе с нами, чтобы сделать вещи лучше: однако, если сегодняшняя работа сосредоточена только на военном использовании роботов, мы должны готовиться к очень мрачному будущему.
Нас мучает возможность того, что роботы и ИИ осознают себя и попытаются завоевать мир или уничтожить нас, потому что мы просто осознаем, что это возможно. И мы также знаем себя: люди обладают необычайной способностью создавать новые способы подвергнуть себя опасности.
Чтобы избежать этого, у нас есть только два варианта
Первый вариант: отказаться и/или сделать незаконным все (и я имею в виду все), что касается искусственного интеллекта, настоящего мозга роботизированного будущего. Должно сработать? Как и любые попытки контролировать, например, ядерное оружие или этически сомнительные медицинские исследования: нет. Человеческое желание удовлетворить свое любопытство и получить выгоду неистребимо. Вот как мы сделали.
Второй вариант: обеспечить, чтобы каждый осознавал потенциальную опасность, и создать структуру, в которой любой роботизированный продукт не сможет причинить вред человеку. Форма морального чувства? Если мы захотим. Кто-то, впрочем, уже пытается.
Второй вариант, разумеется, представляется единственно возможным. Особенно, если мы накануне Сингулярности. Наши метафорические «дети» мира роботов быстро перерастут нашу способность их контролировать. У нас может не быть гарантий, что они будут соблюдать наши правила. Мы рискуем оказаться в том же положении, что и сейчас, например, горилле. Близкое к нам животное, но с очень ограниченными возможностями.
Для этого лучше привить им моральное чувство (моральное чувство, которому мы все должны следовать в первую очередь), надеясь, что роботизированное будущее последует за ним и что сделанные устройства имеют свой «здравый смысл».
