Искусственный интеллект (ИИ) уже добился огромного прогресса и может улучшить мир. Но может ли это действительно стать опасным? Это могло бы.
По крайней мере, так я прочитал в недавней статье, опубликованной в рецензируемом журнале под редакцией исследователей из Оксфордского университета и Google DeepMind, Исследовательская команда калифорнийской компании, которая экспериментирует с новыми ИИ-решениями. Я учусь (вот ссылка) предполагает, что искусственный интеллект будет представлять серьезную угрозу существованию человечества.
Трагическая афера
Суть дела в так называемых Adversary Generative Networks (или GAN), используемых сегодня при разработке искусственного интеллекта (если вы не знаете, что это такое, то я вам все расскажу здесь). Эти системы работают с двумя элементами: одна часть формирует изображение из входных данных, другая оценивает его производительность. Обе стороны «бросают вызов» друг другу, постоянно улучшая результаты.
В своей статье исследователи DeepMind предполагают, что ИИ, более умный, чем нынешние, может разработать мошенническую стратегию, чтобы получить необходимое ему «одобрение», тем самым нанося вред нашему виду способами, которые мы даже не можем себе представить сегодня.
Запретительный вызов
«В мире с бесконечными ресурсами я бы не был так уверен в нашей судьбе. В мире, подобном нашему, с ограниченными ресурсами, обязательно будет конкуренция за их получение», игра в кости соавтор исследования, Майкл К. Коэн из Оксфордского университета.
«А если соревноваться с чем-то, что может превзойти вас почти во всем, победить будет сложно. У искусственного интеллекта, борющегося за ресурсы, будет ненасытный аппетит».
Пример? Искусственный интеллект, которому поручено управлять продовольственными культурами, может найти способ обойти эту задачу. Поиск способов захватить эту энергию, игнорируя или саботируя действия, необходимые для выживания человечества.
В документе DeepMind утверждается, что в этом сценарии человечество застрянет в игре с нулевой суммой между своими основными потребностями для выживания и технологиями. «Проигрыш в этом матче был бы фатальным» — суть речи.
Даже меньше
Подводя итог, Коэн считает, что нам не следует пытаться создать настолько продвинутый ИИ, чтобы мы могли совершить этот «квантовый скачок» (нет, на данный момент их нет). Если, конечно, мы не подготовим еще и средства для управления ею.
«Учитывая наше нынешнее понимание этих технологий, — заключает исследование, — было бы неразумно и нецелесообразно делать это». Юваль Харари e Мо Гавдат) это последнее исследование является еще одним важным показателем.
