Ева всегда хотела иметь личного помощника, который мог бы помочь ей справиться с ее повседневной жизнью. И когда Альтер прибыл в 2028 году1, она не упускала возможности иметь персональный искусственный интеллект ни для чего на свете, даже если цена подписки была немного высока для ее возможностей.
После установки ИИ на свое личное устройство у Евы начался период обучения. Альтер начал сканировать все свои документы, свои телефонные звонки, телефонные разговоры, свое географическое положение. Обученная Евой, она также узнала о личных наблюдениях, графике работы, кулинарных предпочтениях и распорядке дня. Пока, примерно через шесть дней, он не начал предлагать ей более сбалансированную диету и организовывать для нее встречи, чтобы Ева могла посвятить себя тому, что ей больше всего нравилось: рисованию.
Рождение «дружбы»
Далеко с начала начала 20-х годовПерсональный ИИ не просто интерпретирует речь и отвечает тем же. Действительно, он также очень эффективно проявляет другие мягкие навыки. Проявите достаточную дозу сочувствия, иронии, разговорчивости. С разрешения пользователя он также проявляет инициативу и вмешивается, предлагая вещи и действия, когда обнаруживает повторяющиеся закономерности в жизни пользователя. Иногда Альтер давал отличные советы, какую одежду надеть. В других случаях она даже давала Еве советы, как реагировать на навязчивого поклонника. Своего рода «друг», который знает всё, немного как в тот старый фильм Спайка Джонза, Ее, который немного предвосхитил события начала 2000-х годов.
Но не все было так радужно, как солнце и розы. Сегодня прошло 4 года с начала этих «отношений» между Евой и Альтером, и тоже бывали ситуации, в которых Ева чувствовала себя некомфортно. Например, когда она заметила, что ИИ сохранил некоторые из ее личных разговоров, она почувствовала, что ее конфиденциальность была нарушена. Или когда она обнаружила, что ИИ также зафиксировал несколько напряженных моментов во время ее разговоров с бывшим партнером, из-за чего она почувствовала себя очень уязвимой.
Это не единственный персональный ИИ, вызывающий головную боль
Еще несколько лет назад ожидалось, что все более совершенный искусственный интеллект станет «идеальным» помощником, способным все понимать и решать всевозможные проблемы. На самом деле, эволюция искусственного интеллекта также продемонстрировала черты того, что, если бы мы не знали, что это машины, мы бы назвали «личностью». Чем больше присутствие Alter затрагивает аспекты, считающиеся «личными» и интимными в жизни пользователя, тем больше возникает трений.
Не все в восторге от этого. Сара, например. Один из друзей Евы, у которого были большие трудности с ее личным ИИ и который из-за реальных недоразумений решил бросить ее и отписаться от Альтера. Решение, которое имело катастрофические последствия для его карьеры. Сара была успешным предпринимателем и нуждалась в надежном личном помощнике для ведения своих дел. Когда он решил отказаться от AI, то обнаружил, что без Alter не справляется с работой и начал терять клиентов.
Она не единственная, кто выражает обеспокоенность. После последнего десятилетия, полного энтузиазма по поводу этой технологии, общество 30-х годов начало размышлять о рисках, связанных с использованием персонального искусственного интеллекта, и задавалось вопросом, сделало ли оно правильный выбор, полностью полагаясь на эту технологию. Многие опасаются, что их личный помощник ИИ может каким-то образом эволюционировать и взять под контроль их жизнь.
Какими будут следующие несколько лет?
Трудно сказать: эволюция этих систем идет быстро, и многие задаются вопросом, даст ли нам будущая интеграция с робототехникой настоящих «физических субъектов» с собственной личностью. Как мы будем с ними взаимодействовать? Кто сказал нам, что они всегда будут готовы выслушать нас или помочь нам?
Несмотря ни на что, Ева продолжала использовать Альтера, но решила внимательно следить за его перемещениями и не становиться слишком зависимой. Конечно, личный ИИ оказал значительное влияние на ее жизнь, помогая ей лучше справляться с повседневными задачами и сосредоточиться на своих увлечениях. Однако это также вызвало некоторую обеспокоенность по поводу конфиденциальности и зависимости от этой технологии.
Нам как обществу необходимо будет найти баланс между преимуществами и рисками использования этой технологии. Много лет назад мы боялись, что искусственный интеллект может нас заменить. Сейчас, возможно, у нас обратная проблема: мы слишком рады тому, что нас заменили, и пытаемся понять, хотим ли мы еще что-то сделать самостоятельно, без их помощи.
1 – Название гипотетического персонального сервиса искусственного интеллекта. «Альтер» с латыни означает «другой, иной», чтобы подчеркнуть различия между человеком и машиной, выходящие за рамки всех кажущихся сходств.
