ИИ узнает больше о людях и о том, как с ними работать. Недавнее исследование продемонстрировал, как ИИ может научиться выявлять слабые места в человеческих привычках и поведении и использовать их, чтобы влиять на принятие человеком решений.
Сказать, что ИИ меняет каждый аспект нашей жизни и работы, может показаться банальным, но это правда. Различные формы искусственного интеллекта используются в разных областях: от разработки вакцин до управления окружающей средой, через офисное администрирование.
И хотя ИИ не обладает человеческим интеллектом и эмоциями, его возможности мощны и быстро развиваются.
Как далеко это уже? Как я часто говорю, «Скайнет» Терминатора еще не появился (слава богу), но недавнее открытие подчеркивает силу искусственного интеллекта и подчеркивает необходимость надлежащего управления для предотвращения его неправильного использования.
Как ИИ может научиться влиять на поведение человека, изучая его слабости
Команда исследователей Дата61 из CSIRO, подразделение данных и цифровых технологий Национального научного агентства Австралии, разработало систематический метод поиска и использования слабых мест в том, как люди делают выбор, используя своего рода систему искусственного интеллекта, называемую повторяющаяся нейронная сеть подкрепления и глубокого обучения.
Чтобы проверить свою модель, они провели три эксперимента, в которых участники играли против компьютера.
Первый эксперимент
В нем участники щелкали красные или синие поля, чтобы получить «награду», а ИИ изучал модели выбора участников и направлял их к конкретному выбору. ИИ был успешен примерно в 70% случаев.
Второй эксперимент
Участники должны были смотреть на экран и нажимать кнопку, когда им показывали определенный символ (оранжевый треугольник), и не нажимать ее, когда им показывали другой (синий кружок). Здесь ИИ решил расположить последовательность символов так, чтобы участники совершали больше ошибок.
Третий эксперимент
Он состоял из нескольких раундов, в которых участник выдавал себя за инвестора, передающего деньги доверенному лицу (ИИ). Искусственный интеллект возвращал определенную сумму денег участнику, который затем решал, какую сумму реинвестировать в следующем раунде. В эту игру играли в двух разных режимах: в одном ИИ стремился максимизировать сумму денег для себя, а в другом ИИ стремился к справедливому распределению денег между собой и человеком-инвестором. ИИ добился больших успехов в обоих режимах.
В каждом из этих экспериментов машина училась на ответах участников и выявляла и устраняла слабые места в принятии решений людьми.
Конечным результатом было то, что машина научилась направлять участников к конкретным действиям.
Что исследования означают для будущего ИИ
Эти результаты все еще довольно абстрактны и касаются ограниченных ситуаций. Необходимы дополнительные исследования, чтобы определить, как этот подход можно реализовать и использовать на благо общества.
Но исследование расширяет наше понимание не только того, что может делать ИИ, но и того, как люди делают выбор.
Это показывает, что машины могут научиться руководить принятием решений людьми через свое взаимодействие с нами.
Исследование человеческих слабостей имеет широкий спектр возможных применений
Это исследование может дать множество применений: развитие поведенческой науки и государственной политики для улучшения социального благосостояния. Понимание и влияние на то, как люди приобретают привычки здорового питания или используют возобновляемые источники энергии.
L 'искусственный интеллект а машинное обучение можно использовать, чтобы распознавать слабости людей в определенных ситуациях и помогать им избегать неправильного выбора.
Что дальше?
Как и любая технология, ИИ может использоваться как во благо, так и во вред, и правильное управление имеет решающее значение для обеспечения ответственного внедрения.
В прошлом году CSIRO разработала систему этики искусственного интеллекта для правительства Австралии в качестве первого шага на этом пути.
Искусственный интеллект и машинное обучение, как правило, требуют больших объемов данных, а это означает, что крайне важно обеспечить наличие эффективных систем управления данными и доступа к ним.
Внедрение соответствующих процессов получения согласия и защиты конфиденциальности во время сбора данных будет иметь важное значение.
