Новое исследование ученых из Университета Джорджии парадоксально.
Несмотря на растущую обеспокоенность по поводу проникновения алгоритмов в повседневную жизнь, люди могут быть более склонны доверять компьютеру, чем их сверстники, особенно если задача становится сложной.
От выбора следующей песни в плейлисте до выбора брюк правильного размера - люди все чаще полагаются на советы алгоритмов, чтобы принимать повседневные решения и упрощать свою жизнь.
Задайте вопрос алгоритму
«Алгоритмы способны выполнять огромное количество задач, число которых увеличивается практически с каждым днем», — говорит он. Эрик Богерт Терри-Колледжа бизнеса Департамента информационных систем управления.
Кажется, существует тенденция полагаться на алгоритмы, когда задача становится более сложной, и этот эффект сильнее, чем тенденция полагаться на советы других людей.
Богерт работал с профессором информационных систем управления Рик Уотсон и доцент Аарон Шектер на бумаге опубликовано сегодня в журнале Nature's Scientific Reports.
исследование
В исследовании приняли участие 1.500 человек, и оно является частью большой работы по анализу того, как и когда люди взаимодействуют с алгоритмами для обработки информации и принятия решений.
Для этого исследования команда попросила добровольцев подсчитать количество людей на фотографии толпы, поддерживая предложения, созданные группой других людей, и предложения, созданные с помощью алгоритма.
По мере того, как количество людей на фотографии увеличивалось, подсчет становился все труднее, и люди начали следовать предложению, генерируемому алгоритмом, а не считать сами или следовать предложениям других людей.
Алгоритмы, на которые можно положиться
Шектер объяснил, что выбор засчета в качестве тестового задания был важен, потому что количество людей на фотографии делает задачу объективно более сложной по мере ее увеличения. Это также тот вид бизнеса, в котором все ожидают, что компьютеры будут хороши.
Люди считают, что с этой задачей хорошо справляется компьютер, хотя он может быть более склонен к предвзятости, чем подсчет объектов.
Аарон Шектер
Зависимость - это риск
«Одна из распространенных проблем, связанных с ИИ, возникает, когда он используется для выдачи кредитов или одобрения займов. Необходимо учитывать множество параметров (например, доход или «кредитный рейтинг»): это делает его хорошей работой для алгоритма.
Однако зависимость от алгоритмов - это риск. Я говорю больше: это может быть плохо для меня. Потому что это ведет к дискриминационной практике, возможно, из-за неучтенных социальных факторов.
Вы наверняка слышали об алгоритмах распознавание лица, и как им было предъявлено обвинение. Их использование выявлено культурные предубеждения в том, как они были построены, что может вызвать неточности при сопоставлении лиц с личностями или выборе подходящих кандидатов.
Предубеждения, которые могут отсутствовать в таких действиях, как подсчет, однако важно понимать, как люди полагаются на алгоритмы при принятии решений.
Взаимное доверие
Как уже упоминалось, это исследование было частью более крупной исследовательской программы Шектера по сотрудничеству человека и машины, финансируемой Исследовательским управлением армии США.
Конечная цель — посмотреть на группы людей и машин, принимающих решения, и выяснить, как мы можем заставить их доверять друг другу и как это меняет их поведение.
Поскольку исследований в этом контексте очень мало, исследователи начали практически с нуля. Шектер, Уотсон и Богерт в настоящее время изучают, как люди полагаются на алгоритмы при вынесении творческих и моральных суждений. Среди примеров? Напишите описательные отрывки или установите залог для заключенных.
