Новое исследование специалистов по данным из Университета Джорджии парадоксально.
Несмотря на растущую озабоченность вторжением алгоритмов в повседневную жизнь, люди могут быть более склонны доверять компьютеру, чем их коллеги, особенно если задача становится сложной.
От выбора следующей песни в плейлисте до выбора брюк правильного размера - люди все чаще полагаются на советы алгоритмов, чтобы принимать повседневные решения и упрощать свою жизнь.
Задайте алгоритм
«Алгоритмы способны выполнять огромное количество задач, число которых увеличивается практически каждый день», - говорит он. Эрик Богерт Терри-Колледжа бизнеса Департамента информационных систем управления.
Похоже, что существует тенденция полагаться на алгоритмы по мере усложнения задачи, и этот эффект сильнее, чем склонность полагаться на советы других людей.
Богерт работал с профессором информационных систем управления Рик Уотсон и доцент Аарон Шектер на бумаге опубликовано сегодня в Nature's Scientific Reports.
исследование
В исследовании приняли участие 1.500 человек, и оно является частью большой работы по анализу того, как и когда люди взаимодействуют с алгоритмами для обработки информации и принятия решений.
Для этого исследования команда попросила добровольцев подсчитать количество людей на фотографии толпы, поддерживая предложения, созданные группой других людей, и предложения, созданные с помощью алгоритма.
По мере того как количество людей, занимающихся фотографией, увеличивалось, подсчет становился все труднее, и люди начали следовать подсказкам, генерируемым алгоритмом, вместо того, чтобы считать в одиночку или следовать советам других людей.
Алгоритмы, на которые можно положиться
Шектер объяснил, что выбор засчета в качестве тестового задания был важен, потому что количество людей на фотографии делает задачу объективно более сложной по мере ее увеличения. Это также тот вид бизнеса, в котором все ожидают, что компьютеры будут хороши.
Люди считают, что с этой задачей хорошо справляется компьютер, хотя он может быть более склонен к предвзятости, чем подсчет объектов.
Аарон Шектер
Зависимость - это риск
«Одна из распространенных проблем с ИИ - это когда он используется для предоставления кредитов или утверждения займов. Необходимо учитывать множество параметров (например, доход или «кредитоспособность»): это делает его хорошей работой для алгоритма.
Однако зависимость от алгоритмов - это риск. Я говорю больше: это может быть плохо для меня. Потому что это ведет к дискриминационной практике, возможно, из-за неучтенных социальных факторов.
Вы наверняка слышали об алгоритмах распознавание лица, и как им было предъявлено обвинение. Их использование выявлено культурные предубеждения в том, как они были построены, что может вызвать неточности при сопоставлении лиц с личностями или выборе подходящих кандидатов.
Предубеждения, которые могут отсутствовать в таких действиях, как подсчет, однако важно понимать, как люди полагаются на алгоритмы при принятии решений.
Взаимное доверие
Это исследование, как уже упоминалось, было частью более широкой исследовательской программы Schecter по взаимодействию человека и машины, финансируемой Исследовательским бюро армии США.
Конечная цель - посмотреть на группы людей и машин, принимающих решения, и выяснить, как мы можем заставить их доверять друг другу и как это меняет их поведение.
Поскольку исследований в этом контексте очень мало, исследователи начали практически с нуля. Шектер, Ватсон и Богерт в настоящее время изучают, как люди полагаются на алгоритмы при вынесении творческих суждений и моральных суждений. Среди примеров? Напишите описательные отрывки или установите залог за заключенных.
