В самом сердце Манхэттена три слова, выгравированные на гильзах («отрицать, защищать, свергать»), раскрывают еще более глубокую историю, чем жестокое убийство генерального директора UnitedHealthcare. Который? Это алгоритм здравоохранения что отказал в жизненно необходимой помощи тысячам пожилых людей, почти во всех случаях игнорируя советы врачей.
История, которая начинается с новостей последних дней и поднимает тревожные вопросы о роли технологий в принятии решений, касающихся жизни и смерти.
Что случилось
Брайан Томпсон50-летний генеральный директор UnitedHealthcare, американского гиганта медицинского страхования, был убит на Манхэттене в среду утром. Убийца в маске ждал его возле отеля «Хилтон» и стрелял ему в спину.
Его компания с оборот стоимостью 280 миллиардов долларов, был втянут в ряд споров, от
антимонопольные расследования на обвинение в использовании алгоритма для
отказать в помощи на реабилитацию тяжелобольным пациентам в начале этого года.
Алгоритм здравоохранения, который решает, кого лечить
Когда искусственный интеллект принимает решения о жизни людей, грань между эффективностью и бесчеловечностью становится тонкой. Алгоритм здравоохранения НХ Прогноз, реализованный UnitedHealthcare, был разработан для упрощения принятия решений о возмещении медицинских расходов. На самом деле это превратилось в автоматизированную систему отказа в лечении, с вероятностью «ошибки» 90%.
La иск подан из семей двух умерших пациентов выявили, как этот алгоритм здравоохранения систематически игнорировал оценки врачей. Еще более тревожным является осознание что UnitedHealthcare знала об этих ошибках, но продолжала использовать систему.
Технологии, которые должны быть вспомогательным инструментом, стали безжалостными судьями здоровья других людей, что имеет разрушительные последствия для тысяч пожилых пациентов.
Месть системе
Убийство генерального директора Брайан Томпсон вызвало неоднозначную реакцию в социальных сетях. Убийца, личность которого пока не установлена, скрылся. тревожное сообщение на гильзах: манифест гнева против системы, которая ставит алгоритмы выше человечества.
Если для понимания убийства нужно оружие, мотив и виновник, то почти все у нас уже есть (включая фото вероятного убийцы). Однако что касается мотива, как сообщалось American Prospect, около 50 миллионов клиентов могли иметь причины недовольствовать UnitedHealthcare. 50 миллионов потенциальных убийц и 50 миллионов жертв одновременно.
Вот почему удивительно радостная общественная реакция на убийство свидетельствует о глубоком кризисе доверия к американской системе здравоохранения. Три слова на ракушках рассказывают историю системного разочарования, когда технологии используются в качестве прикрытия для принятия решений, которые жестоко влияют на жизни людей.
Будущее автоматизированного здравоохранения
Эта история, как уже упоминалось, поднимает важнейшие вопросы о будущем здравоохранения. Интеграция искусственного интеллекта в медицинской сфере это неизбежно, но как мы можем гарантировать, что оно останется инструментом на службе человечества, а не наоборот?
Алгоритм здравоохранения может обрабатывать огромные объемы данных и потенциально повышать эффективность системы. Но случай UnitedHealthcare также демонстрирует огромную опасность полного делегирования медицинских решений автоматизации.
Задача на будущее будет заключаться в том, чтобы найти баланс между технологическими инновациями и человеческим контролем, гарантируя, что эффективность никогда не преобладает над этикой и состраданием.
Наблюдение и контроль в современном здравоохранении
Использование алгоритмов здравоохранения также поднимает вопросы о конфиденциальности и контроле медицинских данных. Когда автоматизированная система имеет право принимать решение о медицинской судьбе человека (или о его способностях к вождению), кто контролирует эту систему? Кто гарантирует прозрачность его решений?
Создание nH Predict демонстрирует, как отсутствие надзора может привести к систематическим злоупотреблениям. Технологии здравоохранения будущего должны будут сопровождаться строгой системой сдержек и противовесов.
Эта трагическая история должна послужить предупреждением о будущем цифрового здравоохранения. Интеграция технологий в систему здравоохранения необходима, но она должна основываться на четких этических принципах и постоянном человеческом контроле.
