Подумайте о том, чтобы сделать простой рентген вашего колена и обнаружить, что ИИ может определить, пьете ли вы пиво или едите бобы. Звучит абсурдно, но именно это продемонстрировали исследователи американского медицинского центра. Их исследование, опубликованное в Природа: научные доклады (Я связываю это здесь), показывает, как ИИ может делать, казалось бы, невозможные прогнозы, анализируя рентгеновские лучи. Это не волшебство и не технологическое чудо, и здесь нечего праздновать. При ближайшем рассмотрении оказывается, что это серьезная проблема, которая ставит под сомнение надежность алгоритмов в медицине.
Страшный медицинский центр, но не такой, как вы думаете
По иронии судьбы: Медицинский центр Дартмут-Хичкок, чья фамилия сразу напоминает мастера кинематографических острых ощущений (нет, никакого отношения: центр был основан в 1893 году Хирамом Хичкоком в память о его жене Мэри), сталкивается с проблемой, достойной технологического триллера. Рентгеновские снимки, диагностические инструменты основы современной медицины, при анализе с помощью искусственного интеллекта обнаруживают тревожные аспекты. Доктор Питер Л. Шиллинг, хирург-ортопед из DHMC, провел невероятное исследование.
использование более 25.000 XNUMX рентгеновских снимков колена из базы данных Инициативы по остеоартриту, исследователи научили нейронные сети делать прогнозы, которые кажутся не имеющими логического смысла. Тем не менее. Наличие скрытых переменных и ложных корреляций в данных позволило ИИ достичь точности 73% при прогнозировании потребления пива и 63% при выявлении тех, кто избегает жареных бобов. Цифры, которые заставляют задуматься об истинной природе машинного обучения.
Рентгеновские снимки показывают больше, чем ожидалось
Вместимость сверточные нейронные сети (CNN) для выявления неочевидных закономерностей на медицинских изображениях оказался палкой о двух концах. Они могут не только получить, казалось бы, невозможную информацию, такую как предпочтения в еде, но они также могут с ошеломляющей точностью определять расу, возраст и пол пациентов.
Брэндон Дж. Хилл, специалист по машинному обучению из DHMC, отмечает, что это явление выходит за рамки простых предубеждений, основанных на признаках расы или пола. Алгоритмы способны даже определить год, в котором врачи сделали рентген, воспользовавшись тонкими различиями в протоколах визуализации и функциях аппарата. Эти способности являются результатом не глубокого понимания анатомии человека, а того, что эксперты называют «сокращенное обучение». Проще говоря, ИИ находит в данных ярлыки, позволяющие делать точные прогнозы. без фактического понимания основной причинно-следственной связи.
Будущее для переосмысления цифровых рентгенограмм
Этот вопрос вызывает серьезные опасения по поводу достоверности диагнозов, основанных на искусственном интеллекте. Если алгоритм может «видеть» закономерности, которые приводят к несвязанным выводам, как мы можем ему доверять, когда он делает действительно важные медицинские прогнозы? Авторы исследования подчеркивают важность междисциплинарного подхода для решения этих проблем. Сотрудничество между учеными, клиницистами и специалистами по этике имеет решающее значение для разработки надежных систем искусственного интеллекта, которые выполняют свои обещания без ущерба для точности диагностики.
Как говорит Хилл, крайне важно преодолеть наши предубеждения относительно того, как «видит» ИИ. Это не интеллект кто думает как мы. Это почти как иметь дело с инопланетным разумом, который находит решения способами, совершенно отличными от человеческого мышления. Перспектива, которая напоминает нам, насколько важно сохранять критический подход при внедрении этих технологий в медицину.
