ИИ научился определять расу человека по рентгеновскому снимку
Основываясь только на рентгеновских снимках и изображениях компьютерной томографии, искусственный интеллект (ИИ) смог определить расу человека с точностью около 90%. Ученые не знают, как у него это получается, пишет сайт «Популярная механика».
В новом исследовании, опубликованном в журнале Lancet Digital Health, ученые решили проверить способность ИИ идентифицировать особенности пациента по рентгеновским снимкам.
Перед экспериментом исследователи обучили ИИ на трех крупных наборах данных рентгенографии грудной клетки, которые имели подписи с определением расы человека – темнокожий, белокожий или азиат.
Затем ученые показали рентгеновские снимки множества различных областей тела различных групп людей и попросили ИИ определить расу человека. На снимках отсутствовали любые признаки расы: ни цвета кожи, ни текстуры и цвета волос...
Для всех частей тела ИИ смог определить расу с точностью около 90%, даже без каких-либо идентифицирующих признаков.
Исследователи изменили условия
Ученые решили, что ИИ каким-то образом использовал данные статистики и основывал выводы на таких факторах, как индекс массы тела или плотность/охват груди. Они убрали возможные сопутствующие переменные и показали только наборы данных людей с похожим ИМТ и типами телосложения, но все же ИИ смог определить расу.
Как ему это удается?
Исследователи не знают. Одно из предположений: ИИ распознает различия меланина в коже людей, которые проявляются на снимках и не видны невооруженным взглядом.
Ученые пишут, что медицинские работники не должны спешить с внедрением ИИ для анализа медицинских изображений. К алгоритмам нужно относиться «с особой осторожностью, поскольку такая информация может быть использована не по назначению, чтобы закрепить или даже усугубить хорошо задокументированные расовые различия, существующие в медицинской практике».
Читайте также: Любое изделие из металла подвержено коррозии. Это касается и автомобилей. Проблема может появиться не только в наружных местах кузова, но и во внутренних, где их трудно обнаружить. Подробнее: Обработка авто антикоррозионными средствами: виды средств, требования и особенности
В новом исследовании, опубликованном в журнале Lancet Digital Health, ученые решили проверить способность ИИ идентифицировать особенности пациента по рентгеновским снимкам.
Перед экспериментом исследователи обучили ИИ на трех крупных наборах данных рентгенографии грудной клетки, которые имели подписи с определением расы человека – темнокожий, белокожий или азиат.
Затем ученые показали рентгеновские снимки множества различных областей тела различных групп людей и попросили ИИ определить расу человека. На снимках отсутствовали любые признаки расы: ни цвета кожи, ни текстуры и цвета волос...
Для всех частей тела ИИ смог определить расу с точностью около 90%, даже без каких-либо идентифицирующих признаков.
Исследователи изменили условия
Ученые решили, что ИИ каким-то образом использовал данные статистики и основывал выводы на таких факторах, как индекс массы тела или плотность/охват груди. Они убрали возможные сопутствующие переменные и показали только наборы данных людей с похожим ИМТ и типами телосложения, но все же ИИ смог определить расу.
Как ему это удается?
Исследователи не знают. Одно из предположений: ИИ распознает различия меланина в коже людей, которые проявляются на снимках и не видны невооруженным взглядом.
Ученые пишут, что медицинские работники не должны спешить с внедрением ИИ для анализа медицинских изображений. К алгоритмам нужно относиться «с особой осторожностью, поскольку такая информация может быть использована не по назначению, чтобы закрепить или даже усугубить хорошо задокументированные расовые различия, существующие в медицинской практике».
Комментарии 0