ИИ в медицине: необходимость регулирования алгоритмов
Исследователи из MIT, Equality AI и Бостонского университета призывают усилить контроль за использованием как ИИ, так и традиционных алгоритмов в здравоохранении.
Основные моменты
🔹 Новый шаг в регулировании: В мае 2024 года Управление гражданских прав США (OCR) опубликовало правило в рамках ACA, запрещающее дискриминацию в инструментах поддержки принятия решений, включая ИИ.
🔹 Риски и предвзятость: Исследователи предупреждают, что как ИИ, так и клинические риск-оценки могут способствовать дискриминации, если их данные и алгоритмы не будут тщательно проверены.
🔹 Стремительный рост ИИ в медицине: С 1995 года FDA одобрила почти 1 000 устройств на основе ИИ, многие из которых помогают врачам в принятии клинических решений.
🔹 Призыв к стандартизации: Эксперты отмечают, что даже простые клинические риск-оценки, используемые 65% врачей ежемесячно, требуют таких же строгих стандартов, как и более сложные ИИ-алгоритмы.
Будущее регулирования
В марте 2025 года Jameel Clinic проведет конференцию по вопросам регулирования ИИ в здравоохранении. Основное внимание будет уделено прозрачности, предотвращению дискриминации и стандартам для всех инструментов поддержки принятия решений.
", — Марзье Гассеми, профессор MIT.
REAL DIGITAL
Исследователи из MIT, Equality AI и Бостонского университета призывают усилить контроль за использованием как ИИ, так и традиционных алгоритмов в здравоохранении.
Основные моменты
🔹 Новый шаг в регулировании: В мае 2024 года Управление гражданских прав США (OCR) опубликовало правило в рамках ACA, запрещающее дискриминацию в инструментах поддержки принятия решений, включая ИИ.
🔹 Риски и предвзятость: Исследователи предупреждают, что как ИИ, так и клинические риск-оценки могут способствовать дискриминации, если их данные и алгоритмы не будут тщательно проверены.
🔹 Стремительный рост ИИ в медицине: С 1995 года FDA одобрила почти 1 000 устройств на основе ИИ, многие из которых помогают врачам в принятии клинических решений.
🔹 Призыв к стандартизации: Эксперты отмечают, что даже простые клинические риск-оценки, используемые 65% врачей ежемесячно, требуют таких же строгих стандартов, как и более сложные ИИ-алгоритмы.
Будущее регулирования
В марте 2025 года Jameel Clinic проведет конференцию по вопросам регулирования ИИ в здравоохранении. Основное внимание будет уделено прозрачности, предотвращению дискриминации и стандартам для всех инструментов поддержки принятия решений.
"Инструменты принятия решений должны быть прозрачными и придерживаться принципов недискриминации, независимо от их сложности
", — Марзье Гассеми, профессор MIT.
REAL DIGITAL