Новые рекомендации Всемирной организации здравоохранения (ВОЗ) посвящены наиболее важным регуляторным механизмам использования искусственного интеллекта (ИИ). Особое внимание экспертов было уделено проверке эффективности и безопасности таких систем перед их использованием.
В публикации на сайте ВОЗ указаны наиболее важные принципы, которыми должны руководствоваться организаторы здравоохранения, в разработке собственных рекомендаций по использованию и созданию ИИ на национальном и региональном уровнях.
Технологии ИИ, в том числе языковые модели по типу чат-ботов, иногда внедряются в медицинскую сферу слишком быстро без понимания принципов их работы, а также потенциального вреда, который они могут нанести пользователям. Речь идет в том числе о доступе к персональной информации. В связи с этим, ВОЗ предлагает разработать технические и регуляторные механизмы гарантии защиты информации на высоком уровне.
ВОЗ предлагает руководствоваться следующими положениями:
- Разработка и использование должны проводится в соответствии с принципами доверия, прозрачности и стандартами документации – это в том числе касается документации работы ИИ на протяжении всего цикла использования и разработки.
- Оценки рисков должны учитывать целесообразность использования, непрерывность их обучения, вмешательство человека, обучающие модели, а также такие угрозы как кибератаки.
- В укреплении безопасности и создании регуляционных регламентов может помочь внешняя валидация данных и четкое определение цели, ради которой используется ИИ-система.
- Чтобы убедиться в отсутствии ошибок, в том числе по типу предвзятости, необходимо использовать качественные данные.
- Нормативные положения также должны учитывать вопросы, касающиеся конфиденциальности и защиты данных.
- Улучшение взаимодействия между регуляторными органами, пациентами, специалистами здравоохранения, представителями индустрии, а также членами правительства должно способствовать развитию ИИ в соответствии с изначально обозначенными требованиями.
Использование ИИ в медицине является многообещающим, но в то же время несет в себе риски сбора данных без этических норм, кибератак и различных неисправностей. Новые рекомендации позволят более эффективно регулировать ИИ и использовать его огромный потенциал правильно.