04-12-2023

Новые рекомендации Всемирной организации здравоохранения (ВОЗ) посвящены наиболее важным регуляторным механизмам использования искусственного интеллекта (ИИ). Особое внимание экспертов было уделено проверке эффективности и безопасности таких систем перед их использованием.

В публикации на сайте ВОЗ указаны наиболее важные принципы, которыми должны руководствоваться организаторы здравоохранения, в разработке собственных рекомендаций по использованию и созданию ИИ на национальном и региональном уровнях.

Реклама

Технологии ИИ, в том числе языковые модели по типу чат-ботов, иногда внедряются в медицинскую сферу слишком быстро без понимания принципов их работы, а также потенциального вреда, который они могут нанести пользователям. Речь идет в том числе о доступе к персональной информации. В связи с этим, ВОЗ предлагает разработать технические и регуляторные механизмы гарантии защиты информации на высоком уровне.

ВОЗ предлагает руководствоваться следующими положениями:

  • Разработка и использование должны проводится в соответствии с принципами доверия, прозрачности и стандартами документации – это в том числе касается документации работы ИИ на протяжении всего цикла использования и разработки.
  • Оценки рисков должны учитывать целесообразность использования, непрерывность их обучения, вмешательство человека, обучающие модели, а также такие угрозы как кибератаки.
  • В укреплении безопасности и создании регуляционных регламентов может помочь внешняя валидация данных и четкое определение цели, ради которой используется ИИ-система.
  • Чтобы убедиться в отсутствии ошибок, в том числе по типу предвзятости, необходимо использовать качественные данные.
  • Нормативные положения также должны учитывать вопросы, касающиеся конфиденциальности и защиты данных.
  • Улучшение взаимодействия между регуляторными органами, пациентами, специалистами здравоохранения, представителями индустрии, а также членами правительства должно способствовать развитию ИИ в соответствии с изначально обозначенными требованиями.

Использование ИИ в медицине является многообещающим, но в то же время несет в себе риски сбора данных без этических норм, кибератак и различных неисправностей. Новые рекомендации позволят более эффективно регулировать ИИ и использовать его огромный потенциал правильно.

Источник: Всемирная организация здравоохранения. WHO outlines considerations for regulation of artificial intelligence for health. Женева, 2023

Реклама