Проект определяет действия по работе с ИИ
Совет по профессиональным квалификациям в здравоохранении разработал проект трудовой функции, касающийся применения искусственного интеллекта. В документе перечислены 12 трудовых действий, включая формулирование структурированных запросов к большим языковым моделям. Действие проекта распространяется на медработников, чьи обязанности включают самостоятельное принятие клинических решений — это соответствует 6-му уровню квалификации и выше.
Документ предполагает использование систем поддержки принятия врачебных решений для обследования, диагностики, назначения лечения и оценки рисков. При этом врачи обязаны критически интерпретировать результаты, проверяя их соответствие клиническим рекомендациям, стандартам и порядкам оказания медицинской помощи.
Требования к проверке и использованию результатов
При работе с ИИ необходимо выявлять признаки недостоверности результатов, включая фактологические и логические ошибки. При использовании нейросетей для поиска, реферирования или систематизации информации требуется верификация первоисточников. Врачи должны проверять, соответствуют ли полученные данные установленным клиническим стандартам.
Если возникают сомнения в клинической применимости или безопасности системы, её использование не рекомендуется. В случае выявления нежелательных событий или ошибок необходимо информировать уполномоченных лиц. Эти требования включены в проект как обязательные действия при работе с ИИ.
Обеспечение конфиденциальности и документирование
При работе с ИИ вне защищённого контура медицинской организации врачи обязаны обезличивать персональные данные пациентов для защиты врачебной тайны. Также требуется различать зарегистрированные в Российской Федерации медицинские изделия на основе ИИ и сервисы общего назначения.
Использование ИИ в профессиональной деятельности должно быть зафиксировано в документах. При этом большие языковые модели могут применяться для подготовки таких документов. Документация должна включать информацию о применении ИИ, если это предусмотрено нормативными правовыми актами.
Информирование пациентов и сроки обсуждения
Пациенты и их законные представители должны быть проинформированы о применении систем на основе ИИ, если это установлено нормативными правовыми актами. Это требование включено в проект как часть процесса информированного согласия.
Предложения по доработке документа принимаются до 25 сентября. К обсуждению приглашены медицинские работники, представители научных и образовательных организаций, а также специалисты в области информационных технологий.