Стандартное обезличивание работает, когда обучающие данные нельзя соотнести с конкретными пациентами, но многие клинические ML-сценарии требуют одновременно и приватности, и доступа к чувствительным сырым данным.
Guardora комбинирует пять техник: Functional Transformation (Veils), Fully Homomorphic Encryption, Federated Learning, Functional Encryption и Secure Multi-Party Computation, чтобы обучать модели на конфиденциальных медицинских данных без их раскрытия.
Здравоохранение ― это одна из областей, где высоко востребованы машинное обучение и конфиденциальные вычисления. Медицинские организации, будучи хранителями защищенной медицинской информации, несут юридические и этические обязательства. Они обязаны предотвращать ненадлежащий доступ к данным, который может привести к нарушению конфиденциальности.
Эта обязанность и риск финансовых и репутационных последствий создали среду, в которой хранители данных крайне неохотно делятся конфиденциальной информацией пациентов или разрешают доступ к ней.
Чего мы не делаем в Guardora?
Кейсы, когда искусственный интеллект и техники повышения приватности данных применяются отдельно друг от друга, хорошо известны в MedTech.
Действительно, в значительной части кейсов персональные данные, по которым можно идентифицировать пациентов, подвергаются простому обезличиванию и не используются в обучении ML-моделей, а данные, на которых тренируются ML-модели, как правило, не позволяют по ним понять, какому конкретно пациенту они принадлежат. В таких случаях нужно просто вычистить текстовую информацию с персональными данными: ФИО, город, место забора анализов, и для этого на рынке существуют решения по анонимизации.
Что мы делаем в Guardora?
Мы в Guardora специализируемся и встречаемся со случаями комбинирования этих двух направлений, когда чувствительные данные сначала должны быть защищены, а после использованы для тренировки ML-моделей.
Есть кейсы, когда подобная защита требуется на всех этапах работы с данными:
- передача,
- хранение,
- обучение ML-моделей,
- проверка качества получившихся моделей,
- их дообучение,
- возврат результатов (инференс),
- защита самих моделей, как плодов интеллектуального труда.
Какие техники мы используем?
Пожалуй, именно медицина наиболее разнообразна, с точки зрения применяемых типов данных. Неструктурированные медицинские записи анамнезов, нозологий и диагнозов, даты, числовые, категориальные, бинарные признаки, тексты, таблицы, числовые и временные ряды, формат DICOM, изображения, видео и аудио, равно как и разнообразные ML-архитектуры требуют сочетания разных методов и протоколов вычислений, повышающих приватность.
Решения Guardora основаны на использовании целого веера разных подходов:
- Functional Transformation (Veils)
- Fully Homomorphic Encryption
- Federated Learning
- Functional Encryption
- Secure Multi-Party Computation
Кейсы
Вот ряд кейсов из области здравоохранения, требующих сохранения конфиденциальности чувствительных данных при обучении ML-моделей, с которыми мы сталкивались в Guardora:
- Разработка, повышение качества и проверка клинических ML-алгоритмов на датасетах, принадлежащих разным владельцам.
- Безопасное использование данных в экономных и универсальных облачных решениях, а не в рамках долгих, сложных и дорогих On-Premise реализаций.
- Доступ к высококачественным, разнообразным наборам данных, которые представляют глобальные популяции пациентов так, чтобы алгоритмы давали одинаково точные результаты независимо от типа оборудования для сбора данных, демографических характеристик популяции пациентов, клинических условий или других социальных факторов. Чтобы соответствовать этому стандарту, разработчик алгоритма должен иметь доступ к данным, репрезентативным для той модели, с которой он столкнется при развертывании в различных клинических условиях.
- Защита интеллектуальной собственности и ML-алгоритмов потенциальных конкурентов при исследованиях по поиску лекарств. Появляются новые технологии, например, CRISPR, они меняют исследования по редактированию генов, например, для борьбы с диабетом и раком. Но с новыми изобретениями появляются и проблемы безопасности. Поэтому есть потребность в полном шифровании данных даже во время их обработки.
- Данные генома человека в мире всё больше охраняются как персональные, поэтому конфиденциальные вычисления при работе с подобными материалами имеют потенциал превращения в обязательное требование на законодательном уровне.
- Биометрия и фетометрия плода. Предиктивный анализ фото и видео УЗИ плода.
- Анализ, диагностика и предиктивные модели по радиологии, МРТ и ФМРТ. Обнаружение семиотических признаков.
- Извлечение и классификации текста.
- Прогнозные, диагностические модели, которые осуществляют непосредственно интерпретацию извлеченных данных.
- Прогнозная аналитика.
- Системы поддержки принятия врачебных решений.
- Системы поддержки принятия управленческих решений.
- Системы извлечения данных из неструктурированных медицинских записей.
- Системы формирования цифрового профиля пациентов.
- Исследования реальной клинической практики.
- Продажа защищенных наборов данных или обогащение наборов данных (когда компания А что-то выгрузила, а компания В получила обогащённый сегмент, либо обратное обогащение, когда компания С что-то добавила в пользу компании А и компании В).
- Привязка электронной карты с геолокацией, как существенный предиктор развития онкологических заболеваний, поскольку канцерогены имеют свойство быть территориально определёнными. Вредные выбросы каких-либо предприятий могут провоцировать рост онкологических заболеваний у местного населения.
- Телемедицина и удаленное наблюдение пациентов. Интеллектуальный мониторинг безопасности пациентов и качества оказания ухода с помощью алгоритмов компьютерного зрения.
- Классификация и подсчет клеток на оцифрованном мазке периферической крови и костного мозга.
- Обнаружение симптомов диабетической ретинопатии на снимках глазного дна.
- Анализ состояния зубов и контроль динамики.
- Задачи CV: сегментация, регрессия, реконструкция, в зависимости от типа патологий.
Задачи
Познакомьтесь со списком актуальных задач, которые предстоит решить рынку для создания хороших продуктов:
- Возможность формирования общего для нескольких владельцев данных ML-решения при условии обеспечения безопасности данных каждого из владельцев.
- Обеспечение безопасности данных при обучении ML-модели вне доверенного контура владельца данных, например, в облаке.
- Обеспечение безопасности данных при использовании (инференсе) ML-модели, развернутой вне доверенного контура владельца данных.
- Защита размещенной на общедоступных ресурсах ML-модели от несанкционированного использования и кражи параметров.
Не у всех участников рынка есть возможность обеспечить безопасность на сетевом и физическом уровнях, поэтому в Guardora мы предлагаем решения на алгоритмическом и протокольном уровнях.
Если эта тема интересует вас как владельца данных или разработчика, присоединяйтесь к нашему сообществу в Discord и участвуйте в обсуждении этих насущных вопросов.
Часто задаваемые вопросы
Как использовать ML на медицинских данных без нарушения врачебной тайны и 152-ФЗ?
Закон о персональных данных (152-ФЗ) и положения о врачебной тайне (ст. 13 Федерального закона № 323-ФЗ) ограничивают передачу медицинских данных, но не запрещают ML на них.
Соответствующие требованиям подходы: обучение на корректно обезличенных датасетах; использование инфраструктуры, прошедшей сертификацию ФСТЭК/ФСБ; и применение техник конфиденциального ML — федеративное обучение, при котором сырые данные не покидают контур медорганизации; гомоморфное шифрование, при котором PHI обрабатывается только в зашифрованном виде; безопасные многосторонние вычисления, при которых ни одна из сторон не видит объединённый набор данных.
Что такое конфиденциальное машинное обучение (PPML) в здравоохранении?
Конфиденциальное машинное обучение (PPML, privacy-preserving machine learning) в здравоохранении — набор криптографических и архитектурных техник, позволяющих обучать и применять ML-модели на данных пациентов без раскрытия сырых записей ML-инженерам, облачным провайдерам или организациям-партнёрам.
Основные техники PPML: федеративное обучение, гомоморфное шифрование, функциональное шифрование, безопасные многосторонние вычисления и функциональное преобразование (например, Veils от Guardora). Большинство промышленных систем здравоохранительного ML комбинируют две и более техники.
Как больницы могут делиться медицинскими данными для ML без рисков утечки?
Больницы могут совместно обучать ML без обмена сырыми записями через федеративное обучение (каждая больница обучает локальную модель, контур покидают только обновления модели) или через безопасные многосторонние вычисления (данные разделяются на шифрованные доли между сторонами, совместное вычисление раскрывает только результат).
Вертикальное федеративное обучение подходит, когда больницы располагают разными типами признаков об одних и тех же пациентах — например, амбулаторное звено с диагностической историей и вендор носимых устройств с виталами. Криптографические протоколы защищают как сырые данные, так и инференс-запросы.
Какие техники шифрования защищают медицинские данные при обучении ML?
Пять техник применяются чаще всего.
Полностью гомоморфное шифрование (FHE) позволяет производить вычисления непосредственно на зашифрованных данных — медленно, но математически надёжно.
Федеративное обучение (FL) переносит вычисления к данным, поэтому сырые записи не покидают источник.
Функциональное шифрование позволяет вычислять определённые функции на шифротексте, сохраняя данные скрытыми.
Безопасные многосторонние вычисления (MPC) разделяют данные между сторонами, чтобы ни одна не видела целого.
Функциональное преобразование (Veils от Guardora) — лёгкая некриптографическая альтернатива для специфических табличных сценариев. На практике системы комбинируют несколько техник.
Можно ли применять федеративное обучение для DICOM и медицинских изображений?
Да. Файлы DICOM (Digital Imaging and Communications in Medicine) содержат как пиксельные данные, так и встроенные PHI в заголовках. Федеративное обучение для DICOM-задач — радиология, МРТ, ФМРТ, КТ, изображения глазного дна, УЗИ, включая фетометрию — одна из самых активных областей здравоохранительного ML, поскольку модели для медицинских изображений требуют разнообразных обучающих данных из множества клиник, а передача изображений создаёт риски конфиденциальности и нарушения авторских прав.
Каждая больница обучает локальную CNN или трансформер на своём DICOM-архиве; централизованно агрегируются только веса модели.
В каких медицинских задачах ML нужны конфиденциальные вычисления?
Конфиденциальные вычисления требуются, когда обучающие данные нельзя обезличить без потери полезности, или когда инференс задействует PHI.
Примеры: разработка клинических алгоритмов между организациями; облачное ML на защищённых датасетах; доступ к глобальной популяции пациентов для демографической справедливости; CRISPR и поиск лекарств (интеллектуальная собственность + чувствительные данные); геномные исследования (геном всё чаще классифицируется как персональные данные по GDPR/152-ФЗ); фетометрия плода; интерпретация радиологии и МРТ; извлечение данных из электронных медкарт; онкопрогноз с геолокацией; телемедицина; диагностика диабетической ретинопатии; мониторинг стоматологического здоровья.
Как защищаются геномные данные при использовании в ML?
Геномные данные уникально идентифицируют человека — даже частичные последовательности ДНК позволяют ре-идентифицировать индивида.
Современные регуляторные подходы (GDPR, российский 152-ФЗ, законы штатов США) всё чаще относят геном к персональным данным, требующим строгой защиты. ML на геноме обычно использует: федеративное обучение между исследовательскими организациями (каждый член консорциума хранит последовательности локально); гомоморфное шифрование для облачного анализа вариантов; дифференциальную приватность при публикации агрегированных статистик.
Guardora поддерживает алгоритмический и протокольный уровни защиты, подходящие для геномных исследовательских воркфлоу.
Как Guardora защищает данные пациентов в ML-проектах?
Guardora предоставляет инфраструктуру на алгоритмическом и протокольном уровнях — независимо от и в дополнение к сетевой и физической безопасности.
Платформа комбинирует пять техник: Functional Transformation (Veils), Fully Homomorphic Encryption, Federated Learning, Functional Encryption и Secure Multi-Party Computation. Среди медицинских сценариев, с которыми мы работали: межорганизационная валидация клинических алгоритмов, облачное ML на защищённых датасетах, геномные исследования, фетометрия, радиологический ИИ, извлечение из ЭМК, телемедицинская аналитика, коммерция защищёнными датасетами.
Решения разворачиваются on-premise или в сертифицированных облачных средах.
