Что такое вертикальное федеративное обучение (VFL) для кредитного скоринга?

Вертикальное федеративное обучение (VFL) позволяет двум организациям совместно обучить модель кредитного скоринга, когда каждая из сторон владеет разными признаками об одних и тех же клиентах. В банковском сценарии банк располагает идентификаторами клиентов, частью признаков и разметкой (целевой переменной — бинарным признаком кредитоспособности 0/1), а внешний вендор аналитических данных располагает идентификаторами клиентов, поведенческими и социально-демографическими признаками. VFL строит единую совместную модель без передачи исходных данных и разметки между сторонами — через сеть передаются только промежуточные градиенты (при необходимости — в зашифрованном виде).

Могут ли банк и вендор аналитики построить совместную модель кредитного скоринга без передачи разметки банка?

Да. На платформе Guardora VFL банк сохраняет целевую переменную (историческую разметку кредитоспособности) полностью на своей стороне. Вендор сохраняет поведенческие и социально-демографические признаки на своей стороне. Платформа координирует обмен гомоморфно зашифрованными градиентами через gRPC с TLS-каналом, так что итоговая GBDT-модель использует информацию обеих сторон — при этом ни одна из сторон не видит исходные данные и разметку другой. В рамках описанного кейса полученная модель достигла качества ROC AUC ≈ 81.3. Это лучше метрик стандартного ансамбля (стэкинга), который ещё и требует передачи разметки.

Как Guardora VFL защищает разметку банка и признаки вендора?

Guardora VFL поддерживает два режима безопасности. В режиме максимальной защиты градиенты шифруются по алгоритму гомоморфного шифрования Пайе (Paillier), поэтому градиенты не покидают периметр сторон в открытом виде. В высокопроизводительном режиме исходные данные и разметка по-прежнему не покидают свои периметры, но передаются гистограммы признаков. В обоих режимах сырые признаки, персональные записи и разметка остаются в контуре владеющей ими стороны.

Какое качество модели обеспечивает Guardora VFL в задаче кредитного скоринга?

В описанном кейсе кредитного скоринга на табличных данных с GBDT (100 деревьев, максимальная глубина 6) Guardora VFL достиг ROC AUC ≈ 81.3 — это превысило качество ансамбля (стэкинга) двух отдельно обученных моделей (71.3), качество локальной модели банка (70.1) и локальной модели вендора (67.6). Также ансамбль (стэкинг) требует передачи разметки между сторонами, а Guardora VFL — нет.

Какова скорость обучения и инференса Guardora VFL для кредитного скоринга?

Обучение модели GBDT без шифрования на 300 000 записях занимает менее 9 минут. Обучение с гомоморфным шифрованием Paillier на 50 000 записях занимает около 1,4 часа — шифрование не влияет на качество модели, но увеличивает время обучения. Инференс оптимизирован для продуктивной эксплуатации: 650 запросов в секунду при многопоточной реализации, около 0,008 секунды на запрос — сопоставимо со стандартной (не федеративной) моделью скоринга.

Подходит ли Guardora VFL для регулируемых отраслей, таких как банки?

Да. Guardora VFL разработан для сценариев, где законодательство о защите персональных данных и внутренние процедуры информационной безопасности ограничивают передачу данных между сторонами. Поскольку сырые записи и разметка не покидают периметр владельца, совместное обучение исключает этапы комплаенс-согласования, соглашений об обработке данных и регуляторные риски, сопутствующие передаче исходных данных. Решение протестировано на реальных данных в контуре крупной технологической компании.

Какие ML-модели и типы данных поддерживает Guardora VFL?

В кейсе кредитного скоринга применяется градиентный бустинг на решающих деревьях (GBDT) — стандартная модель для табличных данных в финансовом секторе. Guardora VFL создан специально для сценариев с табличными (структурированными) данными, в которых признаки вертикально распределены между двумя сторонами — у сторон совпадают идентификаторы клиентов, но разные наборы признаков об этих клиентах.

Чем Guardora VFL отличается от FATE, OpenFL и Flower в задаче кредитного скоринга?

FATE, OpenFL и Flower — это open-source фреймворки федеративного обучения, требующие значительных инженерных усилий для построения продуктивного двустороннего VFL-пайплайна с гомоморфным шифрованием, координацией градиентов и инференсом. Guardora VFL — коммерческая платформа VFL с готовым к развёртыванию рабочим процессом банк-вендор, проверенными бенчмарками на данных кредитного скоринга (ROC AUC до 99.7 на GBDT), продуктивным инференсом (650 rps) и встроенным шифрованием Paillier. Компромисс: коммерческая лицензия против бесплатных open-source фреймворков.

Кейсы

Вертикальное федеративное обучение моделей кредитного скоринга

Кредитный скоринг

Вертикальное федеративное обучение моделей кредитного скоринга без компрометации разметки

Индустрия:

Банковский сектор, финансовые сервисы, скоринговые продукты

Технология:

Вертикальное федеративное обучение (VFL)

Тип данных:

Табличные (структурированные) данные

ML-модели:

Градиентный бустинг (GBDT)

ML-задача:

Кредитный скоринг

Продукт:

Guardora VFL

Портрет заказчика

Компания-вендор в сфере аналитических продуктов и предиктивной аналитики, которая предоставляет услуги кредитного скоринга коммерческим банкам.

Вендор располагает массивом данных о пользователях и на их основе строит модели оценки кредитоспособности для финансовых организаций.

Клиенты вендора используют эти модели для принятия кредитных решений, управления рисками и противодействия мошенничеству.

Характеристики заказчика:

Высокие требования к соблюдению законодательства о защите персональных данных
Потребность в обогащении моделей внешними источниками данных без компрометации конфиденциальности
Использование предиктивной аналитики для кредитного скоринга и оценки рисков

Задача

Вендор аналитических продуктов предоставляет услуги кредитного скоринга коммерческим банкам. В текущем процессе для построения совместной модели используется метод ансамблирования (стэкинг): каждая сторона обучает собственную модель на своих данных, после чего результаты обеих моделей объединяются в итоговую оценку.

Для обучения модели на стороне вендора необходимо передать разметку (целевую переменную) от банка в открытом виде. Разметка — это конфиденциальная информация банка, содержащая исторические данные о кредитоспособности клиентов.

Передача разметки требует согласования между сторонами и соблюдения внутренних процедур информационной безопасности и комплаенса.

Основной вопрос вендора: могут ли разные компании построить одну ML модель, не раскрывая данные друг другу, чтобы в итоговой модели были использованы дата-сеты всех сторон, а качество модели было лучше, чем качество отдельных локальных моделей?

Ключевые проблемы:

Конфиденциальность разметки: банк не готов передавать таргет внешнему партнёру.
Децентрализация данных: признаки распределены между двумя сторонами.
Регуляторные ограничения: передача данных ограничена законодательством.

Цель тестирования: сопоставить качество модели, обученной методом вертикального федеративного обучения (VFL), с качеством локальных моделей каждой из сторон и с качеством ансамбля (стэкинга) двух моделей — при условии, что в рамках VFL разметка не передаётся между сторонами.

Решение

Для решения задачи была развёрнута платформа Guardora VFL

Решение для вертикального федеративного обучения, в рамках которого две стороны совместно обучают ML-модель без передачи исходных данных и разметки.

Участники и распределение данных

Тестирование проводилось с имитацией двух сторон:

01/

Активная сторона (банк): располагает разметкой (целевой переменной — бинарным признаком кредитоспособности 0/1), идентификаторами клиентов и частью признаков.

02/

Пассивная сторона (вендор): располагает ~200 признаками по тем же клиентам, но не имеет разметки.

Модели и защита данных

Тестирование проводилось с использованием модели градиентного бустинга на решающих деревьях (GBDT) (модель из 100 деревьев глубины не более 6) — основная модель для работы с табличными данными.

Защита данных обеспечена в рамках двух режимов безопасности:

Гомоморфное шифрование градиентов (алгоритм Пайе) — максимальный уровень защиты: исходные данные и градиенты не покидают контур в открытом виде.
Режим без шифрования — исходные данные не передаются, однако градиенты передаются в открытом виде. Дает высокую скорость обучения.

Результаты

Сравнение подходов

В таблице ниже представлены результаты тестирования:

Подход	ROC_AUC	Передача разметки
Локальная модель стороны А	67.6	Не требуется
Локальная модель стороны Б	70.1	Требуется
Ансамбль двух моделей (стэкинг)	71.3	Требуется
Guardora VFL (GBDT)	≈ 81.3	Не требуется

Для расчёта локальной модели стороны Б в рамках тестового сценария использовалась разметка.

Ключевой результат: после оптимизации гиперпараметров VFL-модель достигла качества, сопоставимого с ансамблем двух моделей (стэкингом), и превзошла локальные модели каждой из сторон. Разметка не передавалась между участниками.

Таким образом, в моделируемом сценарии клиенты вендора — банки — получают модель уровня ансамбля и не передают разметку.

Скорость обучения и инференса федеративной модели сопоставима со скоростью обучения и инференса стандартной модели скоринга:

Обучение модели GBDT без шифрования на 300 000 записях занимает менее 9 минут.
Обучение градиентного бустинга с шифрованием на 50 000 записях составляет около 1,4 часа.
Скорость применения модели (инференс) оптимизирована: 650 запросов в секунду при многопоточной реализации (0,008 сек на запрос)

Детальные результаты экспериментов

В таблице приведены результаты ROC_AUC федеративно обученной модели для разного количества строк (сэмплов) данных и применяемого метода обучения — градиентного бустинга.

№	Сэмпл	Шифрование	ROC AUC	Время
1	10K	-	76.72	36.5s
2	50K	-	79.15	1.5 m
3	100K	-	79.06	2.9 m
4	200K	-	79.77	5.9m
5	300K	-	78.82	8.9m
6	10K	+	76.32	38m
7	50K	+	78.78	1.4h
8	400K	+	81.30	13h

*Результаты достигнуты в ходе экспериментов с изменением гиперпараметров модели

Ключевые выводы

Качество VFL-модели сопоставимо с ансамблем двух моделей (стэкингом) и превосходит качество локальных моделей каждой стороны, при этом разметка не передаётся между участниками обучения.

Федеративное обучение использует данные обеих сторон для построения единой модели, не нарушая требований конфиденциальности.

Скорость обучения без шифрования признана высокой, с шифрованием — приемлемой для промышленного применения.

Решение прошло полноценное тестирование в контуре крупной технологической компании на реальных данных.

Попробуйте сами!

Закажите звонок для вашего кейса

Заказать