«Яндекс» позволит партнерам вместе обучать нейросети и раздельно хранить данные
«Яндекс» вместе с Институтом системного программирования имени В. П. Иванникова РАН и Сеченовским университетом первыми в России на практике применили федеративное машинное обучение для задач медицины. Его также называют совместным, поскольку оно предназначено для проектов, где есть несколько участников с собственными наборами данных, или датасетами. Федеративный подход позволяет участникам коллективно обучать модели, никому не передавая свои данные. Это открывает новые возможности для партнерств в сфере искусственного интеллекта. Теперь в них смогут участвовать компании из отраслей, где имеют дело с чувствительной информацией: например, финансов, медицины или промышленности. Об этом CNews сообщили представители Yandex Cloud.
Как это работает
Сперва модель обучается на каждом из датасетов участников проекта. На центральный сервер передаются не сами датасеты, а результаты их обработки — к примеру, изменения в весах модели. Именно на них затем обучается глобальная модель. Таким образом, датасеты на протяжении всего процесса обучения не покидают контуры организаций — и никто, кроме владельцев, не может получить к ним доступ.
«Яндекс», ИСП РАН и Сеченовский университет Минздрава России, используя федеративный подход, создали нейросеть, которая по данным электрокардиограмм выявляет фибрилляцию предсердий — одну из наиболее распространенных патологий сердца. Технология делает это с высокими показателями чувствительности и специфичности. Для обучения использовались два независимых датасета с электрокардиограммами: от Сеченовского университета и от ИСП РАН. Оба партнера провели раунды обучения на своей стороне, а затем передали результаты в общий контур.
Проект реализовали эксперты центра технологий для общества Yandex Cloud. За техническую составляющую проекта отвечали инженеры Yandex Cloud и ИСП РАН. В Yandex Cloud продумали этапы реализации, предложили стек технологий, создали унифицированную среду для обучения и рассчитали необходимый объем ресурсов. В ИСП РАН разработали модель и адаптировали ее под опенсорсный фреймворк федеративного обучения. Сеченовский университет дал экспертную оценку качества модели.
В будущем воспользоваться федеративным машинным обучением смогут клиенты Yandex Cloud. Новый подход позволит участвовать в совместных проектах организациям, которые раньше не могли сотрудничать из-за рисков, связанных с передачей чувствительных данных. Это, в свою очередь, повысит качество итоговых моделей — чем больше партнеров в проекте, тем больше данных для обучения. Кроме того, федеративный метод будет полезен и партнерам, которых разделяют большие расстояния — например, когда речь идет о трансграничной передаче данных.