Uczenie federacyjne w opiece zdrowotnej: leczenie raka bez udostępniania danych

Here is the translation of the fragment: Hospitals have the data to cure diseases, but privacy laws prevent them from sharing it. Federated Learning solves...

Uczenie federacyjne w opiece zdrowotnej: leczenie raka bez udostępniania danych

Tragedia silosów danych

Wyobraź sobie pięć dużych szpitali badawczych w Europie: w Berlinie, Paryżu, Amsterdamie, Mediolanie i Madrycie. Każdy szpital ma 1000 pacjentów z rzadką, specyficzną postacią białaczki dziecięcej. Próba licząca 1000 pacjentów jest zbyt mała, aby wytrenować niezawodny model głębokiego uczenia, który wykrywałby chorobę na wczesnym etapie. Model ulega przetrenowaniu; uczy się specyficznych cech berlińskiego skanera, a nie patologii nowotworu.

Gdyby jednak udało się połączyć zbiory danych, mielibyśmy 5000 pacjentów: zbiór danych wystarczająco duży, aby wytrenować przełomową sztuczną inteligencję diagnostyczną, która mogłaby uratować tysiące istnień.

W dawnym świecie było to niemożliwe. RODO w Europie, HIPAA w USA oraz surowe zasady poufności danych pacjentów stanowczo zabraniają wysyłania surowych danych pacjentów ze Szpitala A do Szpitala B lub przesyłania ich na centralny serwer chmurowy należący do giganta technologicznego.

Dane pozostają więc w silosach. Sztuczna inteligencja nigdy nie zostaje wytrenowana. Wzorzec pozostaje nieodkryty. Pacjenci umierają.

To jest tragedia prywatności danych kontra postęp medyczny. To impas. Ale to impas, który możemy przełamać za pomocą matematyki.

Tradycyjne szkolenie AI a uczenie federacyjneTradycyjne (scentralizowane)Szpital ASzpital BSzpital CChmura centralnaDane pacjentów przesyłane ✗Uczenie federacyjneSzpital ASzpital BSzpital CKoordynatorTylko aktualizacje modelu ✓Proces uczenia federacyjnego1. DystrybucjaModel → Szpitale2. Trening lokalnyDane pozostają na miejscu3. Wysyłanie aktualizacjiTylko matematyka, bez danych4. AgregacjaŚrednia → GlobalnyDane pacjentów NIGDY nie opuszczają szpitala. Udostępniane są wyłącznie aktualizacje matematyczne.
Tragedia nie polega na tym, że szpitale chronią pacjentów. Polega na tym, że stary schemat treningu wymaga wspólnej bazy danych, zanim model w ogóle zacznie się uczyć.

Uczenie federacyjne: odwrócenie treningu

Uczenie federacyjne (ang. Federated Learning, FL) całkowicie odwraca standardowy paradygmat treningu sztucznej inteligencji.

Podejście standardowe (scentralizowane): Zbierz wszystkie dane ze wszystkich źródeł do jednego ogromnego, centralnego jeziora danych. Trenuj model na tym jeziorze.

Podejście federacyjne (zdecentralizowane): Zostaw dane tam, gdzie są. Wyślij model do danych.

Oto jak to działa w praktyce, krok po kroku:

  1. Inicjalizacja: Serwer centralny (koordynator) tworzy „pusty" lub wstępnie wytrenowany model globalny.
  2. Dystrybucja: Serwer wysyła kopię tego modelu do każdego z 5 szpitali.
  3. Trening lokalny: Każdy szpital trenuje model lokalnie na swoich prywatnych danych pacjentów. Trening odbywa się na własnych, bezpiecznych serwerach szpitala, za jego firewallem. Surowe dane pacjentów nigdy nie opuszczają piwnicy.
  4. Generowanie aktualizacji: Proces treningu lokalnego tworzy „aktualizację modelu": zestaw matematycznych korekt wag (synaps) sieci neuronowej. Mówi ona w skrócie: „Aby lepiej rozpoznawać raka, podnieś neuron nr 45 o 0,1 i obniż neuron nr 92 o 0,05."
  5. Agregacja: Szpital odsyła do serwera centralnego wyłącznie tę aktualizację modelu (czyli matematykę). Żadnych nazwisk pacjentów, żadnych zdjęć RTG, żadnych wyników badań krwi. Tylko plik z liczbami zmiennoprzecinkowymi.
  6. Uśrednianie: Serwer centralny zbiera aktualizacje ze wszystkich 5 szpitali. Uśrednia je (za pomocą algorytmu takiego jak Federated Averaging), tworząc nowy, mądrzejszy model globalny.
  7. Powtórzenie: Nowy model globalny wraca do szpitali i cykl się powtarza.
Uczenie federacyjne odwraca niebezpieczny kierunek przepływu: obliczenia przekraczają granice instytucji, a dokumentacja pacjentów pozostaje za firewallem.

Matematyczna magia

Magia tego procesu polega na tym, że model globalny staje się mądrzejszy tak, jakby był trenowany na wszystkich 5 000 pacjentach, mimo że nigdy bezpośrednio „nie widział" żadnego z nich. Uczy się wzorców choroby (które są wspólne dla wszystkich szpitali), nie poznając tożsamości pacjentów (które są unikalne dla każdego szpitala).

Oddziela zdolność uczenia się od konieczności widzenia.

Obrona warstwowa Dweve: poziomy prywatnościWarstwa 1: Uczenie federacyjneDane nigdy nie opuszczają szpitala. Przesyłane są wyłącznie aktualizacje modelu.Rozwiązuje: ograniczenia transferu danych, zgodność z RODO, suwerenność instytucjiWarstwa 2: Bezpieczne obliczenia wielostronne (SMPC)Serwer oblicza sumę zagregowaną bez widoku poszczególnych aktualizacji szpitali.Rozwiązuje: ataki złośliwego koordynatora, ataki wnioskowania na aktualizacjachWarstwa 3: Prywatność różnicowa (DP)Do aktualizacji dodawany jest szum statystyczny, matematycznie ograniczający utratę prywatności.Rozwiązuje: ponowną identyfikację na podstawie wzorców, ataki wnioskowania o przynależnościWynik: matematycznie udowodnione gwarancje prywatności (prywatność różnicowa ε)

Obrona warstwowa: SMPC i prywatność różnicowa

Paranoiczni inżynierowie bezpieczeństwa (tacy jak my w Dweve) zapytają: „Ale czy nie można zrekonstruować danych pacjentów z aktualizacji modelu?"

To słuszna obawa. Teoretycznie, jeśli aktualizacja modelu jest bardzo szczegółowa, złośliwy serwer centralny może wywnioskować, że „pacjent X w szpitalu w Berlinie musiał mieć chorobę Y".

Aby temu zapobiec, Dweve nakłada dwie dodatkowe technologie kryptograficzne na uczenie federacyjne:

1. Bezpieczne obliczenia wielostronne (SMPC)

To protokół kryptograficzny, który pozwala serwerowi centralnemu obliczyć sumę aktualizacji bez widzenia poszczególnych aktualizacji.

Wyobraź sobie trzy osoby, które chcą obliczyć swoją średnią pensję, ale nikt nie chce ujawnić swojej pensji pozostałym. SMPC pozwala im to zrobić. Serwer widzi wynik zagregowany, ale matematycznie nie może rozłożyć go z powrotem na poszczególne dane wejściowe. Serwer dosłownie nie wie, który szpital wysłał którą aktualizację.

2. Prywatność różnicowa (DP)

Jak omówiliśmy w naszym artykule o prywatności, dodajemy szum statystyczny do lokalnych aktualizacji, zanim opuszczą szpital. To „rozmywa" wkład pojedynczego pacjenta, umożliwiając matematycznie udowodnioną anonimowość.

Koordynator powinien poznać ogólny kierunek modelu, a nie to, który szpital lub pacjent go wyznaczył.

Wpływ na rzeczywistość

Obecnie wdrażamy tę technologię z konsorcjum europejskich ośrodków onkologicznych. Trenują one model wykrywania nowotworów ponad granicami (Niemcy, Francja, Holandia) bez naruszania jakichkolwiek przepisów o prywatności. Rozwiązują problem transferu danych „Schrems II" po prostu nie transferując danych.

To przyszłość badań medycznych. Odblokowuje ogromną, uwięzioną wartość światowych danych zdrowotnych. Pozwala nam walczyć z chorobami jako globalny gatunek, szanując prywatność jednostki.

Nie musimy wybierać między prywatnością a zdrowiem. Nie musimy wybierać między jednostką a zbiorowością. Dzięki uczeniu federacyjnemu możemy mieć jedno i drugie.

Gotowi odblokować potencjał swoich danych zdrowotnych bez kompromisów w zakresie prywatności pacjentów? Infrastruktura uczenia federacyjnego Dweve umożliwia przełomową sztuczną inteligencję medyczną ponad granicami instytucji, zachowując pełną zgodność z GDPR i HIPAA. Skontaktuj się z nami, aby dowiedzieć się, jak wspólna sztuczna inteligencja może przekształcić Twoje możliwości badawcze.

Praktyczna korzyść to współpraca kliniczna z mniejszym celem zgodności: wspólne uczenie się, a nie wspólne surowe rekordy.