Odpowiadałem za technologię w kilku projektach medycznych. Była wśród nich platforma dla ratownictwa medycznego testowana w terenie, system odczytujący dokumentację medyczną, produkt z dotacji PARP przejęty po kilku wcześniejszych wykonawcach i projekt badawczy z AI w diagnostyce onkologicznej. Na papierze niewiele je łączy. A jednak najdroższe problemy były w nich bardzo podobne. I prawie nigdy nie chodziło o sam kod, tylko o decyzje z pierwszych tygodni, o których nikt wtedy nie myślał jak o regulacyjnych.
Od razu uczciwie: nie jestem prawnikiem. Piszę o tym, co przepisy znaczą dla kodu, danych i dokumentacji. Klasę konkretnego wyrobu potwierdź ze specjalistą od regulacji.
Najpierw przeznaczenie, potem architektura
Zacznę od czegoś, co wygląda na formalność. O klasie oprogramowania medycznego w MDR decyduje głównie reguła 11 z załącznika VIII. W skrócie: jeśli program dostarcza informacji, na podstawie których ktoś podejmuje decyzję diagnostyczną albo terapeutyczną, to jest co najmniej klasa IIa. Jeśli zła decyzja może skończyć się poważnym pogorszeniem zdrowia, robi się IIb. Jeśli śmiercią albo nieodwracalnym pogorszeniem, III. Monitorowanie procesów fizjologicznych to IIa, a parametrów życiowych, których zmiana może oznaczać bezpośrednie zagrożenie dla pacjenta, IIb. Klasa I zostaje dla reszty. Od IIa w górę nie obejdzie się bez jednostki notyfikowanej.
Granica bywa cieńsza, niż się wydaje. Weźmy dwie aplikacje. Pierwsza przypomina pacjentowi o tabletce. Druga patrzy na jego pomiary i podpowiada zmianę dawki. Kod może być w dużej części wspólny, a klasa, dokumentacja i budżet na certyfikację są zupełnie inne.
Jest jeszcze jeden haczyk. Według MDR przeznaczenie wyrobu wynika nie tylko z etykiety i instrukcji, ale też z materiałów promocyjnych (art. 2 pkt 12). Ktoś z marketingu dopisuje na stronie „wykrywa wczesne objawy” i formalnie macie inny produkt. W kodzie nie zmieniła się ani jedna linijka.
Zdanie „wykrywa wczesne objawy” dopisane na stronie potrafi zmienić klasę wyrobu.
Dlatego zanim zespół wybierze framework, ktoś powinien napisać jedną stronę: kto używa produktu, u jakich pacjentów, gdzie i do jakiej decyzji. Do tej kartki przykłada się potem każdą nową funkcję z backlogu i każdy tekst na stronę.
Dokumentacji nie dopiszesz na końcu. W każdym razie nie całej
Cykl życia oprogramowania wyrobu medycznego opisuje norma IEC 62304: plan, wymagania, architektura, testy, zarządzanie konfiguracją, obsługa zgłoszonych problemów. Ile z tego trzeba, zależy od klasy bezpieczeństwa oprogramowania (A, B albo C), czyli od tego, jak poważną szkodę może wyrządzić błąd.
Wiele zespołów zakłada, że dokumentację dopisze przed certyfikacją. Część się da. Ale spróbuj po dwóch latach odtworzyć, dlaczego coś zrobiono tak, a nie inaczej, z którego wymagania wzięła się dana funkcja i czym ją przetestowano. Ludzie zdążyli odejść, a w repozytorium zostały commity w stylu „poprawki”.
Przerabiałem to przy produkcie z dotacji PARP, który przejmowałem po kilku wcześniejszych wykonawcach. Na doprowadzenie go do końca i rozliczenie projektu było około pół roku. Zanim mogliśmy cokolwiek dodać, trzeba było ustalić, co w ogóle działa i które elementy da się naprawić w tym czasie. Zdążyliśmy. Ale tygodnie spędzone na odtwarzaniu cudzych decyzji pochodziły z puli, której nie dało się powiększyć. Więcej o tym projekcie pisałem w The Workshop w tekście „Jak uratować projekt IT po kilku wykonawcach?”.
Na start nie potrzeba pełnego systemu jakości. Wystarczy, że każde wymaganie ma swój numer, a zadania, commity i testy się do niego odwołują. To tak zwana śledzalność (traceability) i da się ją prowadzić w zwykłej Jirze albo GitHubie. Kiedy przyjdzie czas na ISO 13485, będzie z czego budować.
Biblioteki, które zmieniają się bez pytania
Zwykła aplikacja webowa ciągnie za sobą kilkaset zależności. IEC 62304 nazywa je SOUP, czyli oprogramowaniem, którego nikt nie pisał z myślą o wyrobie medycznym. Każdą taką bibliotekę trzeba znać z nazwy i wersji, a przy wyższych klasach bezpieczeństwa także opisać, czego się od niej oczekuje, i przejrzeć jej znane błędy. Ta sama lista przyda się przy cyberbezpieczeństwie. Wytyczne MDCG 2019-16 i norma IEC 81001-5-1 zakładają, że producent wie, z czego zbudowany jest jego produkt, i reaguje na luki w tych częściach.
Dlaczego to takie ważne, przekonałem się przy systemie do odczytu dokumentacji medycznej. Korzystaliśmy z otwartego modelu OCR. Przy przejściu na produkcję nowa wersja biblioteki zmieniła sposób integracji i całą warstwę OCR trzeba było przebudować w jeden wieczór. Od tamtej pory model działa jako osobna usługa, którą da się wymienić bez ruszania reszty systemu. W certyfikowanym wyrobie taka niespodzianka oznaczałaby jeszcze ponowną weryfikację.
W praktyce wystarczą trzy nawyki: zamrożone wersje zależności, lista komponentów (SBOM) generowana przy każdym buildzie i jedno zdanie przy każdej nowej bibliotece, po co ją dodaliście. Na początku to dzień pracy. Po dwóch latach samo ustalenie, która wersja trafiła do którego wydania, potrafi zająć tygodnie.
Osobna sprawa to kod pisany z asystentem AI. Używam takich narzędzi na co dzień i nie namawiam nikogo, żeby przestał. Kłopot zaczyna się, kiedy kod z asystenta ląduje w repozytorium bez przeglądu, bez testów i bez śladu, kto o czym zdecydował. Audytor zapyta, czemu moduł działa tak, a nie inaczej. Kto mu odpowie? U mnie zasada jest prosta: kod od AI przechodzi ten sam przegląd i te same testy co każdy inny, a o architekturze decyduje człowiek.
Gdzie trafiają dane pacjentów
Dane o zdrowiu to w RODO szczególna kategoria danych (art. 9). Dla zespołu technicznego przekłada się to na bardzo konkretne pytania. W jakim regionie stoją serwery? Z kim trzeba podpisać umowę powierzenia, łącznie z dostawcą modelu AI, jeśli wysyłacie dane do jego API? Czy do logów aplikacji nie trafiają nazwiska i wyniki badań? Czy środowisko testowe nie działa na kopii danych produkcyjnych? Na początku każdą z tych rzeczy łatwo ustawić. W działającym systemie każda zmiana to osobny projekt.
W systemie OCR serwery stoją w regionie UE, z każdym dostawcą jest umowa powierzenia, a każda placówka widzi wyłącznie swoje dokumenty. W projekcie badawczym z AI w diagnostyce onkologicznej, przy którym pracuję teraz, poszliśmy dalej. Od początku założyliśmy, że obrazy pacjentów w ogóle nie wychodzą z placówki. Ta jedna decyzja ustawiła resztę. Model musi się zmieścić na sprzęcie, który placówka realnie ma, a nie na serwerze z mocną kartą graficzną. Gdybyśmy zaczęli od chmury, przenosiny do placówki oznaczałyby przepisanie dużej części systemu.
99,52% i co z resztą
System do odczytu dokumentacji medycznej, przy którym pracuję, osiąga 99,52% dokładności rozpoznawania tekstu na reprezentatywnym zbiorze testowym. Świetna liczba na slajd. Tylko że ręcznie wypisana karta ze szpitala potrafi zbić ją do 60–70%. Zdjęcie zrobione telefonem przy słabym świetle też. Kserokopii z kserokopii nawet nie liczę.
Ważniejsze od samej liczby okazało się więc to, co system robi, kiedy nie jest pewny. Odpowiedź z naszego API zawiera ocenę pewności, osobno dla tekstu i osobno dla wartości liczbowych. Jeśli model odczytał HGB 10,2 z pewnością 60%, nie może podać tego wyniku tak samo jak takiego, którego jest pewny na 99%. Lekarz musi to widzieć i sam zdecydować, czy sięgnąć do oryginału. Jedna zła cyfra w morfologii waży więcej niż sto dobrze odczytanych nazwisk.
W analizie ryzyka według ISO 14971 błędny odczyt jest zagrożeniem. Trzeba go opisać i ograniczyć konkretnym rozwiązaniem w produkcie. Wysoka dokładność w raporcie z testów tego za Ciebie nie zrobi.
Przy 99,52% dokładności pytanie o bezpieczeństwo dotyczy pozostałych 0,48%.
Testy z użytkownikami zapisane jak dowód
Testy terenowe urządzenia telemedycznego dla ratownictwa, za które odpowiadałem, opisałem w pierwszym tegorocznym numerze Med Industry Insight, więc nie będę ich tu streszczał. Jeden wniosek dotyczy jednak każdego zespołu, także takiego, który robi samo oprogramowanie. To, czego nauczyliście się w terenie, a co nie trafiło do formalnej procedury, przy następnej serii testów po prostu przepada. Nowi ludzie zaczynają od zera i trafiają na te same pułapki.
Norma IEC 62366-1 nazywa takie testy oceną formatywną. Ich wyniki mają trafić do dokumentacji użyteczności i wrócić jako scenariusze w końcowej ocenie sumatywnej. Żeby było co przenosić, każda próba potrzebuje protokołu: wersja sprzętu i oprogramowania, warunki, przebieg, problemy i ocena użytkownika według formularza przygotowanego przed testem. Notatki z komunikatora czy maile go nie zastąpią, nawet jeśli wydają się kompletne.
Sam formularz też ma znaczenie. Pytanie, czy użytkownik dał radę wykonać konkretne zadanie kliniczne, na przykład ocenić ranę albo odczytać parametr z ekranu, daje wynik, który porównasz między wersjami produktu. Pytanie „jak wrażenia?” nie daje prawie nic.
AI Act, czyli drugi zestaw wymagań
Jeśli AI jest Twoim wyrobem medycznym albo jego częścią odpowiedzialną za bezpieczeństwo, a wyrób wymaga jednostki notyfikowanej, AI Act traktuje go jako system wysokiego ryzyka (art. 6 ust. 1 i załącznik I). W praktyce dotyczy to prawie każdego oprogramowania z AI w klasie IIa i wyżej według MDR oraz większości wyrobów do diagnostyki in vitro według IVDR. Po zmianach z pakietu Digital Omnibus te wymagania obowiązują od 2 sierpnia 2028 roku.
Na szczęście nie dochodzi druga procedura. Zgodność z AI Act ocenia ta sama jednostka notyfikowana w ramach oceny według MDR, a dokumentacja techniczna może być jedna. Jak oba przepisy się zazębiają, opisują wytyczne MDCG 2025-6. AI Act dokłada jednak wymagania, których MDR wprost nie stawiał, i prawie wszystkie spadają na zespół techniczny:
- dane (art. 10): wiesz i masz zapisane, skąd są dane treningowe, walidacyjne i testowe, czy pasują do pacjentów, u których produkt będzie używany, i czy sprawdziliście je pod kątem stronniczości;
- logi (art. 12): system sam zapisuje zdarzenia przez cały okres używania, tak żeby dało się później odtworzyć, co się stało;
- przejrzystość i nadzór człowieka (art. 13 i 14): użytkownik zna ograniczenia systemu, może pominąć albo poprawić wynik i zatrzymać system. To się projektuje w interfejsie. Akapit w instrukcji tego nie załatwi;
- dokładność i odporność (art. 15): zadeklarowane miary dokładności i odporność, także na ataki typowe dla AI, na przykład zatruwanie danych treningowych;
- system jakości (art. 17): najrozsądniej rozbudować ten zbudowany według ISO 13485. Pomaga w tym nowa norma EN 18286.
Rok 2028 brzmi odlegle. Ale produkt, który zaczynasz budować dziś, będzie mniej więcej wtedy przechodził certyfikację. A dwóch rzeczy z tej listy nie dorobisz na końcu. Nikt nie odtworzy z pamięci, skąd pochodziły dane, na których model uczył się dwa lata wcześniej. Logów, których system nie zapisywał, po prostu nie ma.
Pochodzenia danych sprzed dwóch lat nie odtworzy się z pamięci zespołu.
Jedno obowiązuje już dziś. Jeśli w produkcie jest czat albo asystent, z którym rozmawia pacjent, od 2 sierpnia 2026 roku musi być jasne, że po drugiej stronie jest AI (art. 50).
Kiedy ściągnąć kogoś z zewnątrz
Startup MedTech rzadko potrzebuje na tym etapie CTO na pełen etat. Potrzebuje za to kogoś, kto patrzy jednocześnie na kod, architekturę i wymagania regulacyjne. Moim zdaniem są trzy dobre momenty, żeby taką osobę ściągnąć. Pierwszy to sam start, zanim powstanie pierwsza linijka kodu i zapadną decyzje o danych. Drugi to chwila przed rozmową z jednostką notyfikowaną albo inwestorem, kiedy trzeba uczciwie sprawdzić, ile dokumentacji naprawdę macie. Trzeci znam najlepiej z własnej praktyki: projekt, często z dotacją, utknął po zmianie wykonawcy, a termin się zbliża.
Najczęstsze pytania
Czy każda aplikacja zdrowotna jest wyrobem medycznym?
Nie. Decyduje przeznaczenie. Aplikacja do umawiania wizyt albo liczenia kroków zwykle nim nie jest. Staje się nim, kiedy ma diagnozować, monitorować stan pacjenta albo podpowiadać decyzje o leczeniu.
Czy da się zacząć bez ISO 13485?
Prototyp tak. Dokumentację według IEC 62304 lepiej jednak prowadzić od pierwszego sprintu, a system jakości budować dużo wcześniej niż tuż przed certyfikacją. Każdy miesiąc zwłoki to więcej do odtwarzania.
Czy AI Act mnie dotyczy, skoro produktu nie ma jeszcze na rynku?
Obowiązki zaczynają się w momencie wprowadzenia produktu do obrotu. Ale to, czy je spełnisz, rozstrzyga się teraz: jakie dane zbierasz, co system zapisuje i czy użytkownik może zakwestionować wynik.
Czy w wyrobie medycznym można użyć modelu językowego z chmury?
Można, tylko trzeba odpowiedzieć na kilka pytań. Gdzie są przetwarzane dane i na jakiej umowie? Jak zablokować wersję modelu? Co zrobisz, kiedy dostawca ją podmieni? Dla wyrobu to komponent SOUP, a zmiana modelu może oznaczać ponowną walidację. Dostawca modelu ma własne obowiązki z AI Act, ale za cały wyrób odpowiada producent.
Na koniec
Kiedy patrzę na projekty, przy których pracowałem, najwięcej kosztowały decyzje z pierwszych tygodni, podejmowane w biegu i bez myślenia o regulacjach. Żadna z rzeczy opisanych w tym tekście nie wymaga dużego budżetu na starcie. Wymaga jednej osoby w zespole, która przy każdej decyzji zapyta: jak to będzie wyglądało w dokumentacji technicznej za dwa lata?




