Een aantal weken geleden is in opdracht van het ministerie van Volksgezondheid, Wetenschap en Sport een leidraad gepubliceerd: ‘Leidraad kwaliteit AI in de zorg’. Deze leidraad is ontwikkeld door en voor het veld met het oog op voorspellende AI-gestuurde algoritmen. Voor het veld is het een goede stap om met meer vertrouwen AI toe te passen in de dagelijkse zorgpraktijk.
AIPA en medisch hulpmiddel
De leidraad geeft de toepassing als volgt aan: ‘het ontwikkelen, toetsen en toepassen van een Artificial Intelligence Prediction Algorithm (‘AIPA’) dat deel uitmaakt van een hulpmiddel die bedoeld is voor gebruik in de gezondheidszorg’. Maar wat zijn AIPA? De leidraad geeft een definitie:
‘Algoritmen die leiden tot een voorspelling van een gezondheidsuitkomst bij individuele personen. Dit betreft tenminste het voorspellen van de kans op, of classificatie van, het hebben (diagnostisch) of het in de tijd optreden (prognostisch) van gewenste of ongewenste gezondheidsuitkomsten.’
Een voorbeeld hiervan is software die gemaakte longfoto’s beoordeeld. In zo een beoordeling wordt aangegeven of er sprake is van een afwijking. Daarnaast wordt de afwijking geclassificeerd, afhankelijk van de ernst van de afwijking.
Het doel van de leidraad
In de gezondheidszorg zijn er al best veel wetten en normen van toepassing. Denk bijvoorbeeld aan de Medical Device Regulation (‘MDR’), de Algemene verordening gegevensbescherming of de verschillende ISO-NEN-normen. Waarom is deze leidraad dan nog nodig? In de leidraad wordt de indruk gewekt dat het veld behoefte had aan aanvulling. Hier is zeker een voorstelling bij te maken; een applicatie gebruiken zonder volledig te begrijpen hoe het werkt geeft niet voldoende vertrouwen om het te gaan gebruiken. Vooral niet in de zorg waar levens op het spel staan. Hierom schetst de leidraad binnen het toepassingsbereik (het AIPA) de wettelijke kaders en werkt de toepasselijke wet- en regelgeving nader uit. Dit met als doel dat erop vertrouwd kan worden dat het AIPA kwalitatief hoogwaardig en veilig is. Let wel, de leidraad is geen juridisch bindend document.
De verschillende fasen
In de leidraad worden zes fasen benoemd voor de ontwikkeling, validatie en implementatie van AI-voorspelmodellen:
- Fase 1: voorbereiding en controle van de benodigde data en gegevens.
- Fase 2: ontwikkeling van het voorspellend AI-algoritme.
- Fase 3: validatie van het voorspellende algoritme.
- Fase 4: ontwikkeling van de softwaretoepassing.
- Fase 5: effectbeoordeling van het AIPA met software.
- Fase 6: implementatie en gebruik in de dagelijkse praktijk.
Fase 1 tot en met 3 gaan voornamelijk over het voorbereidende werk voordat de AI-voorspelmodellen in de praktijk worden gebruikt. Fase 4 tot en met 6 komen steeds dichter bij de medische praktijk. De leidraad voorziet van een beschrijving hoe de AIPA veilig en effectief in de medische praktijk gebruikt kunnen worden. Denk hierbij aan implementatie volgens een implementatieplan, monitoring door bijvoorbeeld een post market surveillance systeem en educatie via een gebruikshandleiding maar bijvoorbeeld ook door de resultaten van de validatie en de verwachte foutmarge te delen.
Goede aanvulling?
De leidraad geeft duidelijk weer wat van belang is in de verschillende fasen en benoemd ook vereisten uit relevante wet- en regelgeving. Er wordt aangegeven wat een verplichting is door een vetgedrukte ‘moet’ en wat geen verplichting is maar wel ‘sterk aanbevolen’ wordt. De sterk aanbevolen aspecten zijn aspecten die niet verplicht zijn onder wet- en regelgeving, maar wel sterk aan te raden zijn om de kwaliteit van het AIPA te borgen. Het is dan wel van belang dat ook deze aspecten breed gedragen worden door het veld. Is de leidraad toch wat overweldigend, dan kan er gebruik worden gemaakt van een online leeromgeving die is opgezet vanwege de leidraad.
Zoals eerder aangegeven is de leidraad geen juridisch bindend document. Het is geen uitputtende opsomming van toepasselijke wet- en regelgeving. Dit hoeft niet gelijk negatief te zijn, maar is wel van belang om te realiseren wanneer de leidraad gebruikt wordt door ontwikkelaars of gebruikers. De ontwikkelaar of gebruiker moet zeker proactief blijven en kan niet volledig leunen op de leidraad. De leidraad geeft wel een goede eerste voorzet en handvatten om wegwijs te worden in het juridische woud dat intimiderend kan zijn voor zowel ontwikkelaars als gebruikers. Daarnaast kan het zorgverleners helpen om de kwaliteit van het AIPA te beoordelen en het vertrouwen te vergroten.
