De digitale transformatie in de zorg brengt innovatieve mogelijkheden, maar ook toenemende regelgeving met zich mee. Minister Kuipers benadrukt de cruciale rol van digitale transformatie in het overbruggen van de vergrijzingskloof en het transformeren van de zorg. ICT-dienstverleners spelen een belangrijke rol in het leveren van technologische oplossingen voor de zorg. Ze ontwikkelen en beheren systemen, software en platforms die de basis vormen voor de digitale transformatie. Aangezien de zorg steeds meer afhankelijk wordt van technologie zijn ICT-dienstverleners onmisbaar.
Uitdagingen
De digitale transformatie brengt voor ICT-dienstverleners zowel kansen als uitdagingen met zich mee. Leveranciers in de zorg bewegen zich in een complexe omgeving met beperkte middelen en kennis, wat het voldoen aan zorgspecifieke verplichtingen bemoeilijkt.
Daarnaast voelen leveranciers zich belemmert door wet- en regelgeving. Dit is een bekend tegenargument voor opkomende wetgeving zoals de MDR, AI Act en de Wegiz. De druk om aan alle vereisten te voldoen zou de innovatie belemmeren. Met dit argument ben ik het echter niet volledig eens. Ja, de markt op kost meer tijd en geld, maar het voorkomt ook onnodige risico’s, zorgt voor veiligheid en bouwt vertrouwen op bij de gebruikers. Het gaat hier immers om mensenlevens. Het voorkomen van onnodige risico’s lijkt mij niet meer dan logisch.
Een andere uitdaging is het opbouwen van vertrouwen en het bevorderen van het gebruik van digitale toepassingen bij zorgorganisaties. Met de recente aankondiging van de AI Act op Europees niveau is het tijd voor voorbereiding.
Waarom nu al voorbereiden?
De AI Act, die gericht is op de ontwikkeling, inzet en markttoegang van AI-systemen gaat een aanzienlijke impact hebben op de zorgsector. Voldoen aan de AI Act is niet alleen verplicht, maar zorgt ook voor vertrouwen bij gebruikers. Dit zorgt voor een makkelijkere implementatie en opschaling.
Wachten tot de wet van kracht is kan leiden tot vertragingen en mogelijke non-compliance. De verplichtingen treden twee jaar nadat de wet is goedgekeurd in werking. De officiële tekst wordt deze week verwacht, waarna goedkeuring van de AI Act laat niet lang meer op zich laat wachten. Twee jaar is korter dan het lijkt om alle compliance-eisen te verwerken.
Stap 1: Inventariseer wet- en regelgeving
Identificeer specifieke vereisten en richtlijnen die van toepassing zijn op de ontwikkeling en inzet van medische software in de zorg. Om veiligheid en kwaliteit van de digitale toepassingen in zorg te vergroten, bestaat en ontstaat er in snel tempo nieuwe wet -en regelgeving, zoals de AI Act, NIS2, de Wegiz (en Europees zusje de EHDS) en de MDR.
Dit vormt de basis voor verdere stappen.
Stap 2: Inventariseer de software
Breng in kaart welke software je momenteel ontwikkelt, op de markt brengt of inzet binnen de zorgsector. Classificeer ze op basis van het risiconiveau zoals gedefinieerd in de AI Act (onacceptabel, hoog, laag).
Medische software zo goed als altijd in de categorie hoog vallen. Hiervoor gelden de meeste eisen. Dit zijn AI-systemen die een hoog risico vormen voor de gezondheid, veiligheid, grondrechten of het milieu. Om te bepalen of een systeem hoog risico is, is te vinden in deze blog.
Stap 3: Impact Assessment
Voer een Fundamental Rights Impact Assessment (FRIA) uit om mogelijke risico's te identificeren. Deze analyse vormt de basis voor verdere stappen naar compliance.
Stap 4: Kwaliteitsborging en documentatie
Zorg voor kwaliteitsborging, gedetailleerde documentatie van besluitvormingsprocessen, algoritmen en verantwoordingsprocessen, allemaal onderdeel van de technische documentatie. Dit is essentieel om te voldoen aan de vereisten van de AI Act.
Stap 5: Menselijk toezicht en AI Compliance Officer
Om transparantie en toezicht te borgen zijn er in de AI Act eisen opgenomen met betrekking tot menselijk toezicht. Zorg voor menselijk toezicht op de inzet van AI-systemen om ethische en kwaliteitsnormen te handhaven. Een voorbeeld hiervan is logging. Het doel hiervan is transparantie van het AI-systeem.
Overweeg ook de aanstelling van een (gecombineerde) AI Compliance Officer die verantwoordelijk is voor het waarborgen van naleving van de AI Act.
Het toezicht is bedoeld om de risico’s tot een minimum te beperken.
Stap 6: Bewustwording en Training
Creëer bewustwording binnen je organisatie over de AI Act en de implicaties ervan. Zorg voor training van personeel, met name degenen die betrokken zijn bij de ontwikkeling en implementatie van AI-systemen.
Stap 7: Beheersfase
Stel een systeem in voor continue monitoring. Pas je processen en systemen voortdurend aan om te blijven voldoen aan de geldende normen. Dit houdt in dat er periodieke controles moeten zijn op bijvoorbeeld de logging om het AI-systeem te controleren.
Conclusie
Een proactieve benadering om je voor te bereiden op de AI Act is essentieel voor ICT-dienstverleners in de zorg. Door deze praktische stappen te volgen, positioneer je je organisatie voor een soepele overgang naar de nieuwe regelgeving en toon je aan dat kwaliteit, veiligheid en ethiek centraal staan in je AI-toepassing.
