De Nederlandse AI Coalitie (NL AIC) startte recent een samenwerkingsverband: Gezondheid en Zorg. Vrijwel alle belanghebbende partijen zijn aangesloten om de toekomst van Artificial Intelligence (AI) in de zorg een impuls te geven. Is dit toeval nu veel digitale toepassingen zoals AI ingezet worden tegen de verspreiding van het coronavirus? Welke kansen biedt AI in de zorg en wat zijn de randvoorwaarden?
Steeds meer wordt er gebruik gemaakt van digitale toepassingen in de zorg, zoals AI. De uitbraak van het coronavirus heeft digitale zorg en zorg op afstand een enorme boost gegeven. Organisaties en ICT-leveranciers stellen gratis online communicatiemiddelen of zelfs AI-toepassingen in de zorg beschikbaar. AI-toepassingen in de zorg zijn digitale oplossingen welke met behulp van slimme algoritmes ondersteuning kunnen bieden bij bijvoorbeeld de diagnostiek en behandeling van patiënten.
Wetgeving Medische hulpmiddelen
Subsidies voor digitale toepassingen schieten als paddenstoelen uit de grond en wet- en regelgeving lijkt uiteen te splijten voor het coronavirus. Zo is er een “corona-opt in” aangenomen waardoor patiëntgegevens wel opgenomen kunnen worden in het uitwisselingssysteem als de patiënt niet reeds heeft aangegeven dat zijn gegevens niet mogen worden opgenomen. Daarnaast wordt de toepassing van de Verordening omtrent medische hulpmiddelen, welke belangrijke kwaliteitseisen stelt om patiëntveiligheid binnen de EU te vergroten, waarschijnlijk met één jaar uitgesteld. De Europese Commissie voorziet dat de implementatie van de Verordening op dit moment een te grote belasting kan zijn voor de lidstaten, zorgaanbieders en fabrikanten. Wat geen gekke gedachte is, want de uitbreiding van de definitie van een medisch hulpmiddel heeft ertoe geleid dat meer digitale oplossingen onder de nieuwe regels vallen. Medische hulpmiddelen mogen volgens de Verordening alleen op de Europese markt worden gebracht als zij over een CE-certificering beschikken. Een CE-certificaat geeft aan dat het product veilig is en voldoet aan de Verordening. Door het uitstellen van de Verordening is het voor veel digitale oplossingen nog niet verplicht om over een CE-certificaat te beschikken. Hierdoor ontstaat er een wirwar aan gecertificeerde en niet-gecertifieerde oplossingen. Voor zorgaanbieders leidt dit tot onduidelijkheid over welke digitale oplossing nu wel veilig gebruikt kan worden en welke niet.
Juridische randvoorwaarden
Een specifiek wettelijk kader voor het gebruik van AI in de zorg ontbreekt. De Verordening bevat wel een aantal belangrijke kwaliteitseisen voor AI in de zorg. Door het uitstellen van deze Verordening vallen er belangrijke wettelijke verplichtingen weg. Een CE-markering voor veel software is nog niet nodig, waardoor digitale toepassingen zonder uitvoerige testen op de markt worden gebracht. Wel zijn er andere verplichtingen onverkort van toepassing bij het gebruik van AI. Hierin komen regels van bijvoorbeeld privacy, beveiliging en kwaliteit van de zorg aan bod. De privacy van patiënten en een zorgvuldige omgang met medische gegevens moet worden gegarandeerd en de beveiliging van de systemen waar de medische gegevens zijn opgeslagen moet op orde te zijn. In het kader van goed hulpverlenerschap is de zorgaanbieder verantwoordelijk voor de kwaliteit van zorg. Hieronder valt dat de zorgaanbieder zorgdraagt voor een veilige toepassing van digitale zorg.
Ethische randvoorwaarden
Bij het gebruik van AI in de zorg spelen ook (ethische) normen en waarden een grote rol. Zorgaanbieders moeten zich bewust zijn van de ethische aspecten die bij de inzet van AI een rol spelen. Kunnen we cruciale medische beslissingen, zoals het stellen van een diagnose wel overlaten aan AI? Hoe betrouwbaar is een app indien de logica van een genomen beslissen niet eenvoudig terug te volgen is?
Risico-afweging
AI zal moeten fungeren als een hulpmiddel voor de zorgaanbieder. De zorgaanbieder draagt de verantwoordelijkheid voor de medische besluiten en handelingen. Uiteindelijk komt het voor de zorgaanbieder erop neer dat zij op basis van een uitgevoerde risicoanalyse een toepassing van AI kan gebruiken, zolang het niet af doet aan de kwaliteit van de zorg. Een CE-certificering kan hierbij een belangrijke randvoorwaarde zijn.
