AI in de gezondheidszorg: veilig toepassen (2026)

AI kan in de zorg helpen bij afgebakende taken, maar de geschiktheid en regels hangen af van het beoogde gebruik, de gegevens en de mogelijke impact op patiënten. Begin daarom met een klein, controleerbaar proces en voer geen patiëntgegevens in voordat privacy, veiligheid, validatie en verantwoordelijkheden zijn geregeld. Gebruik deze gids als implementatiecheck, niet als medisch of juridisch advies.

Waar kan AI in de zorg bij ondersteunen?

De Inspectie Gezondheidszorg en Jeugd noemt bij generatieve AI onder meer geautomatiseerde verslaglegging, het samenvatten van patiëntendossiers en ondersteuning van communicatie. Dat zijn voorbeelden, geen bewijs dat iedere toepassing voor iedere organisatie geschikt is. De IGJ benadrukt dat de impact op patiëntenzorg nog deels onbekend kan zijn en dat zorgaanbieders risico's vóór aanschaf, tijdens invoering en na ingebruikname moeten blijven beoordelen.

Een bruikbaar onderscheid is:

Administratieve ondersteuning: een conceptverslag, planning of interne samenvatting voorbereiden.
Communicatieondersteuning: een conceptbrief of uitleg maken die een bevoegde medewerker controleert.
Kennis- en zoekondersteuning: relevante onderwerpen of mogelijke bronnen inventariseren, waarna de oorspronkelijke bron wordt geopend.
Klinische ondersteuning: informatie gebruiken voor diagnostiek, prognose, monitoring of behandeling. Hierbij kunnen strengere eisen gelden en is de impact van een fout groter.

Vloeiende tekst is geen kwaliteitsbewijs. Generatieve modellen kunnen informatie weglaten of overtuigend onjuiste tekst maken. Lees hoe je AI-hallucinaties herkent en waarom menselijke controle onderdeel van AI-veiligheid is.

Algemene AI of medisch hulpmiddel?

Niet alle software die een zorgorganisatie gebruikt is een medisch hulpmiddel. De kwalificatie hangt onder meer af van het beoogde doel dat de fabrikant aan de software geeft. Een algemene toepassing voor agenda- of tekstondersteuning verschilt juridisch en praktisch van software die informatie levert voor een diagnose of behandelbeslissing.

Software met een beoogd medisch doel kan onder de Europese regels voor medische hulpmiddelen of in-vitrodiagnostiek vallen. De Europese Commissie publiceert hiervoor actuele MDCG-richtsnoeren en een aparte uitleg over het samenspel met de AI-verordening. Laat kwalificatie en classificatie beoordelen door mensen met passende medische, technische en juridische expertise.

Een CE-markering is geen garantie dat een toepassing in elke organisatie, workflow of patiëntenpopulatie goed presteert. Controleer het vastgelegde beoogde gebruik, de doelgroep, contra-indicaties, bekende beperkingen, integraties en vereiste gebruikerskennis. Beoordeel daarna lokaal of de toepassing binnen jouw proces veilig en bruikbaar is.

Stappenplan voor een zorgvuldige invoering

Stap 1: leg doel, eigenaar en grenzen vast

Beschrijf één concrete taak en welk probleem je ermee wilt oplossen. Leg vast:

wie proceseigenaar en inhoudelijk eindverantwoordelijke zijn;
welke gebruikers en patiënten door de toepassing worden geraakt;
welke informatie wel en niet mag worden ingevoerd;
welke uitkomst de toepassing voorbereidt;
welke beslissing altijd door een bevoegde professional wordt genomen;
wanneer de proef wordt gestopt of teruggedraaid.

Begin niet met een brede opdracht als "zet AI in om de zorg te verbeteren". Kies bijvoorbeeld één administratief proces met een duidelijke bron, een herkenbare output en een menselijke controle vóór opslag of verzending.

Stap 2: classificeer gegevens en beoordeel privacy

Gezondheidsgegevens zijn volgens de Autoriteit Persoonsgegevens bijzondere persoonsgegevens en zijn extra beschermd. Breng daarom de volledige datastroom in kaart: invoer, tijdelijke verwerking, logging, opslag, supporttoegang, modelverbetering, subverwerkers, verwerkingslocaties, koppelingen en verwijdering.

Documenteer doel, grondslag, noodzakelijkheid, bewaartermijnen, toegang en rechten van betrokkenen. Deel niet meer gegevens dan nodig en test eerst met fictieve of aantoonbaar geschikte testgegevens. Pseudonimisering verlaagt soms risico's, maar gepseudonimiseerde gegevens blijven persoonsgegevens wanneer herleiding mogelijk is.

Een consumentenaccount of zakelijke workspace is op zichzelf geen bewijs dat een toepassing geschikt is. Controleer de concrete dienst, het accounttype, de instellingen, contracten en gekoppelde functies. De gids over ChatGPT, privacy en de AVG helpt bij de eerste vragen, maar laat een privacyprofessional de echte verwerking beoordelen.

Stap 3: bepaal welke regels en normen gelden

Controleer of de toepassing een beoogd medisch doel heeft en of MDR, IVDR of andere zorgwetgeving van toepassing is. Beoordeel daarnaast de rol van de organisatie onder de AI-verordening en andere relevante regels. Algemeen gebruik van AI in een zorgorganisatie is niet automatisch high-risk; de concrete functie en context zijn bepalend.

De Europese Commissie vermeldt per 29 juli 2026 dat de algemene high-riskregels vanaf 2 december 2027 gelden. Voor AI die zelf een gereguleerd product is of een veiligheidscomponent daarvan vormt, waaronder bepaalde medische hulpmiddelen, noemt de Commissie 2 augustus 2028. Andere onderdelen, zoals AI-geletterdheid, zijn al van toepassing. Controleer de tijdlijn opnieuw bij ieder formeel besluit, want regels en richtsnoeren kunnen wijzigen.

Stap 4: controleer leverancier en toepassing

Vraag de leverancier niet alleen of het product "veilig" is. Vraag om controleerbare informatie over:

beoogd gebruik en uitgesloten gebruik;
gebruikte en uitgesloten doelgroepen;
validatiemethode, testpopulatie en bekende beperkingen;
herkomst en geschiktheid van relevante data;
foutscenario's, onzekerheid en menselijk toezicht;
beveiliging, logging, incidentmelding en updates;
opslag, verwijdering, subverwerkers en supporttoegang;
wijzigingen aan model, configuratie of integraties;
continuïteit, export en een uitvalscenario.

Marketingclaims vervangen geen eigen risicobeoordeling. Vergelijk documentatie met de echte configuratie die gebruikers krijgen.

Stap 5: valideer de concrete workflow

Test de hele keten, niet alleen een losse demo. Gebruik representatieve voorbeelden en vooraf vastgelegde acceptatiecriteria. Neem ook zeldzame maar ernstige foutscenario's, ontbrekende informatie, verschillende patiëntengroepen en afwijkend taalgebruik mee.

Laat gebruikers aantonen dat zij onjuiste of onvolledige output herkennen. Controleer wat er gebeurt wanneer de dienst niet beschikbaar is, een integratie verkeerd koppelt of een modelupdate de uitkomst verandert. Een model kan op gemiddelde voorbeelden goed lijken en toch ongeschikt zijn voor een specifieke populatie of beslissing.

Stap 6: voer beperkt in en houd menselijk toezicht

Start met een beperkte groep getrainde gebruikers en een duidelijk escalatiepad. Geef aan welke uitvoer als concept wordt behandeld, wie die controleert en waar de definitieve beslissing wordt vastgelegd. Voorkom dat automatiseringsdruk of een opvallend zelfverzekerde output de professionele beoordeling verdringt.

Maak duidelijk wat de AI wel en niet heeft gezien. Een reviewer moet toegang hebben tot de oorspronkelijke informatie, niet alleen tot de samenvatting van het model.

Stap 7: monitor na ingebruikname

Meet fouten, correcties, bijna-incidenten, klachten en verschillen tussen groepen. Leg vast wie meldingen beoordeelt en wanneer gebruik wordt gepauzeerd. Herhaal de beoordeling bij een nieuwe modelversie, andere dataset, gewijzigde leverancier, nieuwe koppeling of nieuw beoogd gebruik.

Een succesvolle pilot is geen permanente goedkeuring. De IGJ verwacht aandacht voor risico's vóór aanschaf, tijdens implementatie en na ingebruikname.

Verantwoordelijkheid en menselijk toezicht

De verantwoordelijkheid ligt niet uitsluitend bij de arts. Afhankelijk van de toepassing hebben fabrikant, leverancier, zorgaanbieder, beheerder en professionele gebruiker ieder eigen verantwoordelijkheden. Contracten, productregels en zorgwetgeving kunnen die rollen verder invullen.

Voor de zorgaanbieder geldt in elk geval dat digitale toepassingen zorgvuldig moeten worden ingevoerd en gebruikt. Een professionele gebruiker moet weten wanneer een uitkomst buiten het beoogde gebruik valt, welke informatie ontbreekt en hoe die kan worden gecontroleerd. Menselijk toezicht is pas betekenisvol als de reviewer tijd, bevoegdheid, broninformatie en een reële mogelijkheid heeft om de AI-uitkomst af te wijzen.

Veelgemaakte fouten

Een demonstratie verwarren met lokale validatie. Test de echte workflow, gebruikers en patiëntengroep met vooraf bepaalde acceptatiegrenzen.
Aannemen dat iedere zorgtoepassing dezelfde regels volgt. Het beoogde doel en de impact bepalen mede welke product- en AI-regels gelden.
Een CE-markering als algemene veiligheidsgarantie lezen. Controleer het beoogde gebruik en beoordeel de lokale inzet afzonderlijk.
Patiëntgegevens in een niet-goedgekeurde dienst plakken. Breng eerst grondslag, noodzakelijkheid, contract, instellingen en volledige datastroom in kaart.
Alleen de gemiddelde prestatie bekijken. Onderzoek ook foutscenario's en uitkomsten voor relevante subgroepen.
Menselijke controle alleen op papier zetten. Geef de reviewer broninformatie, tijd, kennis en bevoegdheid om een uitkomst te verwerpen.
Na de pilot stoppen met meten. Monitor fouten, wijzigingen, incidenten en gebruik buiten de afgesproken grenzen.
AI-output automatisch opslaan of versturen. Laat een bevoegde gebruiker de inhoud vóór gebruik beoordelen.

Veelgestelde vragen

Mag een zorgprofessional een algemene AI-chatbot voor patiëntgegevens gebruiken?

Niet zonder een vooraf goedgekeurde toepassing en passende waarborgen. Gezondheidsgegevens zijn bijzondere persoonsgegevens; beoordeel doel, grondslag, leverancier, datastroom, beveiliging, bewaartermijn en menselijke controle voordat je echte patiëntgegevens verwerkt.

Is iedere AI-toepassing in de zorg een medisch hulpmiddel?

Nee. Of software een medisch hulpmiddel is, hangt onder meer af van het beoogde medische doel. Een administratieve samenvatting en software die een diagnose of behandelbeslissing ondersteunt kunnen daardoor onder verschillende regels vallen.

Betekent een CE-markering dat medische AI veilig is in iedere zorgomgeving?

Nee. Een CE-markering hoort bij conformiteit voor het vastgelegde beoogde gebruik, maar vervangt geen lokale controle op doelgroep, workflow, integratie, gebruikerskennis, risico's, prestaties en monitoring.

Wanneer gelden de high-riskregels van de AI-verordening?

Volgens de Europese Commissie gelden de algemene high-riskregels vanaf 2 december 2027. Voor AI die zelf een gereguleerd product is of een veiligheidscomponent daarvan vormt, waaronder bepaalde medische hulpmiddelen, geldt 2 augustus 2028. Controleer de actuele tijdlijn opnieuw voordat je een implementatiebesluit neemt.

Wie blijft verantwoordelijk wanneer een zorgorganisatie AI gebruikt?

Verantwoordelijkheden zijn verdeeld over onder meer fabrikant, leverancier, zorgaanbieder en professionele gebruiker. De zorgaanbieder moet de toepassing zorgvuldig invoeren en gebruiken; een zorgprofessional mag een modeluitkomst niet zonder passende beoordeling overnemen.

Hoe controleer je een generatieve AI-toepassing vóór gebruik?

Test de concrete taak met representatieve en gecontroleerde voorbeelden, leg acceptatiegrenzen vast en laat gebruikers fouten en ontbrekende informatie herkennen. Controleer ook privacy, informatiebeveiliging, integraties, uitvalscenario's en de procedure voor incidenten.

Kan generatieve AI zelfstandig een diagnose of behandeladvies geven?

Gebruik een algemene generatieve AI-dienst niet als zelfstandige beslisser. Voor diagnostiek of behandelondersteuning zijn het beoogde gebruik, de toepasselijke medische-hulpmiddelregels, klinische onderbouwing, lokale validatie en passend menselijk toezicht bepalend.

Bronnen

Laatst inhoudelijk gecontroleerd: 29 juli 2026.