EAHP-position paper over AI
"Strikte voorwaarden voor gebruik van AI"
In een recent gepubliceerde position paper stelt de European Association of Hospital Pharmacists (EAHP) dat artificiële intelligentie een technologie is met grote potentiële meerwaarde voor ziekenhuisapotheken, maar wel enkel op voorwaarde dat AI veilig, doordacht, ethisch, transparant en in nauwe samenwerking met apothekers en patiënten wordt ontwikkeld en ingevoerd.
AI kan volgens de paper helpen bij administratieve taken, dataverwerking, vermindering van taakmoeheid, meer consistentie en het beperken van menselijke fouten. Dat is relevant omdat Europese zorgsystemen kampen met personeelstekorten en geneesmiddelentekorten. Tegelijk stelt de EAHP dat de daadwerkelijke invoering van AI in de zorg traag blijft door juridische onzekerheid, gebrekkige infrastructuur, onvoldoende digitale vaardigheden, ethische vragen, onduidelijk toezicht en betaalbaarheid.
Aanbevelingen
De EAHP formuleert in het document vijf aanbevelingen om de invoering en het gebruik van AI ordentelijk te laten gebeuren:
- De Europese commissie en de nationale regeringen moeten duidelijke wetgeving en richtlijnen uitwerken voor het veilig gebruik van AI. De richtlijnen moeten duidelijk maken wat de verantwoordelijkheid en de aansprakelijkheid is van zorgprofessionals, zoals ziekenhuisapothekers.
- Er moet een hoog niveau van gegevensbescherming en ethische normen blijven gelden bij de ontwikkeling en de inzet van AI-systemen.
- Er zijn investeringen nodig in digitale en fysieke infrastructuur van ziekenhuizen zodat AI-systemen effectief kunnen worden ingevoerd.
- Ziekenhuisapothekers moeten in een vroeg stadium worden betrokken bij het ontwerp, de ontwikkeling, de parameterkeuze en de evaluatie van ICT- en AI-systemen binnen geneesmiddelenprocessen.
- Het is positief dat de AI Act aandacht heeft voor AI-geletterdheid. Om dat verder uit te bouwen, moeten zorgprofessionals, studenten en patiënten extra opleidingen en middelen krijgen.
De paper benadrukt dat het Europese regelgevende kader snel evolueert, met de AI Act als centraal gegeven. De Act moet voor de EAHP coherent worden afgestemd met de European Health Data Space, GDPR, de Medical Device Regulation en de In Vitro Diagnostic Regulation.
Veel AI-systemen in de gezondheidszorg, zoals diagnostische algoritmen, klinische beslissingsondersteuning en patiëntmonitoring, zullen volgens de EAHP waarschijnlijk onder de categorie hoog risico vallen. Daarom zijn duidelijke veiligheidsvereisten, risicobeheer, menselijke controle, documentatie, monitoring en incidentrapportage nodig.
De EAHP maakt ook een onderscheid tussen general-purpose AI, zoals brede AI-modellen die niet specifiek voor de zorg zijn ontwikkeld, en klinische AI-systemen. Voor algemene AI-modellen zijn transparantie en inzicht in de beperkingen belangrijk, zodat zorgprofessionals en patiënten weten hoe de output moet worden geïnterpreteerd.
Aansprakelijkheid blijft een knelpunt
De aansprakelijkheid bij fouten van AI-systemen blijft een belangrijk discussiepunt. Het is niet altijd duidelijk wie verantwoordelijk is: de ontwikkelaar, de zorgorganisatie of de zorgprofessional die het systeem gebruikt. De EAHP stelt dat zorgprofessionals verantwoordelijk blijven voor hun klinische beslissingen, maar niet aansprakelijk mogen worden gehouden voor een fout van een gevalideerd AI-systeem als die fout redelijkerwijs niet kon worden herkend of voorkomen door de gebruiker. Daarom pleit de organisatie voor duidelijke, geharmoniseerde AI-specifieke aansprakelijkheidsregels.
Data, privacy en cyberveiligheid
AI in de zorg heeft grote hoeveelheden representatieve trainingsdata nodig, vaak met zeer gevoelige gezondheidsgegevens. De EAHP erkent dat de European Health Data Space kansen biedt voor veilig secundair gebruik van gezondheidsdata voor gezondheids- en zorgonderzoek, maar waarschuwt dat dit strikt binnen de grenzen van gegevensbescherming moet blijven.
De paper benadrukt onder meer dat gegevensminimalisatie, veilige verwerking, sterke toegangscontrole, transparantie en toezicht op datadeling essentieel zijn. De zorgsector is bovendien een belangrijk doelwit voor cyberaanvallen, waardoor AI-systemen ook op specifieke beveiligingsrisico’s moeten worden beoordeeld. Voor de EAHP mag betere toegang tot data nooit voorrang krijgen op gegevensbescherming, patiëntvertrouwelijkheid en geïnformeerde toestemming.
Infrastructuur
AI kan enkel nuttig zijn als ziekenhuizen beschikken over voldoende basisinfrastructuur. Veel ziekenhuizen in Europa, vooral kleinere en rurale ziekenhuizen, missen volgens de paper nog elementaire digitale voorzieningen. AI-systemen moeten goed aansluiten op bestaande IT-systemen en klinische workflows. Slechte interoperabiliteit en versnipperde systemen vormen volgens de EAHP niet alleen een praktische hinderpaal, maar ook een risico voor patiëntveiligheid. AI vraagt ook stabiele connectiviteit, veilige gegevensopslag en voldoende rekenkracht. De EAHP vraagt daarom dat financiering niet alleen naar AI-ontwikkelaars gaat, maar ook naar zorginstellingen zelf, zodat zij de noodzakelijke randvoorwaarden kunnen creëren.
Een al te vaak onderschat probleem is de ecologische kost van AI. Datacenters verbruiken enorme hoeveelheden water en elektriciteit. De EAHP vindt dat AI-ontwikkeling in de zorg niet ten koste mag gaan van ecologische duurzaamheid. Daarom stelt de organisatie voor om milieu-impact mee te nemen in health technology assessments, bijvoorbeeld via een verplichte milieueffectbeoordeling.
Geen wonderoplossing
De EAHP ziet ziekenhuisapothekers als sleutelactoren bij de ontwikkeling en invoering van AI in ziekenhuisapotheken. AI kan nuttig zijn voor zowel klinische als operationele taken, maar niet elk werkproces is geschikt voor automatisering of AI-ondersteuning. De paper waarschuwt voor een te grote focus op AI als wonderoplossing. Sommige bewezen, goedkopere en eenvoudiger implementeerbare oplossingen kunnen meer waarde hebben dan nieuwe AI-tools waarvan de effectiviteit nog onzeker is.
Ziekenhuisapothekers moeten volgens de EAHP betrokken worden bij aankoopcriteria, validatie van algoritmen op basis van medicatiefouten, monitoring na invoering en het bepalen van hoogrisico-AI-toepassingen waarin hun geneesmiddelenexpertise patiëntveiligheid kan verbeteren.
De EAHP houdt als duidelijke lijn aan dat AI een ondersteunend instrument is. Het moet de expertise van de ziekenhuisapotheker versterken, niet vervangen. Daarvoor zijn transparantie en uitlegbaarheid cruciaal. Gebruikers moeten kunnen begrijpen waarom een AI-systeem een bepaalde aanbeveling of voorspelling geeft. Dat helpt om fouten, bias en misbruik sneller te herkennen.