Mensgerichte AI in de zorg
Hoe zorg je ervoor dat AI in het ziekenhuis niet alleen technisch werkt, maar ook ethisch verantwoord is? Voor het Amphia Ziekenhuis is een praktisch ethisch-juridisch kader ontwikkeld dat zorgteams en beleidsmakers helpt om bij nieuwe AI-toepassingen de juiste vragen te stellen, risico's tijdig te herkennen en verantwoorde keuzes te maken.
Opdrachtgever
Amphia Ziekenhuis
MSc Responsible AI Innovation
Werkzaamheden
Responsible AI Innovation
Ethisch-juridisch kader
Datum
2026
Aanleiding
Het Amphia Ziekenhuis zet AI al actief in. Van een systeem dat automatisch gespreksverslagen aanmaakt tijdens een consult bij de afdeling Orthopedie, tot een algoritme dat radiologen helpt bij het detecteren van fracturen op röntgenfoto’s (Straatman & Beekers, z.d.). De ambitie om technologie te benutten voor betere en efficiëntere zorg is er. Maar uit gesprekken met de innovatieadviseurs en de ethische commissie van het Amphia bleek een concreet knelpunt: innovaties worden vaak gedreven door de wens om een onderdeel van het zorgproces te verbeteren, terwijl het voor de ethische commissie onduidelijk is hoe zij vroegtijdig en effectief betrokken kan worden bij dit proces.
Dit is geen uniek probleem. AI biedt concrete kansen om de zorg toekomstbestendig te maken in een tijd van vergrijzing en personeelstekort (Jovy-Klein et al., 2024), maar roept tegelijkertijd fundamentele vragen op over privacy en waardigheid van de patiënt (Morley & Floridi, 2025) en over het behoud van de menselijke maat in de zorgrelatie (Tijink & Verbeek, 2019). Zonder een gestructureerde aanpak worden die vragen te laat gesteld, of helemaal niet.
Hoe kan het Amphia AI-toepassingen vanaf het begin systematisch beoordelen op ethische en juridische risico's, zodat de menselijke maat in de zorg geborgd blijft?
Een gestructureerde aanpak
Juridische kaders zoals de AVG en de EU AI Act geven antwoorden, maar stellen niet altijd de juiste vragen. Omdat regelgeving bovendien structureel achterblijft bij technologische ontwikkeling (Morley & Floridi, 2025), is ethiek hier bewust als startpunt gekozen: eerst in kaart brengen welke waarden op het spel staan, dan toetsen aan het recht. De aanpak is methodologisch verankerd in Value Sensitive Design (Friedman et al., z.d.; Sadek et al., 2024) en de begeleidingsethiek van Tijink en Verbeek (2019), twee benaderingen die ethische waarden systematisch vertalen naar concrete ontwerpkeuzes en organisatorische maatregelen.
Vanuit die basis is een generiek ethisch-juridisch beoordelingskader ontwikkeld dat het Amphia kan inzetten bij elke toekomstige AI-implementatie. Geen theoretisch document maar een praktisch stappenplan dat zorgteams, beleidsmakers en juristen samen doorlopen voordat een AI-toepassing de zorgvloer bereikt. Het kader stelt de juiste vragen op het juiste moment: over de waarden die op het spel staan, over wat de wet vereist en over wat er concreet geregeld moet worden in het contract met de leverancier, in de protocollen op de afdeling en in de scholing van medewerkers.
Het kader
Het kader bestaat uit een iteratief stappenplan van vijf fasen en vier stappen die in elke fase geheel of gedeeltelijk worden doorlopen. De vijf fasen lopen van een eerste verkennende groepssessie met een multidisciplinair team, via een verdiepende juridische analyse en contractonderhandelingen met de leverancier, naar een pilotfase en uiteindelijk doorlopende evaluatie na implementatie. Het kader is bewust iteratief: inzichten uit latere fasen kunnen altijd aanleiding geven om terug te keren naar eerdere stappen.
De vier stappen die in elke fase terugkeren geven het kader zijn structuur. In de eerste stap worden de AI-toepassing, de betrokken stakeholders en de relevante waarden in kaart gebracht, zowel via wetenschappelijke literatuur als via gesprekken met direct betrokkenen. In de tweede stap wordt geanalyseerd hoe de AI-toepassing de zorgrelatie verandert: versterkt zij de aandacht voor de patiënt of ondermijnt zij juist de professionele autonomie van de zorgverlener? Hiervoor is de zorgethiek van Tronto (1993) als beoordelingskader gebruikt, aangevuld met het normatieve oordeel van Coeckelbergh (2015) over de vraag of de menselijke dimensie van de zorgrelatie intact blijft. In de derde stap wordt het volledige juridische kader in kaart gebracht: van de EU AI Act en de Medical Device Regulation tot de AVG en de WGBO, aangevuld met een aansprakelijkheidsanalyse en contractrechtelijke aandachtspunten voor de onderhandelingen met de leverancier. In de vierde stap worden alle inzichten vertaald naar concrete handelingsopties op drie niveaus: wat het systeem zelf moet kunnen via ontwerpcriteria, wat de organisatie moet regelen via protocollen en procedures, en wat medewerkers moeten weten en kunnen via scholing en training.
De casus als illustratie
Om het kader te toetsen en te concretiseren is het doorlopen voor een hypothetische maar realistische AI-toepassing voor het Amphia: Kepler Night Nurse, een cameramonitoringsysteem voor nachtelijke valpreventie bij kwetsbare ouderen. De keuze voor deze toepassing was bewust. Stel je voor: een camera aan het plafond van een ziekenhuiskamer die ‘s nachts continu meekijkt of een kwetsbare oudere veilig in bed ligt. Technisch veelbelovend en een concrete verbetering voor de nachtelijke valpreventie. Maar ook een blik in de slaapkamer van iemand die zich op zijn kwetsbaarst bevindt. Juist omdat deze toepassing zo direct raakt aan privacy, waardigheid en professionele autonomie, is zij bij uitstek geschikt als testcase voor het kader.
Het doorlopen van het kader maakte drie aandachtspunten zichtbaar die in de praktijk vaak te laat worden herkend.
Veiligheid vs menselijke waardigheid
Het eerste aandachtspunt combineert twee vragen die stap 1 en stap 2 samen opleverden over de positie van de patiënt. Cameramonitoring vergroot de objectieve veiligheid maar maakt tegelijkertijd een inbreuk op de persoonlijke levenssfeer in een van de meest intieme situaties die er zijn. Wat objectief veiliger maakt kan de patiënt onveiliger laten voelen: de subjectieve veiligheid en kalmte worden ondermijnd door hetzelfde systeem dat beoogt te beschermen. Dit waardenconflict wordt in stap 1 expliciet benoemd en vormt directe input voor de normen en handelingsopties in stap 4. De juridische verdieping in stap 3 voegt hieraan een tweede laag toe: een aanzienlijk deel van de doelgroep is cognitief kwetsbaar door dementie of delier, waardoor toestemming niet zomaar kan worden verkregen. Afhankelijk van of formeel mentorschap is ingesteld gelden twee verschillende juridische toestemmingsroutes op grond van artikel 5 lid 2 UAVG en artikel 7:465 lid 3 BW. Ethisch en juridisch stellen zij dezelfde vraag: wie spreekt er namens de patiënt en hoe borgt het Amphia dat die stem werkelijk wordt gehoord?
Beschermt het systeem iedereen gelijkwaardig?
Het tweede aandachtspunt werd pas zichtbaar doordat stap 1 en stap 3 samen werden doorlopen. Als het systeem bepaalde groepen patiënten minder goed detecteert doordat zij ondervertegenwoordigd zijn in de trainingsdata, is dat zowel een schending van het discriminatieverbod van artikel 14 EVRM als een ethisch onrecht vanuit de waarde rechtvaardigheid. Ouderen met een donkere huidskleur, een bepaalde lichaamsbouw of atypisch bewegingspatroon lopen het risico minder goed beschermd te worden door hetzelfde systeem dat hen juist veilig moet houden.
Morele en juridische verantwoordelijkheid
Het derde aandachtspunt laat zien waarom de contractuele fase van het kader onmisbaar is. Amphia blijft op grond van de WGBO volledig aansprakelijk jegens de patiënt en kan dit niet contractueel uitsluiten of beperken. Tegelijkertijd beperkt Kepler haar aansprakelijkheid in de algemene voorwaarden tot maximaal drie maanden omzet, sluit gevolgschade expliciet uit en kwalificeert alle verplichtingen als inspanningsverplichtingen. De zorginstelling draagt daarmee de volledige morele verantwoordelijkheid voor de patiënt terwijl de leverancier die verantwoordelijkheid contractueel beperkt. Dit is niet alleen een juridisch risico maar ook een ethisch dilemma dat het kader in fase 3 expliciet adresseert via de contractuele borging en de aansprakelijkheidsanalyse als directe voorbereiding op de onderhandelingen met de leverancier.
Uitkomst
Het resultaat is een generiek ethisch-juridisch beoordelingskader dat het Amphia kan inzetten bij elke toekomstige AI-implementatie.
Voor de ethische commissie betekent dit een concreet instrument om vroegtijdig en gestructureerd betrokken te worden bij innovatietrajecten, precies het knelpunt dat aan het begin van dit project werd geïdentificeerd. Voor de innovatieadviseur biedt het een gedeelde taal om ethische en juridische risico’s bespreekbaar te maken met zorgprofessionals, management en leveranciers. En voor de zorgverlener op de werkvloer zorgt het ervoor dat de technologie die wordt ingezet aansluit op de waarden en werkwijzen van de zorgpraktijk, in plaats van die onder druk te zetten.
Het kader is niet bedoeld als afvinklijst maar als doorlopend kompas gedurende de gehele levenscyclus van een AI-toepassing in de zorg. Niet voor eenmalig gebruik bij aanschaf, maar als instrument dat meegroeit met de technologie, de organisatie en de praktijk.
">