Specialistische medische kennis direct overal ter wereld inzetten. In bijzondere situaties. Zo nodig in de afwezigheid van een specialist. Het lijkt science fiction, maar het is mogelijk met de huidige technologie.
AI systemen worden getraind op databases met medische informatie. Deze informatie wordt met behulp van smartphones razendsnel direct ingezet op de plekken waar ze het meest nodig is.
Beeld en geluid — door AI gegenereerd — geeft de AI kennisbank een aansprekend, binnen de cultuur passend voorkomen. De hardware die aanwezig is op een hedendaagse smartphone wordt gebruikt om diagnoses te stellen en te triageren tussen verschillende behandelalternatieven.
De belofte is groot:
- Toegankelijk maken van zeer specialistische kennis (en zorg) aan populaties die onvoldoende bediend worden.
- Verschaffen van basiszorg aan achterstandsgroepen door verpleegkundig personeel.
- Redden van levens en het verlichten van lijden onder groepen met verminderde medische toegang.
- Monitoren van de gezondheid van individuen binnen de openbare ruimte, op basis van hun persoonlijke medische geschiedenis teneinde snel en adequaat te reageren op voorkomende gezondheidscrises.
Maar bij grote beloften horen ook grote verantwoordelijkheden. Het gaat hier immers om overwegingen die immense effecten kunnen sorteren in een mensenleven, niet alleen voor de patiënt zelf maar voor diens gehele omgeving.
Als medische uitgever dient u zich hierop voor te bereiden.
In dit artikel onderzoeken we de juridische aspecten van het gebruik van AI in de medische uitgeverij.
Algemene juridische overwegingen voor de medische uitgeverij
We kunnen de overwegingen op auteurs-, aansprakelijkheids- en privacyrechtelijk vlak kort aanstippen. Deze behoren tot de algemene juridische overwegingen waarmee een uitgeverij vaker te maken heeft en vormen hier natuurlijk ook een belangrijke factor.
Bij het bouwen van een AI oplossing die gebruik maakt van of wordt getraind op de medische kennis die aanwezig is binnen de uitgeverij verdient het auteursrecht uiteraard de nodige aandacht.
De grondslag behoort te blijven binnen de uitgeverij, maar het auteursrecht valt te licenseren. Denk bijvoorbeeld aan een joint venture met een technologische partner die het model gaat trainen en aankleden, waarvoor een aparte rechtsvorm in het leven wordt geroepen die het auteursrecht mag gebruiken.
De kwestie van aansprakelijkheid is ingewikkeld en moet per afzonderlijke situatie worden bekeken.
- Wat is het verwachte gebruik van de AI oplossing die men voor ogen heeft?
- Wie is de beoogde gebruiker?
- Wie draagt de aansprakelijkheid wanneer als gevolg van het gebruik ongewenste situaties ontstaan?
Hierbij moet mede worden gelet op het bredere corpus aan medisch en professioneel aansprakelijkheidsrecht.
Hierover moet vooraf goed worden nagedacht, omdat deze kwestie een overdreven invloed kan hebben, niet alleen op de omvang van de winst maar ook op de kwaliteit van de zorg.
Gegeven de gevoeligheid van medische privacy dient vooraf adequaat te worden nagedacht over databescherming en -minimalisatie en doelbinding binnen de context van de GDPR. Ook hieraan kleven mogelijk aansprakelijkheidsaspecten waarop moet worden geanticipeerd.
Gelet op de belangen die op het spel staan, zowel voor de patiënt, voor de hulpverlener en voor de uitgeverij, dienen deze juridische aspecten te zijn dichtgetimmerd voordat een AI product aan de wereld wordt gepresenteerd.
De juridische situering van een medisch AI product binnen de Medical Devices Regulation van de Europese Unie
AI-systemen die medische informatie verstrekken worden waarschijnlijk aangemerkt als medische hulpmiddelen onder de bepalingen van de MDR. Dit is zeker het geval wanneer zulke systemen in staat zijn zelfstandig diagnoses te stellen.
Net als de AI Act, die we in de volgende paragraaf behandelen, omvat de MDR een risicoclassificatieregime, waarbinnen het medische AI-systeem een plek moet vinden.
Dit houdt wellicht in dat uw uitgeverij zich zal moeten bezighouden met
- conformiteitsbeoordelingen,
- certificering en CE-markering,
- doorgaande monitoring en evaluatie,
- terugkerende prestatiebeoordelingen,
- documentatie van de transparantie en beredeneerbaarheid van het systeem,
- het beperken van de neigingen van AI om zichzelf te updaten en in voorkomende gevallen tot nieuwe conclusies, diagnoses danwel behandelplannen te komen.
Dit alles bovenop de eerdervermelde overwegingen van aansprakelijkheid en privacybescherming uit hoofde van de GDPR.
De ontwikkeling van medische AI-systemen kan dus een complex en langdurig proces zijn, met aanzienlijke investeringen in onderzoek, ontwikkeling, testen en certificering. Het is cruciaal om hier vanaf het begin van het ontwikkelingsproces rekening mee te houden.
En dan hebben we ook nog de nieuwe AI Act, waaronder AI systemen met een medische component al snel een “hoog risico” classificatie krijgen.
De juridische situering van een medisch AI product binnen de AI Act van de Europese Unie
De gedachte achter de AI Act is dat de Europese burger moet worden beschermd tegen al te grote inbreuken op diens rechten door deze nieuwe technologie. Met name de toegang tot en kwaliteit van basisdiensten zoals onderwijs, het rechtssysteem en zorg worden met stevige waarborgen omkleed.
Het goede nieuws is dat sommige van de vereisten binnen de AI Act overlappen met die van de MDR, waar we in de vorige paragraaf over spraken.
Een “hoog risico” kwalificatie binnen de AI Act heeft voor u als uitgever van een medisch AI product de volgende consequenties:
- Het AI systeem moet worden opgenomen in een centrale database.
- Er moeten regelmatige assessments plaatsvinden over de toelaatbaarheid en zorgvuldigheid van het systeem.
- Er moet iemand meekijken bij de beslissingen die het systeem maakt.
- Er worden strenge eisen gesteld aan de kwaliteit van de data die als basis dienen voor het functioneren van het AI systeem, en die kwaliteit moet op peil gehouden worden.
- Er moet duidelijke en voor eindgebruikers toegankelijke documentatie bestaan over het functioneren en de beslissingspaden van het AI systeem.
- Het systeem moet betrouwbaar en nauwkeurig zijn en zich binnen minimale foutenmarges bewegen.
Als uw AI systeem gebruik maakt van biometrie — een technologie die unieke fysieke of gedragskenmerken van een persoon gebruikt voor identificatie of authenticatie — moeten ernstige storingen en incidenten worden gemeld aan de AI autoriteit. Daarnaast moet de patiënt op de hoogte worden gebracht van het gebruik van deze biometrische detectie.
De juridische aspecten van het gebruik van AI in de medische uitgeverij
U ziet dat er nogal wat juridische implicaties bestaan voor het gebruik van de medische informatie waarop u het auteursrecht heeft.
De impuls om deze informatie breder en met meer technologische verfijning in te zetten is begrijpelijk. Dit geldt echter ook voor de beschermingsbehoefte van de zorgconsument binnen de Europese rechtsorde.
Het moet ook worden gezegd dat de stringente voorwaarden die hierboven worden geschetst voor iedere marktpartij geldt die de Europese markt wil betreden.
Tegelijkertijd lijkt het lastig voor een individuele medische uitgever om zelfstandig door al deze hoepels te springen. U wordt haast wel gedwongen een partnerschap aan te gaan met een technologische partij die voldoende slagkracht heeft om de markt voor medische hulpmiddelen langdurig op te gaan.
Gegeven de technologische en juridische uitdagingen van een medisch AI systeem is het niet ondenkbaar dat u daarbij de junior partner zult zijn.
Geef een reactie