Wanneer je begint met het uitzoeken of je chatbot onder de Medical Device Regulation (MDR) valt, lijkt het misschien alsof het eenvoudig is. Je leest de regels en volgt de stappen. Maar de praktijk kan vaak ingewikkelder zijn. In deze blog neem ik je mee in enkele uitdagingen die je als ontwikkelaar van chatbots kunt tegenkomen. Veel hangt af van hoe de chatbot wordt gebruikt en welke rol deze speelt in het medische besluitvormingsproces.
Scenario 1. De chatbot levert informatie die wordt gebruikt voor medische doeleinden
Dit lijkt het meest rechttoe rechtaan scenario: je chatbot verzamelt gegevens en verstrekt informatie die gebruikt wordt voor medische doeleinden (zoals preventie, diagnose, behandeling, monitoring, verlichting van ziektesymptomen). Volgens regel 11 van de MDR wordt software die dergelijke informatie verstrekt geclassificeerd op basis van het risico dat het gebruik van die informatie met zich meebrengt.
Dit betekent dat je chatbot als medisch hulpmiddel wordt gekwalificeerd en moet voldoen aan de MDR. Je kunt meer lezen over regel 11 en hoe software wordt geclassificeerd in de officiële MDR-documenten.
Scenario 2. De chatbot geeft gegevens door aan een EPD
Dit scenario is minder rechttoe rechtaan: je chatbot verzamelt gegevens, zoals patiëntinformatie, en stuurt deze door naar een EPD (elektronisch patiëntendossier). Hier wordt het ingewikkelder.
Stel het EPD dient alleen voor administratieve doeleinden en de informatie wordt niet gebruikt om beslissingen te ondersteunen voor diagnostische of therapeutische doeleinden. In dat geval functioneert de chatbot waarschijnlijk als een ondersteunend administratief hulpmiddel en hoeft deze waarschijnlijk niet onder de MDR te vallen.
De complicaties ontstaan wanneer de gegevens die door de chatbot worden verzameld, worden verwerkt in modules in het EPD die informatie geven aan zorgprofessionals voor medische doeleinden. In dat geval is het nodig om te beoordelen of dit het beoogd gebruik is dat je voor ogen hebt. En of je onder het hierboven genoemde Scenario 1 valt. Wil je meer weten over hoe software als medisch hulpmiddel kan functioneren, raad ik je aan om te lezen over de IMDRF SaMD richtlijn.
Scenario 3. De chatbot maakt samenvattingen voor de zorgprofessional
Als jouw chatbot helpt bij het verzamelen en ordenen van bijvoorbeeld patiëntgegevens. En deze gegevens worden door een zorgverlener gebruikt ter ondersteuning van beslissingen voor medische doeleinden. Dan is het van belang om het beoogd gebruik goed te beschrijven.
Volgens regel 11 van de MDR moet software die informatie verstrekt voor medische doeleinden worden geclassificeerd op basis van het potentiële risico voor de patiënt. Dit vereist een zorgvuldige beoordeling van de functie van de chatbot en hoe deze de medische zorg ondersteunt. Lees hierover ook mijn andere blog.
Abnormaal gebruik en voorzienbaar verkeerd gebruik
Zelfs als jouw chatbot niet bedoeld is voor medische doeleinden, is het belangrijk om rekening te houden met hoe de software daadwerkelijk wordt gebruikt. Bijvoorbeeld, een chatbot die is ontworpen om algemene gezondheidsinformatie te geven, kan door zorgverleners worden gebruikt om behandeladviezen te ondersteunen.
Volgens ISO 14971, de standaard voor risicomanagement in medische hulpmiddelen, moeten fabrikanten maatregelen nemen om risico’s van voorzienbaar verkeerd gebruik te minimaliseren. Lees in mijn andere blog hoe je dit kan doen.
Vooruitdenken: Hoe zal je software in de toekomst worden gebruikt?
Het is altijd belangrijk om vooruit te kijken. Stel je voor dat je spraakherkenningssoftware, die nu alleen gesprekken transcribeert, later wordt aangepast om gegevens in gestructureerde FHIR-formaten in een EPD op te slaan. Dit kan het beoogd gebruik van je chatbot veranderen, waardoor je wel onder de MDR kan vallen.
Dit betekent dat je voortdurend moet blijven evalueren of je product binnen de MDR valt. Lees in mijn andere blog hoe je dit kan doen.
Conclusie: De praktijk is altijd complexer
De stappen om een chatbot te kwalificeren en classificeren onder de MDR lijken misschien duidelijk, maar de praktijk is vaak complexer. Je moet niet alleen letten op het beoogd gebruik, maar ook op hoe gebruikers je product daadwerkelijk inzetten. En vergeet vooral niet om vooruit te denken: hoe zal je software in de toekomst worden gebruikt?
De MDCG 2019-11 richtlijn benadrukt dat software die puur voor administratieve doeleinden is ontworpen, niet onder de MDR valt, maar zodra de software betrokken raakt bij medische doeleinden, kan het alsnog als medisch hulpmiddel worden beschouwd.
In mijn volgende blog een aantal praktische tips hoe je met de hier geschetste uitdagingen kan omgaan.