In mijn vorige blog, “The Proof of the Pudding is in the Eating“, verkende ik waarom het bepalen of je chatbot onder de Medical Device Regulation (MDR) valt, vaak complexer is dan het lijkt. Hieronder vindt je vijf praktische tips hoe je hier mee om kunt gaan.
1. Beschrijf het beoogd gebruik van je chatbot
Waarom: Door het beoogd gebruik vast te leggen, creëer je een helder beeld van wat je chatbot wel en niet doet. Dit helpt je te bepalen of de chatbot onder de definitie van een medisch hulpmiddel valt.
Hoe je het doet: Definieer de specifieke functionaliteiten van de chatbot. Wees specifiek en nauwkeurig in wat de chatbot wel en niet doet, zodat je hierop je beslissing kunt baseren.
Wat is het resultaat: Het beoogd gebruik beschrijft wat je voor ogen hebt met je chatbot. Het vertelt wat de chatbot doet, voor wie het bedoeld is, en wat de specifieke functies zijn in een medische context.
2. Leg vast hoe je de chatbot kwalificeert en classificeert
Waarom het belangrijk is: Het is belangrijk om vast te leggen of je chatbot onder de MDR valt. De vastlegging is een anker waar je bij toekomstige wijzigingen in de software naar terug kan gaan om te kijken of de classificatie verandert. Als je bijvoorbeeld nieuwe functionaliteiten toevoegt. En het is een referentiepunt om elke keer erbij te pakken, als de discussie opspeelt of de chatbot wel of niet onder de MDR valt.
Hoe je het doet: Regel 11 van de MDR en de MDCG 2019-11 bieden richtlijnen om vast te stellen of je chatbot een medisch hulpmiddel is en hoe je de risicoklasse moet bepalen. Ook kan je meer informatie vinden in de IMDRF SaMD richtlijn.
Wat is het resultaat: Kwalificeren houdt in dat je vaststelt of de chatbot een medisch hulpmiddel is. Classificeren betekent dat je bepaalt onder welke risicoklasse de chatbot valt. Deze kwalificatie en classificatie zijn niet altijd vaststaand en kunnen veranderen als de chatbot zich verder ontwikkelt.
3. Voer een risicoanalyse uit op basis van ISO 14971 om abnormaal gebruik en voorzienbaar verkeerd gebruik te identificeren
Waarom het belangrijk is: Zelfs als je chatbot perfect werkt zoals bedoeld, kunnen gebruikers hem toch op onverwachte manieren inzetten. Het is belangrijk om te anticiperen op verkeerd gebruik, zoals het omzeilen van waarschuwingen of het inzetten van de chatbot voor medische doeleinden waarvoor het niet bedoeld is. Dit helpt je de risico’s te begrijpen die gepaard gaan met dit soort gebruik.
Hoe je het doet: Voer een uitgebreide risicoanalyse uit waarin je kijkt naar hoe gebruikers de chatbot op niet-beoogde manieren kunnen gebruiken. Dit soort analyses helpt je te anticiperen op potentiële problemen en ongewenste uitkomsten.
Wat is het resultaat: Een risicoanalyse volgens ISO 14971 helpt je te identificeren waar abnormaal gebruik en voorzienbaar verkeerd gebruik zouden kunnen optreden. Dit zijn scenario’s waarin gebruikers de chatbot op een manier gebruiken die je niet had voorzien, maar die wel reëel zijn.
4. Verminder de risico’s van voorzienbaar verkeerd gebruik en abnormaal gebruik met duidelijke instructies en waarschuwingen
Waarom het belangrijk is: Duidelijke instructies en waarschuwingen helpen de risico’s van voorzienbaar verkeerd gebruik en abnormaal gebruik te minimaliseren. Het voorkomt dat gebruikers de chatbot bijvoorbeeld inzetten voor taken waarvoor het niet is ontworpen.
Hoe je het doet: Schrijf beknopte en duidelijke instructies die voor iedereen begrijpelijk zijn. Voeg waarschuwingen toe over de beperkingen van de chatbot en wees expliciet over wat het niet kan doen.
Wat is het resultaat: Gebruikersinstructies en waarschuwingen zijn essentiële hulpmiddelen om ervoor te zorgen dat de chatbot correct wordt gebruikt. Ze helpen voorkomen dat gebruikers de software buiten het beoogd gebruik inzetten.
5. Houd grip op hoe je chatbot daadwerkelijk wordt gebruikt (Post-market surveillance)
Waarom het belangrijk is: Zelfs als je chatbot aanvankelijk niet onder de MDR valt, kunnen wijzigingen in hoe deze door gebruikers wordt ingezet ervoor zorgen dat dit verandert. Het monitoren van het gebruik in de praktijk helpt je om dit in de gaten te houden en risico’s vroegtijdig te identificeren.
Hoe je het doet: Zorg ervoor dat je een proces hebt voor het verzamelen van feedback van gebruikers. Dit kan via rapportage van incidenten of problemen. Analyseer deze gegevens regelmatig en werk je risicoanalyse en gebruikersinstructies bij op basis van hoe de chatbot in de praktijk wordt gebruikt. Dit stelt je in staat om snel te reageren op onverwacht gebruik en, indien nodig, de kwalificatie en classificatie van de chatbot te herzien.
Wat is het resultaat: Post-market surveillance (PMS) is het proces waarin je blijft monitoren hoe je chatbot in de praktijk wordt gebruikt, nadat deze op de markt is gebracht.
Conclusie
De vijf stappen die ik hier heb beschreven, helpen je om te onderzoeken of jouw chatbot onder de MDR valt. Het draait niet alleen om het naleven van de regels, maar vooral om te begrijpen waarom en hoe jouw chatbot kan worden geclassificeerd als een medisch hulpmiddel. Door het beoogd gebruik te beschrijven, de kwalificatie en classificatie vast te leggen, en met een ISO 14971-risicoanalyse abnormaal gebruik te voorspellen, houd je grip op de potentiële risico’s. Tot slot zorgen duidelijke gebruikersinstructies en voortdurende monitoring ervoor dat je chatbot veilig en effectief blijft.