Oog voor potentie en risico’s van AI

Als lead AI-strategie en samenwerkingen bij het UMC Groningen volgt Bart Scheerder de ontwikkelingen op het gebied van medische chatbots en agentic AI op de voet. Hij waarschuwt voor de risico’s, maar heeft ook oog voor de potentie.

tekst • Frank van Wijck

Chatbots zijn niet meer weg te denken uit onze samenleving, zegt Scheerder, lead AI-strategie en samenwerkingen bij het UMC Groningen, ChatGPT voorop. “Ze staan er middenin”, zegt hij. “En dat feit creëert een nieuwe realiteit. Mensen maken er al veelvuldig gebruik van om vragen over gezondheid en zorg te stellen. Daaruit kunnen reële adviezen ontstaan en dat leidt tot de vraag: waar gaat de chatbot over en waar gaat de zorg over? Dit gaat nog verder nu we in de Verenigde Staten zien dat grote techbedrijven medische chatbots ontwikkelen om mensen betrouwbare medische informatie te bieden.”

Dit creëert weer een nieuwe situatie, stelt hij, omdat zo’n medische chatbot erop ingericht is om de gebruiker te vragen om toegang tot diens gezondheidsgegevens. “Die chatbot gaat dan op basis daarvan het gesprek met je aan over je gezondheidsdoelen”, zegt hij. “Daarvoor zijn al specifieke producten ontwikkeld.”

Gesponsord?
Een mooie ontwikkeling? “Mensen kunnen ermee geholpen zijn”, zegt Scheerder. Maar het gaat er wel voor zorgen dat de regie over de zorg verlegd wordt. “En dat gaat ook hier een rol spelen, als die producten in Europa op de markt komen. Het kan ertoe leiden dat bedrijven een rol gaan spelen om ervoor te zorgen dat zo’n chatbot ‘gesponsorde’ antwoorden gaat geven die aansluiten bij het producten- of dienstenaanbod dat zij op de markt brengen.”

We hebben nu in Nederland, stelt hij, een zorgsysteem met de huisarts als poortwachter. “Maar als ook hier medische chatbots op de markt komen, krijgen we te maken met private partijen die gezondheidsadviezen gaan geven. Dan is het de rol van de zorgsector om te bepalen of ze de juiste informatie geven. En we verliezen de regie over het op solidariteit gestoelde stelsel aan private partijen die op winst gericht zijn. Moeten we daar dan op reageren door zelf medische chatbots te ontwikkelen? Moeten we partnerships aangaan?”

Balans bewaken
Hiermee wil Scheerder niet zeggen dat chatbots in de zorg geen waardevolle rol kunnen hebben. “Ze kunnen bijvoorbeeld gericht worden toegepast voor mensen met lage taalvaardigheden, om hen informatie op hun taalniveau te bieden, eventueel gecombineerd met wat social nudging. Ook interessant is om een chatbot even met de patiënt te laten bellen om een afspraak voor te bereiden. De techniek heeft zeker een fantastische potentie. Wij werken als ziekenhuis dan ook samen met partijen die ontwikkelingen op dit gebied mogelijk maken. Daarin willen we een rol spelen. Maar we willen ook de balans bewaken met wat er op de markt voor deze producten en in de samenleving allemaal al gebeurt.”

Maar in hoeverre is dit mogelijk? “De vraag is inderdaad wie er in controle is”, zegt Scheerder. “Maar er zijn ook mooie ontwikkelingen. Een belangrijke is dat thuisarts.nl bezig is met de ontwikkeling van zijn eigen AI-assistent. De makers zijn zich bewust van hun maatschappelijke rol, dus ze zullen heel zorgvuldig zijn en aansluiting zoeken bij bestaande richtlijnen. De vraag is dan wel hoe dit maatschappelijk een plek moet krijgen. Je moet in staat zijn een maatschappelijke boodschap over te brengen over wat er gebeurt in de samenleving en welke invloed dat heeft op de zorg. Hierin zien we als UMCG ook een rol voor onszelf.”

Als tweede positieve voorbeeld noemt hij de Nederlandse AI-fabriek, gesteund vanuit de Europese Unie. Een geavanceerde supercomputer gekoppeld aan een expertisecentrum, waar bedrijven, onderzoekers en overheden samenwerken aan het trainen en ontwikkelen van AI-toepassingen, onafhankelijk van Amerikaanse en Chinese techplatforms. “Het uitgangspunt is soevereine ontwikkeling”, zegt hij. TNO en SURF zijn er partners in en ook als UMCG kijken we hier heel goed naar.”

‘Agentic AI is interessant nu de eindigheid van personele beschikbaarheid in beeld is’

Agentic AI
Een stap verder dan een chatbot is agentic AI. Geen losse chatbot, maar een systeem dat meerdere stappen kan uitvoeren. Patiënten digitaal interviewen bijvoorbeeld, informatie structureren, dossiers voorbereiden en vervolgacties klaarzetten voor zorgverleners. “Voor ons een heel interessante ontwikkeling”, zegt Scheerder. “Slimme zorg begint met #NooitMeerTikken. In de behandelkamer moet het gaan over het contact tussen zorgverlener en patiënt. Spraakgestuurd rapporteren is dan de eerste stap. Daarna – als de data op een goed kwaliteitsniveau is – kunnen we kijken hoe we agentic AI kunnen inzetten om datgene over te nemen waarvoor het geschikt is. Geen diagnose en behandelplan opstellen, maar wel vervolgafspraken regelen en vastleggen wat besproken is. Daarin kan heel veel uitgevoerd worden door technologie, dat gaat dit jaar enorm zijn intrede doen.”

Als koploper in toegepaste technologie is het UMCG daar heel erg geïnteresseerd in. Toch zal het ziekenhuis het eerst inzetten in de context van bedrijfsvoering, om er ervaring mee op te doen. En dus niet meteen in de kliniek. “Onze eerste stap hierin is robotic process automation. Daarna kunnen we er als vervolg ook een stukje autonomie aan toevoegen. In agentic AI zitten elementen van autonomie en proactiviteit. En dat is interessant nu in de zorg de eindigheid van de personele beschikbaarheid al in beeld is. We moeten het werk echt weer aantrekkelijk maken.”

Risico’s
Wel is zorgvuldigheid geboden, want aan agentic AI zijn ook risico’s verbonden. “Het eerste is dat het fouten kan maken”, zegt Scheerder. “We moeten dus heel goed leren begrijpen wat de bandbreedte is van waarin die technologie wel en niet presteert. Een tweede is het vraagstuk van de betrouwbaarheid van de partijen om het voor ons te laten ontwikkelen. Als we agentic AI echt structureel een rol willen geven in de zorg, zullen we daar heel zorgvuldige randvoorwaarden aan moeten verbinden. We moeten het ons niet laten ontglippen, zoals nu met DigiD.”

Complexe materie dus. “Daarom is het ook zaak de ontwikkeling op dit gebied niet alleen te doen, maar samen”, zegt Scheerder. “Wij hebben chatUMCG opgezet als platform voor de veilige inzet van taalmodellen. Op termijn willen we daarmee ook met medische context gaan werken. Andere partijen zijn zeer geïnteresseerd in onze aanpak hiervoor en we vertellen er dan ook op allerlei manieren – in wetenschappelijke publicaties, op podia – over als uitnodiging voor iedereen die wil aanhaken.”

‘Bedrijven stellen zich in de AI-ontwikkeling op het gebied van aansprakelijkheid heel terughoudend op’

Aansprakelijkheid
In FMT 2-2026 vanaf pagina 10 vertelt promovendus Sara Ben Hmido over hoe AI in de operatiekamer de aansprakelijkheid verschuift van de medici naar de hele organisatie. “Ik ben nieuwsgierig naar haar onderzoek. Ik zie wel dat bedrijven in de AI-ontwikkeling op het gebied van aansprakelijkheid zich terughoudend opstellen. Zo positioneren spraakgestuurd-rapporteren-tools zich bijvoorbeeld nadrukkelijk niet als medisch hulpmiddel. Helaas, want juist een medisch geaccrediteerd systeem zou erg interessant zijn. Om dezelfde reden zie je ook dat bedrijven die medische informatie ontsluiten via chatbots, dat niet medisch gaan certificeren. Ze zijn bang voor problemen als zo’n chatbot foute informatie gaat geven.”

Hij vraagt zich af of die terughoudendheid de juiste weg is. “Ik denk het niet”, zegt hij. “We moeten juist als bedrijven en zorg samen de urgentie creëren om tot meer medisch gecertificeerde AI te komen.”