Minderheden kunnen hun vertrouwen in gezondheidszorg verliezen door grootschalig gebruik van AI in de zorg. Dat komt omdat AI getraind is met een beperkte dataset, die voor 80% gebaseerd is op mensen met Europese voorouders. Onderzoekster Mahsa Shabani van de UvA heeft een Vidi beurs gekregen om dit onderwerp verder uit te diepen.
AI verandert de gezondheidszorg: van het dragen van een smartwatch tot het krijgen van medisch advies via ChatGPT. Toch is zulke technologie niet voor iedereen op maat gemaakt.
Vidi beurs
Mahsa Shabani is universitair hoofddocent Recht voor gezondheid en leven aan de Faculteit der Rechtsgeleerdheid van de Universiteit van Amsterdam. Zij vindt het tijd om het gebrek aan inclusiviteit in de gezondheidszorg aan te pakken. Shabani ontving een Vidi-beurs om juridische oplossingen voor dit probleem te vinden. “Veel tools zijn getraind op datasets die voor ongeveer 80 procent bestaan uit mensen met Europese voorouders.”
Niet rechtvaardig
“Deze innovaties moeten de samenleving als geheel ten goede komen en de ongelijkheid niet vergroten” zegt Shabani. “We weten dat momenteel niet iedereen er in gelijke mate van profiteert. Sommige mensen hebben geen toegang tot technologie omdat ze in een land wonen zonder adequate digitale infrastructuur. Je hebt ook een bepaald niveau van digitale geletterdheid nodig om generatieve AI te kunnen gebruiken. Ouderen hebben om die reden mogelijk minder toegang tot digitale technologieën in de gezondheidszorg. We weten ook dat tools vaak worden getraind op databases die niet alle etnische groepen vertegenwoordigen. Studies tonen aan dat veel tools bijvoorbeeld zijn getraind op datasets die voor ongeveer 80 procent bestaan uit mensen met Europese voorouders.” Als je geen aandacht besteedt aan deze ongelijkheid en te veel vertrouwt op AI, lopen minderheden uiteindelijk het risico op slechtere gezondheidszorg, stelt de onderzoekster.
Vertrouwen verliezen
Shabani: “Mijn grootste zorg is dat als mensen zich realiseren dat deze tools niet voor iedereen werken, minderheden hun vertrouwen in de gezondheidzorg beginnen te verliezen. Dat kan een averechts effect hebben en ertoe leiden dat mensen de zorg helemaal gaan mijden. We hebben hier al voorbeelden van gezien.”
Technologie inclusiever maken
Het doel van Shabani’s onderzoek is om een kader te ontwikkelen dat zowel regelgevers als ontwikkelaars kunnen gebruiken om technologie inclusiever te maken. “Daarnaast wil ik het bewustzijn over bestaande problemen vergroten en een open maatschappelijke discussie stimuleren”, zegt ze.
Bron: UvA / FMT
