WASHINGTON – Een programma voor het bijvullen van recepten dat eerder dit jaar stilletjes in Utah werd gelanceerd, heeft een groot medisch debat op gang gebracht: is kunstmatige intelligentie klaar om taken over te nemen die tot nu toe alleen door artsen konden worden uitgevoerd?
Met het programma kunnen inwoners van Utah de spreekkamer overslaan en hun recepten online laten bijvullen door een AI-chatbot genaamd Doctronic. Het is een ogenschijnlijk eenvoudige stap om de gezondheidszorg gemakkelijker te maken voor patiënten en voorschrijvers.
Aanbevolen video’s
Maar het is ook een precedentschokkende mijlpaal die de alarmbellen heeft doen rinkelen bij artsen, advocaten en deskundigen op het gebied van de volksgezondheid. Het pilotprogramma heeft een groot aantal vragen blootgelegd over de rol van AI in de geneeskunde, waaronder hoe AI moet worden gereguleerd, of artsen er een veto over moeten kunnen uitspreken en welke veiligheidsmaatregelen er nodig zijn om patiënten te beschermen.
Centraal in het debat staat: staats- en federale wetten beperken het voorschrijven aan erkende medische professionals. Voorstanders zeggen dat deze wetten, die al meer dan 100 jaar de Amerikaanse geneeskunde ondersteunen, moeten worden bijgewerkt om AI-chatbots en andere nieuwe technologieën te omvatten.
“We hebben een drempel overschreden als het gaat om het geven van een medische vergunning aan iets dat niet menselijk is, of we het nu zo willen noemen of niet”, zegt Dr. Eric Bressman van de Universiteit van Pennsylvania.
AI kan volgens de huidige wetgeving geen geneeskunde beoefenen
Bressman en andere experts zeggen dat ze niet tegen het voorschrijven van AI zijn. Maar ze zeggen dat het moet voldoen aan strenge normen, vergelijkbaar met die van menselijke artsen, die jaren van testen en training ondergaan voordat ze een vergunning krijgen om de geneeskunde uit te oefenen.
In Utah kon Doctronic van start gaan dankzij een ‘regelgevende sandbox’ waarmee overheidsfunctionarissen afstand kunnen doen van wetten voor AI-bedrijven die veelbelovende technologie aanbieden.
Het bijvulprogramma staat momenteel onder toezicht van een vijfkoppige raad van AI-specialisten, van wie geen enkele arts is, die zeggen dat ze talloze waarborgen hebben geïmplementeerd. Tijdens de beginfase van het programma beoordelen menselijke artsen bijvoorbeeld alle Doctronic-navulbestellingen. Het bedrijf verwacht binnenkort over te gaan op volledig geautomatiseerde navullingen.
Het hoofd van de medische licentieraad van de staat zegt dat hij en zijn collega’s van het programma hoorden toen de lancering ervan in januari in het nieuws werd gerapporteerd. In een brief van maart aan de staat riepen elf bestuursleden op tot stopzetting van het programma, daarbij verwijzend naar de risico’s van het automatisch vernieuwen van medicijnen die bijwerkingen of interacties tussen geneesmiddelen kunnen hebben.
“Ons werd in wezen verteld: ‘Ja, dit is aan de hand. En nee, u heeft er niets over te zeggen'”, zegt dr. Alan Smith, een huisarts die het bestuur leidt, maar zei dat hij alleen voor zichzelf sprak.
Wat het beeld ingewikkelder maakt, is het feit dat medische technologie traditioneel op federaal niveau wordt gereguleerd, terwijl medische professionals onder toezicht staan van staten.
Leidinggevenden van Doctronic beschouwen hun AI als onderdeel van de door de staat gereguleerde medische praktijk. Maar de federale Food and Drug Administration wordt verondersteld toezicht te houden op AI die een directe invloed heeft op de medische zorg of de besluitvorming, een grens die volgens sommige deskundigen door Doctronic is overschreden.
Sommige staten maken de weg vrij voor AI in de gezondheidszorg
In een interview willen de leidinggevenden van Doctronic niet zeggen of ze toestemming hebben gevraagd aan de FDA.
“Ons doel hier is eigenlijk alleen maar om patiënten te ontmoeten waar ze gezondheidszorg nodig hebben”, zegt dr. Adam Oskowitz, die het bedrijf mede heeft opgericht samen met een ondernemer uit de technologie-industrie. “We proberen niet te diep in het onkruid op het gebied van de regelgeving te duiken.”
In Utah kunnen inwoners een Doctronic-website bezoeken die is gebouwd voor het bijvulprogramma. Nadat hun identiteit is bevestigd, vraagt de AI-chatbot gebruikers naar hun recepten en medische geschiedenis, waarbij wordt gecontroleerd of ze een geldig recept hebben door gebruik te maken van een nationale apotheekdatabase. Als er geen problemen zijn, kan de AI het recept verlengen en naar een plaatselijke apotheek sturen. Als het verzoek meer aandacht vereist, stuurt de chatbot de patiënt door naar een arts die werkt voor de telezorgdienst van Doctronic.
Oskowitz ziet een toekomst voor zich waarin veel routinematige medische taken, waaronder het bestellen van tests en het analyseren van resultaten, kunnen worden overgedragen aan Doctronic, waardoor artsen duizenden meer patiënten kunnen behandelen dan ze nu kunnen.
Andere staten zien ook af van regels voor AI, waaronder Texas en Wyoming.
Ondertussen hebben wetgevers in Iowa, Idaho en elders wetgeving ingevoerd om AI-medische diensten formeel in licentie te geven. Veel van de wetsvoorstellen zijn gebaseerd op een sjabloon van het non-profit Cicero Institute, een pro-AI-denktank opgericht door Joe Lonsdale, medeoprichter van het kunstmatige-intelligentiesoftwarebedrijf Palantir.
De weerstand tegen medische AI komt vooral voort uit de economische angsten van artsen en andere gezondheidswerkers, zegt Cicero’s directeur gezondheidsbeleid.
“Wie het eerst gaat, zal de slingers en pijlen pakken, omdat er economische belangen zijn, zorgen over de beroepsbevolking en wat dat gaat betekenen voor de werkgelegenheid”, aldus Adam Meier van Cicero.
Artsen zien potentiële risico’s voor het navullen van AI-recepten
Smith, voorzitter van de medische raad, zegt dat de risico’s voor patiënten reëel zijn. Hij wijst erop dat Doctronic’s lijst van 190 hervulbare medicijnen bloedverdunners bevat, die gevaarlijk kunnen worden als patiënten maagzweren of andere aandoeningen krijgen die inwendige bloedingen veroorzaken.
“Als ik mensen na zes maanden zie, merk ik vaak dat hun medische geschiedenis of situatie is veranderd”, zei Smith. “Het feit dat iets eerder werd voorgeschreven, betekent niet dat het nu gepast is.”
De American Medical Association heeft soortgelijke zorgen geuit en waarschuwt dat “het verlengen van recepten geen routinematige selectievakjes zijn.”
Zach Boyd, hoofd van het AI-kantoor in Utah, zegt dat Doctronic tot nu toe overdreven voorzichtig is geweest en oncontroversiële beslissingen vaak aan artsen overlaat. Als reactie op veiligheidsproblemen zijn verschillende medicijnen verwijderd van de lijst die in aanmerking komt voor navullingen, waaronder een medicijn tegen onregelmatige hartslag.
Utah heeft enkele eerste gegevens over het programma vrijgegeven en Doctronic is van plan later dit jaar collegiaal getoetste onderzoeken te publiceren. Momenteel is de enige publicatie over de technologie een artikel geschreven door bedrijfswetenschappers dat niet onafhankelijk is beoordeeld.
In het onderzoek werd gekeken of Doctronic medische aandoeningen correct kon diagnosticeren op basis van gegevens van 500 telezorgconsulten. In het onderzoek kwamen de diagnoses van Doctronic in 80% van de gevallen overeen met die van menselijke artsen.
De FDA kiest voor een hands-off aanpak
Bressman zegt dat Utah vooraf gegevens over het navullen van recepten had moeten opvragen, en niet nadat Doctronic operationeel was.
“Meestal aanvaarden ze te goeder trouw het woord van het bedrijf dat ze de taak aankunnen”, zei hij.
De huidige benadering van AI weerspiegelt de lukrake medische normen van het begin van de 20e eeuw, zegt Bressman, voordat medische scholen, medische raden en andere autoriteiten overeenstemming bereikten over nationale benchmarks voor training en licentieverlening.
Nationale richtlijnen op het gebied van medische technologie zouden doorgaans afkomstig zijn van de FDA, maar de FDA heeft aangegeven van plan te zijn een ‘hand-off’-aanpak te hanteren, tenminste onder de huidige regering.
Een woordvoerder van de FDA zei dat het agentschap geen AI-chatbots heeft geautoriseerd, maar “zich inzet voor het aanmoedigen van medische innovatie en het helpen veelbelovende nieuwe technologieën naar patiënten te brengen, terwijl veiligheid centraal blijft staan bij elke beslissing.”
Voorlopig zullen Doctronic en andere bedrijven waarschijnlijk uitbreiden naar staten met verschillende regelgevingsbenaderingen.
“Bedrijven kunnen er op de korte termijn baat bij hebben als ze hun bedrijfsmodellen uitbreiden en de technologie verder laten gaan dan het bewijsmateriaal”, zegt Daniel Aaron van de rechtenfaculteit van de Universiteit van Utah. “Maar op de lange termijn denk ik dat ze het risico lopen het vertrouwen van het publiek in gevaar te brengen en de terugslag te voeden.”