Klinisk AI och datadrift

I en artikel i New England Journal of Medicine från 2021 beskriver författarna datadrift, ett viktigt problem associerat med kliniska AI-lösningar.

Datadrift inträffar när en AI-lösning underpresterar på grund av bristande överensstämmelse mellan datan den tränats på och datan den driftsatts på. Ett exempel på datadrift inträffade vid University of Michigan Hospital, där man implementerat en AI-lösning som varnade för sepsis. I april 2020 behövde lösningen deaktiveras på grund av falska larm. Orsaken var att 2019 års coronavirus-pandemi förändrade relationen mellan feber och sepsis, vilket resulterade i att AI-lösningens varningar blev kliniskt irrelevanta. Sjukhusets AI-styrningskommitté avvecklade slutligen lösningen. Det här är ett extremt exempel, och författarna gör gällande att datadrift ofta är mer subtil.

De beskriver vidare några vanliga orsaker till datadrift, som de grupperar i tre kategorier: teknologiska, demografiska och beteendemässiga orsaker.

Vi har redan läst om en demografisk orsak till datadrift i exemplet från University of Michigan Hospital. Ett exempel på en teknologisk orsak till datadrift skulle kunna vara att en klinik byter till högkänslig troponinanalys, vilket förändrar klinisk tolkning av detekterbara troponinnivåer. Ett exempel på en beteendemässig orsak skulle kunna vara förändrad ersättningsmodell för sepsis relativt andra orsaker, som resulterar i en mätbar ökning i dokumenterade sepsisdiagnoser.

Kliniska AI-lösningar kräver informerade kliniska användare, som kan identifiera och rapportera begynnande problem. Är vi kliniker tillräckligt förberedda?