AI i sundhedsvæsnet kan skabe en usynlig forskelsbehandling

AI bliver mere og mere brugt i sundhedsvæsnet, som fx ved effektivisering af MR-scanninger og afprøvninger af hurtige diagnoser på akutpatienter samt bedre kræftdiagnoser og- behandlinger. Et forskningssamarbejde mellem Københavns Universitet, Rigshospitalet og DTU har undersøgt, om AI kan spotte risiko for depression ligeligt hos forskellige grupper.

I udlandet bruger man allerede AI til at vurdere, hvilke personer, der skal modtage behandling for depression. En udvikling, der kan være på vej til en presset dansk psykiatri, skriver Københavns Universitet.

- Der er stort potentiale i kunstig intelligens, men vi skal være varsomme, da en blind indføring af det kan skævvride sundhedsvæsenet på nye måder, som er svære at se, fordi resultaterne ved første øjekast ser rigtige ud, siger Melanie Ganz fra Datalogisk Institut og Rigshospitalet.

Algoritme varierer med op til 15 pct. mellem grupper

Melanie Ganz har skrevet en ny forskningsartikel, hvor hun sammen med sine medforfattere har dokumenteret, hvordan skjulte bias sniger sig ind i en algoritme designet til at beregne risiko for depression. I samarbejde med forskere fra DTU har forskerne selv udviklet algoritmen. Den er trænet i reelle, historiske sundhedsdata om seks mio. danskere, hvoraf ca. 200.000 havde en depressionsdiagnose.

- De rigtige algoritmer med den rette træning kan blive kæmpe aktiver for en kommune med begrænsede ressourcer, men vores forskning viser, at hvis maskinlæringen ikke håndteres ordentligt, så kan det skævvride adgangen til behandling, så nogle grupper overses eller sågar holdes ude, siger Melanie Ganz.

Studiet viser nemlig, at algoritmen har lettere ved at spotte risiko for depression hos visse borgergrupper end hos andre ud fra de variabler, de er trænet i - fx uddannelse, køn, etnicitet og række andre variabler. Algoritmens evne til at identificere risiko for depression varierede med op til 15 pct. mellem forskellige grupper.

- Det betyder, at selv en region eller kommune, der i god tro indfører en algoritme til at hjælpe med at fordele fx behandlingstilbud, kan komme til at skævvride den her sundhedsindsats, siger hun.

Medforfatter Sune Holm mener derfor, at politikere skal være bevidste om fordele og ulemper ved AI.

- Både politikere og borgere må være bevidste, ikke blot om fordelene, men også de faldgruber, der er forbundet med brugen af AI. Så man kan være kritisk i stedet for bare uden videre at ”sluge pillen, siger han.

Han mener, der kan være behov for at sikre, at anvendelsen af en algoritme har en dokumenteret positiv effekt på patienterne inden man investerer i at implementere den. Eksempelvis bør det være klart, hvordan den kan give værdi i den kliniske praksis, den skal indgå i.

apo