Skugg-AI är inte ett läkarfenomen

Skugg-AI är när anställda använder AI-tjänster som organisationen inte har godkänt, kontrollerar eller ens känner till - ChatGPT i den privata webbläsaren, till exempel. Begreppet är lånat från "skugg-IT", och en färsk studie visar att 357 svenska läkare arbetar så i dag.

Studien handlar om läkare och kan inte säga något om psykologer, sjuksköterskor eller kuratorer. Men jag har svårt att tro att fenomenet stannar vid läkarkåren. Drivkrafterna finns överallt i klinisk verksamhet: hög arbetsbelastning, stora informationsmängder och situationer där komplex information snabbt ska vägas samman.

Tänk på en psykolog mitt i en neuropsykiatrisk utredning. Anamnes, självskattningar, anhöriguppgifter, observationer och testresultat ligger på skrivbordet. Differentialdiagnostiken är svår, och arbetsplatsen har inget godkänt AI-stöd.

Men hemma i webbläsaren finns en generell AI-tjänst. Psykologen klistrar in delar av materialet och frågar:

Vilka differentialdiagnoser bör jag överväga? Vilka fynd talar för respektive emot ADHD? Har jag missat några motsägelser?

Svaret kommer på några sekunder - sorterat, strukturerat, kanske med ett imponerande kliniskt resonemang. Nyttan för psykologen kan vara enorm.

Men samtidigt uppstår frågor ingen har svarat på. Vilken information har lämnat organisationen, och var behandlas den? Är verktyget över huvud taget lämpat för klinisk bedömning? Hur mycket färgar AI:ns resonemang psykologens egen slutsats - och vem upptäcker det när resonemanget är övertygande men fel?

Psykologen i exemplet är inte mindre etisk än sina kollegor. Avsikten är tvärtom att göra en bättre utredning. Problemet är att konsekvenserna är asymmetriska: vinsten är omedelbar och synlig, riskerna är fördröjda och diffusa. Det är exakt den obalans studien ser hos läkarna.

Därför räcker det inte att säga "du får inte använda ChatGPT i utredningar". Om den godkända vägen innebär att allt ska göras manuellt, medan ett verktyg som löser problemet finns några sekunder bort, har organisationen byggt en miljö där det förbjudna beteendet belönas varje dag.

Vården lärde sig detta med handhygienen: följsamheten ökade inte av fler regler, utan när desinfektionen placerades där arbetet sker. Vill vi ändra beteende måste det säkra alternativet vara det enkla.

Det betyder att vården behöver erbjuda kliniker AI-verktyg med rätt säkerhet, styrning och begränsningar - som samtidigt är tillräckligt bra för att lösa de problem som får människor att söka sig till skugg-AI från första början.