Vejen til succesfuld brug af kunstig intelligens er brolagt med viden og uddannelse

Amalie Brogaard Pauli, Marie Rørdam Fenger og Niklas Kasenburg er specialister i digital transformation og forsker i kunstig intelligens på Alexandra Instituttet i Aarhus. Nærmere bestemt undersøger de netop nu i et toårigt projekt, hvordan man kan skabe bedre forklarlighed i brugen af kunstig intelligens, hvordan virksomheder kan skabe værdi i implementeringen af de nye teknologier, og hvordan det påvirker os som borgere og samfund, når vi begynder at skulle forholde os til, at computere indgår i forvaltningers behandling af vores data. CXO Magasinet har talt med dem om, hvordan man kan sikre, at den offentlige sektor udnytter digitalisering og ny teknologi på en måde, hvor vi samtidig højner kvaliteten af myndighedernes arbejde og styrker borgernes tillid.

Noget af det allerførste, de tre i den forbindelse understreger, er, at der er behov for en større forståelse for, hvad man kan og ikke kan opnå ved hjælp af kunstig intelligens.

“Helt generelt, så er der for lidt konkret viden på området, og derfor ser vi ofte, at der bliver talt meget fremtidsagtigt om, hvilke forandringer kunstig intelligens vil bidrage med i vores samfund. Diskussionen bliver derfor meget enten/eller. På den ene side finder vi dem, der elsker ny teknologi og ikke er særligt skeptiske, mens vi på den anden side ser dem, der er pessimistiske og frygter følgerne af teknologiudviklingen og derfor hæmmer udviklingen. Det er uheldigt, fordi det blot bliver forestillinger om, hvad kunstig intelligens kan og ikke kan, der skaber grobund for beslutninger om brug af teknologien, og det besværliggør udviklingen af en velfungerende digital offentlig sektor,” siger Marie Rørdam Fenger, Senior Digital Innovation Specialist, Alexandra Instituttet.

Nedbrydning af fordomme

Måske er det netop derfor, vi ofte ser stærke reaktioner i den offentlige debat om det digitaliserede samfund, og hvor det bevæger sig hen. I hvert fald ser de tre eksperter netop fordommene og den manglende viden som en af de største udfordringer i spørgsmålet om at sikre en succesfuld digitalisering af den offentlige sektor.

“Det er helt afgørende, at vi formår at øge den samlede viden hos borgerne om, hvad kunstig intelligens er, hvad den kan, og ikke mindst, hvad den ikke kan,” siger Amalie Brogaard Pauli, Machine Learning Specialist, Alexandra Instituttet, som eksempelvis slår fast, at systemer baseret på kunstig intelligens kun gør, hvad de får besked på.

“Vi støder gang på gang på undersøgelser, der viser, at befolkningen tror, at kunstig intelligens er klogere, end den er. Nogle tror måske, at systemer baseret på kunstig intelligens bliver ved med at forbedre sig, når de bruger dem, eller at systemerne bruger mange flere informationer, end de faktisk gør, eller at de kan anvende deres viden på nye opgaver. Alt sammen fordi det ville være intelligent, hvis systemet faktisk gjorde det. Men det er bare ofte ikke tilfældet. Ofte er kunstig intelligens blot et ord for et værktøj, der bruges til helt specifikke og afgrænsede opgaver, som det er programmeret til,” siger Amalie Brogaard Pauli.

Myndighederne står således ikke bare med en teknologi- og implementeringsudfordring, men også en udfordring i at gøre teknologien forklarlig og til en vis grad transparent over for både personale og borgere – og reelt også at få lovgivere til at forstå den teknologi, der har et potentiale til at højne kvaliteten af og effektivisere processer og beslutninger. Og at nedbryde de fejlagtige forestillinger om kunstig intelligens, der skulle opstå i processen.

Inddragelse og øget transparens

Eksperterne opfordrer derfor stat, region og kommuner til i højere grad at inddrage både personale og borgere tidligt i de digitale udviklingsprocesser for at sikre, at man udvikler nye systemer, der opleves som en hjælp for dem, og som borgere og personale fortsat føler, at de kan have tillid til.

“Involvering i starten af processen vil betyde, at man som myndighed får væsentlige input fra borgerne om deres holdning til kunstig intelligens, og hvad de evt. frygter ved stigende brug af kunstig intelligens. Og samtidig vil det skabe et øget kendskab hos borgerne og ikke mindst en øget transparens mellem myndighed og borgere,” siger Niklas Kasenburg, Machine Learning Specialist, Alexandra Instituttet.

Skabe mere tid til borgerne

Den samme opfordring om transparens gælder også i forhold til de konkrete beslutninger hos myndighederne, som påvirker den enkelte borger, og hvor kunstig intelligens har været involveret. Det bør være et formål alle steder at bevare mennesket i forvaltningen og sikre den menneskelige kontakt mellem borger og myndighed, lyder det fra trioen.

“Tilliden til den offentlige sektor i Danmark er høj, og den tillid er i høj grad båret af, at de mennesker, som borgerne møder i deres dagligdag, agerer ordentligt over for hinanden. Generelt prøver forvaltere af systemer ikke at snyde, men på at gøre det bedst mulige i situationen. Udfordringen ligger derfor i at udnytte teknologien, samtidig med at man sikrer, at systemet både er ordentligt og opfattes som sådan,” siger Amalie Brogaard Pauli, der bakkes op af Marie Rørdam Fenger.

“Skrækscenariet er, at vi stoler for meget på, at de kunstigt intelligente modeller, vi bygger, kan klare opgaverne bedre eller billigere end det faglige personale. Og at vi på den baggrund lader systemerne overtage væsentlige samfundsfunktioner på bekostning af den tætte relation mellem mennesker. Vi må ikke stole så meget på systemerne, at vi mister vores kritiske sans og i effektiviseringens navn tror, at vi kan programmere os til løsningerne,” forklarer hun og slår samtidig fast, at “teknologien skal bruges som beslutningsstøtte til fagpersonerne, således at de ansatte leverer en højere kvalitet.”

De indlysende fordele

En sikker vinder i kampen om den fortsatte tillid er desuden kontinuerligt at fortælle om de indlysende fordele, der opnås gennem brug af nye digitale værktøjer. Nogle af de fordele, der p.t. allerede opnås, er af ren administrativ karakter, men bør alligevel synliggøres. Det gælder fx skemaplanlægning på sygehuse og i hjemmeplejen. På samme måde skal myndigheder, følge de tre eksperter, være bedre til at fortælle om potentialet fremadrettet.

“Vi kigger fx lige nu på en case, hvor optikere, øjensygeplejersker og øjenlæger kan få såkaldt beslutningsstøtte fra store mængder af billeddata til at stille diagnoser på patienter hurtigere end det er muligt i dag,” fortæller Marie Rørdam Fenger.

En del af den åbenhed og transparens, der er brug for, handler også om, at man på tværs af myndigheder og eventuelt også på tværs af lande udveksler erfaring. Og at man ikke mindst lærer af både positive og negative erfaringer, der gøres.

Fokus på potentialet

I forlængelse heraf ser gruppen et stort potentiale i at synliggøre, hvordan teknologien forventes at kunne optimere eller forbedre den måde, der bliver taget beslutninger og forvaltet på i den offentlige sektor i dag.

“Et af de store potentialer, der ligger i ny teknologi, og som en øget udnyttelse af digitalisering og kunstig intelligens vil medføre, er fx at synliggøre bias, dvs. synliggøre skævheder, fx i vores socialvæsen eller retssystem, som man ellers ikke ville opdage,” siger Amalie Brogaard Pauli.

Ved hjælp af kunstig intelligens vil man potentielt kunne tilbyde borgerne en mere ensartet og formentlig også mere retfærdig service. Det er bredt anerkendt, at der i dag træffes beslutninger i den offentlige sektor, som på den ene eller den anden måde forfordeler nogle borgere frem for andre. Her kan kunstig intelligens måske være med til at afhjælpe den udfordring. Det kræver dog, at man er opmærksom på, at de data, man benytter, kan være biased. Ellers risikerer man derimod at videreføre en skævhed i beslutningstagningen.

“Bias er meget svært at undgå, men man kan spørge sig selv, hvad der er bedst: At man har et system, hvor man mistænker bias, men ikke ved det. Eller at man ved, at der er bias, og har et system, der kan rette op på det. Pointen er, at hvis man er opmærksom på bias, så kan man reagere på den,” siger Niklas Kasenburg.

Som en sidste opfordring fra de tre eksperter lyder det, at man i den offentlige sektor fremover skal være mere skarp på, hvad man vil med ny teknologi, hvilken viden man får, og hvordan man har tænkt sig at handle på den viden. Groft sagt, at man har en mere bevidst strategi på digitaliseringsområdet.