Ansvarlig kunstig intelligens – et etisk dilemma

Fire hovedområder

Der er særligt fire hovedområder, man som ledelse bør forholde sig til. Det første handler om sikkerhed og robusthed, samt hvordan man kan validere, overvåge og vedligeholde sin AI-løsning. De andre punkter stiller skarpt på styringsmodeller, formidling, etik og moral, AI-algoritmer samt beslutningsprocesser.

1. Hvordan kan vi forbedre sikkerheden og robustheden af AI-anvendelsen via validering, kontinuerlig overvågning og vedligeholdelse?

Når man vil anvende AI og i den forbindelse træne en ‘model’, er det yderst vigtigt, at modellen er så korrekt som muligt. En model kan nemlig blive ‘biased’, hvis den tilføres forkert træningsdata eller misvisende forretningslogik.

Afspejler træningsdata ikke virkeligheden, kommer modellen til at have en skævvridning i forhold til virkeligheden. Det vil i sidste ende betyde, at modellen vil fremkomme med forkerte anbefalinger/forudsigelser.

Hvis man som privat virksomhed eller offentlig organisation står over for at skulle lancere en AI-assistent, er det derfor vigtigt at lave et kontrol-setup eller en kontrolmekanisme, der skal sikre, at modellen opfører sig, som den skal.

“Hvis en sagsbehandler i den offentlige sektor skal kunne rådføre sig med en AI-assistent, kræver det, at den ‘menneskelige beslutningskraft’ fortsat er til stede. Man kan for eksempel operere med et scenarie, hvor AI-assistenten giver sagsbehandleren en ‘second opinion’ baseret på de træningsdata, den har fået. Det er her ekstremt vigtigt, at virksomheden eller organisationen regelmæssigt tester korrektheden af data. Man skal således altid kunne lægge til og trække fra og vurdere assistentens anbefalinger. Det kræver en løbende validering i kraft af et kontrolmiljø,” forklarer Esben Toft.

2. Hvad kan vi gøre for at sikre gennemsigtighed og ‘klar tale’ i formidlingsprocessen – og hvorfor er det vigtigt?

Når befolkningen for eksempel afgiver data til den offentlige eller private sektor, skal det være 100 procent klart for den enkelte borger, hvordan disse data vil blive brugt. Man skal være transparent og præcis i sin formidling. Derudover skal også resultatet af brugen af data formidles præcist. Men hvordan kan det sikres?

Esben Toft uddyber: “Hvis man har en AI-assistent, der kommer med en konkret anbefaling til dig som sagsbehandler i det offentlige, og du vælger at følge den – og der så kommer en klagesag ud af det efterfølgende – er det helt centralt at kunne dokumentere, hvorfor assistenten har anbefalet dét, den har, da det er et vigtigt element i forhold til at kunne forsvare de afgørelser, man som sagsbehandler har truffet.”

3. Hvordan vurderer vi de etiske, moralske og lovgivningsmæssige konsekvenser af udviklingen og brugen af AI?

Det er vigtigt, at de etiske, moralske og lovgivningsmæssige konsekvenser i forhold til anvendelsen af AI vurderes på ledelsesplan. Det gælder ikke mindst i en politisk styret organisation, da det ofte vil være de politisk ansvarlige, der skal kunne stå på mål for brugen af AI.

“Tag derfor diskussionen i ledergruppen. Det er essentielt, at alle i ledelsen er enige med hensyn til, hvad man vil være med til, og hvad man ikke vil være med til. Ved at tage diskussionen kan man sikre et beredskab, samtidig med at man gør virksomheden/organisationen langt mere modstandsdygtig i forhold til eventuelle udefrakommende trusler, for eksempel i form af negativ medieomtale,” fortæller Esben Toft.

4. Hvordan kan vi designe effektive AI-algoritmer og beslutningsprocesser, så de understøtter ansvarlighed og kvalitet?

Som offentlig organisation bør man i høj grad kommunikere om sin brug af AI. Man skal stå ved det og turde melde ud, at man benytter sig af teknologien. Man skal også være åben omkring, hvordan brugen af AI skaber kvalitet og værdi for den enkelte borger. Derudover skal man kommunikere, at data konsekvent håndteres korrekt og ansvarligt.

Netop den menneskelige brug af AI-algoritmer er her et centralt omdrejningspunkt – samt mere specifikt spørgsmålet om, hvordan et menneske skal interagere med AI-algoritmer.

“Man kan vælge imellem flere tilgange. For eksempel kan man vælge en AI-model, der som udgangspunkt leder sagens gang – men når algoritmen er i tvivl, tager den fat i sagsbehandleren. En anden måde kunne være, at det altid er sagsbehandleren, der bestemmer og kører alle sager. Men hvis sagsbehandleren så er i tvivl, konsulterer han eller hun AI-modellen. Dette skal der træffes et klart valg om, og man skal som ledelse være fuldt ud bevidst om valget. Dermed gøres valget også ansvarligt,” afslutter Esben Toft.