Når AI lyder klog, skal mennesker stadig tænke med

Dømmekraft starter før du åbner AI-værktøjet

Mange taler om dømmekraft, som om det først handler om at tjekke svaret bagefter. Det er en vigtig del. Men den første vurdering kommer før prompten. Du står med en opgave og skal spørge: Er det her en god opgave for AI?

Hvis du skal have hjælp til at lave en første struktur til et internt notat, kan AI være ret nyttig. Hvis du skal skrive en følsom vurdering af et menneske, bruge fortrolige oplysninger eller træffe en beslutning med stor konsekvens, skal du være langt mere forsigtig. Måske skal AI slet ikke ind i opgaven. Måske skal den kun bruges til at formulere spørgsmål, du selv kan tage videre.

Det lyder lidt langsomt, men det sparer tit tid. En dårlig opgave bliver ikke bedre af, at AI svarer hurtigt. Hvis rammen er uklar, får du bare et flottere problem.

Godt sprog kan skjule svage svar

Det svære ved AI er, at fejlene ikke altid ser ud som fejl. Et menneske, der er usikker, tøver ofte. AI kan være usikker på en helt anden måde. Den svarer flydende, roligt og med en tone, der får det hele til at virke gennemtænkt.

Det kan ske med et sagsnotat, der lyder mere professionelt, men bygger på en forkert oplysning. Det kan ske med en mail, der bliver venligere, men stadig svarer på det forkerte problem. Det kan ske med et beslutningsoplæg, der virker balanceret, men kun nævner de modargumenter, der er lette at finde.

Derfor er dømmekraft ikke kun at rette kommaer eller tjekke, om teksten lyder pæn. Det er at spørge: Hvad ved vi faktisk? Hvad gætter vi på? Hvilke kilder kan vi pege på? Hvem bliver påvirket, hvis vi tager fejl?

Superkræfter handler om hjælp med ansvar

I Superkræfter-historierne er AI stærkest, når den giver et menneske mere at arbejde med. Den kan samle overblik i en svær situation. Den kan lave flere forklaringer til et barn, der prøver at lære noget. Den kan gøre en kreativ idé mere byggelig. Den kan få en agent til at løse dele af en opgave hurtigere.

Men i alle de situationer ligger ansvaret stadig hos mennesket. I far-historien kan AI hjælpe med research og overblik, men læger og pårørende skal stadig vurdere det vigtige. I læringshistorien kan AI lave variationer, men barnet skal stadig forstå. I kreativt arbejde kan AI give forslag, men smag, mening og retning ligger hos den person, der bygger noget.

Det er en god måde at forstå AI og dømmekraft på. AI giver flere muligheder. Mennesket vælger, tester, forkaster og tager ansvar for det, der går videre.

AI-hallucinationer er kun den synlige del

De fleste har efterhånden hørt, at AI kan hallucinerere. Den kan opfinde en kilde. Den kan blande to ting sammen. Den kan skrive et navn, et tal eller en regel, som lyder rigtigt, men ikke passer.

Den slags skal selvfølgelig tjekkes. Hvis AI nævner en rapport, skal rapporten findes. Hvis AI skriver et citat, skal citatet kontrolleres. Hvis AI giver en juridisk, sundhedsfaglig eller økonomisk vurdering, skal et menneske med den rigtige faglighed ind over.

Men der findes også mere stille fejl. AI kan overse den lokale kontekst. Den kan gøre en konflikt mere neutral, end den er. Den kan give et forslag, der virker praktisk, men flytter arbejdet over på en kollega. Den kan skrive noget, der er sandt i almindelighed, men forkert i netop jeres situation.

De fejl er sværere, fordi man ikke kan fange dem med et hurtigt faktatjek. Her kræver det erfaring, kendskab til mennesker og en fornemmelse for, hvad opgaven egentlig handler om.

Tre hverdagssituationer hvor dømmekraften betyder noget

Den første situation er medarbejderen, der bruger AI til et sagsnotat. AI kan hjælpe med struktur, overskrifter og et mere klart sprog. Men oplysningerne skal stadig kunne dokumenteres. Her handler kvalitet om kilder, sporbarhed og en fagperson, der kan stå inde for indholdet.

Den anden situation er lederen, der bruger AI til beslutningsforberedelse. Modellen kan lave argumenter, scenarier og mulige risici. Det kan være nyttigt, fordi lederen får flere vinkler på bordet. Men AI kender ikke alle relationer, historikken i organisationen eller de mennesker, beslutningen rammer. Her er dømmekraft at bruge AI til at se mere, før man vælger.

Den tredje situation er AI-agenten, der kan handle. Den kan måske finde oplysninger, oprette kladder, skrive til systemer eller foreslå næste skridt. Jo tættere AI kommer på handling, jo tydeligere skal stopreglerne være. Hvem må godkende? Hvad skal logges? Hvornår skal agenten stoppe og bede et menneske tage over?

Kilder er ikke pynt nederst på siden

Når AI bruges til research, er kilder ikke noget, man lige drysser på til sidst. De er forskellen på overblik og illusion. Hvis et svar skal bruges til en beslutning, skal du kunne se, hvad det bygger på.

En praktisk måde at gøre det på er at bede AI skille tingene ad. Hvad er dokumenteret? Hvad er en sandsynlig forklaring? Hvad mangler der kilder på? Hvilke kilder peger i en anden retning? Hvad kan modellen ikke vide?

Det betyder ikke, at hver eneste lille opgave skal blive akademisk. Hvis du bruger AI til at finde ti overskrifter til et internt møde, er kildekravet lavt. Hvis du bruger AI til et oplæg, der påvirker budget, borgere, patienter, medarbejdere eller kunder, stiger kravet. Så skal svaret kunne bære vægt.

Review skal føles normalt

Mange organisationer prøver at løse AI-kvalitet med en tjekliste. Det kan være et fint sted at begynde. Problemet kommer, hvis tjeklisten bliver noget, man klikker igennem, når teksten allerede er på vej ud af døren.

Et godt review er mere levende. En kollega kan spørge: Hvad bad du AI om? Hvilke dele har du selv tjekket? Hvilke kilder bærer konklusionen? Hvad er du stadig usikker på? Hvad ville en kritisk læser sige?

Det kræver en kultur, hvor de spørgsmål ikke bliver opfattet som irritation. De er en del af arbejdet. Når AI kan producere flere udkast på kortere tid, får vi brug for flere gode vurderinger, ikke færre.

En enkel regel kan hjælpe: AI-output må ikke sendes videre som færdigt arbejde uden en menneskelig note. Bare tre linjer kan være nok. Hvad er brugt? Hvad er tjekket? Hvad skal modtageren være opmærksom på?

Menneskelig kontrol skal kunne ses i praksis

Både NIST, OECD og EU's AI Act taler på forskellige måder om risiko, ansvar og menneskelig kontrol. Det kan lyde tungt, men i hverdagen er pointen ret enkel: Der skal være et menneske, der kan forstå, stoppe og forklare brugen af AI.

Det menneske behøver ikke vide alt om modeller. Men personen skal kunne se, hvad AI har gjort i opgaven. Hvilke oplysninger er brugt? Hvilke valg er taget? Hvilke trin kan kontrolleres? Hvor kan man stoppe processen, hvis noget ser forkert ud?

Hvis ingen kan forklare det, har organisationen et problem. Så bliver AI til en sort boks, der producerer tekst, forslag eller handlinger, som mennesker bagefter skal leve med.

Nogle gange er den bedste AI-beslutning at lade være

Der findes opgaver, hvor AI kan være en stor hjælp. Der findes også opgaver, hvor det rigtige er at lukke værktøjet igen.

Hvis opgaven kræver fortrolige oplysninger, og værktøjet ikke er godkendt til dem, skal data blive ude. Hvis et AI-svar kan ligne en faglig vurdering, skal en fagperson ind over, før nogen bruger det. Hvis relationen er vigtigere end effektiviteten, skal man tænke sig om, før man lader AI formulere beskeden.

Det er ikke modstand mod teknologi. Det er almindelig faglighed. En organisation, der kan sige nej de rigtige steder, får også lettere ved at sige ja de rigtige steder.

Start med én opgavetype

Hvis en organisation vil arbejde bedre med AI og dømmekraft, behøver den ikke begynde med en stor strategi. Den kan begynde med én opgavetype.

Vælg for eksempel mødenoter, interne udkast, research til beslutningsoplæg eller tekster til en bestemt målgruppe. Aftal hvad AI må hjælpe med. Aftal hvilke kilder der kræves. Aftal hvem der godkender. Aftal også hvad der gør et svar ubrugeligt.

Så bliver læringen konkret. Folk opdager hurtigt, hvor AI sparer tid, hvor den forvirrer, og hvor reviewet skal være stærkere. Efter nogle gentagelser har teamet et fælles sprog. Det er meget mere værd end en politik, ingen tør bruge.

Dømmekraft skal tales om sammen

AI og dømmekraft er svært at sende ud som et dokument og forvente, at alle forstår det ens. Folk har forskellige erfaringer. Nogle har allerede brugt AI i månedsvis. Andre har kun prøvet lidt. Nogle er begejstrede. Andre er bekymrede for kvalitet, data og ansvar.

Et foredrag eller en workshop kan samle de forskelle i samme rum. Når mennesker hører konkrete historier, bliver det lettere at tale om egne opgaver. Når nogen tør sige, at et AI-svar lyder godt, men stadig skal tjekkes, får andre lov til at tænke det samme.

Det er her Superkræfter passer ind. Bogen giver historierne. Foredraget kan gøre dem til fælles sprog i en organisation. Folk får konkrete billeder, de kan bruge, når de skal tale roligt om teknologi, mennesker og ansvar.