Dansk myndighed stoppede Thorborgs AI-assistent: Direkte forkert og tarvelig

Den kendte danske direktør og iværksætter Mikkel Thorborg lancerede for nylig en AI-assistent, som hurtigt tiltrak sig opmærksomhed – men ikke den ønskede slags. En dansk myndighed greb ind og beordrede assistenten stoppet med ordene "direkte forkert og lidt tarvelig". Det rejser en række vigtige spørgsmål om, hvad der faktisk skete, og hvad det betyder for AI-udvikling i Danmark.

Hvad er problemet?

AI-assistenter bygget på store sprogmodeller har en iboende udfordring: de kan generere svar, der er faktuel forkerte, misvisende eller i værste fald krænkende – selv når de præsenteres autoritativt og tillidsskabende. Når en prominent offentlig figur sætter sit navn og ansigt på en sådan løsning, skærpes kravene til nøjagtighed og ansvarlighed markant.

Myndighedens kritik om at indholdet var "direkte forkert" peger på et kerneproblem i AI-verdenen: hallucination. Sprogmodeller som GPT-4, Claude og Gemini er designet til at generere sandsynlige tekster – ikke nødvendigvis sandfærdige. Uden robust grounding i verificerede datakilder og uden løbende fact-checking kan en AI-assistent fremføre urigtige påstande med stor selvsikkerhed.

Hvornår er en AI-assistent tarvelig?

Karakteristikken "tarvelig" er mere subjektiv, men næppe tilfældig valgt. Det tyder på, at assistentens tone eller indhold brød med normer for professionel og respektfuld kommunikation. I takt med at AI-assistenter bruges til alt fra kundeservice til politisk rådgivning, stiger risikoen for, at systemer adopterer en upassende eller manipulerende kommunikationsstil.

Regulering og ansvar

Sagen illustrerer det regulatoriske tomrum, som mange lande – herunder Danmark – stadig navigerer i. EU's AI Act er på vej, men implementeringen er gradvis. Mens lovgivningen indhenter teknologien, er det op til myndigheder og virksomheder selv at trække grænser.

Når en myndighed siger stop, sender det et klart signal: ansvaret for en AI-assistents output hviler på den, der udgiver den. Det er ikke nok at gemme sig bag en disclaimer om, at "AI kan lave fejl". Særligt ikke, når assistenten markedsføres under en persons navn og omdømme.

Hvad kan vi lære?

For danske virksomheder og udviklere er lektionen tydelig: Før en AI-assistent lanceres med en persons eller brands identitet, skal der foretages grundig validering af output, klare retningslinjer for tone og indhold, og løbende overvågning af, hvad systemet rent faktisk svarer brugerne. En hurtig lancering kan koste dyrt – både regulatorisk og omdømmemæssigt.