ITU-forskningsprojekt stiller skarpt på hvordan AI ændrer os som mennesker
Professor ved ITU, Jichen Zhu, har sikret 7,19 millioner kroner fra Danmarks Frie Forskningsfond til et nyt projekt, der undersøger, hvordan mennesker bruger kunstig intelligens i forbindelse med følelsesgenkendelse – og hvordan man designer værktøjer, der understøtter en mere ansvarlig anvendelse.
Jichen ZhuForskningalgoritmerbevillingerkunstig intelligens
Skrevet 24. november 2025 12:01 af Theis Duelund Jensen
Kunstige intelligenssystemer er i stigende grad indlejret i hverdagen, fra anbefalingsalgoritmer til apps, der kan registrere følelser og humør. Men efterhånden som disse teknologier udvikler sig, advarer forskere om en voksende risiko: overdreven afhængighed af AI-forudsigelser, selv på områder, hvor der ikke findes et klart “rigtigt” svar.
”Når vi beder AI fortælle os, hvordan vi har det, risikerer vi at skabe et usundt forhold til teknologi. Hvis brugere begynder at tro, at AI kender deres følelser bedre end dem selv, ændrer det, hvad det vil sige at være menneske,” siger professor ved ITU, Jichen Zhu, hvis forskningsprojekt Reducing Over-reliance and Fostering Responsible use of Emotion Tracking through Self-Reflection for nylig har modtaget en bevilling på 7,19 millioner kroner fra DFF.
Eksisterende forskning om overdreven afhængighed antager ofte en objektiv sandhed – for eksempel om en AI korrekt forudsiger en medicinsk diagnose. Men på subjektive områder som følelsesdetektion findes der ingen baseline. ”Hvis folk accepterer AI’s forudsigelse som fakta, tager modellen pr. definition aldrig fejl,” forklarer Jichen Zhu. ”Det skaber en ny form for sammenfletning [på engelsk Entanglement] mellem mennesker og maskiner.”
Jichen Zhus projekt har to mål. For det første at forstå, hvordan og hvornår overdreven afhængighed opstår. Gennem kvalitative brugerundersøgelser vil forskerne observere, hvordan folk interagerer med modeller til følelsesgenkendelse og identificere faktorer, der påvirker tillid og afhængighed. For det andet at designe interaktionsmekanismer, der fremmer selvrefleksion. I stedet for blot at forbedre modellens nøjagtighed fokuserer forskningen på at give brugerne mulighed for kritisk at evaluere AI-forudsigelser frem for at acceptere dem ukritisk.
”Vi vil gerne sætte tempoet ned,” siger Jichen Zhu. ”I stedet for straks at vise en forudsigelse, kan vi så skabe øjeblikke, der giver ro til refleksion? Kan vi give forklaringer, der hjælper brugerne til at træffe deres egne valg?”
Projektet er teknologi-agnostisk og lægger vægt på menneskelig adfærd og interaktionsdesign frem for modelpræstation. Målet er i sidste ende at etablere designprincipper og retningslinjer for ansvarlig AI-brug – retningslinjer, der kan anvendes på tværs af områder, hvor AI-beslutninger møder den menneskelige erfaring.
”AI er kommet for at blive,” konkluderer Jichen Zhu. ”Spørgsmålet er ikke, om vi bruger det, men hvordan vi bruger det på måder, der respekterer og understøtter, hvad det vil sige at være menneske.”
Theis Duelund Jensen, Presseansvarlig, telefon +45 2555 0447, email thej@itu.dk