Skip to main content ITU
Logo
  • Uddannelser
    • Bachelor
    • BSc i Global Business Informatics
    • BSc i Digital Design og Interaktive Teknologier
    • BSc i Softwareudvikling
    • BSc i Data Science
    • Sådan søger du ind
    • Gæstestuderende på bachelorniveau
    • ITU Summer University på bachelorniveau
    • Kandidat
    • MSc i Digital Innovation & Management
    • MSc i Digital Design og Interaktive Teknologier
    • MSc i Softwaredesign
    • MSc i Data Science
    • MSc i Datalogi
    • MSc i Spil
    • Sådan søger du ind
    • Gæstestuderende på kandidatniveau
    • ITU Summer University på kandidatniveau
    • Studieliv
    • Spørg en studerende
    • Kvinder i tech
    • Studenterorganisationer
    • Studiestart
    • Labs for studerende
    • Specialpædagogisk støtte (SPS)
    • Studie- og Karrierevejledning
    • Besøg ITU
    • Åbent hus
    • Studerende for en dag
    • Studiepraktik i uge 43
    • Coding Café for unge kvinder
    • IT-Camp for unge kvinder
    • For gymnasielærere
    • Besøg ITU med klassen
    • Digital Dannelse
    • Coding Class
  • Efteruddannelser
    • Efteruddannelser
    • Se alle efteruddannelser
    • Besøg og arrangementer
    • Master i it
    • Om Master i it-ledelse
    • Sådan søger du ind
    • Nyhedsbrev
    • Kontakt
    • Enkeltfag
    • Se udbud af enkeltfag
    • Enkeltfag på masterniveau
    • Sådan søger du ind
    • Nyhedsbrev
    • Kontakt
    • Korte kurser | ITU Professional Courses
    • Se alle korte kurser
    • Nyhedsbrev
    • Kontakt
  • Forskning
    • Forskningsektioner
    • Data Science
    • Data, Systems and Robotics
    • Digital Business Innovation
    • Digitalization Democracy and Governance
    • Human-Computer Interaction and Design
    • Play Culture and AI
    • Software Engineering
    • Technologies in Practice
    • Theoretical Computer Science
    • Forskningscentre
    • Center for Digital Play
    • Center for Climate IT
    • Center for Computing Education Research
    • Center for Digital Velfærd
    • Forskningscenter for offentlig IT
    • Danish Institute for IT Program Management
    • Centre for Information Security and Trust
    • ITU Research Portal
    • Find forsker
    • Find forskning
    • Forskningsenheder
    • Forskningscentre
    • Forskningsektioner
    • Forskningsgrupper
    • Labs
    • Forskningsetik og -integritet
    • God forskningspraksis
    • Tekniske rapporter
    • Tekniske rapporter
    • Ph.d.-skole
    • Om Ph.d.-skolen
    • Ph.d.-kurser
    • Ph.d.-forsvar
    • Ph.d.-stillinger
    • Ph.d.-håndbog
    • Ph.d.-support
  • Erhvervssamarbejde
    • Samarbejde med Studerende
    • Projektsamarbejde
    • Projektmarked
    • Studiejob
    • Projektopslag
    • Job- og projektbank
    • Employer Branding
    • IT Match Making
    • Sådan ansætter du en ITU'er
    • Lav opslag i Jobbanken
    • Innovation og samarbejde
    • Læs mere om innovation og samarbejde
    • ErhvervsPhD
    • Ansæt en Erhvervs-p.hd
    • Maritime Hub
    • Innovation og iværksætteri
    • ITU Business Development
    • ITU NextGen
  • Om ITU
    • Om ITU
    • Presse
    • Stillinger
    • Kontakt
  • ENG
Stil krav til algoritmerne
ITU  /  Presse  /  Nyheder fra ITU  /  Stil krav til algoritmerne

Stil krav til algoritmerne

EU's nye persondataregler giver større gennemsigtighed, men vi må ikke glemme selv at tage stilling til, hvordan vores data bliver brugt, skriver Rasmus Pagh, professor i datalogi ved IT-Universitetet. Debatindlægget er bragt i Weekendavisen fredag den 1. juni 2018.

Institut for DatalogialgoritmerprivacyRasmus Pagh

Skrevet 1. juni 2018 07:33 af Rasmus Pagh

Algoritmer har større og større indflydelse på vores hverdag. I sundhedsvæsenet eksperimenterer man med at lade algoritmer hjælpe til at diagnosticere patienter ud fra scanningsbilleder.

Sagsbehandling og kundesupport kan delvist automatiseres ved hjælp af algoritmer (som for eksempel i SKATs vision om større automatisering af skatteinddrivelse og Nordeas satsning på chatbotter). Netbutikker bruger algoritmer til at vise potentielle kunder personligt tilpassede anbefalinger af varer. Algoritmer hjælper med at finde rejser, der passer til vores kriterier, og sørger for at matche publikum på streamingtjenesterne med film og musik, de synes om.

Og ikke at forglemme: Googles algoritmer hjælper os med at finde frem til præcis den information, vi er på jagt efter, når vi bruger deres søgemaskine.

Samtidig ser vi eksempler på, at samspillet mellem it-systemer og mennesker let kan gå galt. Algoritmer der fungerer perfekt i én sammenhæng kan begynde at lave utilsigtede fejl, hvis omstændighederne er nye.

Som for eksempel da Google Translate lavede oversættelser, der afspejlede kønsstereotyper. Eller da IBM’s prestigeprojekt Watson, der kan slå de bedste mennesker i verden i Jeopardy, troede at Toronto var en amerikansk by.

Elnettet, vandforsyningen og transportsektoren er underlagt klare regler og hyppig myndighedskontrol. Men på trods af, at vores samfund og kultur i større og større grad bygger på en infrastruktur, hvor algoritmer er centrale, er algoritmerne langt fra underkastet samme nøje granskning.


Når entreprenører opfører nye huse, er der strenge regler for brandsikkerhed. Elnettet, vandforsyningen og transportsektoren er underlagt klare regler og hyppig myndighedskontrol. Men på trods af, at vores samfund og kultur i større og større grad bygger på en infrastruktur, hvor algoritmer er centrale, er algoritmerne langt fra underkastet samme nøje granskning.

EU’s nye persondataforordning (GDPR) træder i kraft den 25. maj er dog et skridt i retning af, at den almindelige borger bedre skal kunne navigere i det digitale farvand – blandt andet gennem større gennemsigtighed om, hvordan en algoritme er nået frem til en bestemt beslutning.

Fremover skal virksomheder og organisationer gøre rede for, hvordan de opsamler og behandler personlige data. Borgerne får mere kontrol over, hvad deres personlige data bliver brugt til, og skal have mulighed for at anke beslutninger, der er truffet automatisk. Direktivet gælder alle virksomheder, der driver forretning i EU – altså også de amerikanske internetgiganter.

GDPR betyder langt fra, at vi kan læne os tilbage og regne med, at udviklingen nu er på rette kurs.


Men GDPR betyder langt fra, at vi kan læne os tilbage og regne med, at udviklingen nu er på rette kurs. GDPR giver kun en begrænset mulighed for indsigt i de algoritmer, der behandler vores data.

Og måske er fuld indsigt ikke engang nok, for sandheden er, at selv eksperter i algoritmer har en begrænset forståelse af de algoritmer, der bruges. Det skyldes delvist, at analyse af algoritmer er en ung disciplin (vi arbejder på det!), men også at det er komplekst at forstå, hvad der sker, når algoritmer behandler data fra en rodet, nogle gange kaotisk virkelighed.

Uanset hvor umage vi gør os, kommer algoritmernes råd, diagnoser og anbefalinger, ligesom menneskers, til at være behæftet med usikkerhed. Facebook har ikke altid ret, når dit ansigt genkendes på et billede. En automatisk analyse af din kreditværdighed eller din sundhed kan være fejlagtig. I nogle sammenhænge kan vi måske acceptere fejl og usikkerhed til gengæld for at få nye muligheder, men når det eksempelvis gælder vores økonomi, demokrati og sundhed, bør vi stille krav.

Vi skal holde øje med, at algoritmerne ikke utilsigtet bidrager til at øge ulighed og diskrimination ved at behandle befolkningsgrupper forskelligt. Det bliver kun vigtigere i takt med at algoritmiske beslutninger indføres på flere og flere områder.


Vi må finde den rigtige balance mellem på den ene side at sikre fairness og gennemskuelighed og på den anden side at gøre ny, værdiskabende teknologi mulig.

En start kunne være at stille krav om at den usikkerhed, der ligger i analysen af vores data, bliver synlig og kvantificérbar. I nogle sammenhænge bør det fx være muligt at få at vide, hvor ofte en algoritmes beslutninger er fejlagtige. Og vi skal holde øje med, at algoritmerne ikke utilsigtet bidrager til at øge ulighed og diskrimination ved at behandle befolkningsgrupper forskelligt. Det bliver kun vigtigere i takt med at algoritmiske beslutninger indføres på flere og flere områder.

Endelig skal vi huske, at selv om GDPR giver os nye muligheder for at få indsigt i og bestemme over, hvordan vores data bliver brugt, ændrer tingenes tilstand sig kun, hvis vi hver især gør brug af vores nyvundne indsigt i, hvad der sker med data.

Vi skal stemme på politikere, der tager ansvar for den digitale udvikling. Vi skal undgå virksomheder, der bruger vores data på måder, vi ikke stoler på.

Og sidst men ikke mindst må vi indse, at det kræver en folkeoplysningsindsats at ruste os til at forstå det algoritmiske samfund.

Mere information

Rasmus Pagh, professor, telefon +45 7218 5284, email pagh@itu.dk

Nyheder

"De vil ramme os på tilliden"

"De vil ramme os på tilliden"

6. maj 2025

Som en del af videnskabsfestivallen Forskningens Døgn havde IT-Universitetet og Dagbladet Information samlet en række eksperter for at tale om cyberkrig i Danmark, og hvor klar vi er til det. Minister for Samfundssikkerhed og Beredskab Torsten Schack Pedersen deltog også i samtalen.

Professorportræt: Nutan Limaye skubber til grænserne for beregningskompleksitet

Professorportræt: Nutan Limaye skubber til grænserne for beregningskompleksitet

1. maj 2025

Den 22. maj 2025 kl. 14:30 vil professor Nutan Limaye fra sektionen Theoretical Computer Science holde sin tiltrædelsesforelæsning i Auditorium 0 på IT-Universitetet i København. Forelæsningen har titlen: “My reflections on the last two decades and Complexity Theory”.

Professorportræt: Anna Vallgårda vil udfordre designet af omsorgsteknologi

Professorportræt: Anna Vallgårda vil udfordre designet af omsorgsteknologi

24. april 2025

Den 9. maj 2025 kl. 14.30 holder professor Anna Vallgårda sin tiltrædelsesforelæsning i Auditorium 0 på IT-Universitetet i København. Forelæsningen har titlen: ”Radical Redesign of Care Technologies”.

Er Danmark klar til cyberkrig?

Er Danmark klar til cyberkrig?

8. april 2025

En gruppe forskere fra IT-Universitetet i København undersøger, hvad Danmark kan lære af Ukraine i forhold til at forberede sig på cyberkrigsførelse. Cyberkrigsførelse påvirker ikke kun regeringer og virksomheder, men også civile, og forskerne spørger, hvad der skal gøre, hvis vi bliver angreb

Forskere vil lære matematikelever kritisk tænkning med data science

Forskere vil lære matematikelever kritisk tænkning med data science

31. marts 2025

I et nyt forskningsprojekt på IT-Universitetet og Københavns Universitet vil en gruppe forskere undersøge, hvordan data science kan blive en del af gymnasiets matematikundervisning for at give eleverne et bedre grundlag for kritisk tænkning og mulighed for at belyse og nuancere påstande de møder i deres hverdag.

Ny bog er en guide til succesfuld AI-implementering

Ny bog er en guide til succesfuld AI-implementering

28. marts 2025

Kunstig intelligens har stort potentiale i organisationer, men hvordan realiserer man det i praksis? Lektor og underviser på ITU’s Master i IT-ledelse, Carsten Lund Pedersen, er medforfatter til bogen ”Gunstig Intelligens,” der som den første af sin slags udstikker en kurs mod succes med AI-projekter i organisationen. Bogen kan forudbestilles nu.

ITU forsker sikrer bevilling til sikkerhedsoptimering af AI-systemer

ITU forsker sikrer bevilling til sikkerhedsoptimering af AI-systemer

19. marts 2025

Lektor Alessandro Bruni fra IT-Universitetet i København er i øjeblikket på Advanced Institute of Science and Technology i Japan, hvor han samarbejder med andre forskere om at udforske det matematiske fundament for verificering af maskinlæringssystemer. Projektet er støttet af Carlsbergfondet.

Professorportræt: Vasilis Galis fandt sin forskningsvej i Athens metro

Professorportræt: Vasilis Galis fandt sin forskningsvej i Athens metro

13. marts 2025

Den 28. marts 2025 kl. 14.30 holder professor Vasilis Galis fra sektionen Technologies in Practice sin tiltrædelsesforelæsning i Auditorium 0 på IT-Universitetet i København. Forelæsningen har titlen: ”Research against dead time”.

ITU-forsker undersøger valg i Grønland

ITU-forsker undersøger valg i Grønland

11. marts 2025

Den 11. marts 2025 er der valg til Inatsisartut (Grønlands parlament). I flere år har forskere fra ITU ledet af professor Carsten Schürmann og Center for Information Security and Trust undersøgt valg og muligheden for internetvalg i netop Grønland og valget i dag er ingen undtagelse.

DFF-støttet ITU-projekt skal udvikle teoretisk fundament for probabilistiske sessionstyper

DFF-støttet ITU-projekt skal udvikle teoretisk fundament for probabilistiske sessionstyper

6. marts 2025

Stigende teknologisk kompleksitet kræver en probabilitisk tilgang til kritisk vigtige it-systemer. Et nyt forskningsprojekt, anført af lektor på ITU Marco Carbone, vil skabe fundamentet for probabilistiske sessionstyper.

Urbane motorveje er barrierer for sociale forbindelser

Urbane motorveje er barrierer for sociale forbindelser

5. marts 2025

Forskere fra IT-Universitetet i København har bevist, at urbane motorveje begrænser sociale relationer i de 50 største byer i USA. Det er det første kvantitative studie af barriereeffekten af urbane motorveje i reduktionen af sociale relationer på tværs af nabolag.

Ny forskning skal finde effektive strategier til epidemiforebyggelse

Ny forskning skal finde effektive strategier til epidemiforebyggelse

26. februar 2025

Adjunkt på ITU Jonas Juul modtager Novo Nordisk Fondens Data Science Investigator-bevilling på knap 6,5 mio. kr. til et projekt, der bl.a. skal forbedre statistiske metoder til at forudsige smitteudbrud.

Within Limits – en kunstinstallation om beregningskraft og ressourcebegrænsning

Within Limits – en kunstinstallation om beregningskraft og ressourcebegrænsning

24. februar 2025

Den 7. marts inviterer kunstner Jacob Remin sammen med lektor James Maguire og postdoc Frauke Mennes fra Center for Klima-IT på ITU til åbningen af Within Limits – en kunstinstallation, der stiller spørgsmålstegn ved beregningskraft og ressourcegegrænsning.

ITU-studerende og -alumner vinder priser ved Copenhagen Gaming Week

ITU-studerende og -alumner vinder priser ved Copenhagen Gaming Week

21. februar 2025

ITU var repræsenteret med spil udviklet af både studerende og alumner fra universitetet ved Copenhagen Gaming Week og 'Spilprisen', som fandt sted i sidste uge. Studerende fra MSc Games vandt prisen for 'Best Student Game', mens alumner fra samme studieprogram vandt for 'Best Debut'.

Video: Kan kunst hjælpe os til at forstå AI?

Video: Kan kunst hjælpe os til at forstå AI?

13. februar 2025

Kunster og ekstern lektor på ITU, Mogens Jacobsen, arbejder med at lave digital kunst og bl.a. har skabt værker, der afslører iboende bias i de datasæt, som kunstig intelligens er trænet på.

Nyt forskningsprojekt vil finde mere inkluderende metoder til at udvikle algoritmer

Nyt forskningsprojekt vil finde mere inkluderende metoder til at udvikle algoritmer

10. februar 2025

Lektor Veronika Cheplygina har modtaget en ”Novo Nordisk Data Science Investigator”-bevilling på knap 11 mio. kr. Bevillingen kommer til at finansiere forskning i, hvordan mere inkluderende undervisnings- og forskningsmiljøer kan lede til bedre algoritmer for medicinsk billeddannelse.

Speciale om digital kløft i fængslerne vinder pris

Speciale om digital kløft i fængslerne vinder pris

31. januar 2025

Tre studerende fra ITU har vundet Institut for Menneskerettigheders Specialepris for deres speciale ”Fængslets digitale kløft”. I specialet undersøges det, hvordan den digitale kløft mellem indsatte i danske fængsler, og det omgivende samfund kan udbedres.

Ny forskning fra ITU analyserer angreb på store sprogmodeller

Ny forskning fra ITU analyserer angreb på store sprogmodeller

16. januar 2025

Hvad motiverer nogle til at manipulere med store sprogmodeller, og hvordan bærer de sig ad? I et nyt studie definerer forskere fra ITU såkaldt ”red teaming” af sprogmodeller for at øge sikkerheden i teknologien.

Jakob Grue Simonsen bliver ny prorektor på IT-Universitetet i København

Jakob Grue Simonsen bliver ny prorektor på IT-Universitetet i København

22. november 2024

Jakob Grue Simonsen, der kommer fra en stilling som institutleder på Datalogisk Institut, Københavns Universitet, har fokus på trivsel og samarbejde, når han tiltræder som prorektor på ITU d. 1.januar 2025.

Ny bog sætter fokus på digital stress på arbejdspladsen

Ny bog sætter fokus på digital stress på arbejdspladsen

21. november 2024

Interview: Tidligere ph.d.-studerende på IT-Universitetet, Raluca Stana, har sammen med sin daværende vejleder, lektor Hanne Westh Nicolajsen, skrevet en bog, som skal hjælpe virksomheder med at håndtere teknostress.

Kontakt os

Telefon
+45 7218 5000
E-mail
itu@itu.dk

Alle kontaktoplysninger

Tilgængelighedserklæring

Find os

IT-Universitetet i København
Rued Langgaards Vej 7
2300 København S
Danmark
Find vej

Følg os

ITU Student /
Privatliv /
EAN-nr. 5798000417878/
CVR-nr. 29 05 77 53 /
P-nummer 1005162959

Denne side er udskrevet fra https://itu.dk/404