Skip to main content ITU
Logo
  • Uddannelser
    • Bachelor
    • BSc i Global Business Informatics
    • BSc i Digital Design og Interaktive Teknologier
    • BSc i Softwareudvikling
    • BSc i Data Science
    • Sådan søger du ind
    • Gæstestuderende på bachelorniveau
    • ITU Summer University på bachelorniveau
    • Kandidat
    • MSc i Digital Innovation & Management
    • MSc i Digital Design og Interaktive Teknologier
    • MSc i Softwaredesign
    • MSc i Data Science
    • MSc i Datalogi
    • MSc i Spil
    • Sådan søger du ind
    • Gæstestuderende på kandidatniveau
    • ITU Summer University på kandidatniveau
    • Studieliv
    • Spørg en studerende
    • Kvinder i tech
    • Studenterorganisationer
    • Studiestart
    • Labs for studerende
    • Specialpædagogisk støtte (SPS)
    • Studie- og Karrierevejledning
    • Besøg ITU
    • Åbent hus
    • Studerende for en dag
    • Studiepraktik i uge 43
    • Coding Café for unge kvinder
    • IT-Camp for unge kvinder
    • For gymnasielærere
    • Besøg ITU med klassen
    • Digital Dannelse
    • Coding Class
  • Efteruddannelser
    • Efteruddannelser
    • Se alle efteruddannelser
    • Besøg og arrangementer
    • Master i it
    • Om Master i it-ledelse
    • Sådan søger du ind
    • Nyhedsbrev
    • Kontakt
    • Enkeltfag
    • Se udbud af enkeltfag
    • Enkeltfag på masterniveau
    • Sådan søger du ind
    • Nyhedsbrev
    • Kontakt
    • Korte kurser | ITU Professional Courses
    • Se alle korte kurser
    • Nyhedsbrev
    • Kontakt
  • Forskning
    • Forskningsektioner
    • Data Science
    • Data, Systems and Robotics
    • Digital Business Innovation
    • Digitalization Democracy and Governance
    • Human-Computer Interaction and Design
    • Play Culture and AI
    • Software Engineering
    • Technologies in Practice
    • Theoretical Computer Science
    • Forskningscentre
    • Center for Digital Play
    • Center for Climate IT
    • Center for Computing Education Research
    • Center for Digital Velfærd
    • Forskningscenter for offentlig IT
    • Danish Institute for IT Program Management
    • Centre for Information Security and Trust
    • ITU Research Portal
    • Find forsker
    • Find forskning
    • Forskningsenheder
    • Forskningscentre
    • Forskningsektioner
    • Forskningsgrupper
    • Labs
    • Forskningsetik og -integritet
    • God forskningspraksis
    • Tekniske rapporter
    • Tekniske rapporter
    • Ph.d.-skole
    • Om Ph.d.-skolen
    • Ph.d.-kurser
    • Ph.d.-forsvar
    • Ph.d.-stillinger
    • Ph.d.-håndbog
    • Ph.d.-support
  • Erhvervssamarbejde
    • Samarbejde med Studerende
    • Projektsamarbejde
    • Projektmarked
    • Studiejob
    • Projektopslag
    • Job- og projektbank
    • Employer Branding
    • IT Match Making
    • Sådan ansætter du en ITU'er
    • Lav opslag i Jobbanken
    • Innovation og samarbejde
    • Læs mere om innovation og samarbejde
    • ErhvervsPhD
    • Ansæt en Erhvervs-p.hd
    • Maritime Hub
    • Innovation og iværksætteri
    • ITU Business Development
    • ITU NextGen
  • Om ITU
    • Om ITU
    • Presse
    • Stillinger
    • Kontakt
  • ENG
Stil krav til algoritmerne
ITU  /  Presse  /  Nyheder fra ITU  /  Stil krav til algoritmerne

Stil krav til algoritmerne

EU's nye persondataregler giver større gennemsigtighed, men vi må ikke glemme selv at tage stilling til, hvordan vores data bliver brugt, skriver Rasmus Pagh, professor i datalogi ved IT-Universitetet. Debatindlægget er bragt i Weekendavisen fredag den 1. juni 2018.

Institut for DatalogialgoritmerprivacyRasmus Pagh

Skrevet 1. juni 2018 07:33 af Rasmus Pagh

Algoritmer har større og større indflydelse på vores hverdag. I sundhedsvæsenet eksperimenterer man med at lade algoritmer hjælpe til at diagnosticere patienter ud fra scanningsbilleder.

Sagsbehandling og kundesupport kan delvist automatiseres ved hjælp af algoritmer (som for eksempel i SKATs vision om større automatisering af skatteinddrivelse og Nordeas satsning på chatbotter). Netbutikker bruger algoritmer til at vise potentielle kunder personligt tilpassede anbefalinger af varer. Algoritmer hjælper med at finde rejser, der passer til vores kriterier, og sørger for at matche publikum på streamingtjenesterne med film og musik, de synes om.

Og ikke at forglemme: Googles algoritmer hjælper os med at finde frem til præcis den information, vi er på jagt efter, når vi bruger deres søgemaskine.

Samtidig ser vi eksempler på, at samspillet mellem it-systemer og mennesker let kan gå galt. Algoritmer der fungerer perfekt i én sammenhæng kan begynde at lave utilsigtede fejl, hvis omstændighederne er nye.

Som for eksempel da Google Translate lavede oversættelser, der afspejlede kønsstereotyper. Eller da IBM’s prestigeprojekt Watson, der kan slå de bedste mennesker i verden i Jeopardy, troede at Toronto var en amerikansk by.

Elnettet, vandforsyningen og transportsektoren er underlagt klare regler og hyppig myndighedskontrol. Men på trods af, at vores samfund og kultur i større og større grad bygger på en infrastruktur, hvor algoritmer er centrale, er algoritmerne langt fra underkastet samme nøje granskning.


Når entreprenører opfører nye huse, er der strenge regler for brandsikkerhed. Elnettet, vandforsyningen og transportsektoren er underlagt klare regler og hyppig myndighedskontrol. Men på trods af, at vores samfund og kultur i større og større grad bygger på en infrastruktur, hvor algoritmer er centrale, er algoritmerne langt fra underkastet samme nøje granskning.

EU’s nye persondataforordning (GDPR) træder i kraft den 25. maj er dog et skridt i retning af, at den almindelige borger bedre skal kunne navigere i det digitale farvand – blandt andet gennem større gennemsigtighed om, hvordan en algoritme er nået frem til en bestemt beslutning.

Fremover skal virksomheder og organisationer gøre rede for, hvordan de opsamler og behandler personlige data. Borgerne får mere kontrol over, hvad deres personlige data bliver brugt til, og skal have mulighed for at anke beslutninger, der er truffet automatisk. Direktivet gælder alle virksomheder, der driver forretning i EU – altså også de amerikanske internetgiganter.

GDPR betyder langt fra, at vi kan læne os tilbage og regne med, at udviklingen nu er på rette kurs.


Men GDPR betyder langt fra, at vi kan læne os tilbage og regne med, at udviklingen nu er på rette kurs. GDPR giver kun en begrænset mulighed for indsigt i de algoritmer, der behandler vores data.

Og måske er fuld indsigt ikke engang nok, for sandheden er, at selv eksperter i algoritmer har en begrænset forståelse af de algoritmer, der bruges. Det skyldes delvist, at analyse af algoritmer er en ung disciplin (vi arbejder på det!), men også at det er komplekst at forstå, hvad der sker, når algoritmer behandler data fra en rodet, nogle gange kaotisk virkelighed.

Uanset hvor umage vi gør os, kommer algoritmernes råd, diagnoser og anbefalinger, ligesom menneskers, til at være behæftet med usikkerhed. Facebook har ikke altid ret, når dit ansigt genkendes på et billede. En automatisk analyse af din kreditværdighed eller din sundhed kan være fejlagtig. I nogle sammenhænge kan vi måske acceptere fejl og usikkerhed til gengæld for at få nye muligheder, men når det eksempelvis gælder vores økonomi, demokrati og sundhed, bør vi stille krav.

Vi skal holde øje med, at algoritmerne ikke utilsigtet bidrager til at øge ulighed og diskrimination ved at behandle befolkningsgrupper forskelligt. Det bliver kun vigtigere i takt med at algoritmiske beslutninger indføres på flere og flere områder.


Vi må finde den rigtige balance mellem på den ene side at sikre fairness og gennemskuelighed og på den anden side at gøre ny, værdiskabende teknologi mulig.

En start kunne være at stille krav om at den usikkerhed, der ligger i analysen af vores data, bliver synlig og kvantificérbar. I nogle sammenhænge bør det fx være muligt at få at vide, hvor ofte en algoritmes beslutninger er fejlagtige. Og vi skal holde øje med, at algoritmerne ikke utilsigtet bidrager til at øge ulighed og diskrimination ved at behandle befolkningsgrupper forskelligt. Det bliver kun vigtigere i takt med at algoritmiske beslutninger indføres på flere og flere områder.

Endelig skal vi huske, at selv om GDPR giver os nye muligheder for at få indsigt i og bestemme over, hvordan vores data bliver brugt, ændrer tingenes tilstand sig kun, hvis vi hver især gør brug af vores nyvundne indsigt i, hvad der sker med data.

Vi skal stemme på politikere, der tager ansvar for den digitale udvikling. Vi skal undgå virksomheder, der bruger vores data på måder, vi ikke stoler på.

Og sidst men ikke mindst må vi indse, at det kræver en folkeoplysningsindsats at ruste os til at forstå det algoritmiske samfund.

Mere information

Rasmus Pagh, professor, telefon +45 7218 5284, email pagh@itu.dk

Nyheder

ITU sikrer to Danish Data Science Academy Fellowships

ITU sikrer to Danish Data Science Academy Fellowships

26. juni 2025

Hvert år uddeler DDSA i alt 10 ph.d.- og 6 postdocstipendier. I år har ITU sikret sig to – Nils Grünefeld, som skal gennemføre en ph.d. i maskinlæring og naturlig sprogbehandling, og Ola Rønning, som skal lave et postdoc-projekt inden for probabilistisk programmering.

ITU-forsker vil forbedre statistikmodeller

ITU-forsker vil forbedre statistikmodeller

26. juni 2025

Professor Andrzej Wasowski har fået 6,1 mio. kr. fra Danmarks Frie Forskningsfond. Bevillingen gives til et projekt, der skal undersøge, hvordan sandsynlighedsmodeller kan blive mere pålidelige.

ITU-forsker modtager bevilling til projekt om verifikation af programmer med refleksion

ITU-forsker modtager bevilling til projekt om verifikation af programmer med refleksion

24. juni 2025

Adjunkt ved IT- Universitetet i København, Eduard Kamburjan, har fået en Sapere Aude-bevilling på næsten 6,2 millioner kr. fra Danmarks Frie Forskningsfond. Bevillingen vil finansiere et projekt, der skal undersøge, hvordan man kan verificere programmer, der bruger refleksion.

Morten Hjelholt bliver forskningschef på ITU

Morten Hjelholt bliver forskningschef på ITU

20. juni 2025

Professor Morten Hjelholt har været konstitueret forskningsleder siden januar og fremhæves for sit store "engagement, sin overbevisning og sin ledelsesfilosofi". Fra 1. august overtager han stillingen permanent.

Forskere fra ITU vil bringe klassisk musik tættere på dig

Forskere fra ITU vil bringe klassisk musik tættere på dig

17. juni 2025

Er det muligt at bruge teknologi til at bringe kunst og musik tættere på mennesker? Det er et af formålene med forskningsprojektet XTREME, der undersøger, hvordan mixed reality kan blive brugt til at bringe musik- og kunstoplevelser til publikummer, der ellers møder barrierer for at få adgang til dem.

Jonas Juul er optaget i Det Unge Akademi

Jonas Juul er optaget i Det Unge Akademi

10. juni 2025

Det Unge Akademi løftede i fredags sløret for, hvilke talentfulde unge forskere der er blevet optaget i år. Blandt dem er adjunkt Jonas Juul fra IT-Universitetet i København

Professorportræt: Thomas Binders forskning forbinder sig til en verden i forandring

Professorportræt: Thomas Binders forskning forbinder sig til en verden i forandring

2. juni 2025

Den 19. juni 2025 kl. 14:30 vil professor Thomas Binder holde sin tiltrædelsesforelæsning i Auditorium 0 på IT-Universitetet i København. Forelæsningen har titlen: “What design can do and how it matters”.

Professorportræt: Veronika Cheplygina vil forbedre maskinlæring gennem meta-forskning

Professorportræt: Veronika Cheplygina vil forbedre maskinlæring gennem meta-forskning

26. maj 2025

Den 10. juni 2025 kl. 14.30 vil professor Veronika Cheplygina holde sin tiltrædelsesforelæsning i Auditorium 0 på IT-Universitetet i København. Forelæsningen har titlen: ”Not real research”.

"De vil ramme os på tilliden"

"De vil ramme os på tilliden"

6. maj 2025

Som en del af videnskabsfestivallen Forskningens Døgn havde IT-Universitetet og Dagbladet Information samlet en række eksperter for at tale om cyberkrig i Danmark, og hvor klar vi er til det. Minister for Samfundssikkerhed og Beredskab Torsten Schack Pedersen deltog også i samtalen.

Professorportræt: Nutan Limaye skubber til grænserne for beregningskompleksitet

Professorportræt: Nutan Limaye skubber til grænserne for beregningskompleksitet

1. maj 2025

Den 22. maj 2025 kl. 14:30 vil professor Nutan Limaye fra sektionen Theoretical Computer Science holde sin tiltrædelsesforelæsning i Auditorium 0 på IT-Universitetet i København. Forelæsningen har titlen: “My reflections on the last two decades and Complexity Theory”.

Professorportræt: Anna Vallgårda vil udfordre designet af omsorgsteknologi

Professorportræt: Anna Vallgårda vil udfordre designet af omsorgsteknologi

24. april 2025

Den 9. maj 2025 kl. 14.30 holder professor Anna Vallgårda sin tiltrædelsesforelæsning i Auditorium 0 på IT-Universitetet i København. Forelæsningen har titlen: ”Radical Redesign of Care Technologies”.

Er Danmark klar til cyberkrig?

Er Danmark klar til cyberkrig?

8. april 2025

En gruppe forskere fra IT-Universitetet i København undersøger, hvad Danmark kan lære af Ukraine i forhold til at forberede sig på cyberkrigsførelse. Cyberkrigsførelse påvirker ikke kun regeringer og virksomheder, men også civile, og forskerne spørger, hvad der skal gøre, hvis vi bliver angreb

Forskere vil lære matematikelever kritisk tænkning med data science

Forskere vil lære matematikelever kritisk tænkning med data science

31. marts 2025

I et nyt forskningsprojekt på IT-Universitetet og Københavns Universitet vil en gruppe forskere undersøge, hvordan data science kan blive en del af gymnasiets matematikundervisning for at give eleverne et bedre grundlag for kritisk tænkning og mulighed for at belyse og nuancere påstande de møder i deres hverdag.

Ny bog er en guide til succesfuld AI-implementering

Ny bog er en guide til succesfuld AI-implementering

28. marts 2025

Kunstig intelligens har stort potentiale i organisationer, men hvordan realiserer man det i praksis? Lektor og underviser på ITU’s Master i IT-ledelse, Carsten Lund Pedersen, er medforfatter til bogen ”Gunstig Intelligens,” der som den første af sin slags udstikker en kurs mod succes med AI-projekter i organisationen. Bogen kan forudbestilles nu.

ITU forsker sikrer bevilling til sikkerhedsoptimering af AI-systemer

ITU forsker sikrer bevilling til sikkerhedsoptimering af AI-systemer

19. marts 2025

Lektor Alessandro Bruni fra IT-Universitetet i København er i øjeblikket på Advanced Institute of Science and Technology i Japan, hvor han samarbejder med andre forskere om at udforske det matematiske fundament for verificering af maskinlæringssystemer. Projektet er støttet af Carlsbergfondet.

Professorportræt: Vasilis Galis fandt sin forskningsvej i Athens metro

Professorportræt: Vasilis Galis fandt sin forskningsvej i Athens metro

13. marts 2025

Den 28. marts 2025 kl. 14.30 holder professor Vasilis Galis fra sektionen Technologies in Practice sin tiltrædelsesforelæsning i Auditorium 0 på IT-Universitetet i København. Forelæsningen har titlen: ”Research against dead time”.

ITU-forsker undersøger valg i Grønland

ITU-forsker undersøger valg i Grønland

11. marts 2025

Den 11. marts 2025 er der valg til Inatsisartut (Grønlands parlament). I flere år har forskere fra ITU ledet af professor Carsten Schürmann og Center for Information Security and Trust undersøgt valg og muligheden for internetvalg i netop Grønland og valget i dag er ingen undtagelse.

DFF-støttet ITU-projekt skal udvikle teoretisk fundament for probabilistiske sessionstyper

DFF-støttet ITU-projekt skal udvikle teoretisk fundament for probabilistiske sessionstyper

6. marts 2025

Stigende teknologisk kompleksitet kræver en probabilitisk tilgang til kritisk vigtige it-systemer. Et nyt forskningsprojekt, anført af lektor på ITU Marco Carbone, vil skabe fundamentet for probabilistiske sessionstyper.

Urbane motorveje er barrierer for sociale forbindelser

Urbane motorveje er barrierer for sociale forbindelser

5. marts 2025

Forskere fra IT-Universitetet i København har bevist, at urbane motorveje begrænser sociale relationer i de 50 største byer i USA. Det er det første kvantitative studie af barriereeffekten af urbane motorveje i reduktionen af sociale relationer på tværs af nabolag.

Ny forskning skal finde effektive strategier til epidemiforebyggelse

Ny forskning skal finde effektive strategier til epidemiforebyggelse

26. februar 2025

Adjunkt på ITU Jonas Juul modtager Novo Nordisk Fondens Data Science Investigator-bevilling på knap 6,5 mio. kr. til et projekt, der bl.a. skal forbedre statistiske metoder til at forudsige smitteudbrud.

Kontakt os

Telefon
+45 7218 5000
E-mail
itu@itu.dk

Alle kontaktoplysninger

Tilgængelighedserklæring

Find os

IT-Universitetet i København
Rued Langgaards Vej 7
2300 København S
Danmark
Find vej

Følg os

ITU Student /
Privatliv /
EAN-nr. 5798000417878/
CVR-nr. 29 05 77 53 /
P-nummer 1005162959

Denne side er udskrevet fra https://prod.itustudent.93.itu.dk/Nyheder?page=-43117

Fejl i tilmelding