Skip to main content ITU
Logo
  • Uddannelser
    • Bachelor
    • BSc i Global Business Informatics
    • BSc i Digital Design og Interaktive Teknologier
    • BSc i Softwareudvikling
    • BSc i Data Science
    • Sådan søger du ind
    • Åbent hus for bacheloruddannelser
    • Gæstestuderende på bachelorniveau
    • ITU Summer University på bachelorniveau
    • Kandidat
    • MSc i Digital Innovation & Management
    • MSc i Digital Design og Interaktive Teknologier
    • MSc i Softwaredesign
    • MSc i Data Science
    • MSc i Datalogi
    • MSc i Spil
    • Sådan søger du ind
    • Åbent hus for kandidatuddannelser
    • Gæstestuderende på kandidatniveau
    • ITU Summer University på kandidatniveau
    • Studieliv
    • Hvordan er det at være studerende på ITU?
    • Kvinder i tech
    • Labs for studerende
    • Studenterorganisationer
    • Studiestart
    • Studie- og karrierevejledning
    • #lifeatITU
    • Mød ITU
    • Spørg en studerende
    • Studerende for en dag
    • Studiepraktik i uge 43
    • Coding Café for kvindelige gymnasieelever
    • IT-Camp for kvindelige gymnasieelever
    • Åbent hus
    • For gymnasielærere
    • Gymnasiebesøg
    • Digital Dannelse
    • Coding Classes
  • Efteruddannelser
    • Efteruddannelser
    • Se alle efteruddannelser
    • Master i it
    • Master i it-ledelse
    • Studiestart
    • Nyhedsbrev
    • Talks om it-ledelse: ITU ESPRESSO
    • Besøg og arrangementer
    • Kontakt
    • Enkeltfagskurser
    • Om enkeltfag
    • Enkeltfagskurser på masterniveau
    • Se alle enkeltfagskurser
    • Nyhedsbrev
    • Kontakt
    • Korte kurser

    • Om ITU Professional Courses
    • Kurser
    • Skræddersyede kurser for virksomheder
    • Kontakt
    • Nyhedsbrev
    • Online kurser
    • Kurser i cybersikkerhed
  • Forskning
    • Institutter
    • Institut for Business IT
    • Institut for Datalogi
    • Institut for Digital Design
    • Forskningsgrupper og labs
    • Forskningsgrupper
    • Labs
    • Forskningscentre
    • Center for Digital Play
    • Center for Climate IT
    • Center for Computing Education Research
    • Center for Digital Velfærd
    • European Blockchain Centre
    • Centre for Information Security and Trust
    • Danish Institute for IT Program Management
    • ITU Research Portal
    • Find forsker
    • Find forskning
    • Forskningsetik og -integritet
    • God forskningspraksis
    • Tekniske rapporter
    • Tekniske rapporter
    • Ph.d.-skole
    • Om ph.d.-uddannelsen
    • Ph.d.-kurser
    • Ph.d.-forsvar
  • Erhvervssamarbejde
    • Samarbejde med Studerende
    • Projektsamarbejde
    • Projektmarked
    • Studiejob
    • Projektopslag
    • Job- og projektbank
    • Employer Branding
    • IT Match Making
    • Sådan ansætter du en ITU'er
    • Lav opslag i Jobbanken
    • Samarbejde om forskning
    • Licenser teknologi
    • Samarbejde om forskning
    • ErhvervsPhD
    • Ansæt en ErhvervsPhD
    • Innovation og iværksætteri
    • ITU Business Development
    • ITU Startup programme
  • Om ITU
    • Om ITU
    • Presse
    • Stillinger
    • Kontakt
  • ENG
Stil krav til algoritmerne
ITU  /  Presse  /  Nyheder fra ITU  /  Stil krav til algoritmerne

Stil krav til algoritmerne

EU's nye persondataregler giver større gennemsigtighed, men vi må ikke glemme selv at tage stilling til, hvordan vores data bliver brugt, skriver Rasmus Pagh, professor i datalogi ved IT-Universitetet. Debatindlægget er bragt i Weekendavisen fredag den 1. juni 2018.

Institut for DatalogialgoritmerprivacyRasmus Pagh

Skrevet 1. juni 2018 07:33 af Rasmus Pagh

Algoritmer har større og større indflydelse på vores hverdag. I sundhedsvæsenet eksperimenterer man med at lade algoritmer hjælpe til at diagnosticere patienter ud fra scanningsbilleder.

Sagsbehandling og kundesupport kan delvist automatiseres ved hjælp af algoritmer (som for eksempel i SKATs vision om større automatisering af skatteinddrivelse og Nordeas satsning på chatbotter). Netbutikker bruger algoritmer til at vise potentielle kunder personligt tilpassede anbefalinger af varer. Algoritmer hjælper med at finde rejser, der passer til vores kriterier, og sørger for at matche publikum på streamingtjenesterne med film og musik, de synes om.

Og ikke at forglemme: Googles algoritmer hjælper os med at finde frem til præcis den information, vi er på jagt efter, når vi bruger deres søgemaskine.

Samtidig ser vi eksempler på, at samspillet mellem it-systemer og mennesker let kan gå galt. Algoritmer der fungerer perfekt i én sammenhæng kan begynde at lave utilsigtede fejl, hvis omstændighederne er nye.

Som for eksempel da Google Translate lavede oversættelser, der afspejlede kønsstereotyper. Eller da IBM’s prestigeprojekt Watson, der kan slå de bedste mennesker i verden i Jeopardy, troede at Toronto var en amerikansk by.

»

Elnettet, vandforsyningen og transportsektoren er underlagt klare regler og hyppig myndighedskontrol. Men på trods af, at vores samfund og kultur i større og større grad bygger på en infrastruktur, hvor algoritmer er centrale, er algoritmerne langt fra underkastet samme nøje granskning.

«
Når entreprenører opfører nye huse, er der strenge regler for brandsikkerhed. Elnettet, vandforsyningen og transportsektoren er underlagt klare regler og hyppig myndighedskontrol. Men på trods af, at vores samfund og kultur i større og større grad bygger på en infrastruktur, hvor algoritmer er centrale, er algoritmerne langt fra underkastet samme nøje granskning.

EU’s nye persondataforordning (GDPR) træder i kraft den 25. maj er dog et skridt i retning af, at den almindelige borger bedre skal kunne navigere i det digitale farvand – blandt andet gennem større gennemsigtighed om, hvordan en algoritme er nået frem til en bestemt beslutning.

Fremover skal virksomheder og organisationer gøre rede for, hvordan de opsamler og behandler personlige data. Borgerne får mere kontrol over, hvad deres personlige data bliver brugt til, og skal have mulighed for at anke beslutninger, der er truffet automatisk. Direktivet gælder alle virksomheder, der driver forretning i EU – altså også de amerikanske internetgiganter.

»

GDPR betyder langt fra, at vi kan læne os tilbage og regne med, at udviklingen nu er på rette kurs.

«
Men GDPR betyder langt fra, at vi kan læne os tilbage og regne med, at udviklingen nu er på rette kurs. GDPR giver kun en begrænset mulighed for indsigt i de algoritmer, der behandler vores data.

Og måske er fuld indsigt ikke engang nok, for sandheden er, at selv eksperter i algoritmer har en begrænset forståelse af de algoritmer, der bruges. Det skyldes delvist, at analyse af algoritmer er en ung disciplin (vi arbejder på det!), men også at det er komplekst at forstå, hvad der sker, når algoritmer behandler data fra en rodet, nogle gange kaotisk virkelighed.

Uanset hvor umage vi gør os, kommer algoritmernes råd, diagnoser og anbefalinger, ligesom menneskers, til at være behæftet med usikkerhed. Facebook har ikke altid ret, når dit ansigt genkendes på et billede. En automatisk analyse af din kreditværdighed eller din sundhed kan være fejlagtig. I nogle sammenhænge kan vi måske acceptere fejl og usikkerhed til gengæld for at få nye muligheder, men når det eksempelvis gælder vores økonomi, demokrati og sundhed, bør vi stille krav.

»

Vi skal holde øje med, at algoritmerne ikke utilsigtet bidrager til at øge ulighed og diskrimination ved at behandle befolkningsgrupper forskelligt. Det bliver kun vigtigere i takt med at algoritmiske beslutninger indføres på flere og flere områder.

«
Vi må finde den rigtige balance mellem på den ene side at sikre fairness og gennemskuelighed og på den anden side at gøre ny, værdiskabende teknologi mulig.

En start kunne være at stille krav om at den usikkerhed, der ligger i analysen af vores data, bliver synlig og kvantificérbar. I nogle sammenhænge bør det fx være muligt at få at vide, hvor ofte en algoritmes beslutninger er fejlagtige. Og vi skal holde øje med, at algoritmerne ikke utilsigtet bidrager til at øge ulighed og diskrimination ved at behandle befolkningsgrupper forskelligt. Det bliver kun vigtigere i takt med at algoritmiske beslutninger indføres på flere og flere områder.

Endelig skal vi huske, at selv om GDPR giver os nye muligheder for at få indsigt i og bestemme over, hvordan vores data bliver brugt, ændrer tingenes tilstand sig kun, hvis vi hver især gør brug af vores nyvundne indsigt i, hvad der sker med data.

Vi skal stemme på politikere, der tager ansvar for den digitale udvikling. Vi skal undgå virksomheder, der bruger vores data på måder, vi ikke stoler på.

Og sidst men ikke mindst må vi indse, at det kræver en folkeoplysningsindsats at ruste os til at forstå det algoritmiske samfund.

Mere information

Rasmus Pagh, professor, telefon +45 7218 5284, email pagh@itu.dk

Nyheder

Forskere og eksperter viser vejen til en inkluderende digitalisering

Forskere og eksperter viser vejen til en inkluderende digitalisering

27. januar 2023

35 forskere, eksperter og repræsentanter for organisationer har underskrevet en vision, som skal understøtte en mere inkluderende digitalisering af den offentlige sektor. Visionen er et resultatet af konferencen, Welfare after Digitalization, som IT-Universitetets Center for Digital Velfærd var vært for.

Radu-Cristian Curticapean sikrer midler fra Villum Fonden til forskning i beregningsmæssige problemer

Radu-Cristian Curticapean sikrer midler fra Villum Fonden til forskning i beregningsmæssige problemer

24. januar 2023

I år får 22 forskertalenter inden for teknisk og naturvidenskabelig forskning tilsammen 126 mio. kr. fra Villum Fondens Young Investigator-program. En af dem, der i år er sluppet gennem nåleøjet, er lektor i datalogi på IT-Universitetet, Radu-Cristian Curticapean, som har sikret 3 millioner kroner til forskning inden for teoretisk datalogi.

Angående sag om identiske eksamenssæt

Angående sag om identiske eksamenssæt

13. januar 2023

Studerende, der i forbindelse med kurset Security 1 aflagde eksamen d. 22. december sidste år, blev præsenteret for et eksamenssæt identisk med det foregående års eksamenssæt. Universitetets ledelse undersøger pt. sagens omfang.

Studie: Mere transparens vil kunne formodentlig styrke smitteopsporingen

Studie: Mere transparens vil kunne formodentlig styrke smitteopsporingen

21. december 2022

Forskere fra IT-Universitetet har undersøgt brugen af smitteopsporings-applikationer i fire lande, og de kan konkludere, at mange har fravalgt at deltage i den digitale opsporing pga. bekymring over beskyttelsen af deres private data. Studiet, som er blevet offentliggjort i det anerkendte datalogiske medie, ACM, kan vise sig værdifuldt i bekæmpelsen af fremtidige pandemier.

ITU-forsker modtager bevilling til udvikling af kvante-inspirerede algoritmer

ITU-forsker modtager bevilling til udvikling af kvante-inspirerede algoritmer

19. december 2022

Lektor på IT-Universitetet i København, Michael Kastoryano, er blevet tildelt fem millioner kroner fra Carlsbergfonden til udvikling af kvante-inspirerede algoritmer.

ITU-datalog modtager bevilling til at optimere maskinlæringsmodeller på små enheder

ITU-datalog modtager bevilling til at optimere maskinlæringsmodeller på små enheder

16. december 2022

Lektor i datalogi på IT-Universitetet i København, Pınar Tözün, har modtaget 2,7 millioner kroner fra Novo Nordisk Fonden til at udvikle nye mekanismer, der kan optimere databehandling på små hardware-enheder.

ITU-forsker sikrer midler fra Det Europæiske Forskningsråd til at udvikle kreativ AI

ITU-forsker sikrer midler fra Det Europæiske Forskningsråd til at udvikle kreativ AI

14. december 2022

Professor Sebastian Risi fra IT-Universitetet i Københavns Institut for Digital Design har modtaget en bevilling på 14,8 millioner kroner til at udvikle kunstig intelligens, som er i stand til at tilpasse sig uforudsete omstændigheder. Målet er at forløse mere af automatiseringens enorme potentiale.

Spinout-virksomheden LAIKA hjælper forfattere over skriveblokaden

Spinout-virksomheden LAIKA hjælper forfattere over skriveblokaden

9. december 2022

Lektor på IT-Universitetet, Martin Pichlmair, står bag udviklingen af LAIKA – et redskab baseret på kunstig intelligens, der agerer skrivemakker for forfattere, der kæmper med at finde inspirationen. Projektet er i samarbejde med ITU Business Unit netop lanceret som spinoutvirksomhed.

Forskningsprojekt om internetvalg i Grønland skal give bedre beslutningsgrundlag

Forskningsprojekt om internetvalg i Grønland skal give bedre beslutningsgrundlag

7. december 2022

Et forskningsprojekt, som har til formål at undersøge, hvorvidt man kan skabe et tillidsvækkende internetvalg i Grønland, er nu blevet delt i to, således at IT-Universitetets forskere kan arbejde uafhængigt af kommercielle interesser.

Kan sikkerhedsproblemerne i Whatsapp løses?

Kan sikkerhedsproblemerne i Whatsapp løses?

29. november 2022

Verdens mest brugte beskedapplikation, Whatsapp, er blevet kritiseret for at have store sikkerhedsproblemer. Nu vil forskere fra IT-Universitetet udvikle en metode, som kan hjælpe tech-virksomhederne og deres udviklere med at sikre, at behandlingen af brugernes data sker som tilsigtet.

Engang var vi verdensmestre i demokratisk iværksætteri – hvordan bliver vi det igen?

Engang var vi verdensmestre i demokratisk iværksætteri – hvordan bliver vi det igen?

29. november 2022

Demokratisk iværksætteri kan være med til at tackle nogle af samfundets største udfordringer og hjælpe et arbejdsmarked i forandring. Selvom vi har tradition for medarbejderejede virksomheder i Danmark, er vi langt bagefter udviklingen i dag. Det vil ITU-forskningsgruppen Reflection and Action (Reflact) gøre noget ved.

Routledge udgiver længe ventet håndbog i kollektiv intelligens

Routledge udgiver længe ventet håndbog i kollektiv intelligens

23. november 2022

Håndbogen, som bl.a. er redigeret af adjunkt på IT-Universitetet, Carina Antonia Hallin, er et vigtigt fundament for forskere, der arbejder med kollektiv intelligens inden for en bred vifte af discipliner. Bogen er nu mulig at forudbestille.

ITU-forsker sikrer prestigiøs EU-bevilling til forskning i teoretisk datalogi

ITU-forsker sikrer prestigiøs EU-bevilling til forskning i teoretisk datalogi

22. november 2022

Lektor Radu-Cristian Curticapean fra IT-Universitetet i København har modtaget en bevilling på ca. 11 millioner kroner fra Det Europæiske Forskningsråd til at forske i teoretisk datalogi.

ITU-forskning i valgsikkerhed og grafmodifikation bevilget midler fra DFF

ITU-forskning i valgsikkerhed og grafmodifikation bevilget midler fra DFF

16. november 2022

To forskere fra Institut for Datalogi på IT-Universitetet i København, lektor Oksana Kulyk og adjunkt Paloma Thomé De Lima, har hver især modtaget 2,8 millioner kroner fra Danmarks Frie Forskningsfond til deres respektive projekter.

Nyt forskningscenter stiller skarpt på IT-aspekterne af den grønne omstilling

Nyt forskningscenter stiller skarpt på IT-aspekterne af den grønne omstilling

11. november 2022

IT-Universitetet lancerer nyt Center for Climate IT, der stiller skarpt på det komplekse forhold mellem digitalisering og klimaforandringer. Centeret åbnes formelt ved en reception på ITU d. 7. december.

AI-spilmotor-udvikleren modl.ai sikrer investering på 63 millioner kroner

AI-spilmotor-udvikleren modl.ai sikrer investering på 63 millioner kroner

9. november 2022

Firmaet, der bl.a. er stiftet af professor ved IT-Universitetet, Sebastian Risi, tackler komplekse spiludviklingsproblemer ved hjælp af kunstig intelligens og en hær automatiserede spillere.

Forskningsprojekt giver vigtig viden om digital udsathed

Forskningsprojekt giver vigtig viden om digital udsathed

7. november 2022

I forskningsprojektet CAPE indsamles og analyseres erfaringer fra nogle af landets frivillige it-hjælpere, som hjælper digitalt udsatte borgere. Forskningsresultaterne kan blive værdifulde, når de nuværende offentlige it-systemer skal forbedres – og ikke mindst når fremtidens pendant til MitID skal designes.

Med filosofien som vejviser i en digital tid

Med filosofien som vejviser i en digital tid

3. november 2022

Filosofi kan være en indgang til at nytænke udviklingen af de teknologier, som får stadig større indflydelse på vores liv, samfund og verden. I IT-Universitetets AIRLab bruger lektor, Jonas Fritsch, den franske psykoanalytiker og filosof, Felix Guattaris essay, De tre økologier, til at perspektivere sin forskning for at skabe teknologisk grundlag for en holistisk og grøn udvikling.

ITU åbner Center for Digital Play

ITU åbner Center for Digital Play

24. oktober 2022

Det ny Center for Digital Play på IT-Universitetet i København skal fungere som ramme omkring forskning inden for computerspil, kreativ kunstig intelligens, design og digital kultur.

Folketingsvalg: ITU’s eksperter står klar med svar

Folketingsvalg: ITU’s eksperter står klar med svar

13. oktober 2022

Den digitale vinkel på det kommende folketingsvalg finder du på IT-Universitetet. Hvis du er journalist og har spørgsmål om fx misinformation på sociale medier, datavisualisering eller kandidattests, kan du kontakte en af IT-Universitetets eksperter.

Kontakt os

Telefon
+45 7218 5000
E-mail
itu@itu.dk

Alle kontaktoplysninger

Tilgængelighedserklæring

Find os

IT-Universitetet i København
Rued Langgaards Vej 7
2300 København S
Danmark
Find vej

Følg os

ITU Student /
Privatliv /
EAN-nr. 5798000417878/
CVR-nr. 29 05 77 53

Denne side er udskrevet fra https://www.itu.dk/nyheder