Skip to main content ITU
Logo
  • Uddannelser
    • Bachelor
    • BSc i Global Business Informatics
    • BSc i Digital Design og Interaktive Teknologier
    • BSc i Softwareudvikling
    • BSc i Data Science
    • Sådan søger du ind
    • Gæstestuderende på bachelorniveau
    • ITU Summer University på bachelorniveau
    • Kandidat
    • MSc i Digital Innovation & Management
    • MSc i Digital Design og Interaktive Teknologier
    • MSc i Softwaredesign
    • MSc i Data Science
    • MSc i Datalogi
    • MSc i Spil
    • Sådan søger du ind
    • Gæstestuderende på kandidatniveau
    • ITU Summer University på kandidatniveau
    • Studieliv
    • Spørg en studerende
    • Kvinder i tech
    • Studenterorganisationer
    • Studiestart
    • Labs for studerende
    • Specialpædagogisk støtte (SPS)
    • Studie- og Karrierevejledning
    • Besøg ITU
    • Åbent hus
    • Studerende for en dag
    • Studiepraktik i uge 43
    • Coding Café for unge kvinder
    • IT-Camp for unge kvinder
    • For gymnasielærere
    • Besøg ITU med klassen
    • Digital Dannelse
    • Coding Class
  • Efteruddannelser
    • Efteruddannelser
    • Se alle efteruddannelser
    • Besøg og arrangementer
    • Master i it
    • Om Master i it-ledelse
    • Sådan søger du ind
    • Nyhedsbrev
    • Kontakt
    • Enkeltfag
    • Se udbud af enkeltfag
    • Enkeltfag på masterniveau
    • Sådan søger du ind
    • Nyhedsbrev
    • Kontakt
    • Korte kurser | ITU Professional Courses
    • Se alle korte kurser
    • Nyhedsbrev
    • Kontakt
  • Forskning
    • Forskningsektioner
    • Data Science
    • Data, Systems and Robotics
    • Digital Business Innovation
    • Digitalization Democracy and Governance
    • Human-Computer Interaction and Design
    • Play Culture and AI
    • Software Engineering
    • Technologies in Practice
    • Theoretical Computer Science
    • Forskningscentre
    • Center for Digital Play
    • Center for Climate IT
    • Center for Computing Education Research
    • Center for Digital Velfærd
    • Forskningscenter for offentlig IT
    • Danish Institute for IT Program Management
    • Centre for Information Security and Trust
    • ITU Research Portal
    • Find forsker
    • Find forskning
    • Forskningsenheder
    • Forskningscentre
    • Forskningsektioner
    • Forskningsgrupper
    • Labs
    • Forskningsetik og -integritet
    • God forskningspraksis
    • Tekniske rapporter
    • Tekniske rapporter
    • Ph.d.-skole
    • Om Ph.d.-skolen
    • Ph.d.-kurser
    • Ph.d.-forsvar
    • Ph.d.-stillinger
    • Ph.d.-håndbog
    • Ph.d.-support
  • Erhvervssamarbejde
    • Samarbejde med Studerende
    • Projektsamarbejde
    • Projektmarked
    • Studiejob
    • Projektopslag
    • Job- og projektbank
    • Employer Branding
    • IT Match Making
    • Sådan ansætter du en ITU'er
    • Lav opslag i Jobbanken
    • Innovation og samarbejde
    • Læs mere om innovation og samarbejde
    • ErhvervsPhD
    • Ansæt en Erhvervs-p.hd
    • Maritime Hub
    • Innovation og iværksætteri
    • ITU Business Development
    • ITU NextGen
  • Om ITU
    • Om ITU
    • Presse
    • Stillinger
    • Kontakt
  • ENG
Hvornår skal vi lade data træffe beslutninger for os?
ITU  /  Presse  /  Nyheder fra ITU  /  Hvornår skal vi lade data træffe beslutninger for os?

Hvornår skal vi lade data træffe beslutninger for os?

Data er et kraftfuldt værktøj, der kan hjælpe os med at træffe objektive, rationelle og fair beslutninger på baggrund af mange flere informationer, end et menneske kan overskue. Men der er også store udfordringer med at sætte tallene i førersædet, skriver Rasmus Pagh, der forsker i Big Data på IT-Universitetet.

Rasmus PaghInstitut for DatalogiForskningbig dataetik

Skrevet 31. oktober 2016 09:07 af Rasmus Pagh

Artiklen er også bragt på Videnskab.dk.

De fleste af os er overbeviste om, at vi udmærket er i stand til at granske fakta og nå frem til en god beslutning.

Adfærdspsykologien har imidlertid vist, at det er overordentligt svært for os mennesker at træffe rationelle beslutninger, selv hvis vi anstrenger os. Vi påvirkes på godt og ondt af intuitive fornemmelser, der ofte peger i den rigtige retning, men nogle gange rammer helt skævt.

Desuden er det, som gode reklamefolk ved, ret nemt at påvirke vores beslutninger.

Vi får flere og flere data
Men hvad kan man så gøre ved det? Er vi nødt til bare at acceptere, at vi tager fejl og træffer forkerte valg?

Efterhånden som vi får adgang til mere og mere data om verden og dens indbyggere, er det fristende at forsøge at bruge disse data til at forstå verden bedre, og i sidste ende træffe bedre, datadrevne beslutninger.

Rasmus Pagh, forsker i Big Data

Inspiration kan hentes i de empiriske videnskaber, hvor det faktisk lykkes os at finde ud af, hvordan (dele af) verden hænger sammen. Forståelse af fysikken, bekræftet ved data fra utallige eksperimenter, gør os for eksempel i stand til at konstruere en flyvemaskine, som vi er ganske sikre på ikke falder ned.

Efterhånden som vi får adgang til mere og mere data om verden og dens indbyggere, er det fristende at forsøge at bruge disse data til at forstå verden bedre, og i sidste ende træffe bedre, datadrevne beslutninger.

I de senere år er data blevet mere og mere centralt i udviklingen af ’intelligent’ software.

Hvor programmører tidligere forsøgte at beskrive alle de regler et stykke software skulle følge for at udføre en opgave, for eksempel oversætte en tekst fra engelsk til dansk, baseres mere og mere software i dag på eksempler i form af data. Google Translate er et eksempel på dette (se faktaboks 1).

Ofte taler man om maskinlæring, fordi softwaren analyserer og ’lærer’ egenskaber ved data, som derefter bruges til at bestemme om softwaren skal træffe det ene eller det andet valg.

Andre gange fokuserer man på udnyttelsen af de store datamængder og taler om big data. Du har måske oplevet maskinlæring i aktion, når software til organisering af fotos (for eksempel på Facebook) lærer at genkende dit ansigt ved at blive præsenteret for eksempler, og de fleste har oplevet at blive foreslået ’anbefalede varer til dig’, når de handler på nettet.
Faktaboks 1: Eksempler på maskinlæring
  • Google Translate har ingen indbygget forståelse af grammatik, men baserer sine oversættelser på statistiske mønstre fra en stor samling oversættelser, bl.a. fra FNs arkiver.
  • Anbefalingssystemer finder mønstre i din adfærd på nettet, for eksempel hvilke varer du køber, eller hvilken musik du streamer. Dine og andre brugeres mønstre bruges derefter til at lave personlige anbefalinger af, hvad du kunne være interesseret i.
Vi skal kunne forstå vores computer
Data science er et nyt tværfagligt fagområde, der handler om at skabe grundlag for bedre beslutninger.

Det gør man ved at kombinere viden om statistik, programmering og algoritmer med specifik viden om et bestemt emne. Denne tilgang har allerede vundet indpas i erhvervslivet, hvor analyse af virksomhedens data, lavet med såkaldt business intelligence-software, ligger til grund for mange diskussioner i bestyrelserne.

Data science handler også om at forstå de beslutninger, der træffes af computere, så vi kan sikre, at beslutningerne træffes på et etisk forsvarligt grundlag.

Rasmus Pagh, forsker i Big Data

Ofte handler det om at skelne tilfældige variationer (støj) fra underliggende mønstre (signaler), som der bør reageres på. Det kræver ofte en stringent tilgang med værktøjer fra statistik, eksperimentdesign, visualisering og skalérbar dataanalyse.

Men data science handler også om at forstå de beslutninger, der træffes af computere, så vi kan sikre, at beslutningerne træffes på et etisk forsvarligt grundlag.

I USA, der er førende indenfor data science og big data, er politikerne blevet opmærksomme på mulighederne og udfordringerne ved datamængdernes voksende magt.

I 2014 og 2016 bestilte Barack Obama ekspertrapporter om, hvordan teknologierne påvirker borgerrettigheder. Rapporterne viste blandt andet, at der er potentiale for at bruge teknologierne til at

- hjælpe grupper af mennesker, der i dag har svært ved at få adgang til jobmarkedet, fordi deres ansøgninger bliver sorteret fra ud fra unuancerede kriterier (for eksempel fordomme om mennesker med en bestemt bopæl)

- øge social mobilitet ved at hjælpe mennesker med at finde uddannelsestilbud, der passer dem (men som de i dag ikke finder pga. manglende personligt netværk)

- hjælpe politiet med at bruge sine ressourcer bedre ved at vurdere, hvor sandsynligheden for at opdage kriminalitet er størst. 
 
Vi baserer vores valg på forenklet forforståelse
Mange valg i dag baseres på en stærkt forenklet forståelse af verden: Arbejdsgiveren sorterer ansøgere fra et bestemt område fra, fordi han mener, at de ofte giver problemer. Gymnasieeleven vælger en videregående uddannelse, som hun kender nogen, der har taget. Politiet sætter ekstra patruljevogne ind i et socialt belastet kvarter, fordi de forventer, at der foregår mere kriminalitet her.

I alle tre eksempler ville en bedre forståelse af verden, baseret på data, kunne hjælpe personerne til at træffe bedre beslutninger.

Kan vi undgå diskriminerede computere?
Men potentialet følges af udfordringer: Hvis man har en masse data om en ansøger til et job eller en uddannelsesplads, hvordan skelner man så mellem oplysninger, der er faktuelt relevante (og derfor skal inddrages i beslutningen), og oplysninger, der ikke er det?

Det er særligt udfordrende på grund af korrelationer i data (se faktaboks 2). Lovgivning mod diskrimination forbyder visse beslutninger at afhænge af for eksempel køn, etnicitet eller seksuel orientering. Men så burde det vel også være forkert at anvende data, som er højt korreleret med en af disse variabler, for eksempel information om navn?

Faktaboks 2: Korrelationer

Korrelationer findes, når der er en sammenhæng mellem to målbare ting (variabler).

For eksempel falder temperaturen når højden, man befinder sig i, øges, så de to tal er korrelerede.

Der kan findes korrelation uden årsagssammenhæng.

Eksempelvis følger salget af isvafler antallet af drukneulykker. Det betyder, at de to ting er korrelerede, men det er næppe sådan, at isvafler er årsagen til drukning.

Hvordan sikrer vi os, at der er taget hensyn til korrelationer? Og hvordan undgår vi, at skævvridninger i data (for eksempel at der bliver foretaget mange flere anholdelser i visse belastede områder) fører til fremtidig diskrimination? Hvem er egentlig ansvarlig for beslutninger foreslået af en computer?

Hvad ligger til grund for beslutningerne?
EU’s nye databeskyttelsesdirektiv, der efter planen skal træde i kraft fra 2018, taler om gennemsigtighed i datadrevne beslutninger.

Det er måske ikke så vigtigt at forstå, hvordan Facebook genkender dit ansigt på et foto, men hvis det for eksempel drejer sig om at få godkendt et lån i banken eller om, hvorvidt en e-butik vælger at tilbyde dig rabat, bør der være klare, transparente kriterier. Og det rækker ikke, at en softwareekspert i princippet vil kunne forstå, hvad der foregår.

I stedet har borgeren ifølge direktivet 'ret til en forklaring', altså skal beslutningen kunne koges ned til noget, et almindeligt menneske kan forstå.

Mulighederne skaber svære afvejninger 
Retten til en forklaring kommer til at give en masse udfordringer. Dels fordi der ofte ligger en masse data til baggrund for beslutningerne, som desuden kan være af fortrolig karakter. Dels fordi nogle metoder til maskinlæring finder mønstre i data, der er så komplekse at beskrive, at det er umuligt for et menneske at gennemskue.

I sidste ende bliver der formentlig tale om en afvejning mellem, hvor gennemskuelig og hvor smart software er til at træffe beslutninger. Her er der brug for teknologi og lovgivning, der sikrer tilstrækkelig fairness og gennemsigtighed uden at tabe for mange af de muligheder, der ligger i datadrevne beslutninger.

Og mere end nogensinde er der brug for dygtige dataspecialister, som forstår mekanismerne bag disse beslutninger og kan designe effektiv software, der ikke går på kompromis med etik og moral.

Kilder

•  Rasmus Paghs profil

•  Big Data: A Report on Algorithmic Systems, Opportunity, and Civil Rights (2016)

•  Big data: Seizing opportunities, preserving values (2014)

Mere information

Rasmus Pagh, professor, telefon +45 7218 5284, email pagh@itu.dk

Vibeke Arildsen, presserådgiver, telefon 2555 0447, email viar@itu.dk

Nyheder

ITU sikrer to Danish Data Science Academy Fellowships

ITU sikrer to Danish Data Science Academy Fellowships

26. juni 2025

Hvert år uddeler DDSA i alt 10 ph.d.- og 6 postdocstipendier. I år har ITU sikret sig to – Nils Grünefeld, som skal gennemføre en ph.d. i maskinlæring og naturlig sprogbehandling, og Ola Rønning, som skal lave et postdoc-projekt inden for probabilistisk programmering.

ITU-forsker vil forbedre statistikmodeller

ITU-forsker vil forbedre statistikmodeller

26. juni 2025

Professor Andrzej Wasowski har fået 6,1 mio. kr. fra Danmarks Frie Forskningsfond. Bevillingen gives til et projekt, der skal undersøge, hvordan sandsynlighedsmodeller kan blive mere pålidelige.

ITU-forsker modtager bevilling til projekt om verifikation af programmer med refleksion

ITU-forsker modtager bevilling til projekt om verifikation af programmer med refleksion

24. juni 2025

Adjunkt ved IT- Universitetet i København, Eduard Kamburjan, har fået en Sapere Aude-bevilling på næsten 6,2 millioner kr. fra Danmarks Frie Forskningsfond. Bevillingen vil finansiere et projekt, der skal undersøge, hvordan man kan verificere programmer, der bruger refleksion.

Morten Hjelholt bliver forskningschef på ITU

Morten Hjelholt bliver forskningschef på ITU

20. juni 2025

Professor Morten Hjelholt har været konstitueret forskningsleder siden januar og fremhæves for sit store "engagement, sin overbevisning og sin ledelsesfilosofi". Fra 1. august overtager han stillingen permanent.

Forskere fra ITU vil bringe klassisk musik tættere på dig

Forskere fra ITU vil bringe klassisk musik tættere på dig

17. juni 2025

Er det muligt at bruge teknologi til at bringe kunst og musik tættere på mennesker? Det er et af formålene med forskningsprojektet XTREME, der undersøger, hvordan mixed reality kan blive brugt til at bringe musik- og kunstoplevelser til publikummer, der ellers møder barrierer for at få adgang til dem.

Jonas Juul er optaget i Det Unge Akademi

Jonas Juul er optaget i Det Unge Akademi

10. juni 2025

Det Unge Akademi løftede i fredags sløret for, hvilke talentfulde unge forskere der er blevet optaget i år. Blandt dem er adjunkt Jonas Juul fra IT-Universitetet i København

Professorportræt: Thomas Binders forskning forbinder sig til en verden i forandring

Professorportræt: Thomas Binders forskning forbinder sig til en verden i forandring

2. juni 2025

Den 19. juni 2025 kl. 14:30 vil professor Thomas Binder holde sin tiltrædelsesforelæsning i Auditorium 0 på IT-Universitetet i København. Forelæsningen har titlen: “What design can do and how it matters”.

Professorportræt: Veronika Cheplygina vil forbedre maskinlæring gennem meta-forskning

Professorportræt: Veronika Cheplygina vil forbedre maskinlæring gennem meta-forskning

26. maj 2025

Den 10. juni 2025 kl. 14.30 vil professor Veronika Cheplygina holde sin tiltrædelsesforelæsning i Auditorium 0 på IT-Universitetet i København. Forelæsningen har titlen: ”Not real research”.

"De vil ramme os på tilliden"

"De vil ramme os på tilliden"

6. maj 2025

Som en del af videnskabsfestivallen Forskningens Døgn havde IT-Universitetet og Dagbladet Information samlet en række eksperter for at tale om cyberkrig i Danmark, og hvor klar vi er til det. Minister for Samfundssikkerhed og Beredskab Torsten Schack Pedersen deltog også i samtalen.

Professorportræt: Nutan Limaye skubber til grænserne for beregningskompleksitet

Professorportræt: Nutan Limaye skubber til grænserne for beregningskompleksitet

1. maj 2025

Den 22. maj 2025 kl. 14:30 vil professor Nutan Limaye fra sektionen Theoretical Computer Science holde sin tiltrædelsesforelæsning i Auditorium 0 på IT-Universitetet i København. Forelæsningen har titlen: “My reflections on the last two decades and Complexity Theory”.

Professorportræt: Anna Vallgårda vil udfordre designet af omsorgsteknologi

Professorportræt: Anna Vallgårda vil udfordre designet af omsorgsteknologi

24. april 2025

Den 9. maj 2025 kl. 14.30 holder professor Anna Vallgårda sin tiltrædelsesforelæsning i Auditorium 0 på IT-Universitetet i København. Forelæsningen har titlen: ”Radical Redesign of Care Technologies”.

Er Danmark klar til cyberkrig?

Er Danmark klar til cyberkrig?

8. april 2025

En gruppe forskere fra IT-Universitetet i København undersøger, hvad Danmark kan lære af Ukraine i forhold til at forberede sig på cyberkrigsførelse. Cyberkrigsførelse påvirker ikke kun regeringer og virksomheder, men også civile, og forskerne spørger, hvad der skal gøre, hvis vi bliver angreb

Forskere vil lære matematikelever kritisk tænkning med data science

Forskere vil lære matematikelever kritisk tænkning med data science

31. marts 2025

I et nyt forskningsprojekt på IT-Universitetet og Københavns Universitet vil en gruppe forskere undersøge, hvordan data science kan blive en del af gymnasiets matematikundervisning for at give eleverne et bedre grundlag for kritisk tænkning og mulighed for at belyse og nuancere påstande de møder i deres hverdag.

Ny bog er en guide til succesfuld AI-implementering

Ny bog er en guide til succesfuld AI-implementering

28. marts 2025

Kunstig intelligens har stort potentiale i organisationer, men hvordan realiserer man det i praksis? Lektor og underviser på ITU’s Master i IT-ledelse, Carsten Lund Pedersen, er medforfatter til bogen ”Gunstig Intelligens,” der som den første af sin slags udstikker en kurs mod succes med AI-projekter i organisationen. Bogen kan forudbestilles nu.

ITU forsker sikrer bevilling til sikkerhedsoptimering af AI-systemer

ITU forsker sikrer bevilling til sikkerhedsoptimering af AI-systemer

19. marts 2025

Lektor Alessandro Bruni fra IT-Universitetet i København er i øjeblikket på Advanced Institute of Science and Technology i Japan, hvor han samarbejder med andre forskere om at udforske det matematiske fundament for verificering af maskinlæringssystemer. Projektet er støttet af Carlsbergfondet.

Professorportræt: Vasilis Galis fandt sin forskningsvej i Athens metro

Professorportræt: Vasilis Galis fandt sin forskningsvej i Athens metro

13. marts 2025

Den 28. marts 2025 kl. 14.30 holder professor Vasilis Galis fra sektionen Technologies in Practice sin tiltrædelsesforelæsning i Auditorium 0 på IT-Universitetet i København. Forelæsningen har titlen: ”Research against dead time”.

ITU-forsker undersøger valg i Grønland

ITU-forsker undersøger valg i Grønland

11. marts 2025

Den 11. marts 2025 er der valg til Inatsisartut (Grønlands parlament). I flere år har forskere fra ITU ledet af professor Carsten Schürmann og Center for Information Security and Trust undersøgt valg og muligheden for internetvalg i netop Grønland og valget i dag er ingen undtagelse.

DFF-støttet ITU-projekt skal udvikle teoretisk fundament for probabilistiske sessionstyper

DFF-støttet ITU-projekt skal udvikle teoretisk fundament for probabilistiske sessionstyper

6. marts 2025

Stigende teknologisk kompleksitet kræver en probabilitisk tilgang til kritisk vigtige it-systemer. Et nyt forskningsprojekt, anført af lektor på ITU Marco Carbone, vil skabe fundamentet for probabilistiske sessionstyper.

Urbane motorveje er barrierer for sociale forbindelser

Urbane motorveje er barrierer for sociale forbindelser

5. marts 2025

Forskere fra IT-Universitetet i København har bevist, at urbane motorveje begrænser sociale relationer i de 50 største byer i USA. Det er det første kvantitative studie af barriereeffekten af urbane motorveje i reduktionen af sociale relationer på tværs af nabolag.

Ny forskning skal finde effektive strategier til epidemiforebyggelse

Ny forskning skal finde effektive strategier til epidemiforebyggelse

26. februar 2025

Adjunkt på ITU Jonas Juul modtager Novo Nordisk Fondens Data Science Investigator-bevilling på knap 6,5 mio. kr. til et projekt, der bl.a. skal forbedre statistiske metoder til at forudsige smitteudbrud.

Kontakt os

Telefon
+45 7218 5000
E-mail
itu@itu.dk

Alle kontaktoplysninger

Tilgængelighedserklæring

Find os

IT-Universitetet i København
Rued Langgaards Vej 7
2300 København S
Danmark
Find vej

Følg os

ITU Student /
Privatliv /
EAN-nr. 5798000417878/
CVR-nr. 29 05 77 53 /
P-nummer 1005162959

Denne side er udskrevet fra https://asterixssl.itu.dk/

Fejl i tilmelding