IT-advokat: Dataanvendelse kræver tidlige etiske, retslige og forretningspolitiske overvejelser
Data kan give anledning til nogle langt mere komplekse etiske overvejelser end andre teknologiske værktøjer. Blind tro på data kan hæmme virksomheders kritiske dataforståelse, og derfor må virksomheder gøre sig de nødvendige etiske, retslige og forretningspolitiske overvejelser om data allerede i planlægningsfasen, vurderer IT-advokat Henrik Mansfeldt Witt.
etikforretningbig datadata science
Skrevet 15. oktober 2020 07:46 af Johanne Jacobsen Halken
Data er aldrig entydige, men åbne for fortolkning – og dermed et lige dele håndgribeligt og abstrakt teknologisk redskab. Ifølge IT-advokat, Henrik Mansfeldt Witt, der underviser og rådgiver i GDPR og dataretlige principper, kræver brugen af data derfor også en særlig bevidsthed.
”I disse år er mulighederne ved data enormt hypede, men tilbage står stadig spørgsmålene om, vi skal bruge data, bare fordi vi kan, og hvad det i givet fald er, vi kan og skal gøre som virksomhed med de data, som virksomheden producerer.”
Arbejdet med data og dataprocesser åbner et næsten uendeligt spektrum af principielle spørgsmål. Hvor valide er data? Hvilke konsekvenser har det for en given organisation, at bestemte data inddrages? Skal man berige data, blot fordi man kan? Hvilke konsekvenser kan det have, hvis data anvendes til fx effektivisering, automatisering eller ny innovation i virksomheden? Hvorvidt bør data anvendes som støtteværktøjer eller som et autonomt værktøj?
Virksomheder skal være bevidste om, hvor i kæden, de ikke har fuld kontrol over deres data og vurdere, om de er villige til at leve med risiciene. Og tilbage står altid spørgsmålet: hvem styrer egentlig forretningen?
Henrik Mansfeldt Witt
Hvem styrer forretningen
Særligt for de virksomheder, der er født digitale og indsamler store datamængder til fx at forudse kunders adfærd, bliver ovenstående spørgsmål stillet igen og igen. Ofte ejer virksomheder ikke selv alle deres data, men er afhængige af en offentlig kilde eller et eksternt firmas produktion af data til dem.
Virksomheder befinder sig således ofte i afhængighedsforhold på tværs af dataformater, datakilder og underliggende it, som muliggør brugen af data. Dette afhængighedsforhold kan være kendt, men det kan også tit være ukendt for virksomheden. Men hvis en virksomhed reelt drives på andres nåde, hvem bestemmer så virksomhedens risikoprofil?
Henrik Mansfeldt Witt uddyber: ”Der er hele tiden en afhængighed. Skal virksomheder have noget ud af deres data, skal de tit trække på en ekstern leverandør, og derfor skal værdikæden kigges igennem. Virksomheder skal være bevidste om, hvor i kæden, de ikke har fuld kontrol over deres data og vurdere, om de er villige til at leve med risiciene. Og tilbage står altid spørgsmålet: hvem styrer egentlig forretningen?”
Mulige omkostninger skal kunne forudses Alle algoritmer kræver, at man træner dem. For at træne dem er man afhængig af et stort datagrundlag. Disse datagrundlag er tit ikke fuldstændige og dermed biased.
Henrik Mansfeldt Witt
I en massesammenhæng, hvor virksomheder er dybt afhængige af data og løbende tillægger it-systemer en større og større sandhedsværdi, krydses grænsen let. Det skal virksomhederne være fuldt bevidste om.
Som eksempel på en klassisk faldgrube, fremhæver Henrik Mansfeldt Witt bl.a. algoritmer:
”Alle algoritmer kræver, at man træner dem. For at træne dem, er man afhængig af et stort datagrundlag. Disse datagrundlag er tit ikke fuldstændige og dermed biased. Vi har i tidens løb fx set algoritmer, der fremfandt og foreslog jobs til kvinder, bortset fra CEO- eller direktørstillinger. Årsagen var, at algoritmerne ikke havde noget datagrundlag for, at kvinder søgte CEO- og direktørstillinger, og det blev ikke rettet, for man trænede jo med det data, der allerede var der, uden at tage stilling til om datagrundlaget var komplet.”
Lignende faldgruber noterer Henrik Mansfeldt Witt i datadrevne værktøjer som fx vejrapplikationer eller GPS-systemer: ”Mange af os har et GPS-system i bilen, der er 100 % databaseret fra eksterne kilder. En gang i mellem er det nødvendigt at forholde sig kritisk til, hvad ens GPS fortæller en. Hvis man kører blindt efter sin GPS, sløver man ikke alene sin egen evne til at orientere sig i tid og rum og finde vej, men man risikerer i sidste ende og at køre forkert eller ultimativt at køre galt.”
Mange mulige, afledte omkostninger har virksomheder rimelige forudsætninger for at forudse
Henrik Mansfeldt Witt
Da brugervenlighed/effektivitet altid synes at have første prioritet er der for få, der får lov til at forholde sig kritisk til brugen af data, påpeger Henrik Mansfeldt Witt. Men det er nødvendigt at være forudseende og gennemtænke de mulige, afledte omkostninger: ”Mange mulige, afledte omkostninger har virksomheder rimelige forudsætninger for at forudse. Risikerer man at umyndiggøre eller fremmedgøre ens ansatte eller ens kunder eller leverandører? Risikerer man at sætte processer i gang, som man ikke kan stoppe? Eller risikerer man at udsætte sig selv for berettiget eller uberettiget kritik fra det omgivende samfund på grund af ugennemtænkt brug af data?”
Hvad vi kan vs. hvad vi skal
De etiske, retslige og forretningspolitiske overvejelser om data, som virksomheder løbende står over for, må positioneres i forhold til hinanden. For ét er, hvad man må i rent juridisk forstand, noget andet er, hvad man kan og hvad man skal.
”Mange virksomheder arbejder fx med datasæt, der ikke er tiltrækkelige til formålet, og derfor vælger de at berige deres data og kombinere ét datasæt med et andet,” påpeger Henrik Mansfeldt Witt. ”Men hvorfor og i hvilket omfang datasættet skal beriges, bliver sjældent tænkt helt til ende. Hvor
kan det kan slutte, og hvor
skal det slutte?”
For at sikre kvaliteten af de data, en virksomhed anvender som en del af deres drift, er det vigtigt, at alle dem, der arbejder med brugen af data, herunder dataudtræk og dataforståelse, løbende får lov til at forholde sig kritisk til datagrundlaget og formålet med brugen af data.
”Således kan virksomheder tage endnu bedre stilling til de mulige afledte omkostninger og risici ved deres databrug,” afrunder Henrik Mansfeldt Witt Henrik.