IoT-udviklere kalder til dataetisk revolution
Over hele Europa kalder IoT-udviklere til et opgør med sløset datasikkerhed og etisk tvivlsomme internetforbundne produkter, viser en ny analyse af forskere fra IT-Universitetet i København. Forskerne arbejder på at udvikle etiske retningslinjer og værktøjer, som kan hjælpe udviklerne, der designer fremtidens teknologier.
Institut for Business ITForskninginternet of thingsetikIrina ShklovskiRachel Douglas-Jones
Skrevet 22. juni 2018 07:07 af Vibeke Arildsen
Barbiedukker, der kan give hackere adgang at udspionere børn, sexlegetøj, der sladrer om ejernes brugsvaner, og internetforbundne kameraer og køleskabe, der bruges til hackerangreb.
Der findes masser af eksempler på, at det kan gå galt, når virksomheder kobler fysiske produkter på internettet. De mange sårbare og ugennemtænkte IoT-produkter kan tilskrives virksomhedernes iver for at udvikle nye, smarte produkter, kombineret med en mangel på ekspertise, der favner alle aspekter af smart og internetforbundet hardware, mener Irina Shklovski, lektor på IT-Universitetet.
»Hvis en kosmetikvirksomhed for eksempel laver en internetforbundet hårbørste, er det pludselig ikke længere bare en hårbørste, men også et kommunikationsredskab.
Irina Shklovski, lektor på ITU
«
”I dag kaster mange virksomheder sig ud i at udvikle internetforbundne produkter uden at have særlig ekspertise inden for dette meget komplekse felt. Hvis en kosmetikvirksomhed for eksempel laver en internetforbundet hårbørste, er det pludselig ikke længere bare en hårbørste, men også et kommunikationsredskab,” siger hun.
”Det rejser et helt andet sæt etiske spørgsmål og risici, end dem, virksomheden kender i forvejen. Man skal blandt andet forholde sig til, hvilke data, hårbørsten skal indsamle, hvilke data, der skal være tilgængelige for brugerne, samt hvordan disse data håndteres på en etisk forsvarlig måde,” fortæller Irina Shklovski videre.
Manifester som svar på bekymringer
Irina Shklovski leder det EU-støttede forskningsprojekt VIRT-EU, som undersøger hvordan europæiske IoT-udviklere forholder sig til etiske spørgsmål. Hun fortæller, at udviklerne selv erkender, at det er tid til et opgør med etisk tvivlsomme produkter.
”Udviklerne, vi har talt med, udtrykker ofte frustration og bekymring i forhold til de teknologier, de er med til at designe. I de seneste år er flere og flere udviklerfællesskaber begyndt at skrive disse bekymringer ind i manifester, som definerer problemerne med tingenes tilstand – fx i forhold til dataindsamling og -sikkerhed – og beskriver visioner for en bedre fremtid,” siger hun.
Ph.d.-studerende Ester Fritsch har sammen med Irina Shklovski og Rachel Douglas-Jones analyseret 28 af disse manifester.
Konklusionen er blandt andet, at IoT-udviklerne forsøger at flytte samtalen om IoT væk fra hypen om, hvad der er muligt med teknologien, og hen til spørgsmålet om, hvem der egentlig har ansvaret for produkterne og for de bredere konsekvenser af de beslutninger, der er truffet i udviklingen af dem.
»Er udviklerne ansvarlige for at gennemtænke alle de potentielle fremtidige konsekvenser af deres designs? Spørgsmålet er også, om det er rimeligt at lægge disse overvejelser over på individuelle udviklere.
Irina Shklovski, lektor på ITU
«
”Manifesterne rejser en lang række komplekse spørgsmål om ansvaret for teknologierne. Skal brugerne selv tage ansvar for at forstå, hvordan deres internetforbundne babyalarmer og højtalere fungerer, eller skal designerne sørge for at det fremgår klart, hvordan produktet fungerer? Er udviklerne ansvarlige for at gennemtænke alle de potentielle fremtidige konsekvenser af deres designs? Spørgsmålet er også, om det er rimeligt at lægge disse overvejelser over på individuelle udviklere,” siger Irina Shklovski.
Etik skal ind i designprocessen
Der findes mange værktøjer, som kan hjælpe IoT-udviklere og virksomheder med at gennemtænke konsekvenserne af teknologierne, de designer og udvikler. Disse er dog ofte kun brugbare til enkeltstående brainstormings eller refleksioner og er sjældent forbundet til selve designprocessen, fortæller Irina Skhlovski.
Hun påpeger, at design og udvikling af IoT-produkter er en vedvarende proces, hvor udviklerne må træffe nye beslutninger efterhånden som uforudsete forhold og interessenter dukker op.
Et af målene med VIRT-EU projektet er derfor at udvikle værktøjer og retningslinjer, der kan hjælpe udviklerne med at tænke etikken ind i designfasen løbende og med at overveje potentielle individuelle og samfundsmæssige følger af deres produkter.
"I VIRT-EU projektet tænker vi på etik som udlevede værdier. Etiske handlinger foretages altid i en kontekst af magtforhold og begrænsninger. Så vi undersøger, hvad folk rent faktisk gør i praksis, og hvordan deres handlinger er formet af – og kan forandres i – deres konkrete omgivelser,” siger Irina Shklovski.
Irina Shklovski, lektor, telefon +45 7218 5363, email irsh@itu.dk
Vibeke Arildsen, presserådgiver, telefon 2555 0447, email viar@itu.dk