Der bliver talt og skrevet meget om dataetik – som en nødvendighed for, at teknologier ikke løber løbsk, men bliver brugt med respekt for det enkelte menneske. Men hvad betyder dataetik egentlig i praksis? Hvordan bliver det anvendt? Perspektiv har talt med tre eksperter, der har dataetik som en fast bestanddel af deres arbejde.
Tekst Sten Løck
- Det er nødvendigt med en grundig og fortløbende diskussion om dataetik. Ellers ender det i overskriftsform, og det er det alt for vigtigt til.
Således lyder det fra Stine Randklev Nissen, der er lead auditor hos D-mærket, en nyoprettet mærkningsordning for it-sikkerhed og ansvarlig dataanvendelse i virksomheder. Bag ordningen står en lang række organisationer, som Industriens Fond, Dansk Industri, Dansk Erhverv, SMVdanmark samt Forbrugerrådet Tænk.
For at opnå mærket skal virksomheder udfylde en selvevaluering fordelt på otte kriterier. I det digitale selvevalueringsværktøj er kriterierne omdannet til spørgsmål, som hjælper virksomhederne med at forholde sig konkret til D-mærkets krav, forklarer Stine Randklev Nissen.
- Der er lagt meget arbejde i at udarbejde værktøjet. Kriterierne dækker områder som transparens og kontrol med data, pålidelige algoritmer samt awareness og sikker adfærd. Svarene bliver kontrolleret, og er de tilfredsstillende, får virksomheden tildelt mærket.
Som lead auditor er det Stine Randklev Nissen, virksomhederne møder, når de skal testes med værktøjet, og som de kan spørge til råds undervejs i processen.
Der er ikke nogen tvivl om, at klassisk indtjening vil veje tungt, men hvis virksomheden virkelig mener det med dataetik alvorligt, må man tage de rigtige samtaler og valg.
For Stine Randklev Nissen handler dataetik især om at veje ting op mod hinanden.
- Når virksomheder agerer digitalt, er det ikke kun et spørgsmål om, hvorvidt de må, men også, om de bør, og D-mærket er en opfordring til at tage sådanne samtaler og træffe valg, der ikke er fordefineret. Det kan godt være, noget er teknisk muligt, men overtræder man dermed en grænse i forhold til kundens grundlæggende rettigheder?
Det gælder for eksempel indsamling og behandling af data.
- Virksomheder indsamler enorme mængder data, men det skal man ikke kun gøre, fordi det er muligt. Virksomheden bør spørge sig selv, hvad det specifikke formål er, og om data vil blive håndteret ansvarligt og sikkert. Hvor længe bliver de gemt, og bliver de delt med andre, måske endda solgt til en tredjepart?
Oven i selve datahåndteringen kommer så spørgsmålet om algoritmer, altså hvad der bliver udledt af disse data, forklarer Stine Randklev Nissen.
- Hvordan kommer algoritmer til at påvirke beslutninger og dermed mennesker? Har algoritmerne nogen indbygget bias, der skævvrider konklusionerne? Når man først tænker problemstillingerne igennem, er der masser af relevante spørgsmål, der kan og bør stilles. Igen, svaret er ikke givet på forhånd, hvorfor netop diskussioner og overvejelser er en central del af dataetikken.
Det betyder ikke, at dataetik går imod de teknologiske muligheder, men de skal tjene mennesker på den rigtige måde, lyder det fra Stine Randklev Nissen.
- Masser af forbrugere kan få noget ud af en velskrevet algoritme, den er jo ofte lavet for at gøre livet nemmere. Og en virksomhed kan fint sige, at det er rimeligt, hvad den foretager sig. Men det er vigtigt, at virksomheden er tydelig med, hvad den foretager sig, og at der er indsigelsesret. På den måde kan kunden vælge, om vedkommende er villig til for eksempel at afgive data for at modtage en ydelse.
Et typisk valg for virksomheden vil formentlig være mellem omsætning kontra kundehensyn, og vil virksomheden så ikke altid vælge det første? Det vil vise sig, siger Stine Randklev Nissen.
- Der er ikke nogen tvivl om, at klassisk indtjening vil veje tungt, men hvis virksomheden virkelig mener det med dataetik alvorligt, må man tage de rigtige samtaler og valg. Desuden er dataetik jo også et konkurrenceparameter. Måske får virksomheden flere kunder i butikken ved at agere ansvarligt og velovervejet.
Dataetik har altid fyldt meget i vores fag, også før digitaliseringen.
Ligesom Stine Randklev Nissen mener Tine Weirsøe fra Scandinavian Information Audit, at dataetik er en levende størrelse, der kræver diskussion og granskning.
- Grundlæggende handler dataetik om at sætte menneske før maskine. Men det er jo ikke nogen eksakt videnskab, det kommer an på den konkrete situation, hvorfor dataetik kræver samtaler, afklaring og grundige overvejelser. Jeg plejer at sige, at ifølge it kan alt lade sig gøre, og ifølge jura kan intet lade sig gøre, og det er så op til de etiske overvejelser, hvad virksomheden i sidste ende beslutter sig for.
Tine Weirsøe er ekspert i records management, og her spiller dataetik en afgørende rolle, fortæller hun.
- Det går som en rød tråd gennem alt, hvad vi beskæftiger os med. Virksomheder er i dag nødt til at tænke over, hvad data skal bruges til, og om det foregår ordentligt. Og dataetik er meget mere end persondata. Vi har i dag enorme kræfter til rådighed med teknologier som kunstig intelligens, og med store kræfter følger også et stort ansvar.
Et oplagt eksempel er brug af data til personalisering i onlinebutikker, hvor kundens historik bliver brugt til at målrette tilbud.
- Det kan være meget fint med personalisering, men den enkelte kunde skal spørges ad, om vedkommende vil med på den rejse eller selv foretrækker at tage nogle valg. Jeg kan selv blive voldsomt irriteret, når jeg får tilbudt noget baseret på, hvad jeg tidligere har handlet. Jeg har ikke brug for, at nogen regner mig ud.
Men der er også mindre åbenlyse eksempler, hvor dataetik skal ind over, forklarer Tine Weirsøe.
- Når du har store datasamlinger, hvor du kan spore en enkelt person, er det altid en god idé at tænke over etikken. Der var et stort mejeri, som indsamlede data for, hvornår og hvor meget is folk spiste, for således at kunne indrette produktionen. Det er sådan set ok, men det må ikke komme ned på individniveau. Is er ikke sundt, og det kommer ikke mejeriet ved, hvor meget det enkelte menneske spiser.
Grundlæggende handler dataetik om at sætte menneske før maskine.
Dette paradigme gælder for alle organisationer, uanset hvor sympatiske de er, understreger Tine Weirsøe.
- Jeg har en bekendt, der fik konstateret cancer. Mindre end en uge efter diagnosen fik hun brev fra Kræftens Bekæmpelse med tilbud om at blive medlem. Jeg ved ikke, hvor de har fået informationerne fra, men det er langt over stregen, uanset hvor meget vi synes om organisationens arbejde i øvrigt.
Personlige sympatier eller antipatier bør derfor ikke spille nogen rolle, når det handler om etik, siger Tine Weirsøe og nævner en af klodens mest kontroversielle personer som eksempel.
- Det var etisk forkert, da Facebook lukkede Donald Trumps konto. Man kan mene om Trump, hvad man vil, men Facebook er ikke en myndighed og har ingen ret til på den måde at regulere den offentlige debat.
Dataetik er således en svær disciplin, fordi man skal se bort fra personlige holdninger og tænke i rimeligheder.
- Du kan sammenligne det med diskussionen om abort. De fleste har en klar holdning til spørgsmålet, men den er jo ikke baseret så meget på fakta som meninger, og derfor bliver etikken afgørende.
Derfor efterlyser Tine Weirsøe også mere konkrete definitioner på dataetik, så det bliver nemmere at arbejde med.
- Jeg kunne godt ønske mig nogle flere retningslinjer inden for dataetik, for eksempel en ISO-standard. GDPR har været et vigtigt skridt på vejen, fordi vi her har nogle konkrete og skrappe krav til, hvordan data skal behandles, for eksempel med hensyn til sletning.
Jeg plejer at sige, at ifølge it kan alt lade sig gøre, og ifølge jura kan intet lade sig gøre, og det er så op til de etiske overvejelser, hvad virk-somheden i sidste ende beslutter
sig for.
Der arbejdes imidlertid ikke kun med dataetik i forhold til virksomheder. Også på bibliotekerne er det en problemstilling, man løbende skal tage stilling til, siger Daniel Ackey, digital bibliotekar hos Københavns Biblioteker.
- Dataetik har altid fyldt meget i vores fag, også før digitaliseringen. Vi har adgang til brugernes cpr-numre og deres lånehistorik, private oplysninger, vi skal værne om. Biblioteket skal være et frit rum, hvor man ikke overvåges.
Samtidig har bibliotekerne et særligt ansvar med hensyn til egne digitale værktøjer, mener Daniel Ackey.
- Vi arbejder allerede nu med personaliserede løsninger, og dem vil der komme endnu flere af i fremtiden. På Biblioteksappen vil din profil have en lånehistorik, og på den baggrund kan vi foreslå nyt materiale, der kan være af interesse. Du kan sammenligne det med Netflix, og så alligevel ikke, fordi du på appen kan slette din historik. Jeg så dog gerne, at der var flere tiltag. For eksempel at vi tilbød indhold, der ikke umiddelbart matcher lånehistorikken, men indholdsmæssigt ligger uden for skiven, så vi undgår informationsbobler. Og jeg kunne også godt tænke mig, at Biblioteksappen gav brugeren en forklaring på, hvordan algoritmen er nået frem til de specifikke forslag. Et af de store problemer med algoritmer i dag er jo, at de opererer som en »black box«, det vil sige, at du ikke kan se, hvordan de er kommet frem til resultaterne.
Det er således ikke alle dataetiske hensyn, der er blevet tilgodeset i Biblioteksappen, uddyber Daniel Ackey.
- Der var desværre ikke plads eller råd til det hele, mente udviklerne af appen. Men det er noget, jeg vil arbejde for fremover i andre projekter. Udviklere har typisk mere fokus på det tekniske end det etiske, og jeg mener, det ville være en rigtig god idé, hvis netop dataetik blev en fast bestanddel i uddannelsen af softwareudviklere.
Et andet område, hvor dataetik er blevet endnu mere relevant for bibliotekerne, er forholdet til informationskilder.
- Det er en fast del af vores fag at hjælpe brugerne med at bruge kildekritik, ligesom vi underviser studerende i emnet. Denne disciplin er efter min mening utrolig vigtig i en tid med fake news og konspirationsteorier, der rumsterer, ikke mindst på internettet. Kildekritik er utrolig vigtig for den demokratiske debat, og her har vi et stort ansvar.
Forude venter der endnu flere spørgsmål, der håndteres dataetisk, mener Daniel Ackey.
- Jeg tror, data og klima bliver et tema. Hvor mange data skal vi egentlig opbevare? Hvad er værd at gemme på, og hvad kan undværes? Som det er i dag, bliver alt jo gemt, og de stadigt flere enorme datacentre sluger masser af energi. Der mangler regler for, hvor længe noget skal gemmes, og hvad kan slettes. GDPR har taget fat på de spørgsmål, men der vil komme mere.
