Projekt håber at sikre tillid mellem borgere og algoritmer

Populisme, polarisering og sammensværgelser er velkendte samfundsfænomener, som for nylig er blevet knyttet til den øgede anvendelse af algoritmisk databehandling i samfundet. Dette mener flere forskere, der nu går sammen på tværs af discipliner og universiteter for at undersøge præcist, hvordan dette skal tackles.

"Algoritmer, data og demokrati", forkortet "ADD", er navnet på det 10-årige tværfaglige projekt, der nu lanceres for at forbedre forståelsen af ​​algoritmisk databehandling som en del af samfundet på en sund, menneskelig, og støttende måde.

- Målet med teknologi er at støtte folks velbefindende, individuelt men også som et samfund, fremme tillid, sikkerhed, retfærdighed og gennemsigtighed, siger professor på Datalogisk Institut på Københavns Universitet (DIKU) Christina Lioma.

Hvordan udvikles kunstig intelligens, der understøtter menneskelige samfundsprocesser

- Den rolle, som algoritmisk databehandling spiller i kriser med offentlig tillid, er afgørende for samfundet og demokratiet. Vi ser en bestemt sommerfugleffekt her i den forstand, at algoritmiske valg, der kan virke mindre i laboratoriet, kan ende med at få enorme konsekvenser for samfundet. Vi er nødt til at løse dette lige nu og på en principiel måde.

Liomas arbejde vil fokusere på tre kerneproblemer i kunstig intelligens i dag: Den første er, at søgemaskiner og social medieteknologi generelt er utilsigtet designet til at sprede falske nyheder med clickbait i stedet for rent faktisk at sprede nøjagtige oplysninger, simpelthen fordi denne type indhold er meget klikbare (og klik genererer trafik). Det andet problem er, at det er umuligt at udelukke bias fra de data, der genereres af samfundet og bruges til at træne AI-algoritmer. Der vil altid være bias med hensyn til en eller anden dimension, såsom køn, alder, hudfarve, seksuel orientering, politisk overbevisning, indkomst eller uddannelsesniveau etc.

- Vi mennesker har normer til at styre vores adfærd, selv når den udsættes for biased situationer, men det har algoritmer ikke. Det betyder, at hvis algoritmerne er trænet i data, hvor fx 90% af lægerne er mænd, vil algoritmerne identificere dette som et mønster og lære at gentage det, for eksempel ved automatisk at oversætte alle læger som han, siger Lioma.

Det tredje kerneproblem, som Liomas arbejde vil fokusere på er at forstå forholdet mellem overparameterisering og generalisering i dybe læringsmodeller.

- Dette betyder grundlæggende at forbedre vores forståelse af, hvordan vi kan sikre at den algoritmiske opførsel, vi ser i laboratoriet, også ses uden for laboratoriet i den virkelige verden. De betingelser, hvorunder dette kan ske, er ikke garanteret lige nu, siger Lioma.

Hun håber, at arbejdet vil hjælpe med at fremme forståelsen og udviklingen af ​​kunstig intelligens - især i sammenhæng med demokratiske og politiske processer, som det meget påvirker.

Tildelt 100 millioner DKK

ADD-projektet er tildelt 100 millioner kroner af VILLUM FONDEN og VELUX FONDEN og ledes af professor Sine Nørholm Just, Institut for Kommunikation og Humaniora ved Roskilde Universitet (RUC).

- Målet med projektet er at forene datalogi, samfundsvidenskab og humaniora i udviklingen af nye løsninger til gavn for borgerne og samfundet. Vi vil med andre ord forstå den teknologiske udvikling og styrke deres demokratiske potentiale, siger Sine Nørholm Just.

Projektet skal løbe over de næste 10 år. Forskere fra Aalborg Universitet, Copenhagen Business School, Aarhus Universitet og Syddansk Universitet ud over KU og RUC deltager i projektet. Også Lisbeth Knudsen, strategidirektør på Mandag Morgen, leder projektets outreach-del.

Læs mere om projektet her.