Foto Bax Lindhardt

Matematik med et menneskeligt ansigt

mandag 02 nov 20

Kontakt

Pola Elisabeth Schwöbel
Ph.d.-studerende
DTU Compute
Pola Schwöbel er ph.d.-studerende på DTU Compute. Hun arbejder med kunstig intelligens og metoder til at forhindre bias-problemer.

Pola Schwöbel elsker matematik. Da hun var lille, drømte hun om at blive en videnskabskvinde i hvid kittel og pusle med at løse ligninger dagen lang. Senere er et ønske om at gøre noget meningsfuldt for andre mennesker kommet til. Og nu har hun forenet de to ting i sit arbejde med kunstig intelligens – dog oftest klædt i sort tøj.

Automatiseringen udvikler sig enormt i disse år. Det er en meget stærk teknologi med mange muligheder, men den kan også blive farlig, hvis man ikke er opmærksom på, hvilke værdier, der ligger til grund for de styrende algoritmer, mener Pola:

”Netop på det tidspunkt, hvor jeg startede, var der en stor skandale omkring kunstig intelligens. I USA udviklede man algoritmer, der kunne hjælpe dommere med at vurdere, om en forbryder skulle i fængsel eller have en mere åben straf, måske løslades mod kaution. Men journalister viste, at algoritmen faktisk var super-racistisk – den sendte mange flere sorte end hvide mennesker i fængsel. Det gjorde mig opmærksom på, hvor vigtigt det er, at vi opbygger disse stærke teknologier, så de opfører sig etisk,” siger hun.

Pola tog sin bachelor i matematik på Technische Universität Berlin – suppleret med kurser i filosofi. Og til kandidaten søgte hun et sted, hvor hun kunne dyrke matematik og kunstig intelligens i et større perspektiv. Det fandt hun i faget IT og Kognition på Københavns Universitet. Og i januar 2019 kom hun så til DTU Compute som ph.d.-studerende i sektionen Cognitive Systems. Her føler hun sig rigtig godt hjemme.

”Der er en stor mangfoldighed af kompetencer i sektionen, både folk, der arbejder med maskinlæring som jeg selv, kognitive forskere og forskere med en mere medicinsk baggrund. Det kan jeg virkelig godt lide. DTU er i det hele taget god til at skabe forbindelser mellem forskellige grupper og forskningsområder,” siger Pola, som også hele tiden søger at udvide sit eget perspektiv ved at læse litteratur inden for andre fagfelter.

Sidste år arrangerede hun en sommerskole, hvor hun inviterede oplægsholdere fra andre fagområder, og hun har også indledt et samarbejde med en filosof.

Jo større diversitet i data, jo mere sikker og fair behandling

Polas ph.d. har titlen: ‘Learning Data Augmentations for Bias-Correction’. Hun forklarer:

”De algoritmer, der styrer robotter, lærer ved at få vist en masse billeder i forskellige kategorier. Når en selvkørende bil f.eks. skal lære at skelne mellem træer og andre biler, får maskinen vist billeder af de to ting i forskellige former og farver. Som man kan forestille sig, skal der rigtig mange eksempler til, og dem får man en computer til at generere – det kalder vi data augmentation.”

”Der er mange situationer, hvor det kan være farligt, hvis maskinen ikke har været præsenteret for tilstrækkeligt med data. Hvis man f.eks. skal lære en computer at finde kræft på skanningsbilleder, så er det vigtigt, at billederne kommer fra en meget forskelligartet gruppe, ikke kun fra mænd mellem 20 og 30, som det måske ville være tilfældet, hvis vi udelukkende samlede data her på DTU.”

”Datamangel kan altså føre til uetiske, unfair eller decideret farlige situationer. Og for at undgå det må vi, der laver algoritmerne, være meget bevidste om, hvad der er etisk og fair. Derfor må vi række ud til andre fagområder, fra filosoffer til samfundsforskere og læger.”

Det gør Pola i høj grad, og det er der god mulighed for på DTU, synes hun. I det hele taget kan hun godt lide det åbne miljø, hvor man kan gå ind ad alle døre og bede om hjælp eller bare få en snak og et godt råd, også fra de etablerede professorer.

Hun lægger heller ikke skjul på, at hun håber at kunne blive i forskningsverdenen – og gerne på DTU.

”Det eneste jeg savner, er nogle flere kvindelige kolleger, både nogle på min egen alder og ældre kvinder, som man kan spejle sig i og se op til. Vi mangler gode rollemodeller, som kan vise vejen til en akademisk karriere. Men det bliver bedre, blandt andet takket være forskellige initiativer, som har fokus på kvinder og teknologi. Det støtter jeg selv som frivillig i organisationer som Women in Machine Learning.”