Foto: Unsplash

”Man stoler på en stemme”

tirsdag 01 dec 20
|
af Christina Tækker, Jesper Spangsmark

Kontakt

Morten Mørup
Professor
DTU Compute
45 25 39 00
Studerende fra Kunstig Intelligens og Data savner etiske retningslinjer, efter at de har testet avancerede modeller for stemmekonvertering.

Da en gruppe 2.-årsstuderende på bacheloruddannelsen Kunstig Intelligens og Data gik op til eksamen for at forsvare deres fagprojekt ’Deep Voice Conversion’, overraskede de både censor og vejleder, da de forfalskede den tidligere amerikanske præsident Barack Obamas’ stemme så overbevisende, at den lød som præsident Donald Trump.

Stemmekonvertering eller deep voice conversion er en type deepfake inden for lyd og fremstilles ved hjælp af kunstig intelligens. Deepfake er et overordnet begreb, der bl.a. dækker over lyd, tekst og billeder. Ved hjælp af neurale netværk, der ud fra store mængder af data kan lære komplicerede sammenhænge, kan man fordreje en persons ansigt, så vedkommendes udtryk og mimik matcher et andet lydspor – ligesom man kan forfalske en anden persons stemme.

”Der har været en del skriverier om deepfake og fake news, og hvordan man primært manipulerer billeder og skaber falske videoer. Men stemmen kan også manipuleres og stjæles. Det oplever vi flere og flere eksempler på inden for bl.a. politik og underholdning,” forklarer Peter Grønning, der har udarbejdet fagprojektet sammen med Gustav Gamst Larsen og Lukas Leindals.

Dilemmaer og gråzoner 

Formålet med deres projekt var at identificere de nyeste modeller for stemmekonvertering, sammenligne dem med hinanden og overveje, hvilke etiske dilemmaer og gråzoner der kan opstå med teknologien. Men størstedelen af projektet gik ud på at afprøve modellerne og eksperimentere med egne og venners stemmer. 

"Stemmekonvertering ser ud til at blive mere og mere tilgængeligt, som tiden går, og har et stort potentiale – også til at snyde en masse mennesker."
Lukas Leindals, studerende på Kunstig Intelligens og Data

”Vi undersøgte, hvor langt vi kunne komme med to års kodeerfaring, og fandt ud af, at det er svært at lave en god, overbevisende deep voice conversion. Men stemmekonvertering ser ud til at blive mere og mere tilgængeligt, som tiden går, og har et stort potentiale – også til at snyde en masse mennesker,” siger Lukas Leindals.

Sammen med sine medstuderende savner han etiske guidelines til, hvordan man skal bruge teknologien. Det gælder både retningslinjer for, hvordan man holder data anonyme, og hvordan man bruger data, som f.eks. at informere ejeren af stemmen om, hvad stemmen skal bruges til.

”Stemmen hører i høj grad sammen med ens identitet. Man stoler på en stemme. Hvis jeg hører min mors stemme, tvivler jeg ikke på, at det er hende,” siger Peter Grønning.

Teknologien kan dog bruges til andet end manipulation. Den bringer også gode anvendelsesmuligheder med sig, da den kan udnyttes til at give folk en stemme, mener Gustav Gamst Larsen: 

”Deep voice conversion kan hjælpe folk, der har mistet stemmen. I stedet for en mekanisk robotstemme kan man rekonstruere ens egen stemme – og dermed øge livskvaliteten.”

Mange unge vil studere AI

DTU’s bacheloruddannelse Kunstig Intelligens og Data er en af de mest ansøgte uddannelser på universitetet.

Der er stor interesse for at studere kunstig intelligens (AI) ved DTU. I 2018 oprettede DTU bacheloruddannelsen Kunstig Intelligens og Data, som er blevet en af de mest efterspurgte uddannelser.

Initiativtager til den nye uddannelse var professor Lars Kai Hansen, som i forbindelse med lanceringen udtalte:

”Kunstig intelligens bliver en central del af vores alles fremtid, og ingeniører med uddannelsen Kunstig Intelligens og Data kommer til at designe den fremtid. De får indblik i principperne bag lærende algoritmer, og hvordan computere tager beslutninger og kommunikerer med brugere – og de bliver i stand til at give computere de evner, som er kernen i vores egen intelligens.” 

120 pladser udbudt i 2020

Da udviklingen af kunstig intelligens spiller tæt sammen med menneskelig adfærd og menneskelige værdier, får de studerende også indsigt i kognitiv psykologi og sociale mekanismer, som baggrund for at designe og evaluere intelligente systemer – også i forhold til etik og privacy.

Fra at udbyde 45 pladser i 2018 udbød DTU 120 pladser på Kunstig Intelligens og Data i 2020.

AI-ingeniører er især efterspurgt inden for medicinalindustri, produktion, bankverdenen, IT- og transportsektoren, og mange startups ansætter ingeniører med kompetencer inden for AI.

Relaterede Videoer  

video thumbnail image

video thumbnail image

video thumbnail image

video thumbnail image

Vis flere