Hvorfor tror du, folk reagerer så kraftigt på ChatGPT?
Jeg tror bl.a., det skyldes, at ChatGPT interagerer med os på en anden måde end de søgemaskiner, vi kender, ved at personliggøre sit svar i formfuldendte sætninger med noget, der kan forveksles med argumentation.
Nogle opfatter den som kontroversiel, fordi den bruger data, som jo er frit tilgængelig på internettet, men som samtidig ikke er tiltænkt at skabe profit for en virksomhed. Virksomheden bag ChatGPT har brudt med en samfundskontrakt ved at udnytte noget fælles for egen vindings skyld.
Samtidig bliver der indhentet data om dig som bruger på en anden måde end de søgemaskiner, vi allerede kender, fordi du som noget nyt giver noget af dig selv i form af tilknytning til nogle idéer eller tanker, som du deler netop på grund af måden, ChatGPT interagerer med dig på.
Vi ved heller ikke, om den er designet til at påvirke brugeren på bestemte måder – om den f.eks. tenderer mod at være racistisk og kvindefjendsk ganske som mange andre softwaresystemer, der er baseret på maskinlæring, fordi de forstørrer elementer, der er meget af i de data, systemerne trænes på.
I stedet for at stirre os blinde på enkelte produkter opfordrer du til, at vi generelt stiller krav til, at teknologi er ansvarlig. Men hvordan definerer du ’ansvarlig teknologi’?
Om en teknologi er ansvarlig, afhænger helt af samspillet mellem hvad den er skabt til og hvordan den bliver brugt. Altså lever den op til de mål, der er sat, eller den virker på helt andre måder i praksis?
En producent kan stræbe efter at skabe ansvarlig teknologi, men man kan ikke sætte prædikatet ’ansvarlig’ og ’uansvarlig’ på teknologier én gang for alle. Derfor er det meget vigtigt at følge konkrete virkninger nøje, så vi f.eks. opdager, hvis teknologier trods gode intentioner har uhensigtsmæssige konsekvenser.
Hvordan vurderer man, om en teknologi er ansvarlig?
Første skridt er at beskrive teknologien i kontekst. Hvordan er den en del af den større sammenhæng af infrastrukturer, forretningsmodeller og kulturelle værdisæt? En uansvarlig tilgang vil være at sige ’Åh, nu er der kommet en teknologi, der kommer til at revolutionere verden, så vi må hellere reagere’ og så skynde sig at tage den i brug eller lave forbud uden at undersøge den nærmere.
Skridt nummer to er at analysere effekterne: Hvad sker der i praksis? Indfrier teknologien de løfter, som den siger, at den vil? Hvis den gør noget andet, hvad er de andre ting så? Og hvad skal egentlig være på plads, for at der er tale om en god teknologi?
Tredje skridt er at eksperimentere med teknologien. Hvad er grænsen for dens kunnen? Er der nogen eller noget, den ekskluderer?
Det er også vigtigt at vurdere, om de værdier, teknologien repræsenterer, harmonerer med egne værdier – i denne her organisation, skole, sektor eller dette land. Hvis ikke kan man jo sige nej og vælge, at man ikke vil promovere den eller sætte nogle hårde begrænsninger på brugen af den.
Når det drejer sig om offentlig digital infrastruktur, som er mit forskningsområde, handler det om at sikre, at teknologien understøtter det samfund, vi ønsker.
Er ansvarlig teknologi lig med nødvendig teknologi?
Vi kan sagtens få alle mulige teknologier til at løse ting for os, men hvor vil vi hen som mennesker? Hvad vil vi gerne have trænet? Det er jo sådanne spørgsmål, vi også bliver nødt til at stille os selv i den sammenhæng, vi indgår i, for at kunne afgøre, om det er nødvendigt og gavnligt at omfavne en bestemt teknologi.
Som én skrev i fagbladet ’Gymnasieskolen’, så går man jo ikke ind i et fitnesscenter med en gaffeltruck for at løfte vægte. Man løfter vægtene selv, fordi man gerne vil udvikle sine muskler. Han mente ikke, at chatbots hjælper læring på vej, så derfor vil det være dumt at bruge dem i skolen.
Debatten har siden fået flere nuancer, idet man flere steder har besluttet på sigt at tillade ChatGBT i undervisningen og i forbindelse med afleveringer. Efter min mening er det en ansvarlig omgang med chatbots at lægge en linje ovenfra i forhold til brug for så systematisk at samle op på erfaringerne gennem dialog med undervisere og studerende.
Det vil også være en god idé at benytte lejligheden til at udbrede en basal teknologiforståelse ved at undervise i, at al teknologi har indbyggede præferencer, værdier, standarder, politik og historik.
Er regulering nødvendig for at sikre en ansvarlig teknologibrug?
Jeg kan ikke komme i tanker om teknologier på infrastruktur- eller samfundsniveau, der ikke er underlagt regulering. Når vi taler om digitale teknologier, er retten til privatliv noget, der bliver skal reguleres og bliver det.
Big Tech har vist sig notorisk svær at gøre til genstand for regulering, fordi de giver services væk gratis og tager data tilbage. Det er deres forretningsmodel. Det forsøger man at styre fra EU’s side med bl.a. GDPR og anden regulering. Lovgivningen synes desværre altid at halte bagefter virkeligheden, men det er nok dens natur.
Jeg er fortaler for, at vi forsker mere i samspillet mellem mennesker og automatiserede systemer, så vi kan træffe bedre beslutninger på samfundsniveau. Det er vigtigt, at vores demokratiske institutioner og tilliden til myndighederne ikke eroderer, fordi vi synes, noget er smart i en fart. Vi skal undersøge de praktiske effekter grundigt.
