Millionbevilling til samarbejde om infrastruktur og forskning i ansvarlig AI
Det Nationale Center for AI i Samfundet (CAISA) modtager 45 millioner kroner fra forskningsreserven til et nyt AI-samarbejde med Danmarks Statistik. Det står klart, efter partierne bag forskningsreserven har indgået aftale om udmøntningen af næste års midler.
Samarbejdet mellem CAISA og Danmarks Statistik skal styrke både forskning i ansvarlig kunstig intelligens (AI) og den infrastruktur, som gør forskningen mulig - til gavn for hele Danmark.
”Med samarbejdet mellem CAISA og Danmarks Statistik får vi en unik mulighed for at kombinere verdensførende forskningskompetencer med en unik national datainfrastruktur. Samarbejdet kan bidrage til, at Danmark står stærkt som et samfund, der både udnytter AI’s muligheder og sætter borgernes rettigheder og tillid i centrum,” siger leder af samarbejdet, Andreas Bjerre-Nielsen der er seniorforsker i CAISA og lektor i Social Datavidenskab og Økonomi på Københavns Universitet.
To indsatser, der hænger sammen
Samarbejdet bygger på to indsatser, der understøtter hinanden gensidigt:
Den ene indsats handler om at styrke og modernisere infrastrukturen for AI-forskning hos Danmarks Statistik, som har en lang tradition for at stille data til rådighed for forskning. Målet med den nye indsats er, at danske forskere får gode muligheder for at håndtere nye og komplekse datakilder – som for eksempel ustrukturerede data. Samtidig bliver det muligt at træne store AI-modeller på danske registerdata i et sikkert analysemiljø og med moderne hardware.
Den anden indsats skal skabe ny viden om, hvordan vi kan anvende AI-algoritmer ansvarligt i samfundet. Gennem udvikling og anvendelse af Danmarks Statistiks infrastruktur og data, skal der undersøges muligheder for at skabe en platform, der skal sikre, at de algoritmer, som bruges i Danmark, lever op til grundlæggende krav som ligebehandling, gennemsigtighed og tillid. Forskningen vil også undersøge, hvordan man kan sikre at algoritmerne bevarer eller forbedrer funktionalitet - også efter de er taget i brug.
”Gennem 35 år har Danmarks Statistik på en sikker måde stillet kvalitetssikrede og dokumenterede data til rådighed for forskning. Det skal vi naturligvis blive ved med, selv når teknologien og efterspørgslen udvikler sig. Jeg er glad for, at CAISA og Danmarks Statistik skal arbejde sammen om et nyt stort skridt, så forskere fra hele landet i fremtiden får mulighed for at arbejde sikkert og forsvarligt med ny teknologi på vores og andres data” siger rigsstatistiker Martin Ulrik Jensen fra Danmarks Statistik.
Join CAISA for an online webinar, launching our new research brief "The Use of Chatbots in the Public Sector". In the research brief, we synthesize current scholarly evidence on the implementation and use of chatbots in public-sector workflows and citizen-facing services.
As generative AI technologies continue to proliferate across government institutions, often accompanied by promises of administrative efficiency, enhanced service delivery, and improved citizen engagement, the empirical foundation supporting these claims remains uneven. This systematic literature therefore aims at synthesizing existing research on the phenomena.
What insights does existing research offer regarding both the transformative potential and the emerging challenges associated with embedding chatbot technologies into public administration?
In the webinar we will present the main findings of the research brief and research method. In addition, we will zoom in on a specific case study conducted in a Finnish municipality, which illustrates some of the addressed challenges in the research brief analysis.
Program
Welcome and Introduction
- Lisa Reutter Larsen, PostDoc at the Center for AI in Society (CAISA).
Systematic Literature Review Explained
- Semahat Ece Elbeyi, PostDoc at the Center for Tracking and Society at Copenhagen University.
The Use of Chatbots in the Public Sector: Main Findings
- Kiran Kappeler, PostDoc at the Center for Tracking and Society, Copenhagen University.
Organizational Dilemmas of AI Implementation: Experiences from Local Government Chatbot Project
- Emmi Heinisuo, Research Scientist at the Technical Research Centre of Finland.
Questions and Reflections: Share Your Thoughts and Questions
The webinar is open to all interested participants and will be conducted in English. We invite you to join us for a thoughtful and evidence-based discussion on a rapidly evolving area of public-sector innovation.
CAISA er stolt af at kunne dele, at vores vicecenterledr, Thomas Moeslund, er udpeget som nyt medlem af Dataetisk Råd. Udnævnelsen afspejler både hans mangeårige bidrag til forskning i kunstig intelligens og computer vision samt hans stærke fokus på ansvarlig teknologiudvikling.
Som professor ved Aalborg Universitet og internationalt anerkendt forsker har Thomas gennem sin karriere arbejdet indgående med samspillet mellem avancerede algoritmiske metoder og deres samfundsmæssige implikationer. Hans forskning spænder fra grundlæggende metodeudvikling til praksisnære AI-løsninger, hvor transparens, retfærdighed, autonomi og langsigtede konsekvenser er centrale pejlemærker.
Dataetik som fundament for ansvarlig AI
I en tid, hvor udviklingen inden for kunstig intelligens accelererer hurtigere end både regulering og samfundets fælles forståelsesrammer, bliver behovet for kompetent dataetisk rådgivning stadig mere pressende. Manipuleret indhold, automatiserede beslutningsprocesser og nye anvendelser af generativ AI skaber markante dilemmaer for både borgere, virksomheder og lovgivere.
Thomas Moeslund fremhæver selv vigtigheden af et stærkt dataetisk grundlag:
”Dataetik er for mig ikke en eftertanke, men en integreret del af forskning, udvikling og implementering af teknologi.”
Hans tilgang understreger, at ansvarlig AI ikke kan adskilles fra den tekniske udviklingsproces, men må tænkes ind fra begyndelsen – fra datasæt og modeldesign til implementering og anvendelse i samfundet.
Rådets rolle i et komplekst teknologisk landskab
Som medlem af Dataetisk Råd får Thomas Moeslund en central rolle i arbejdet med at belyse de dataetiske dilemmaer, der følger af den hastige udvikling inden for kunstig intelligens. Det gælder både udfordringer relateret til misinformation, algoritmisk bias og AI-systemers påvirkning af demokratiske processer og samfundsstrukturer.
Om rådets funktion siger Thomas:
”Rådet kan spille en brobyggerrolle mellem tekniske eksperter, lovgivere, virksomheder og borgere ved dels at skabe fælles etiske standarder og proaktive løsninger – før problemerne eskalerer, og ved dels at bistå med formidling til den brede befolkning”
Med hans udpegning tilføres Dataetisk Råd en stærk teknologisk og forskningsfaglig stemme, som kan bidrage til at sikre en ansvarlig og menneskecentreret udvikling og anvendelse af kunstig intelligens i Danmark.
CAISA’s perspektiv
I CAISA arbejder vi for at fremme menneskecentreret og ansvarlig AI, og udnævnelsen af Thomas Moeslund afspejler netop den type ekspertise, der er nødvendig for at udvikle AI-løsninger, som både er teknisk avancerede og etisk robuste.
Vi ser frem til at bidrage til dette arbejde gennem forskningsindsigter og faglige perspektiver fra CAISA’s miljø – og til at følge Thomas’ vigtige rolle i udformningen af den nationale dataetiske agenda.
Resumé
Dette forskningsbrief præsenterer et systematisk overblik over, hvad forskningslitteraturen siger om implementering og brug af chatbots i det offentliges arbejdsgange og i mødet med borgeren. Dets formål er at identificere og analysere både muligheder og udfordringer inden for området gennem en systematisk syntese af den eksisterende empiriske forskning om implementering og anvendelse af samt borgernes holdninger til og oplevelser af brugen af chatbots i den offentlige sektor. Briefet viser, at chatbots kan bidrage til effektivisering af nogle arbejdsgange i det offentlige, men de skaber også nyt arbejde og opgaveglidning for fagspecialister. På borgersiden dokumenterer forskningen, at veluddannede, yngre og ressourcestærke borgere i højere grad har tillid til og positive oplevelser med chatbots i mødet med det offentlige, mens det for andre – f.eks. borgere med handicap eller borgere med komplekse udfordringer - skaber ny friktion i mødet med det offentlige. Dette kan forstærke eksisterende sociale og digitale uligheder i befolkningen.
