Artificial General Intelligence and its Societal Implications

Research brief

CAISA udgiver nu sit første research brief, Artificial General Intelligence and its Societal Implications. Briefet handler om kunstig generel intelligens (AGI) i samfundet. Læs et resumé på engelsk herunder.

Summary

The prospect of artificial general intelligence (AGI) has led some researchers and entrepreneurs to foresee an imminent “intelligence explosion,” leading to either humanity’s near-extinction, or a future of abundance. This brief examines the philosophical and technical premises underpinning such predictions, and their implications for governance. There are two such premises: first, that AI systems can be intelligent and become more intelligent with time; and second, that advanced AI can direct its behavior towards autonomously set goals. However, these premises rest on relatively weak foundations. CAISA recommends a clear-headed approach to AGI, as long as the concept and governance suggestions remain vague. The rush to prioritize AGI development—and/or its governance—risks diverting attention from the tangible risks posed by existing AI technologies, such as algorithmic bias, privacy erosion, and unchecked power concentrations. At the same time, to have a more meaningful discussion of AGI further research is needed, spanning philosophy, cognitive science, cybersecurity as well as the societal and political impact of AGI narratives.

Læs mere

Read the research brief here

Event

Læs mere

Nyhed

Sune uddelte 1.000 mobiltelefoner til studerende og indsamlede deres data. Derfra begyndte et mere modigt forskerliv

Hvad sker der, når forskere tør udfordre metoder, faggrænser og vanetænkning? Det spørgsmål er omdrejningspunktet i en ny artikel i Science Report om vores chefforsker Sune Lehmann. Med afsæt i et tidligt metodisk eksperiment på DTU tegner artiklen et portræt af, hvordan mod, nysgerrighed og tværfaglighed kan forme både forskning og forskerliv.

‍

For CAISA er artiklen særligt relevant i sin omtale af det aktuelle moonshot-samarbejde med Danmarks Statestik, ledt af vores forsker Andreas Bjerre-Nielsen. Her udvikles nye modeller for data drevet samfundsforståelse, hvor avanceret AI og principper for trustworthy AI integreres med ambitionen om at skabe ansvarlig og samfundsnyttig kunstig intelligens.

Forskning

Event

Nyhed

Forskning

Brugen af generativ KI i Danmark 2025

Resumé

Dette forskningsbrief beskæftiger sig med danskernes brug af og holdning til generativ kunstig intelligens (KI) i 2025, baseret på data fra en større international online spørgeskemaundersøgelse og rapport udarbejdet i samarbejde med Reuters Institute for the Study of Journalism ved University of Oxford. Overordnet dokumenterer undersøgelsen en hurtig vækst i brugen af generativ KI i Danmark (omtrent dobbelt så hurtigt som brugen af internettet voksede i slutningen af halvfemserne), ret høj tillid til mange af de mest brugte former for generativ kunstig intelligens og flere optimister end pessimister, når det kommer til disse teknologiers konsekvenser. Samtidig er der stadig mange danskere, der kun har meget begrænset personlig erfaring med aktivt at bruge generativ kunstig intelligens. En stor del af befolkningen er i tvivl om, hvad konsekvenserne bliver, og der er en del bekymring om at brugen af disse teknologier i visse sektorer – f.eks. offentlige myndigheder, nyhedsmedier og i særdeleshed politikere og politiske partier. Givet den hurtige vækst i brug er det slående, at næsten halvdelen af vores respondenter ikke føler sig godt informeret om generativ KI.

‍

Læs mere

Event

Læs mere

Nyhed

Anders Søgaard: Forstår vi chatbots eller ej? Spørgsmålet er næsten lige så filosofisk som det omvendte: Forstår de os?

I en aktuel artikel Chefforsker Anders Søgaard skarpt på det centrale spørgsmål i AI-debatten: Hvad betyder det egentlig, når chatbots taler med os, som om de forstår verden – og hvem er det, vi i virkeligheden taler med? Artiklen udforsker den filosofiske og praktik kompleksitet i vores interaktion med avancerede sprogmodeller og giver et nuanceret indblik i, hvordan teknologien former vores opfattelse af forståelse og kommunikation.

Læs mere

Forskning

Læs mere