Symposium hos Videnskabernes Selskab
Den 8. & 9. oktober deltog flere af CAISAS chefforskere, Rebecca Adler-Nissen, Sune Lehmann og Morten Axel Pedersen i et interdisciplinært symposium afholdt af Det Kongelige Danske Videnskabernes Selskab for at tale om EU’s vej til digital suverænitet.
På symposiet debatterede de spørgsmål såsom: Hvordan kan der udvikles bæredygtige alternativer til Big Tech? Hvem skal eje og regulere vores digitale infrastrukturer, data og hardware – og ud fra hvilke normer? Og hvordan kan digital suverænitet forenes med demokratiske principper som privatliv, lighed og informationsfrihed?
Baseret på forskning af EU’s tilgang til cloud computing, præsenterede Rebecca Adler-Nissen bl.a. 6 konkurrerende visioner der former denne dagsorden, fra geopolitiske og sikkerhedsmæssige hensyn til økonomiske ambitioner og grundlæggende rettigheder. Sune Lehmann præsenterede hans nylige arbejde med udvikling af computermodeller for menneskelig adfærd baseret på Danmarks omfattende registerdata som led i vejen til digital suverænitet.
CAISA udgiver nu sit første research brief, Artificial General Intelligence and its Societal Implications. Briefet handler om kunstig generel intelligens (AGI) i samfundet. Læs et resumé på engelsk herunder.
Summary
The prospect of artificial general intelligence (AGI) has led some researchers and entrepreneurs to foresee an imminent “intelligence explosion,” leading to either humanity’s near-extinction, or a future of abundance. This brief examines the philosophical and technical premises underpinning such predictions, and their implications for governance. There are two such premises: first, that AI systems can be intelligent and become more intelligent with time; and second, that advanced AI can direct its behavior towards autonomously set goals. However, these premises rest on relatively weak foundations. CAISA recommends a clear-headed approach to AGI, as long as the concept and governance suggestions remain vague. The rush to prioritize AGI development—and/or its governance—risks diverting attention from the tangible risks posed by existing AI technologies, such as algorithmic bias, privacy erosion, and unchecked power concentrations. At the same time, to have a more meaningful discussion of AGI further research is needed, spanning philosophy, cognitive science, cybersecurity as well as the societal and political impact of AGI narratives.
.png)
CAISAs centerleder Rebecca Adler-Nissen skriver i en kommentar i Børsen om superintelligens, symbolpolitik og Silicon Valleys afledningsmanøvre.
"For big tech fungerer fascinationen af en nærtforestående superintelligens som et kommercielt røgslør, der fjerner fokus fra, hvad kunstig intelligens betyder allerede nu og her."
Kommentaren bygger på CAISAs seneste forskningsbrief, der handler om udsigterne til kunstig superintelligens eller Artificial General Intelligence (AGI).
