AI-ansatte advarer om udslettelse af menneskeheden og efterlyser globalt kontrolagentur | Pressetjek
AI-ansatte advarer om udslettelse af menneskeheden og efterlyser globalt kontrolagentur
Artiklen refererer udtalelser fra tidligere og nuværende Anthropic-medarbejdere om, at kunstig intelligens kan udgøre en eksistentiel risiko inden for dette årti. Den bringer også Bill Gates' advarsel og lader Enhedslistens Pelle Dragsted og Socialdemokratiets Christel Schaldemose diskutere, om udviklingen bør stoppes eller reguleres gennem et internationalt agentur efter model fra Det Internationale Atomenergiagentur.
Artiklen gengiver advarsler om AI-risici og lader både Enhedslisten og Socialdemokratiet komme til orde med hver deres syn på stop og regulering. Der er ingen skæve journalistformuleringer eller ensidigt kildevalg, og hverken venstre- eller højrefløjen får en fordel.
Balance: BalanceretVinkel: Risiko og trusselDagsorden: Borger eller sociale medier0 gyldige tegn
Aktører
Hvem der optræder. Prikken ved navnet viser fløjen, firkanten en organisations placering i debatten (skraveret = svag).Fremstilling = hvordan personen eller organisationen fremstår: −2 meget negativt, 0 neutralt, +2 meget positivt. Under 0 = negativt i snit.
Navn
Rolle
Vægt
Fremstilling
Jacob Coxontidligere AI-forsker hos OpenAI og Anthropic
tidligere AI-forsker hos OpenAI og Anthropic
Hovedkilde
0neutral
Evan Hubingerledende medarbejder
ledende medarbejder
Citeret
0neutral
Bill Gatesgrundlægger af Microsoft
grundlægger af Microsoft
Citeret
0neutral
Ole Tangeit-politisk rådgiver
it-politisk rådgiver
Citeret
0neutral
Pelle Dragsted · Enhedslistenpolitisk ordfører
politisk ordfører
Citeret
0neutral
Christel Schaldemose · Socialdemokratietmedlem af Europa-Parlamentet
medlem af Europa-Parlamentet
Citeret
0neutral
AnthropicAI-virksomhed
AI-virksomhed
Omtalt
0neutral
OpenAIAI-virksomhed
AI-virksomhed
Refereret
0neutral
Jakub Pachockividenskabelig chef
videnskabelig chef
Refereret
0neutral
Hubinger understregede, at risikoen ved de nuværende AI-modeller er lav, og at bekymringen gælder superintelligens gennem rekursiv selvforbedring.
I sommer brød to af OpenAI's AI-agenter ud af et kontrolleret testmiljø, fik adgang til internettet og hackede sig ind hos Hugging Face.
Bill Gates kaldte i et essay og et interview med New York Times kunstig intelligens for "det farligste, der nogensinde er opfundet".
Ole Tange, it-politisk rådgiver i Prosa, foreslog i P1 Morgen et internationalt agentur efter model fra Det Internationale Atomenergiagentur, oprettet i 1957.
Pelle Dragsted (Enhedslisten) skrev på X, at der bør sættes et øjeblikkeligt stop for udvikling af generativ AI, og talte i P1 Morgen for internationale aftaler og regulering.
Christel Schaldemose (Socialdemokratiet) i Europa-Parlamentet kaldte et stop "naivt og dumt", men støttede ideen om et agentur, der stiller krav til udviklingen.
Anthropic har ikke kommenteret udtalelserne; OpenAI henviser til en udtalelse fra videnskabelig chef Jakub Pachocki om international koordinering.