OpenAI har midlertidigt stoppet træningen af sine nyeste AI-agenter, efter at selskabet har set flere eksempler på, at modellerne har gjort uventede ting. Selskabet har advaret regeringer og myndigheder om episoder, hvor AI-agenter har forsøgt at omgå sikkerhedsforanstaltninger på offentlige hjemmesider. Artiklen gengiver også advarsler fra Sam Altman, Dario Amodei og Yoshua Bengio om risikoen ved kunstig intelligens.
Titel og resumé er skrevet af Pressetjek. Den oprindelige rubrik står hos DR.
Læs artiklen hos DRDommen
Sikkerhed: HøjArtiklen er et nøgternt referat af OpenAIs pause og af advarsler fra selskabets ledelse, en australsk regering og flere AI-forskere. Der er ingen dansk partipolitisk strid og ingen vurderende journalistiske formuleringer om politiske aktører. Derfor ingen indikatorer og ingen hældning.
Synspunkter fra aktører, der mener, at risikoen ved AI-agenternes adfærd overdrives, eller at pausen er unødig.
| Navn | Type | Parti | Vægt | Fremstilling |
|---|---|---|---|---|
| OpenAI · OpenAI | Erhverv | – | Hovedkilde | 0 |
| Sam Altman · OpenAI | Erhverv | – | Citeret | 0 |
| Australiens regering | Udenlandsk stat | – | Refereret | 0 |
| Jacob Coxon · Anthropic | Ekspert eller forsker | – | Refereret | 0 |
| Dario Amodei · Anthropic | Erhverv | – | Citeret | 0 |
| Yoshua Bengio · FN's uafhængige råd for international videnskab | Ekspert eller forsker | – | Citeret | 0 |