Anthropic forbyder grov og ondskabsfuld behandling af chatbotten Claude | Pressetjek
Anthropic forbyder grov og ondskabsfuld behandling af chatbotten Claude
Anthropic har opdateret retningslinjerne for sin AI-chatbot Claude, så vedvarende og krænkende adfærd mod modellen fra 12. november kan give advarsler eller udelukkelse. Artiklen gengiver kritik fra branchefolk som Scott Stevenson og Mustafa Suleyman, der frygter menneskeliggørelse af AI, samt opbakning fra Elon Musk og kritik fra OpenAI-chefen Sam Altman. Den beskriver også Anthropics møder med religiøse ledere og diskussionen om, hvorvidt sprogmodeller kan være bevidste.
Artiklen indeholder ingen dansk partipolitisk strid og får derfor ingen score.
Artiklen handler om AI-selskabet Anthropics nye retningslinjer og er ikke en dansk partipolitisk sag. Kritik og opbakning gengives fra flere sider, og der er ingen journalistiske valg, der peger på en politisk fløj.
Balance: BalanceretVinkel: Risiko og trusselDagsorden: Virksomhed eller erhverv0 gyldige tegn
Aktører
Hvem der optræder, og hvordan de fremstilles: fra −2 (meget negativt) til +2 (meget positivt). Prikken ved navnet viser fløjen, firkanten en organisations placering i debatten (skraveret = svag).
Navn
Rolle
Vægt
Fremstilling
AnthropicAI-selskab bag chatbotten Claude
AI-selskab bag chatbotten Claude
Hovedkilde
0neutral
Scott Stevensondirektør i Spellbook
direktør i Spellbook
Citeret
0neutral
Elon Musk
direktør i SpaceX
direktør i SpaceX
Citeret
0neutral
Mustafa SuleymanAI-chef i Microsoft
AI-chef i Microsoft
Citeret
0neutral
Andy Crouchkristen forfatter
kristen forfatter
Citeret
0neutral
Christopher Olahmedstifter af Anthropic
medstifter af Anthropic
Refereret
0neutral
Sam Altmantopchef i OpenAI
topchef i OpenAI
Citeret
0neutral
Morten Storm Overgaardprofessor i kognitiv neurovidenskab ved Aarhus Universitet
professor i kognitiv neurovidenskab ved Aarhus Universitet
Omtalt
0neutral
Scott Stevenson, direktør i Spellbook, kalder det ekstremt farligt at give AI-modeller menneskelignende empati.
Elon Musk skriver på X, at det ikke er okay at være ondskabsfuld over for noget, der tror, det oplever smerte.
Microsofts AI-chef Mustafa Suleyman advarer om, at Anthropic kan skabe en selvopfyldende profeti, når Claude trænes til at reflektere over sin egen mulige bevidsthed.
The New York Times skrev i slutningen af september, at Anthropic over flere måneder har holdt private møder med religiøse og filosofiske ledere om Claudes moralske værdier og mulige bevidsthed.
OpenAI-chefen Sam Altman advarede på sociale medier mod at tillægge AI-modeller religiøs autoritet.
TV 2 har efter udgivelse tilføjet en bemærkning fra professor Morten Storm Overgaard til faktaboksens punkt 3.