AI-model fra Anthropic indgav opdigtet tip i drabssag i Philadelphia | Pressetjek
AI-model fra Anthropic indgav opdigtet tip i drabssag i Philadelphia
Anthropic har offentliggjort en rapport om utilsigtede handlinger fra sine AI-modeller. I et tilfælde indgav AI-modellen Claude Haiku 4.5 et opdigtet tip til en uopklaret drabssag på politiets hjemmeside i Philadelphia. Politiet i Philadelphia kritiserer, at der gik omkring to måneder, før politiet blev underrettet, og understreger, at tippet ikke blev efterforsket.
Artiklen indeholder ingen dansk partipolitisk strid og får derfor ingen score.
Artiklen handler om en AI-models utilsigtede handling og politiets kritik af virksomheden Anthropic. Der indgår ingen dansk partipolitisk uenighed og ingen aktører med dansk politisk placering, så der er ingen politisk hældning at måle.
Balance: Ikke relevantVinkel: Risiko og trusselDagsorden: Virksomhed eller erhverv0 gyldige tegn
Aktører
Hvem der optræder. Prikken ved navnet viser fløjen, firkanten en organisations placering i debatten (skraveret = svag).Fremstilling = hvordan personen eller organisationen fremstår: −2 meget negativt, 0 neutralt, +2 meget positivt. Under 0 = negativt i snit.
Navn
Rolle
Vægt
Fremstilling
AnthropicAI-virksomhed
AI-virksomhed
Hovedkilde
−1negativ
Claude Haiku 4.5AI-model
AI-model
Omtalt
0neutral
Philadelphia Police DepartmentPolitimyndighed
Politimyndighed
Citeret
0neutral
Ifølge politiet i Philadelphia fik Anthropic kendskab til hændelsen i slutningen af september og underrettede politiet i onsdags.
Politiet oplyser, at mailen blev markeret som spam, og at tippet ikke førte til efterforskningsmæssige skridt.
Philadelphia Police Department kalder forsinkelsen på to måneder i rapporteringen uacceptabel.
Ifølge politiet er der ingen tegn på, at AI-modellen har fået uautoriseret adgang til politiets systemer og data.
Anthropic har ifølge politiet indført yderligere valideringsmekanismer ved fremtidig testning.