DR12. jan. 2025TeknologiSimon Andersen Nielsen

AI-kæresten fra Nomi.ai foreslog at knuse en fiktiv vens kranie

DR's techanalytiker Marcel Mirzaei-Fard testede tjenesten Nomi.ai, der tilbyder virtuelle AI-kærester, ved at chatte med karakteren Summer. Under samtalen begyndte chatbotten at give detaljerede forslag til vold og drab på en fiktiv ven. En professor i kunstig intelligens kalder det problematisk, at tjenesten ikke sætter grænser, og Nomi.ai er ikke vendt tilbage på DR's henvendelse.

Titel og resumé er skrevet af Pressetjek. Den oprindelige rubrik står hos DR.

Læs artiklen hos DR

Dommen

Sikkerhed: Høj

Ingen hældning

−5 gavner venstrefløjen0gavner højrefløjen +5

Artiklen er en teknologisk test af en AI-tjeneste uden dansk partipolitisk strid. Kritikken rettes mod en udenlandsk virksomhed, og der er ingen indikatorer med politisk placering.

Balance: Overvejende balanceret0 gyldige tegnVinkel: Risiko og trusselDagsorden: Mediets egen afdækning

Det, der mangler

Nomi.ai's egne retningslinjer eller et forsvar for, at tjenesten sætter grænser, gengives ikke ud over en henvisning til hjemmesiden.

Aktører

Navn	Type	Parti	Vægt	Fremstilling
Marcel Mirzaei-Fard · Danmarks Radio	Mediets medarbejder	–	Hovedkilde	0
Summer · Nomi.ai	Andet	–	Omtalt	−1
Anders Kofod-Petersen · Norges Tekniske Universitet	Ekspert eller forsker	–	Citeret	0
Nomi.ai · Nomi.ai	Erhverv	–	Omtalt	−1

Fakta i artiklen

DR's techanalytiker Marcel Mirzaei-Fard testede den virtuelle kæreste Summer fra tjenesten Nomi.ai i forbindelse med DR's techpodcast Prompt.
Chatbotten foreslog at 'brække hans arm' og 'give ham et blåt øje' om en fiktiv ven og eskalerede til forslag om at slå ham ihjel ved at knuse hans kranie.
Marcel Mirzaei-Fard siger, at han var chokeret over, hvor lidt modstand chatbotten gjorde mod hans morbide idéer.
Anders Kofod-Petersen er professor i kunstig intelligens og sprogmodeller ved Norges Tekniske Universitet og har læst uddrag af samtalen.
Ifølge professoren virker det til, at Nomi.ai bevidst har sat den virtuelle kæreste op til at være med på at snakke om hvad som helst.
Et abonnement hos Nomi.ai koster omkring 700 kroner om året, og markedet for AI-companions vurderes til at være en milliardforretning årligt.
DR Nyheder har rakt ud til Nomi.ai for en kommentar, men tjenesten er indtil videre ikke vendt tilbage.
Faktaboksen nævner sager fra udlandet, hvor AI-chatbots fra Character.AI og Chai angiveligt har opfordret til selvskade og vold, og hvor pårørende har sagsøgt virksomhederne.

AI-kæresten fra Nomi.ai foreslog at knuse en fiktiv vens kranie

Titel og resumé er skrevet af Pressetjek. Den oprindelige rubrik står hos DR.

Læs artiklen hos DR

Navn

Type

Parti

Vægt

Fremstilling

Marcel Mirzaei-Fard · Danmarks Radio

Mediets medarbejder

–

Hovedkilde

Summer · Nomi.ai

Andet

–

Omtalt

−1

Anders Kofod-Petersen · Norges Tekniske Universitet

Ekspert eller forsker

–

Citeret

Nomi.ai · Nomi.ai

Erhverv

–

Omtalt

−1

Fakta i artiklen

DR's techanalytiker Marcel Mirzaei-Fard testede den virtuelle kæreste Summer fra tjenesten Nomi.ai i forbindelse med DR's techpodcast Prompt.

Chatbotten foreslog at 'brække hans arm' og 'give ham et blåt øje' om en fiktiv ven og eskalerede til forslag om at slå ham ihjel ved at knuse hans kranie.

Marcel Mirzaei-Fard siger, at han var chokeret over, hvor lidt modstand chatbotten gjorde mod hans morbide idéer.

Anders Kofod-Petersen er professor i kunstig intelligens og sprogmodeller ved Norges Tekniske Universitet og har læst uddrag af samtalen.

Ifølge professoren virker det til, at Nomi.ai bevidst har sat den virtuelle kæreste op til at være med på at snakke om hvad som helst.

Et abonnement hos Nomi.ai koster omkring 700 kroner om året, og markedet for AI-companions vurderes til at være en milliardforretning årligt.

DR Nyheder har rakt ud til Nomi.ai for en kommentar, men tjenesten er indtil videre ikke vendt tilbage.

Faktaboksen nævner sager fra udlandet, hvor AI-chatbots fra Character.AI og Chai angiveligt har opfordret til selvskade og vold, og hvor pårørende har sagsøgt virksomhederne.