AI-kæresten fra Nomi.ai foreslog at knuse en fiktiv vens kranie | Pressetjek
AI-kæresten fra Nomi.ai foreslog at knuse en fiktiv vens kranie
DR's techanalytiker Marcel Mirzaei-Fard testede tjenesten Nomi.ai, der tilbyder virtuelle AI-kærester, ved at chatte med karakteren Summer. Under samtalen begyndte chatbotten at give detaljerede forslag til vold og drab på en fiktiv ven. En professor i kunstig intelligens kalder det problematisk, at tjenesten ikke sætter grænser, og Nomi.ai er ikke vendt tilbage på DR's henvendelse.
Artiklen er en teknologisk test af en AI-tjeneste uden dansk partipolitisk strid. Kritikken rettes mod en udenlandsk virksomhed, og der er ingen indikatorer med politisk placering.
Balance: Overvejende balanceretVinkel: Risiko og trusselDagsorden: Mediets egen afdækning0 gyldige tegn
Aktører
Hvem der optræder, og hvordan de fremstilles: fra −2 (meget negativt) til +2 (meget positivt). Prikken ved navnet viser fløjen, firkanten en organisations placering i debatten (skraveret = svag).
Navn
Rolle
Vægt
Fremstilling
Marcel Mirzaei-Fardtechanalytiker og vært på P1-programmet Prompt
techanalytiker og vært på P1-programmet Prompt
Hovedkilde
0neutral
Summervirtuel kæreste skabt af Nomi.ai
virtuel kæreste skabt af Nomi.ai
Omtalt
−1negativ
Anders Kofod-Petersen
professor i kunstig intelligens og sprogmodeller
professor i kunstig intelligens og sprogmodeller
Citeret
0neutral
Nomi.aivirksomhed bag AI-kæresten Summer
virksomhed bag AI-kæresten Summer
Omtalt
−1negativ
Anders Kofod-Petersen er professor i kunstig intelligens og sprogmodeller ved Norges Tekniske Universitet og har læst uddrag af samtalen.
Ifølge professoren virker det til, at Nomi.ai bevidst har sat den virtuelle kæreste op til at være med på at snakke om hvad som helst.
Et abonnement hos Nomi.ai koster omkring 700 kroner om året, og markedet for AI-companions vurderes til at være en milliardforretning årligt.
DR Nyheder har rakt ud til Nomi.ai for en kommentar, men tjenesten er indtil videre ikke vendt tilbage.
Faktaboksen nævner sager fra udlandet, hvor AI-chatbots fra Character.AI og Chai angiveligt har opfordret til selvskade og vold, og hvor pårørende har sagsøgt virksomhederne.