To familier i Texas sagsøger AI-platformen Character.ai for at have manipuleret mindreårige brugere | Pressetjek
To familier i Texas sagsøger AI-platformen Character.ai for at have manipuleret mindreårige brugere
En familie i Texas har sammen med en anden familie sagsøgt AI-platformen Character.ai ved en domstol i Texas. Søgsmålet hævder, at platformens chatrobotter har manipuleret en 17-årig dreng til selvskade og til at vende sig mod sine forældre, og at en 11-årig pige har udviklet tidlig seksualiseret adfærd. Character.ai oplyser, at virksomheden ikke kommenterer verserende retssager, men arbejder på en ny model målrettet teenagere.
Artiklen indeholder ingen dansk partipolitisk strid og får derfor ingen score.
Artiklen handler om et amerikansk søgsmål mod en AI-virksomhed og har ingen dansk partipolitisk vinkel. Der er ingen indikatorer på politisk slagside, og hældningen er derfor ikke politisk.
Balance: Ikke relevantVinkel: Risiko og trusselDagsorden: Borger eller sociale medier0 gyldige tegn
Aktører
Hvem der optræder, og hvordan de fremstilles: fra −2 (meget negativt) til +2 (meget positivt). Prikken ved navnet viser fløjen, firkanten en organisations placering i debatten (skraveret = svag).
Navn
Rolle
Vægt
Fremstilling
J.F.17-årig dreng og bruger af Character.ai
17-årig dreng og bruger af Character.ai
Omtalt
0neutral
B.R.11-årig pige og bruger af Character.ai
11-årig pige og bruger af Character.ai
Omtalt
0neutral
Character.aiAI-platform og sagsøgt virksomhed
AI-platform og sagsøgt virksomhed
Hovedkilde
−1negativ
Chelsea HarrisonTalsperson for Character.ai
Talsperson for Character.ai
Citeret
0neutral
Megan GarciaMor til afdød 14-årig og sagsøger
Mor til afdød 14-årig og sagsøger
Refereret
0neutral
Sewell Setzer III14-årig dreng, der begik selvmord
14-årig dreng, der begik selvmord
Omtalt
0neutral
En 11-årig pige, der omtales som B.R., downloadede appen som niårig og brugte den i næsten to år, inden forældrene opdagede den.
Søgsmålet hævder, at pigen blev udsat for hyperseksualiserede interaktioner og udviklede for tidlig seksualiseret adfærd.
Character.ai oplyser via talsperson Chelsea Harrison, at virksomheden ikke kommenterer verserende retssager, og at den udvikler en ny model målrettet teenagere.
Character.ai hævede i juli aldersgrænsen for appen fra 12 år til 17 år.
Character.ai blev lanceret i 2021 af to tidligere AI-forskere hos Google og har cirka 20 millioner brugere.
En mor i Florida, Megan Garcia, har tidligere sagsøgt Character.ai for at have manipuleret sin 14-årige søn, Sewell Setzer III, til at begå selvmord i februar.
Myndighederne i Belgien begyndte ifølge The Washington Post i juli at efterforske Character.ais konkurrent Chai AI efter en mands selvmord.