SkoleGPT gav detaljerede beskrivelser af selvskade og selvmord | Pressetjek
SkoleGPT gav detaljerede beskrivelser af selvskade og selvmord
DR og P1-programmet K-Live har testet den danske skolechatbot SkoleGPT og fundet, at den gav detaljerede beskrivelser af selvskade og selvmord, når man spurgte om hjælp til skoleopgaver om emnet. Efter DR kontaktede folkene bag, har de ændret bottens svar. Eksperter kritiserer, at problemet ikke blev opdaget før, mens udviklerne bag Københavns Professionshøjskole beklager og forklarer, at de nu har indført stopord og sikkerhedsmekanismer.
Artiklen er en nøgtern teknologinyhed uden dansk partipolitisk strid. Kritikken kommer fra fagfolk og gengives sammen med udviklernes svar og forklaring, og der er ingen indikatorer i journalistens egne valg.
Balance: BalanceretVinkel: Risiko og trusselDagsorden: Mediets egen afdækning0 gyldige tegn
Aktører
Hvem der optræder, og hvordan de fremstilles: fra −2 (meget negativt) til +2 (meget positivt). Prikken ved navnet viser fløjen, firkanten en organisations placering i debatten (skraveret = svag).
Navn
Rolle
Vægt
Fremstilling
Lotte RubækOverordnet leder af selvskadeindsatsen i Region Hovedstadens Psykiatri
Overordnet leder af selvskadeindsatsen i Region Hovedstadens Psykiatri
Hovedkilde
0neutral
Thomas PlougProfessor i AI- og dataetik ved Institut for Kommunikation
Professor i AI- og dataetik ved Institut for Kommunikation
Hovedkilde
0neutral
Martin Sønderlev ChristensenInstitutchef
Institutchef
Citeret
0neutral
SkoleGPTChatbot til undervisning
Chatbot til undervisning
Omtalt
−1negativ
Thomas Ploug er professor i AI- og dataetik ved Institut for Kommunikation på Aalborg Universitet og mener, problemet burde være opdaget før.
SkoleGPT er udviklet af Future Classroom Lab og CFU ved Københavns Professionshøjskole og er open source.
Aarhus Kommune anbefaler skoler at bruge SkoleGPT frem for ChatGPT og Googles Gemini.
SkoleGPT er i 2025 nomineret til Innovationsprisen ved Digitaliseringsprisen på OffDig 2025.
Institutchef Martin Sønderlev Christensen fra Center for Undervisningsmidler siger, at de nu har indført stopord og sikkerhedsmekanismer.