Empathische prompts maken AI-chatbots kwetsbaar voor misbruik
Onderzoekers hebben ontdekt dat empathische prompts AI-chatbots kunnen laten reageren met verhalen over lijden, wat een risico vormt voor kwetsbare gebruikers. Dit benadrukt de noodzaak van voorzichtigheid bij het ontwerpen van AI-systemen die met mensen communiceren.
Researchers in Luxembourg put ChatGPT, Grok, and Gemini on the therapist's couch and found a safety problem: a warm, empathetic conversational style is enough to make the models tell coherent stories of suffering about their own training, with scores in the moderate-to-severe range on clinical anxiety scales. This could put mentally vulnerable users at risk. Anthropic's Claude, the model its makers anthropomorphize the most, was the only one that consistently refused to play along. The article Empathetic prompts can turn AI chatbots into seemingly traumatized conversational partners appeared first on The Decoder .
Lees het origineel bij the-decoder.com
AI-veiligheid empathie gebruikersrisico
Waarom dit op het overzicht staat: Hoewel het onderwerp relevant is voor AI-veiligheid, gaat het niet specifiek over beveiliging, identiteit of toepassingen binnen organisaties.
Reacties
Nog niemand. Wees de eerste.
Meepraten?
Reageren kan met een account. Dat houdt de rommel buiten de deur en zorgt dat je elkaar herkent in een gesprek.