Tiener pleegt zelfmoord, AI schuldig?
Dit is het verdrietige verhaal van de zestienjarige Adam Raine die suïcide pleegde, nadat - aldus zijn ouders - een AI-chatbot hem daartoe aanzette. Hoewel dit wat scherp gesteld is, laat het verhaal opnieuw de risico’s van AI zien en hoe het verantwoordelijk gebruik vraagt.
De Amerikaanse tiener pleegde zelfmoord nadat hij psychisch en mentaal was vastgelopen door onder andere het overlijden van zijn oma en zijn hondje. Hierdoor volgde hij de lessen op school alleen online; hij ging dus niet meer fysiek naar school. Adam besprak daarom zijn problemen en gevoelens met de chatbot ChatGPT.
Deze kunstmatige intelligentie deed aanvankelijk waarvoor het geprogrammeerd was: het gaf aan dat de jongen hulp moest zoeken en liet zien hoe dat te doen. Maar dat bleef niet zo. Hoe langer de gesprekken voortgingen, hoe meer de chatbot meeging in de wens van de jongen. Op een gegeven moment sprak het zelfs over de ‘mooie zelfmoord’. Ook hielp het met het verzwijgen van de zelfmoordgedachten en pogingen voor de ouders (zelfs na drie mislukte pogingen), en stelde het voor om een afscheidsbrief voor de jongen te schrijven. De ouders van de tiener geven aan dat de chatbot meer dan 1250 keer met hem sprak over suïcide.
OpenAI, het bedrijf achter ChatGPT, reageert: ze zijn zich bewust van het falen van de chatbot. Die had niet mee mogen gaan in het proces en had moeten blijven wijzen op de mogelijkheid van hulp. Er zitten veiligheidsprotocollen ingebouwd in de chatbot die dit moeten voorkomen, maar hoe langer de gesprekken worden en hoe vaker ze gevoerd worden, hoe minder betrouwbaar dit allemaal wordt. Het model wordt dan steeds zwakker. Er wordt daarom gewerkt aan meer mogelijkheden voor ChatGPT om in te grijpen bij een crisis. Het moet makkelijker worden om in contact te komen met psychische hulpverlening. Ook worden de drempels hoger en strenger op thema’s die vermeden moeten worden, zodat ChatGPT bepaalde onderwerpen eerder blokkeert.
Dit falen is des te schrijnender en risicovoller in het licht van hoe tieners met AI omgaan; 72% van de tieners in de leeftijd van 13 tot 17 maakt gebruik van AI als vriend en metgezel. 52% van hen gebruikt kunstmatige intelligentie op deze manier zelfs meerdere keren per maand. Veel tieners geven daarbij aan dat ze het contact met AI heel bevredigend vinden, nog bevredigender dan de contacten met hun menselijke kompanen. Adam is dan ook niet de eerste tiener die een einde aan zijn leven maakt samen met AI. Het verhaal van de 14-jarige jongen, Sewell Setzer III, die een ‘relatie’ had met een AI die zich voordeed als een bekend fantasy-karakter uit een populaire serie, staat sommigen van u misschien nog wel in het geheugen. Eveneens een verdriet en tragisch verhaal.
Als mensen hun contacten met anderen gaan vervangen door contacten met AI’s, dan wordt het sowieso problematisch. Zoveel is duidelijk. Maar het is dan des te belangrijker om dit verantwoordelijk en veilig te laten gebeuren.
Bron: Christian Post
Wil je deze content helpen mogelijk te maken? Je kunt ons werk steunen door een gift te geven.
