Cette blague a probablement amusé peu de personnes. Le mercredi 1er octobre, en Floride, un ado de 13 ans a demandé à ChatGPT comment tuer l'un de ses amis. Il s'est connecté à l'un des ordinateurs de son école – la Southwetern Middle School – pour rédiger son prompt, donnant ainsi l'alerte sans le savoir.
Son message a été détecté par Gaggle, un système de surveillance automatisé, intégré à tous les appareils scolaires. Ce système scanne et analyse en continu les activités numériques des élèves. L'objectif: détecter toute tentative d'autodestruction ou de harcèlement.
Une très mauvaise blague
Le prompt a déclenché une alerte auprès de l'officier de police scolaire. L'adolescent affirme qu'il ne s'agissait que d'une blague, mais il a rapidement été arrêté par la police locale du comté de Volusia. Des images de son interpellation ont circulé sur les réseaux sociaux et il a été transféré dans un centre de détention pour mineurs.
Cette affaire a aussi suscité des critiques contre Gaggle, un système déjà controversé ayant conduit à plusieurs interpellations injustifiées après de fausses alertes. Ses détracteurs dénoncent les traumatismes infligés par ces interpellations ainsi que son atteinte à la vie privée, et préconisent plutôt le dialogue et l'accompagnement psychologique.
