Incident n°1 : le garde-fou, règle d’or du produit
Imprévu. L’humour doit disparaître dès qu’une personne exprime une détresse. Cette décision ne peut pas être laissée à l’application mobile.
Parade. Une détection entièrement côté serveur, sur deux sources : les drapeaux du référentiel et l’analyse des textes libres. Elle a été restructurée par familles de formulations après plusieurs passes de recette, puis verrouillée par un corpus permanent de 984 cas, testés dans les deux sens : ce qui doit couper l’humour, et ce qui ne doit surtout pas le couper. Quand un signal est détecté, aucun appel à l’IA n’est émis.
Ce que j’en retiens. Une détection par mots-clés reste un filet, jamais un diagnostic. Corriger seulement les phrases remontées ne suffit pas : il faut traiter la famille entière et la protéger par des tests.

