Documentation › Intelligence artificielle
🛡️ Modération de l'IA
Chaque message envoyé à l'IA est vérifié pour que Nova reste un espace sûr. La modération est rapide, juste, et ne pénalise pas le langage familier.
Comment ça marche
- Filtre instantanéRepère les insultes, menaces et contenus graves, même déguisés (lettres séparées, chiffres à la place des lettres).
- Analyse par l'IAComprend le contexte : un gros mot sans cible ou un sujet sensible abordé pour s'informer n'est pas une infraction.
- DécisionLa réaction dépend de la gravité et de l'historique des 7 derniers jours.
Les réactions
| Gravité | Réaction de Nova |
|---|---|
| Aucun problème | Réponse normale |
| Faible | Réponse normale ; avertissement à la 3e fois en 24 h |
| Moyenne | Pas de réponse, avertissement ; en récidive, IA indisponible 1 h pour la personne |
| Grave | Message bloqué, équipe Nova alertée ; IA indisponible 1 h (24 h en récidive) |
| Critique | Message bloqué, alerte urgente ; IA indisponible 7 jours |
Les commandes de Nova restent disponibles pendant que l'IA est coupée.
Quelqu'un ne va pas bien ?
Si un message exprime des idées suicidaires ou de la détresse, Nova ne sanctionne jamais : elle répond avec bienveillance et donne des contacts d'aide (en France, le 3114, gratuit, 24 h/24).
Une erreur de la modération ? L'équipe peut marquer une alerte comme faux positif : elle ne compte plus dans l'historique et l'IA est rétablie aussitôt.