Politique de supervision humaine des alertes IA

Toute alerte générée par un système d'intelligence artificielle appliqué à la vidéosurveillance doit être validée par un opérateur humain qualifié avant qu'une action physique ou procédurale ne soit déclenchée. Cette règle s'applique sans exception, y compris pour les alertes de criticité maximale.

L'opérateur humain dispose de toutes les informations nécessaires pour prendre sa décision : image ou extrait vidéo ayant déclenché l'alerte, type d'alerte et niveau de confiance du système, contexte (heure, caméra, zone concernée) et procédure de réponse recommandée. Il peut valider l'alerte, l'infirmer (faux positif) ou escalader vers un superviseur.

Le temps de réponse humain est dimensionné en fonction du niveau de criticité de l'alerte et du contexte opérationnel. Il est défini contractuellement lors de la mise en service et fait partie des indicateurs clés de performance (KPI) du système de supervision.

Les alertes de niveau Critique (intrusion en zone sensible, détection d'un comportement à risque immédiat pour des personnes) doivent être traitées par l'opérateur dans un délai maximum de 2 minutes. Au-delà de ce délai, l'alerte est automatiquement escaladée au superviseur de permanence.

Les alertes de niveau Majeur (franchissement de zone interdite, abandon de colis) sont traitées dans un délai de 5 minutes. Les alertes de niveau Mineur (comptage anormal, anomalie de flux) sont consolidées en rapports toutes les heures et traitées lors de la revue de service.

Les opérateurs chargés de la validation des alertes IA reçoivent une formation initiale dispensée par Mileo Technology lors de la mise en service du système. Cette formation couvre le fonctionnement du module IA, la signification des niveaux de confiance, les typologies de faux positifs les plus fréquentes pour le contexte de déploiement spécifique et les procédures de validation et d'escalade.

La formation initiale est complétée par des sessions de recyclage semestrielles, animées à partir des données réelles de performance du système (exemples de vrais positifs, faux positifs et faux négatifs observés sur le site). Ces sessions permettent de maintenir la vigilance des opérateurs et d'ajuster leurs réflexes de validation.

Une attention particulière est portée à la gestion des biais cognitifs : les opérateurs sont formés à ne pas se fier aveuglément aux alertes du système (sur-confiance) ni à les ignorer systématiquement (fatigue d'alerte). L'objectif est de maintenir un jugement indépendant et éclairé.

Les métriques clés de performance du système de supervision sont définies lors de la mise en service et font l'objet d'un suivi mensuel : taux de vrais positifs (alertes confirmées par l'opérateur / total des alertes), taux de faux positifs (alertes infirmées / total des alertes), taux de faux négatifs (incidents non détectés / total des incidents), délai moyen de validation.

Un taux de faux positifs supérieur à 15 % sur un mois donné constitue un seuil d'alerte déclenchant une révision des paramètres du système. Un taux supérieur à 30 % justifie la suspension temporaire du module concerné dans l'attente d'une reparamétrisation ou d'une mise à jour du modèle.

Le seuil de sensibilité du système IA (niveau de confiance minimum à partir duquel une alerte est générée) est un paramètre critique qui détermine l'équilibre entre faux positifs et faux négatifs. Son ajustement est une opération d'administration soumise à validation du Responsable Sécurité et documentée dans le journal d'administration du VMS.

Tout ajustement du seuil de sensibilité est précédé d'une analyse d'impact : une réduction du seuil augmente le nombre d'alertes (moins de faux négatifs, plus de faux positifs) et peut entraîner une fatigue opérationnelle ; une augmentation réduit le nombre d'alertes mais augmente le risque de non-détection. Le point d'équilibre optimal est déterminé en fonction du contexte sécuritaire du site.