En bref
L’IA est utile dans un système de gestion de la sécurité là où des personnes lisent, trient et cherchent dans de grands volumes de comptes rendus et de données : classer les comptes rendus entrants, relier les doublons, suivre les indicateurs de performance de sécurité et retrouver des événements similaires passés. L’acceptation des risques, les conclusions d’enquête et la responsabilité restent aux personnes désignées par votre SGS. Chaque résultat produit par l’IA doit pouvoir être relu, tracé et corrigé facilement.
La plupart des organisations aéronautiques qui exploitent un système de gestion de la sécurité ont le même problème. Le signalement fonctionne. Les personnels déposent des comptes rendus de dangers, d’événements et des constats d’audit. La difficulté commence ensuite : quelqu’un doit lire chaque compte rendu, le coder, le relier à un danger, décider s’il est nouveau, et remarquer quand une catégorie commence à augmenter. Les équipes sécurité sont petites, et le retard s’accumule.
C’est là que l’IA peut aider, à condition de l’introduire avec le même soin que tout autre changement d’un processus de sécurité. Ce guide rapporte des usages réalistes de l’IA au cadre SGS de l’OACI et précise ce qui ne doit pas être confié à une machine.
Le cadre SGS en bref
L’Annexe 19 de l’OACI, Gestion de la sécurité, impose aux prestataires de services, comme les exploitants, les organismes de maintenance agréés, les prestataires de services de navigation aérienne et les aérodromes certifiés, de mettre en œuvre un SGS. Le Manuel de gestion de la sécurité de l’OACI, Doc 9859, décrit ce cadre en quatre composantes :
- Politique et objectifs de sécurité : engagement de la direction, responsabilités, personnel clé de sécurité, plan d’intervention d’urgence et documentation du SGS.
- Gestion des risques de sécurité : identification des dangers, évaluation et atténuation des risques.
- Assurance de la sécurité : suivi et mesure de la performance de sécurité, gestion du changement et amélioration continue du SGS.
- Promotion de la sécurité : formation et sensibilisation, communication sur la sécurité.
L’Annexe 19 fixe aussi des principes de protection des données de sécurité, des informations de sécurité et des sources associées. Tout outil qui touche aux comptes rendus doit respecter ces protections, et la culture de signalement qu’elles soutiennent.
Là où l’IA aide
Les usages les plus solides se situent dans la gestion des risques et l’assurance de la sécurité, là où le travail consiste à lire, trier et comparer.
Tri et classement des comptes rendus
Les modèles de langage peuvent lire un compte rendu en texte libre et proposer une catégorie d’événement, les dangers liés dans votre registre, le service concerné et une première indication de gravité. Le responsable sécurité voit la proposition à côté du compte rendu et la confirme ou la corrige. Les corrections sont conservées et servent à améliorer les propositions suivantes.
Le bénéfice tient à la rapidité et à la cohérence. Les comptes rendus sont codés à leur arrivée plutôt que par lots, et le codage dépend moins de la personne qui l’a fait. La taxonomie doit être celle que votre organisation utilise déjà, qu’il s’agisse d’une liste interne ou d’une taxonomie commune comme les catégories d’événements de l’OACI et du CAST.
Détection des doublons et des événements liés
Un même événement est souvent signalé plusieurs fois, par l’équipage, le personnel au sol et la maintenance, avec des mots différents. Des modèles de similarité de texte peuvent signaler les doublons probables et les comptes rendus liés, pour que l’équipe les examine ensemble. Cela aide aussi quand un même danger apparaît dans plusieurs escales ou sur plusieurs flottes.
Suivi des tendances
Les indicateurs de performance de sécurité sont en général revus chaque mois ou chaque trimestre. Un modèle de surveillance peut suivre les données en continu et signaler quand une catégorie sort de sa plage habituelle, avec la liste des comptes rendus à l’origine du changement. Le comité de revue de la sécurité décide toujours de ce que signifie la tendance et de ce qu’il faut faire.
Recherche dans les enquêtes passées
Les enquêteurs et responsables sécurité se demandent souvent si quelque chose de semblable est déjà arrivé. Une recherche qui comprend le sens, et pas seulement les mots-clés, peut faire remonter les comptes rendus antérieurs, les conclusions d’enquête et les mesures d’atténuation, avec des liens vers les documents d’origine. Cela améliore l’évaluation des risques et évite de reconduire des mesures qui n’ont pas fonctionné.
Rédaction des documents courants
Accusés de réception aux auteurs, synthèses mensuelles et bulletins de sécurité peuvent être rédigés à partir de données structurées et relus avant envoi. La rédaction ne fait gagner du temps que si la relecture est rapide, donc les brouillons doivent suivre des modèles fixes.
| Composante du SGS | Appui possible de l’IA | Décision qui reste humaine |
|---|---|---|
| Gestion des risques de sécurité | Classement des comptes rendus, détection des doublons, recherche d’événements similaires passés | Validation de l’identification des dangers, évaluation des risques, acceptation des risques, choix des mesures d’atténuation |
| Assurance de la sécurité | Surveillance continue des indicateurs, alertes sur les tendances inhabituelles, analyse des constats d’audit | Interprétation des tendances, choix des actions correctives, jugement sur l’efficacité du SGS |
| Promotion de la sécurité | Rédaction de bulletins et de retours d’expérience à partir de cas examinés | Ce qui est communiqué, à qui et comment |
| Politique et objectifs de sécurité | Peu d’usage direct | Politique, objectifs, responsabilités |
Ce qui doit rester humain
Un SGS est construit autour de la responsabilité. Le dirigeant responsable et les personnes désignées par le SGS répondent des décisions de sécurité, et cela ne peut pas passer à un logiciel. Concrètement :
- Acceptation et atténuation des risques. Un modèle peut classer ou comparer. Il ne peut pas accepter un risque au nom de l’organisation.
- Conclusions d’enquête. L’analyse des causes demande des entretiens, du contexte et du jugement. L’IA peut organiser les éléments, pas décider des causes.
- Décisions de confidentialité. Qui voit un compte rendu et ce qui est partagé reste du ressort du service sécurité, selon votre politique de culture juste.
- Classement final. Les propositions sont confirmées par une personne formée, au moins jusqu’à ce que l’organisation ait la preuve qu’une catégorie peut être traitée avec une relecture plus légère.
Un test utile : si l’autorité demandait qui a pris cette décision, la réponse doit être une fonction désignée, pas un système.
Protéger les auteurs et les données
Le signalement repose sur la confiance. Si le personnel pense que ses comptes rendus seront analysés de façon à l’identifier ou à le mettre en cause, le signalement diminue. Mesures concrètes :
- Retirer ou masquer les noms et éléments d’identification avant l’analyse quand la tâche n’en a pas besoin.
- Faire tourner les modèles sur une infrastructure approuvée pour les données de sécurité, sans réutilisation de vos données pour entraîner des modèles tiers.
- Appliquer aux résultats de l’IA les mêmes règles d’accès qu’aux comptes rendus eux-mêmes.
- Expliquer au personnel, simplement, comment les comptes rendus sont traités et qui examine les résultats.
Introduire l’IA comme un changement maîtrisé
Ajouter l’IA au SGS est en soi un changement d’un processus de sécurité : il relève donc de votre procédure de gestion du changement. Une séquence raisonnable :
- Choisir un processus. Le classement des comptes rendus est un bon premier candidat, car les résultats sont faciles à vérifier.
- Fonctionner en parallèle. Pendant une période définie, le modèle propose et le personnel classe comme d’habitude. On compare les résultats.
- Fixer des critères d’acceptation. Convenir à l’avance du niveau de concordance nécessaire avant que les propositions soient montrées au personnel comme valeurs par défaut.
- Garder la correction visible. Chaque proposition peut être corrigée en une étape, et les corrections sont journalisées.
- Revoir régulièrement. Inclure la performance du modèle dans vos revues d’assurance de la sécurité, comme pour tout autre outil.
Ce que disent les autorités
Les autorités de l’aviation travaillent activement sur l’IA. L’EASA, par exemple, a publié une feuille de route sur l’IA et des éléments d’orientation pour les applications d’apprentissage automatique, centrés surtout sur l’IA dans les systèmes et opérations des aéronefs. Les outils qui soutiennent les processus du SGS d’une organisation, avec des personnes qui prennent les décisions, constituent un usage différent et moins risqué, mais les mêmes principes s’appliquent : savoir ce que fait l’outil, le tester, le surveiller et garder des personnes responsables. Vérifiez la position de votre autorité nationale avant de vous appuyer sur des résultats d’IA dans un dossier officiel.
Une première étape réaliste
Prenez les deux ou trois dernières années de comptes rendus de sécurité, avec leur classement final. Servez-vous-en pour mesurer comment un modèle les aurait codés, quelles catégories il traite bien et où il a du mal. Cet exercice utilise des données que vous possédez déjà, ne modifie aucun processus en cours, et donne au comité de revue de la sécurité des éléments pour décider d’aller plus loin.