AI Guardian Protocol par Foralixeno
Nous pensons qu’une finance moderne ne peut être solide que si l’intelligence artificielle reste compréhensible, contrôlable et responsable. C’est pour cette raison que Foralixeno a créé AI Guardian Protocol, un cadre méthodologique et technique dédié à la surveillance des modèles utilisés dans les parcours financiers numériques. Notre objectif est simple : aider les acteurs à utiliser l’IA avec prudence, transparence et respect des personnes. Au départ, notre équipe réunissait des profils issus de la cybersécurité, de la modélisation de risque et de la protection des données. En travaillant avec des institutions financières et des fintechs, nous avons constaté la même difficulté : les modèles évoluent rapidement, mais les outils de suivi, de documentation et d’alerte restent fragmentés. Les équipes métiers peinent à expliquer les décisions automatisées, tandis que les équipes techniques doivent répondre à des exigences de conformité toujours plus précises. AI Guardian Protocol est né de ce constat. Nous avons structuré une approche en plusieurs étapes : cartographie des usages, analyse de sensibilité, surveillance continue et revue indépendante. Chaque étape est documentée pour faciliter les échanges avec les équipes risques, conformité et audit interne. Le protocole ne remplace pas les décisions humaines, il les éclaire en mettant en avant les signaux à surveiller. Aujourd’hui, Foralixeno accompagne des organisations qui souhaitent concilier innovation, maîtrise des risques et respect des cadres européens, notamment en matière de protection des données et d’usage responsable de l’IA. Notre ambition pour les prochaines années est de continuer à affiner ce protocole, en restant à l’écoute des régulateurs, des experts de terrain et des utilisateurs finaux.Voir plus
- Équipe
-
Experts IA et finance
analystes et ingénieurs dédiés à la sûreté des décisions automatisées
- Approche
-
Conformité réglementaire
cadre de contrôle aligné sur les attentes des autorités européennes
- Processus
-
Contrôles systématiques
vérifications techniques et fonctionnelles sur chaque protocole d’analyse
Étapes clés du développement
2019
Fondation de Foralixeno
Création de Foralixeno autour d’un constat partagé par les premiers membres de l’équipe : l’IA s’invite dans les parcours financiers, mais les organisations disposent de peu de repères pour encadrer ces usages. Cette étape marque la définition de nos premiers principes fondateurs, centrés sur la transparence, la traçabilité et la responsabilité des décisions automatisées.
2020
Pilotes en environnement réel
Mise en place des premiers prototypes d’AI Guardian Protocol avec des acteurs financiers souhaitant mieux comprendre le comportement de leurs modèles. Nous structurons alors une démarche en plusieurs étapes : cartographie, tests ciblés, suivi continu et revue indépendante. Ces pilotes confirment l’intérêt d’un cadre lisible pour les équipes métiers et techniques.
2022
Structuration du protocole
Formalisation d’AI Guardian Protocol comme méthodologie documentée et outil d’accompagnement. Nous intégrons des exigences renforcées de protection des données et de gouvernance de l’IA, en cohérence avec les attentes européennes. Cette étape s’accompagne d’ateliers réguliers avec les équipes risques, conformité et audit de nos partenaires.
2024
Déploiement élargi
Extension du protocole à de nouveaux cas d’usage financiers numériques, avec un accent particulier sur la lisibilité des modèles pour les décideurs non techniques. Nous renforçons les mécanismes de suivi continu et de remontée de signaux d’alerte, afin d’aider les organisations à adapter leurs décisions lorsque le contexte évolue.
Nos principes d’action
Nous structurons AI Guardian Protocol autour de quelques principes simples : rendre les
décisions automatisées plus lisibles, maintenir un contrôle humain effectif et soutenir les
organisations dans leurs obligations de prudence. Ces valeurs guident nos choix techniques,
nos méthodes d’analyse et la manière dont nous collaborons avec vos équipes, qu’elles soient
métiers, risques ou techniques.
Sécurité par conception
Nous considérons la sécurité comme un processus continu plutôt qu’un état figé. AI Guardian Protocol intègre des contrôles réguliers, une journalisation détaillée et une revue indépendante des modèles utilisés dans les parcours financiers. L’objectif n’est pas d’éliminer toute incertitude, mais d’identifier plus tôt les signaux qui méritent une attention humaine renforcée.
Transparence mesurée
La transparence ne signifie pas exposer chaque détail technique, mais fournir aux équipes métiers, aux décideurs et aux utilisateurs finaux des explications compréhensibles. Nous aidons nos clients à documenter les usages de l’IA, les limites des modèles et les marges d’incertitude, afin de soutenir un dialogue honnête avec les parties prenantes.
Alignement réglementaire
AI Guardian Protocol est pensé pour s’articuler avec les cadres réglementaires en vigueur, notamment européens. Nous suivons l’évolution des textes et des recommandations pour adapter nos grilles d’analyse. Notre rôle est d’aider les organisations à relier les exigences formelles à des pratiques concrètes, sans prétendre se substituer aux autorités compétentes.
Éthique et responsabilité
Nous défendons une utilisation de l’IA qui respecte les personnes, leurs droits et leurs attentes. Cela implique d’anticiper l’impact des décisions automatisées, de prévoir des recours humains et de communiquer clairement sur le rôle de l’algorithme. Nous rappelons systématiquement que les décisions finales doivent rester sous contrôle humain et que les situations individuelles peuvent différer.
Une équipe pluridisciplinaire dédiée à la sûreté de l’IA financière
Claire Dubois Directrice produit IA et risque responsable
Direction produit et gouvernance
Claire pilote la conception globale d’AI Guardian Protocol et coordonne les échanges entre équipes métiers, techniques et risques. Forte d’une expérience en modélisation de risque et en pilotage de projets réglementaires, elle veille à ce que chaque évolution du protocole reste pragmatique et documentée. Son rôle consiste aussi à traduire les enjeux de conformité en exigences concrètes pour les développeurs et les analystes.
Marc Lefèvre Architecte technique IA et sécurité applicative
Architecture et intégration
Marc conçoit l’architecture technique qui permet à AI Guardian Protocol de s’intégrer dans des environnements financiers variés. Il travaille sur la robustesse des flux de données, la journalisation des décisions automatisées et la mise en place de mécanismes d’alerte. Son approche privilégie la simplicité d’exploitation pour les équipes internes, afin que la surveillance reste un réflexe quotidien plutôt qu’une contrainte supplémentaire.
Sonia Martin Experte conformité données et éthique appliquée
Conformité et éthique IA
Sonia se consacre aux questions de conformité, de protection des données et de documentation des modèles utilisés dans les services financiers. Elle accompagne les clients dans la formalisation de leurs politiques internes relatives à l’IA et dans la préparation des revues d’audit. Son travail consiste à rapprocher les exigences réglementaires et les pratiques concrètes des équipes, avec une attention particulière portée à la clarté des explications fournies aux utilisateurs finaux.
Reconnaissance externe
2021
FinTech Forum
Prix initiative IA responsable
Reconnaissance pour notre contribution à la mise en place de garde-fous techniques autour des modèles utilisés dans les parcours financiers numériques.
2022
AI Lab
Cohorte innovation éthique
Programme d’accompagnement dédié aux solutions qui renforcent la transparence et la traçabilité des décisions automatisées dans les services financiers.
2023
Data Trust
Label usage responsable
Distinction accordée aux projets contribuant à une utilisation prudente des données et à une meilleure lisibilité des algorithmes pour les équipes de conformité.
2024
Cyber Alliance
Programme cybersécurité appliquée
Sélection dans un programme axé sur la sécurisation des infrastructures numériques et la mise en œuvre de mécanismes de contrôle continus pour l’IA appliquée à la finance.
Discutons de votre contexte
Pour aller plus loin, nous vous proposons d’examiner ensemble vos usages actuels de l’IA et les garde-fous déjà en place. D’abord, nous clarifions vos enjeux métiers et réglementaires. Ensuite, nous cartographions les décisions sensibles. Enfin, nous identifions comment AI Guardian Protocol peut s’intégrer à vos processus existants, sans les bouleverser. Résultats may vary et les éléments partagés ne constituent pas un conseil personnalisé.
Nous contacter