Rejoignez Systematix en tant qu’Architecte – IA responsable, sécurité et gestion des risques
Vous êtes un(e) professionnel(le) expérimenté(e) en architecture, sécurité et gestion des risques liés à l’intelligence artificielle et souhaitez contribuer à la conception de solutions d’IA à la fois sécuritaires, résilientes, responsables et auditables?
Systematix est à la recherche d’un(e) Architecte de confiance (IA responsable et sécurité de l’IA) pour contribuer à la conception d’une architecture transversale de confiance couvrant la sécurité, la sûreté, la résilience, la confidentialité, l’IA responsable, les facteurs humains et l’assurance.
Vous jouerez un rôle clé dans la définition des propriétés et mécanismes de confiance applicables aux solutions d’intelligence artificielle, avec une approche allant bien au-delà d’une simple revue éthique ou normative.
Votre expertise permettra d’anticiper les risques et scénarios de défaillance, de concevoir les garde-fous appropriés et de définir les mécanismes de contrôle, de supervision et de traçabilité nécessaires tout au long du cycle de vie des solutions d’IA.
Poste : Architecte de confiance (IA responsable et sécurité de l’IA)
Référence : 22588
Langue de travail : Français
Votre rôle
- Concevoir une architecture transversale de confiance intégrant la sécurité, la sûreté, la résilience, la confidentialité, l’IA responsable, les facteurs humains et l’assurance;
- Définir les propriétés et mécanismes de confiance applicables aux solutions d’intelligence artificielle;
- Appliquer les cadres et référentiels reconnus en matière d’IA responsable et de gestion des risques, notamment ISO/IEC 42001, ISO/IEC 23894 et NIST AI RMF;
- Prendre en compte les référentiels OWASP applicables aux grands modèles de langage et aux agents;
- Élaborer des modèles de menace propres aux systèmes d’IA;
- Identifier et documenter les différents scénarios de défaillance ainsi que leurs conséquences potentielles sur les activités et les actifs concernés;
- Concevoir et définir les garde-fous nécessaires à l’utilisation sécuritaire et responsable des solutions d’IA;
- Concevoir les mécanismes de supervision humaine, d’arrêt, de reprise et de dégradation contrôlée;
- Définir les propriétés de résilience attendues des systèmes d’intelligence artificielle;
- Concevoir les points de contrôle à chaque étape du cycle de vie des solutions d’IA;
- Définir les critères d’entrée et de sortie, les mécanismes de véto, les critères d’autorisation de mise en service ainsi que les preuves attendues;
- Intégrer les facteurs humains dans la conception et l’évaluation des solutions d’IA;
- Évaluer la compréhensibilité des résultats produits par les systèmes d’IA et la charge de vérification imposée aux utilisateurs;
- Identifier et encadrer les risques liés à une automatisation excessive;
- Définir les conditions permettant une supervision humaine réellement significative;
- Mettre en place les exigences de journalisation, de traçabilité et d’auditabilité des décisions;
- Encadrer la gestion des exceptions, des écarts et des risques résiduels, incluant les conditions d’escalade;
- Prendre en compte les exigences légales applicables au Québec, notamment la Loi 25 et les exigences relatives à la révision humaine d’une décision automatisée;
- Vulgariser les enjeux liés à la confiance, aux risques et à l’IA responsable auprès des instances décisionnelles;
- Constituer des dossiers de preuve défendables dans le cadre de revues d’architecture, d’activités de gestion des risques et d’audits.
Profil recherché
Nous recherchons une personne possédant une expertise en architecture de confiance, IA responsable et sécurité des systèmes d’intelligence artificielle, particulièrement dans plusieurs des domaines suivants :
- Architecture de confiance appliquée aux solutions d’IA;
- IA responsable et gestion des risques liés à l’intelligence artificielle;
- Sécurité, sûreté, résilience et confidentialité des systèmes d’IA;
- ISO/IEC 42001 et ISO/IEC 23894;
- NIST AI Risk Management Framework (AI RMF);
- Référentiels OWASP applicables aux grands modèles de langage et aux agents;
- Modélisation des menaces propres aux systèmes d’IA;
- Analyse des scénarios de défaillance et de leurs impacts;
- Conception de garde-fous et mécanismes de contrôle;
- Supervision humaine des systèmes automatisés;
- Mécanismes d’arrêt, de reprise et de dégradation contrôlée;
- Gestion de la résilience des solutions d’IA;
- Définition de points de contrôle tout au long du cycle de vie de l’IA;
- Journalisation, traçabilité et auditabilité;
- Gestion des exceptions, des écarts et des risques résiduels;
- Prise en compte des facteurs humains dans les systèmes d’IA;
- Compréhension des exigences légales québécoises applicables à l’utilisation de l’IA;
- Capacité à vulgariser des enjeux complexes auprès d’instances décisionnelles.
Atouts
Une expertise combinant plusieurs dimensions de la confiance numérique, de la cybersécurité, de l’IA responsable et de la gestion des risques constitue un atout important, notamment :
- Architecture et sécurité de l’IA;
- IA responsable;
- Gouvernance et gestion des risques liés à l’IA;
- Modélisation des menaces;
- Résilience des systèmes;
- Protection de la confidentialité;
- Supervision humaine des systèmes automatisés;
- Facteurs humains et risques d’automatisation;
- Auditabilité et traçabilité des décisions;
- Gestion des risques résiduels et des exceptions;
- Cadres de contrôle et référentiels de sécurité;
- Conformité et exigences légales applicables aux systèmes d’IA;
- Préparation de dossiers de preuve pour les revues d’architecture, la gestion des risques et les audits.
Pourquoi joindre Systematix?
Ce mandat représente une occasion de travailler sur des enjeux au cœur de l’évolution de l’intelligence artificielle responsable et sécuritaire.
Vous contribuerez directement à définir les conditions permettant de déployer des solutions d’IA offrant un niveau de confiance adapté aux risques : garde-fous, supervision humaine, résilience, traçabilité, auditabilité et mécanismes de contrôle.
Votre rôle vous amènera également à considérer les dimensions humaines et organisationnelles de l’IA, notamment les risques d’automatisation excessive, la compréhensibilité des résultats et les conditions nécessaires à une supervision humaine réellement significative.
Vous aurez ainsi l’occasion d’intervenir à la croisée de l’architecture, de la cybersécurité, de l’IA responsable, de la gestion des risques et de la conformité, tout en accompagnant les équipes et les instances décisionnelles dans l’adoption de solutions d’IA dignes de confiance.
Intéressé(e)?
Envoyez-moi votre CV à jour à : zineb.ammor@systematix.com
N’hésitez pas à mettre en évidence vos expériences concrètes en IA responsable, sécurité de l’IA, architecture de confiance, gestion des risques, modélisation des menaces, résilience, supervision humaine, auditabilité, ainsi que votre connaissance des cadres ISO/IEC 42001, ISO/IEC 23894, NIST AI RMF et OWASP.
Nous communiquerons avec les candidats dont l’expérience correspond particulièrement aux besoins du mandat.
Référence : 22588
