Trustworthy AI: a necessary condition for AI based defense system deployment ; IA de confiance : condition nécessaire pour le déploiement de l'IA dans les systèmes de défense

International audience ; La conception de systèmes critiques comme dans le domaine militaire, aéronautique ou spatialà base d'IA n'est pas neutre. Celle-ci peut démarrer par un PoC (Proof of Concept-preuve de principe) destinéà démontrer la faisabilité d'une solution. Mais ce PoC n'est pas en soi une finalité pour la simple raison que les systèmes militaires doivent etre par construction fiables, sûrs et (cyber)-robustes. Il devient alors nécessaire de repenser et d'outiller les ingénieries algorithmique, logicielle et système pour industrialiser le PoC en produit ou solution, conforme aux concepts d'emploi et doctrines tout en respectant des propriétés comme la sûreté. Mots clés: Ingénierie algorithmique de l'IA· Sûreté · Fiabilité · Vérification et validation · Qualité · Evaluation.