Logo webradio media

Thales repense l'IA pour la défense et la sécurité


L'entreprise française Thales développe des algorithmes d'IA critiques pour la défense, avec l'humain au cœur de la décision.

Thales repense l'IA pour la défense et la sécurité

Comment entraîne-t-on les algorithmes lorsque des vies humaines sont en jeu? C'est le défi de l'entreprise française d'électronique spécialisée en défense et sécurité, Thales. Au sein de cette entreprise, plus de 600 experts développent une intelligence artificielle pour les domaines de défense et de sécurité, avec des contraintes sans commune mesure avec l’IA grand public.

«Cet environnement critique nous amène des devoirs qui n’existent pas dans un environnement grand public. La contrainte est injectée dès la conception de l’algorithme d’IA qui ne peut pas fonctionner comme une boîte noire et où l’humain est absolument essentiel», explique Philippe Keryer, directeur stratégie, recherche et technologies de Thales, premier détenteur de brevets en IA des systèmes critiques en Europe.

Des applications variées et critiques

Systèmes de défense avancés

Système de lutte anti-drones aériens éprouvé pendant les Jeux olympiques à Paris, capteurs intelligents pour détecter les mines sous-marines, pilotage d’essaims de drones, optimisation des trajectoires de vol ou prévention de la fraude d’identité: en amont du Sommet pour l’action sur l’IA qui se tiendra à Paris les 10 et 11 février, Thales a ouvert cette semaine ses laboratoires de recherche à Palaiseau, dans la région parisienne.

«Nous avons la responsabilité de repenser en profondeur le fonctionnement de l’IA ainsi que des modèles d’apprentissage», estime Philippe Keryer.

Sécurité et résilience

Il emploie des «hackers éthiques» pour anticiper les menaces, inventer les attaques les plus sophistiquées et soumettre les logiciels à un «crash test de résilience» avant d’être validés. Un principe «du glaive et du bouclier» déjà appliqué pour les systèmes d’armement (drones et systèmes anti-drones). «C’est en pensant au mal avec les attaques les plus perfides qu’on va créer le bien», affirme Philippe Keryer.

Contraintes opérationnelles

Autre défi: sur un champ de bataille, «on est contraint en taille, en poids, en puissance, mais aussi par le type de réseau auquel on est connecté», souligne Fabien Flacher, responsable de la cybersécurité au sein de Thales. Et si les intelligences artificielles sont généralement entraînées sur des données «figées longtemps», cela ne peut pas marcher pour les conflits modernes. «On réapprend instantanément à l’IA à être plus pertinente» après chaque mission.

L'humain au cœur de la décision

«On juge les IA plus sévèrement que les humains», estime Christophe Meyer, directeur technique de CortAIx Labs, chargée de l’IA pour Thales. Mais la décision cruciale revient toujours à l’humain. «S’il y a des drones avec des capacités de tirer, il y aurait une décision humaine pour dire +Je valide cette suggestion que tu me fais, avec mes critères qui sont des critères humains+», souligne-t-il.

Les solutions proposées par ce type d’IA contiennent également une explication rationnelle. Les calculs qu’elle fournit permettent à l’opérateur de soulager sa charge cognitive. Ainsi, un radar intelligent «va reconnaître la dimension de centaines de cibles en quelques dizaines de secondes, là où il nous fallait des dizaines de minutes auparavant», explique Nicolas Léger. Les algorithmes aident à «accélérer la classification et évaluer la pertinence de produire des opérations d’identification et de neutralisation», explique Benoît Drier de Laforte, conseiller dans la lutte anti-mines. Cette technique permet d’avoir seulement «1% à 2%» de fausses alarmes, selon lui.

Pourtant les algorithmes ne sont pas encore prêts à remplacer «les grandes oreilles» humaines. »Si l’algorithme n’a pas été entraîné sur une menace nouvelle, il risque de manquer de performance», souligne l’expert.

Principe du glaive et du bouclier

Le principe du «glaive et du bouclier» est essentiel pour garantir la sécurité et la résilience des systèmes d'IA développés par Thales. En anticipant les menaces et en testant les systèmes de manière rigoureuse, Thales s'assure que ses solutions sont prêtes à affronter les défis les plus complexes.

L'humain l'emporte

Malgré les avancées technologiques, l'humain reste au cœur de la décision. Les algorithmes d'IA sont conçus pour assister et améliorer les capacités humaines, mais la validation finale repose toujours sur des critères humains. Cette approche garantit que les systèmes d'IA sont utilisés de manière éthique et responsable.

En conclusion, Thales continue de repousser les limites de l'IA dans les domaines de la défense et de la sécurité, en mettant l'accent sur la sécurité, la résilience et l'importance de l'intervention humaine. Les défis sont nombreux, mais les solutions développées par Thales promettent de révolutionner le champ de bataille moderne.