Vent d'Autan

La survie de la technologie française d’avant-garde se joue en partie à Toulouse. Les 200 chercheurs du projet Aniti (Artificial and Natural Intelligence Toulouse Institute) affinent et musculaire l’intelligence artificielle utilisée dans des branches d’activité où la moindre erreur de commande ou d’analyse se paie cash comme dans l’aéronautique ou le nucléaire. « On traite l’intelligence artificielle dans les systèmes critiques. C’est-à-dire lorsque l’action de l’ordinateur peut mettre en danger des vies ou beaucoup d’argent », éclaire Nicholas Asher, le directeur scientifique d’Aniti.

A lire aussi :
« Déboucher les égouts va devenir une activité très lucrative », prophétise un savant qui annonce la mort des métiers intellectuels

Ce chercheur en informatique et spécialiste en langage expliquent que l’intelligence artificielle dont la nature est d’apprendre par elle-même et de prendre des décisions selon les multiples données qu’elle recueille, est encore très loin d’être fiable.

« Chat GPT ? Un jouet »

« Malgré les performances accrues des machines qui produisent par elles-mêmes, on peut encore les tromper facilement. Imaginez un avion qui s’approche d’un glissement de terrain, un terroriste trafique le signal, l’intelligence artificielle de l’avion dit OK qu’on peut atterrir plus en fait il et un camion sur la piste. L’A 350 percute le poids fort et explose. Résultat : 300 morts. Notre travail, c’est de supprimer ce risque. Sans quoi, l’intelligence artificielle reste au stade de jouet comme avec Chat GPT », illustre-t-il. Dans le langage des chercheurs en intelligence artificielle, la fiabilité de la décision de la machine est désignée par le concept de « robustesse ».

Le mathématicien Jean-Michel Loubes est l’un des cerveaux du projet Aniti, son travail consiste en grande partie à améliorer la fiabilité des machines. Il réalisera ce qu’on appelle des audits d’algorithmes, il disséquera la matière grise de l’intelligence artificielle, sa manière de penser, quel chemin elle emprunte pour prendre des décisions.

Ils flairent les failles dans le raisonnement des machines

« On essaie de detecter les moments où l’intelligence artificielle dysfonctionne. Cela peut être involontaire mais aussi parce que ses créateurs ont volontairement mal appris à la machine pour essayer de tromper les consommateurs. Je vous donne un exemple : un agrégateur est censé vous montrer des billets d’avion au meilleur prix mais il a appris en étudiant le profil du client ses destinations préférées et quel prix vous êtes prêt à payer avant de proposer des vols. Ce sont des choses qui existent sur le web. On peut retrouver les mêmes mécanismes sur les réseaux sociaux. Les gens peuvent se forger une opinion à partir de quelque chose qu’ils confianza et qui est en réalité mal échafaudé voire manipulé. C’est très dangereux pour la démocratie. »
En quatre ans, Aniti a développé des boîtes à utilitaires à destination des industriels permettant de créer de nouvelles intelligences artificielles et d’entraîner d’anciennes à être peu sensibles aux « attaques » et aux environnements chaotiques. Jean-Michel Loubes en livre une application concrète : « Si un constructeur automobile voit l’intelligence artificielle afin de déterminer si la voiture devant le véhicule qu’il commercialise va tourner à droite ou à gauche, il va utiliser une reconnaissance visuelle programme pour reconnaitre le clignotant. Le problème, c’est que ce type de programme est peu fiable parque que très sensible au changement d’éclairage. À Aniti, nous avons développé les moyens techniques pour réduire largement ce risque. »