Les technologies d’IA, de ML et d’automatisation sont en train de remodeler en profondeur les industries. Une récente enquête de Deloitte indique que 93 % des entreprises manufacturières estiment que l’IA sera une technologie clé pour stimuler la croissance et l’innovation.
L’industrie manufacturière a tout à gagner car elle s’appuie sur différents systèmes d’ingénierie qui génèrent de grandes quantités de données, lors de la curation des données, de la conception, ou encore lors de la création de modèles d’IA dans la fabrication des produits. Ces systèmes peuvent être liés à la gestion du cycle de vie des produits (PLM), la planification des ressources de l’entreprise (ERP), ou encore le pilotage de la production (MES). En outre, il existe une grande diversité de données dans l’écosystème des fournisseurs, des équipementiers, des régulateurs et d’autres parties prenantes.
D’autre part, les fusions et acquisitions courantes dans cette industrie, entraînent la nécessité d’intégrer constamment de nouveaux concepts, de nouvelles données et une nouvelle culture au sein des entreprises.
Au cours des dernières années, l’IA et l’automatisation ont eu un impact significatif sur l’industrie manufacturière en offrant la possibilité d’examiner les données historiques, de les nettoyer et de les rationaliser. L’IA peut supprimer les informations en double et réduire le nombre de biais afin d’assurer la normalisation de la base de données.
Les systèmes traditionnels d’ingénierie ont permis jusqu’à aujourd’hui de traiter, conserver et réutiliser les connaissances existantes. Ces systèmes transitent vers l’IA de nouvelle génération. Ils offrent une plus grande précision et une meilleure traçabilité, qui sont des atouts importants pour la recherche et le développement de la plupart des chaînes de valeur des produits. Les grands modèles de langage permettent désormais d’apporter l’échelle nécessaire au traitement et à l’extraction des connaissances à chaque fois que cela est nécessaire.
Les algorithmes d’IA peuvent piloter des analyses prédictives de la demande et de l’offre en utilisant des modèles ML simples, des modèles de réseaux neuronaux ou des réseaux neuronaux profonds.
Les outils alimentés par l’IA peuvent collecter et intégrer des données provenant de divers systèmes d’enregistrement, tels que les logiciels de CAO/FAO, les appareils IoT, les systèmes ERP, et plus encore, et compléter les entreprises grâce à leurs capacités d’IA. Par exemple, un réseau neuronal artificiel a été utilisé pour une entreprise aérospatiale mondiale afin d’aider à équilibrer les moteurs d’avion.
L’automatisation peut contribuer au nettoyage et à la préparation des données pour l’analyse, en réduisant les efforts manuels et le temps requis pour le nettoyage des données. Par exemple, une classification et un résumé de documents juridiques ont été fournis à une entreprise d’informatique et d’électronique grand public.
Les modèles de maintenance prédictive pilotés par l’IA analysent les données provenant de capteurs et d’appareils IoT pour prédire quand un équipement ou une machine est susceptible de tomber en panne. Par exemple, une société minière mondiale utilise des camions lourds de type mammouth pour transporter le minerai. Un travail a été mené avec leurs équipes pour développer les modèles de diagnostic et de pronostic pour les camions afin d’identifier et de prédire les défaillances. L’ensemble du processus a été développé dans le cadre d’un projet de retour sur investissement.
L’ingénierie des connaissances peut être utilisée pour développer des systèmes de recommandation qui fournissent aux utilisateurs des contenus, des produits ou des services pertinents en fonction de leurs préférences et de leur comportement. Cela peut grandement améliorer l’expérience de l’utilisateur en rendant les interactions plus efficaces et plus satisfaisantes.
Le contrôle et l’optimisation des performances des produits par le biais de tests utilisateurs permettent d’identifier et de résoudre les problèmes qui ont une incidence sur l’expérience des utilisateurs, ce qui débouche sur des conceptions plus accessibles.
Les ingénieurs logiciels peuvent développer des solutions logicielles personnalisées et des outils d’automatisation qui rationalisent divers processus de fabrication. Cela permet de réduire le travail manuel, de minimiser les erreurs et de garantir une qualité constante des produits, ce qui améliore l’expérience des opérateurs et des utilisateurs finaux.
Il n’est pas facile pour les fabricants d’intégrer les capacités de l’IA dans leurs systèmes et infrastructures existants. Il existe une résistance culturelle, un manque de talent et l’incapacité d’absorber les nouveaux algorithmes d’IA dans les systèmes existants. Ainsi, il est essentiel de préparer l’organisation à surmonter les obstacles, à conduire le changement et à favoriser une culture de l’innovation pour que l’adoption de l’IA soit couronnée de succès. Les chefs d’entreprise doivent ainsi identifier les freins technologiques qui entravent l’adoption de l’IA, telles que l’infrastructure obsolète, le manque de talents qualifiés ou les problèmes de cybersécurité, la croissance future de l’entreprise, et y remédier par le biais d’investissements et de formations.
Les leaders du secteur doivent ainsi devenir les fers de lance de l’innovation et du changement. Il se doivent de créer des espaces et des processus qui encouragent les employés à réfléchir, à expérimenter et à proposer des idées novatrices. Aussi, ils doivent mettre en place les formations nécessaires pour leurs employés et tirer ainsi pleinement parti des nouvelles technologies pour prendre les devants sur le secteur.
VASA-1 est un nouveau framework qui permet de générer des visages parlants ultra-réalistes en temps réel ! En gros, vous balancez une simple photo à cette IA, ainsi qu’un petit clip audio, et bim ! Elle vous pond une vidéo d’un visage qui parle, avec une synchronisation de la bouche nickel chrome, des expressions faciales hyper naturelles et des mouvements de tête très fluides. C’est hyper bluffant !
Les chercheurs de Microsoft ont réussi ce tour de force en combinant plusieurs techniques de pointe en deep learning. Ils ont d’abord créé un espace latent expressif et bien organisé pour représenter les visages humains. Ça permet de générer de nouveaux visages variés, qui restent cohérents avec les données existantes. Ensuite, ils ont entraîné un modèle de génération de dynamiques faciales et de mouvements de tête, appelé le Diffusion Transformer, pour générer les mouvements à partir de l’audio et d’autres signaux de contrôle.
Et le résultat est juste époustouflant. On a l’impression de voir de vraies personnes qui parlent, avec toutes les nuances et les subtilités des expressions faciales. Les lèvres bougent parfaitement en rythme avec les paroles, les yeux clignent et regardent naturellement, les sourcils se lèvent et se froncent…
En plus de ça, VASA-1 peut générer des vidéos en haute résolution (512×512) à une cadence élevée, jusqu’à 40 images par seconde, avec une latence de démarrage négligeable. Autant dire que c’est le graal pour toutes les applications qui nécessitent des avatars parlants réalistes. On peut imaginer des assistants virtuels avec lesquels on pourrait interagir de manière super naturelle, des personnages de jeux vidéo encore plus crédibles et attachants, des outils pédagogiques révolutionnaires pour apprendre les langues ou d’autres matières, des thérapies innovantes utilisant des avatars pour aider les patients… etc etc..
En plus de pouvoir contrôler la direction du regard, la distance de la tête et même les émotions du visage généré, VASA-1 est capable de gérer des entrées qui sortent complètement de son domaine d’entraînement comme des photos artistiques, du chant, d’autres langues…etc.
Bon, évidemment, il reste encore quelques limitations. Par exemple, le modèle ne gère que le haut du corps et ne prend pas en compte les éléments non rigides comme les cheveux ou les vêtements. De plus, même si les visages générés semblent très réalistes, ils ne peuvent pas encore imiter parfaitement l’apparence et les mouvements d’une vraie personne mais les chercheurs comptent bien continuer à l’améliorer pour qu’il soit encore plus versatile et expressif.
En attendant, je vous invite à checker leur page de démo pour voir cette merveille en action. C’est juste hallucinant ! Par contre, vu les problèmes éthiques que ça pourrait poser du style usurpation d’identité, fake news et compagnie, et connaissans Microsoft, je pense que VASA-1 ne sera pas testable par tous bientôt malheureusement. Mais je peux me tromper…
Pure Storage, fournisseur de technologies et de services de stockage de données, collabore depuis plusieurs années avec NVIDIA. A l’occasion de la GTC 2024, il a annoncé une nouvelle architecture de référence validée pour les serveurs NVIDIA OVX équipés de GPU NVIDIA L40S et FlashBlade//S. Cette validation offre aux entreprises un éventail élargi de choix de serveurs GPU, ainsi qu’une infrastructure d’IA prête à l’emploi pour des charges de travail d’entraînement, d’ajustement et d’inférence de petits modèles, rapide et efficace.
En 2018, Pure Storage et NVIDIA développaient une infrastructure pour le déploiement du machine learning à grande échelle. Baptisée AIRI (pour AI-Ready Infrastructure), avec l’objectif de permettre aux organisations de transformer les données, elle associait une baie de stockage 100 % flash de type FlashBlade (boîtier 4U) avec quatre boîtiers NVIDIA GPU DGX-1 et une paire de commutateurs 100 Gb Ethernet d’Arista Networks.
En 2022, Pure Storage lançait la nouvelle génération de l’infrastructure : AIRI//S, pilotée par la boîte de stockage FlashBlade//S, les systèmes NVIDIA DGX A100 et le réseau de bout en bout, grâce aux plateformes réseau Quantum Spectrum de NVIDIA. L’architecture de référence AIRI certifiée NVIDIA DGX BasePOD a, quant à elle, été lancée fin 2023.
S’appuyant sur sa collaboration continue avec NVIDIA, outre l’architecture de référence certifiée NVIDIA OVX Server Storage, Pure Storage annonce un pipeline de génération augmentée de récupération pour l’inférence de l’IA, un développement de génération augmentée de récupération et un investissement accru dans l’écosystème de partenaires IA :
Rob Lee, Chief Technology Officer, Pure Storage, conclut :
“Pure Storage a reconnu très tôt la demande croissante en matière d’intelligence artificielle, en proposant une plateforme efficace, fiable et performante pour les déploiements d’IA les plus avancés. Grâce à notre collaboration de longue date avec NVIDIA, les dernières architectures de référence d’Intelligence artificielle validées et les preuves de concept d’IA générative apparaissent comme des composants essentiels pour les entreprises mondiales afin de résoudre les complexités du puzzle de cette technologie”.
La chaîne d’approvisionnement est confrontée à des défis de taille, de la volatilité des marchés à la demande des consommateurs en évolution constante. Dans ce contexte complexe, l’intégration de technologies émergentes telles que l’IA, le ML et la blockchain, ouvrent la voie à une efficacité accrue, une transparence renforcée et une gestion des risques améliorée.
Les principales activités de la supply chain englobent l’approvisionnement en matières premières, la transformation et la fabrication, la gestion des stocks, la logistique et la distribution, la gestion des commandes et des fournisseurs, ainsi que le service client. Une gestion efficace de la chaîne d’approvisionnement est essentielle pour garantir la disponibilité des produits, réduire les coûts, améliorer la satisfaction client et maintenir un avantage concurrentiel sur le marché.
La blockchain, souvent associée à la cryptomonnaie, trouve également des applications dans la supply chain. En tant que registre distribué et sécurisé, elle offre une traçabilité sans précédent à chaque étape du processus d’approvisionnement. Les transactions enregistrées sur la blockchain sont immuables et transparentes, ce qui réduit les risques de fraude et de contrefaçon. Chaque acteur de la chaîne, qu’il soit fournisseur, transporteur ou distributeur, peut vérifier et enregistrer des informations en temps réel. De la provenance des produits à la gestion des stocks et des contrats intelligents, la blockchain permet ainsi d’optimiser la chaîne d’approvisionnement, de manière sécurisée et responsable.
L’IA, le machine learning et le deep learning apportent une valeur ajoutée à la chaîne d’approvisionnement en permettant une optimisation plus fine et une prise de décision proactive. Les algorithmes d’IA analysent de vastes ensembles de données pour identifier des schémas, des tendances et des anomalies dans les données de la chaîne d’approvisionnement, permettant une meilleure prévision de la demande, une gestion plus efficace des stocks et une planification logistique optimisée. De plus, l’IA peut automatiser des tâches répétitives telles que la gestion des commandes et des fournisseurs, libérant ainsi des ressources précieuses pour des activités à plus forte valeur ajoutée.
L’IA et l’automatisation peuvent contribuer à dégager davantage de valeur lorsqu’elles sont intégrées aux données fiables fournies par la blockchain.
IBM Food Trust est une plateforme basée sur la technologie de la blockchain développée par IBM. Elle vise à améliorer la traçabilité, la transparence et la sécurité dans l’industrie alimentaire en permettant aux entreprises et aux consommateurs de suivre et de tracer les produits alimentaires tout au long de la chaîne d’approvisionnement, depuis la ferme jusqu’à la table du consommateur.
En stockant les données sur les récoltes, la transformation, l’emballage et l’expédition sur la blockchain, Food Trust permet de retracer les produits en quelques secondes seulement, alors que plusieurs jours ou semaines étaient auparavant nécessaires. Après 18 mois de tests, durant lesquels des millions de produits alimentaires individuels ont été tracés par les distributeurs et les fournisseurs, IBM l’a lancée en 2018.
Parmi les premiers utilisateurs de la plateforme, on trouve des géants de l’agroalimentaire comme Walmart, Unilever, Nestlé et Carrefour, qui visent à renforcer la confiance de leurs clients et à répondre aux exigences réglementaires en matière de sécurité alimentaire.
Nestlé, l’un des premiers à collaborer avec IBM pour la solution, a testé sa capacité à retracer les fruits et légumes de ses produits alimentaires pour bébés de la marque Gerber, l’a ensuite appliquée avec Carrefour à leur gamme de lait infantile GUIGOZ. Les clients, en scannant le QR code depuis un smartphone, peuvent accéder à l’ensemble des informations concernant le lait, son origine, les étapes de production et les contrôles qualité. Nestlé a étendu l’utilisation de la solution en 2020 pour la traçabilité de sa marque de café “Zoégas”.
Carrefour l’utilise également pour permettre à ses clients de vérifier la traçabilité de certains de ses produits frais comme le poulet, le saumon ou les œufs.
Walmart, quant à lui, utilise la solution afin de réduire la propagation des maladies d’origine alimentaire en identifiant les problèmes dans la chaîne alimentaire.
Comment-IA-blockchain-transforment-supply-chain
Google Research a annoncé mardi dernier TensorFlow GNN 1.0 (TF-GNN), une bibliothèque testée en production permettant de construire et entraîner des réseaux de neurones de graphes (GNN) à grande échelle.
Les graphes sont omniprésents dans de nombreux domaines, de la biologie à la finance en passant par les réseaux sociaux. Ils offrent une représentation puissante des relations entre différentes entités, mais leur exploitation efficace dans le domaine de l’apprentissage automatique est un défi de taille.
Les GNN permettent d’exploiter à la fois la connectivité et les caractéristiques des nœuds et des arêtes d’un graphe. Ils peuvent faire des prédictions pour des graphes entiers, des nœuds individuels ou des arêtes potentielles. Ils peuvent également encoder l’information discrète et relationnelle d’un graphe de manière continue, afin de l’intégrer dans un autre système d’apprentissage profond.
TF-GNN supporte à la fois la modélisation et l’entraînement en TensorFlow, la bibliothèque open-source développée par Google, l’une des plus populaires pour l’apprentissage automatique et le deep learning en raison de sa flexibilité, de sa richesse en fonctionnalités et de sa communauté active, ainsi que l’extraction de graphes d’entrée à partir de vastes bases de données.
Il est conçu dès le départ pour les graphes hétérogènes, où les types d’objets et de relations sont représentés par des ensembles distincts de nœuds et d’arêtes.
TF-GNN propose une API Python flexible pour configurer l’échantillonnage de sous-graphes, qui consiste à extraire des sous-graphes de taille raisonnable du graphe sous-jacent pour créer des exemples d’entrée pour l’entraînement des GNN. L’échantillonnage peut se faire de manière dynamique ou par lots, à différentes échelles : interactivement dans un notebook Colab, de manière efficace pour un petit ensemble de données en mémoire, ou distribuée par Apache Beam pour des ensembles de données énormes stockés sur un système de fichiers réseau.
TF-GNN fournit également une collection de modèles prédéfinis et un modèle template hautement configurable, exprimés en couches Keras. Les modèles peuvent être entraînés sur une seule tâche ou sur plusieurs tâches en même temps, de manière supervisée ou non supervisée. Il inclut aussi une implémentation des gradients intégrés pour l’attribution des modèles.
Cette bibliothèque marque une avancée significative dans le domaine de l’apprentissage sur les graphes. En permettant une manipulation facile et efficace des graphes hétérogènes, elle ouvre de nouvelles perspectives pour l’application des réseaux de neurones dans des domaines variés, de la recommandation de produits à l’analyse de réseaux sociaux. L’équipe Tenserflow de Google espère qu’elle sera utile pour faire progresser l’application des GNN dans TensorFlow à grande échelle et alimenter de nouvelles innovations dans ce domaine.
Pour en savoir plus, consultez sa Démo de Colab avec le benchmark populaire OGBN-MAG (dans votre navigateur, aucune installation requise), son guide d’utilisation et Colabs.
Références de l’article : blog Google Research
La version 1.0 de TF-GNN est le fruit d’une collaboration entre Google Research : Sami Abu-El-Haija, Neslihan Bulut, Bahar Fatemi, Johannes Gasteiger, Pedro Gonnet, Jonathan Halcrow, Liangze Jiang, Silvio Lattanzi, Brandon Mayer, Vahab Mirrokni, Bryan Perozzi, Anton Tsitsulin, Dustin Zelle, Google Core ML : Arno Eigenwillig, Oleksandr Ferludin, Parth Kothari, Mihir Paradkar, Jan Pfeifer, Rachael Tamakloe et Google DeepMind : Alvaro Sanchez-Gonzalez et Lisa Wang.
Vous pouvez retrouver leur papier “TF-GNN:Graph Neural Networks in TensorFlow” sur arXiv : https://doi.org/10.48550/arXiv.2207.03522
Google-publie-TensorFlow-GNN-10
Citius, Altius, Fortius, trois mots latin signifiant « plus vite, plus haut, plus fort », forment la devise originelle des Jeux Olympiques, mais aussi une forme de course vers une augmentation indéfinie de la performance que certains ont pu comprendre comme une invitation au dopage. Le parallèle avec l’intelligence artificielle s’avère intéressant à plus d’un titre. L’IA, c’est une révolution ! Mais elle est permanente, infatigable, un peu à la manière dont elle est menée par nos machines dorénavant déifiées, ces ordinateurs qui comptent sans se tromper, sans se plaindre aussi… Dans tous les domaines, l’IA progresse. Voyez plutôt :
Fortius : Grâce aux GPU, TPU et consorts, les capacités de calcul continuent de soutenir la force requise pour entraîner des modèles consommant des quantités astronomiques de données (et aussi d’électricité) au sein de clouds pour servir le deep learning. Dernière grande réussite en date : les Large Language Models («LLM»), noyau dur de ChatGPT, l’assistant conversationnel qui écrit. Quel dommage que de moins en moins de gens lisent…
Altius : Et c’est vrai qu’ils sont forts, ces LLM! Etonnante surprise que leur haute performance dans la maîtrise du langage, disons du versant purement syntaxique du langage. L’illusion fait le reste. L’ordinateur vous parle ; le test de Turing vole littéralement en éclat (en même temps, c’était un canular…). Et si l’on n’y prend garde, ce sera bientôt toute la cognition humaine qui sera reproduite par ces capacités « machiniques » nouvelles. Pourquoi l’IA connaîtrait-elle de limites ?
Citius : Ce rythme, qui nous entraîne jusqu’au bout de l’IA (mais peutêtre aussi au bout de la nuit ? – il paraît que les années 80 reviennent à la mode), semble s’accélérer à son tour. Les retombées techniques des LLM s’auto-entretiennent dans un concert assez cacophonique d’open-source et de but lucratif bien compris (mais il n’y a pas de mal à cela). Et nous nous précipitons, mus par un progrès qui demeure inquestionné, à toute
allure vers… Bien malin qui saurait dire quoi !
Intermezzo : Retour à la devise des J.O. : il est d’ores et déjà su que le cru parisien de 2024 aura recours à l’IA, à l’œuvre derrière les caméras intelligentes censées veiller à la sécurité du peuple, augmenté de ses généreux touristes étrangers. La surveillance – d’autres disent « la sécurité » – ne saurait se reposer, contrairement aux contrôleurs et aux athlètes (il faudrait bientôt songer à les remplacer un jour, ceux-là aussi !)
La fin de l’année qui vient de s’achever portait comme un avant-goût de nouvel an, largement confirmé depuis :
Prospérité ! L’IA ne se limite heureusement pas à ses performances techniques sans cesse repoussées. Le business est aussi florissant et le montant des dernières levées de fonds ou des investissements consentis donne le tournis. A moins de compter en milliards de dollars – altius ! –, on ne fait pas vraiment partie des acteurs intéressants. En centaines de millions d’euro, on a une place dans le décor, ou on peut être promu à un petit rôle de configuration, peut-être. Bien sûr, les rabat-joie pointeront qu’un investissement n’est qu’une espérance de gains futurs (et pour ce qui est du présent, une dépense tout à fait effective). Ils n’omettront pas de noter également que la valeur en bourse n’est qu’une mesure bien volatile de la valeur réelle d’une société. Mais enfin, il faut bien s’occuper…
Bonheur ! Et comme on n’est pas tous traders et qu’il en faut pour tous les goûts, la régulation de l’IA bat aussi son plein. Sommet mondial de l’intelligence artificielle les 1er et 2 novembre 2023 en Angleterre où les figures politiques discutent avec chercheurs et dirigeants des inévitables grandes entreprises du numérique. Réunion placée sous l’égide du bien des peuples et des Nations (et de la figure tutélaire d’Alan Turing – autres temps, autres mœurs) qui conduisit même à la signature d’un accord – ou n’était-ce qu’une déclaration ? –, dit de Bletchley, intervenant à peu près en même temps que la signature du décret Biden visant un début de réglementation en la matière et que l’édiction d’un code de bonne conduite par le G7. Les choses apparaissent enfin clairement : c’était une conspiration menée contre l’AI Act européen qui accouchera (?) seulement un mois plus tard ! Citius : chacun veut être le premier à dire la même chose, à savoir, faire de l’IA responsable, éthique et sécurisée (pieuse « wishlist » non exhaustive). Même la Chine a pu signer. Fortius !
Et pourtant, de « révolution permanente » (notez bien sûr l’oxymoron) à « crise », il n’y a pas loin. Comment expliquer, sinon, ces récents engouements médiatico-politiques ? Le succès technique des LLM suffit-il pour remettre au goût du jour les vieilles lunes du grand remplacement, du revenu universel (qui sera « élevé », selon Elon Musk, mal habitué, il est vrai, aux inconforts du SMIC) et des robots humanoïdes qui pourraient devenir méchants si leur IA venait à dérailler ?
Crise des consciences, aussi, comme prises de vertige devant l’extrapolation de ce que pourrait être l’IA de demain. Raison de plus pour s’assurer de ce qu’est l’IA d’aujourd’hui, l’IA qui se fait plutôt qu’elle ne se raconte dans la bouche des « heureux du monde ». Revenons donc à un peu de science et de pédagogie, à la fabrique des IA, et non aux communications à son sujet. Entreprendre un voyage au bout de la nuit est toujours possible, réaliser celui au bout de l’IA s’avérera sans doute plus enthousiasmant, on l’espère !
Retrouvez le nouveau livre “Voyage au bout de l’IA”
d’Axel Cypel aux éditions De Boeck supérieur.
tribune-axel-cypel
L’intelligence artificielle a révolutionné de nombreux domaines dont celui de la cybersécurité. Cependant, cette technologie prometteuse soulève des questions en termes d’explicabilité et de transparence. Le machine learning a connu des avancées remarquables depuis ces dernières années.
Aujourd’hui, grâce à d’énormes bases de données, des modèles de plus en plus élaborés peuvent classifier des attaques complexes et variées sans qu’il soit nécessaire de les définir explicitement. Cependant, cette évolution s’accompagne d’une opacité croissante. Bien que des méthodes de ML avancées, telles que les réseaux neuronaux profonds, démontrent une excellente efficacité en laboratoire, leur utilisation comme « boîtes noires » peut causer des erreurs inattendues et difficiles à comprendre en conditions réelles. Il est donc utile de comprendre en quoi consiste l’explicabilité des IA dans le monde de la cybersécurité et pourquoi cela est devenu une nécessité.
L’explicabilité est la capacité d’un système à rendre son processus de raisonnement et ses résultats intelligibles pour les humains. Dans le contexte actuel, des modèles sophistiqués opèrent souvent comme des « boîtes noires », masquant les détails de leur fonctionnement. Ce manque de transparence soulève des enjeux. En effet, sans une compréhension claire du processus décisionnel, il devient difficile d’identifier, et encore moins de corriger, d’éventuelles erreurs. De plus, il est compliqué pour l’être humain de faire confiance à une IA qui délivre des résultats sans justification apparente.
Dans des domaines où la prise de décision est critique, il est primordial de comprendre comment l’IA opère pour lui accorder notre confiance. L’absence d’explicabilité et de transparence est aujourd’hui un frein à l’intégration de l’IA dans ces secteurs sensibles. Prenons l’exemple d’un analyste de sécurité ; il a besoin de savoir pourquoi un comportement a été classé comme suspect et d’obtenir des rapports d’attaque approfondis avant d’engager une action aussi importante que de bloquer le trafic en provenance d’adresses IP spécifiques. Mais l’explicabilité ne profite pas uniquement aux utilisateurs finaux. Pour les ingénieurs et concepteurs de systèmes d’IA, elle simplifie la détection de potentielles erreurs du modèle de ML et évite les ajustements « à l’aveugle ». L’explicabilité est donc centrale dans la conception de systèmes fiables et dignes de confiance.
Des modèles de ML comme les arbres de décision sont naturellement explicables. Bien qu’en général moins efficaces que des techniques de ML plus sophistiquées comme les réseaux neuronaux profonds, ils offrent une totale transparence.
Certaines techniques « post hoc », telles que SHAP et LIME, ont été développées pour analyser et interpréter des modèles « boîte noire ». En modifiant les entrées et en observant les variations correspondantes dans les sorties, ces techniques permettent d’analyser et de déduire le fonctionnement de nombreux modèles existants.
L’approche « explainability-by-design » va au-delà des techniques post hoc en intégrant l’explicabilité dès la conception de systèmes d’IA. Plutôt que de chercher à expliquer les modèles a posteriori, l’« explainability-by-design » s’assure que chaque étape du système est transparente et compréhensible. Cela peut impliquer l’utilisation de méthodes hybrides et permet la conception d’explications appropriées.
L’explicabilité en IA n’est donc pas un luxe, mais une nécessité, surtout dans des domaines sensibles comme la cybersécurité. Elle permet de gagner la confiance des utilisateurs mais aussi d’améliorer continuellement les systèmes de détection. Il s’agit d’un point essentiel à prendre en considération dans le choix d’une solution de sécurité.
tribune_celina_minh
