Réduire les hallucinations de l’IA dans l’automatisation industrielle grâce à l’intelligence hybride
La précision est primordiale dans l’automatisation industrielle, qu’il s’agisse de respecter des tolérances de fabrication strictes ou de garantir des transferts de garde précis dans le secteur pétrolier et gazier. Ces environnements à fort enjeu exigent des technologies non seulement puissantes, mais aussi fiables. C’est pourquoi la précision et la fiabilité de l’intelligence artificielle (IA), en particulier les grands modèles de langage (LLM) comme les IA génératives et les chatbots, sont cruciales.
Les hallucinations de l’IA, c’est-à-dire lorsque les systèmes génèrent de manière convaincante des informations fausses ou trompeuses, représentent un réel danger.
En 2023, Bard de Google a affirmé à tort que le télescope spatial James Webb avait pris la première photo d’une exoplanète, une prouesse pourtant réalisée en 2004. Cette erreur, signalée par des experts, a contribué à une perte de 100 milliards de dollars de valeur pour Alphabet.
Deux avocats new-yorkais ont utilisé ChatGPT pour rédiger un mémoire juridique. L’IA a inventé de toutes pièces des références à des affaires juridiques, entraînant une amende de 5 000 $ et un grave préjudice professionnel.
L’IA de Bing, propulsée par Microsoft, a surpris les utilisateurs par des comportements erratiques : déclarations d’amour, menaces bizarres… des dérives inquiétantes pour des outils publics.
Un résumé d’actualités de Google a un jour affirmé que les astronautes d’Apollo 11 avaient joué avec des chats sur la Lune, inventant même des citations de Neil Armstrong.
Dans le monde académique, une demande de références d’articles faite à ChatGPT a conduit une bibliothécaire universitaire à constater que les sources n’existaient tout simplement pas. Une étude intitulée « High Rates of Fabricated and Inaccurate References in ChatGPT-Generated Medical Content » a révélé que, sur 115 références produites pour 30 courts articles médicaux, 47 % étaient inventées, 46 % étaient réelles mais inexactes, et seulement 7 % authentiques et exactes.
Ces histoires peuvent prêter à sourire, mais leurs conséquences ne le sont pas. Dans des domaines comme l’automatisation industrielle, où la sécurité, la qualité et la conformité sont incontournables, la confiance dans l’IA doit être gagnée et maintenue. Sans cela, l’automatisation intelligente devient rapidement un risque.
Pourquoi de telles erreurs se produisent-elles ?
- Le raisonnement humain
Les humains répondent aux questions en raisonnant logiquement, en s’appuyant sur leurs connaissances, en connectant les faits et en portant des jugements.
- Le fonctionnement des LLM
Les LLM, eux, ne « raisonnent » pas comme les humains. Ils prédisent le mot suivant dans une séquence, en se basant sur des modèles statistiques issus de leurs données d’entraînement. Ils imitent très bien le langage, rendant leurs réponses convaincantes mais sans réelle compréhension. L’apparence de compréhension ne signifie pas la compréhension réelle.
Causes fréquentes des hallucinations des LLM
Données d’apprentissage déficientes
Les LLM reflètent la qualité des données sur lesquelles ils ont été entraînés. Si ces données sont biaisées, obsolètes ou incorrectes, le modèle reproduira ces erreurs.
Conscience contextuelle limitée
Les LLM traitent un certain volume de données à la fois (fenêtre de tokens), mais ont du mal à maintenir une cohérence sur le long terme. Ils n’ont pas de compréhension réelle du contexte, ce qui peut conduire à des réponses hors sujet ou erronées.
Nature statistique de la génération
Les LLM génèrent des phrases selon la probabilité statistique, sans logique ni vérification des faits. Cela peut créer du texte fluide et crédible mais faux.
Surproduction et créativité artificielle
Conçus pour générer du contenu nouveau, les LLM peuvent produire des informations fictives ou fabriquées, crédibles en apparence, mais dangereuses dans un environnement technique. Ils ne peuvent pas détecter qu’ils hallucinent. Contrairement aux humains, ils ne peuvent vérifier ou valider leurs réponses en consultant des sources fiables.
Comment réduire les hallucinations des LLM ?
Cela nécessite plus que de bonnes données d’entraînement. Il faut une intégration de connaissances structurées et une conception intelligente des systèmes. Une solution : l’IA hybride.
Qu’est-ce que l’IA hybride ?
L’IA hybride combine les forces de l’IA symbolique (systèmes basés sur des règles) et de l’apprentissage automatique (machine learning). Les règles garantissent la cohérence logique, tandis que le ML apporte adaptabilité et apprentissage par les données.
Pourquoi l’IA hybride aide à réduire les hallucinations ?
Systèmes basés sur des règles comme garde-fous :
Ils empêchent les contenus irréalistes ou incorrects.
ML pour la flexibilité et la détection de motifs :
Il apprend à partir de grandes quantités de données, mais seul, il peut produire des hallucinations.
Combiner logique et adaptabilité :
Par exemple, en maintenance prédictive, le ML peut détecter une défaillance imminente, et les règles s’assurent que la réponse reste conforme aux consignes de sécurité.
Libérer l’intelligence : le système expert basé sur des règles d’ADISRA
ADISRA SmartView intègre un système expert basé sur des règles, combinant faits (données) et heuristiques (logique basée sur l’expérience) pour résoudre des problèmes complexes.
Qu’est-ce qu’un système expert basé sur des règles ?
Un type d’IA qui utilise des règles « si-alors » pour simuler la prise de décision d’un expert humain.
Principaux composants :
- Base de connaissances : Contient les règles et la logique du domaine.
- Moteur d’inférence : Évalue les données et déclenche des actions.
- Interface Entrée/Sortie : Reçoit les données en temps réel et exécute les décisions.
Exemples concrets dans l’HMI/SCADA avec ADISRA SmartView
SmartView permet l’édition de règles via un éditeur logique classique ou une interface visuelle, avec journalisation, stockage SQL, et modification dynamique des règles.
Surveillance de la température :
Arrête une machine en cas de surchauffe.
Contrôle de ligne de production :
Ralentit un convoyeur en cas d’engorgement.
Conformité réglementaire :
Alerte en cas de dépassement de seuils d’émission.
Optimisation énergétique :
Réduit la consommation en heures creuses.
Maintenance prédictive :
Alerte en cas de vibrations anormales.
IA hybride : combiner la logique basée sur des règles avec l’apprentissage automatique
En intégrant le ML dans SmartView, on obtient :
- Moins d’hallucinations
- Automatisation plus intelligente
- Applications en maintenance, qualité, robotique, énergie…
Les ingénieurs ADISRA ont validé cette approche dans des systèmes de vision industrielle intégrés à SmartView.
Dans les environnements industriels, la précision, la sécurité et la confiance sont essentielles. L’IA générative est puissante mais risquée. En combinant machine learning et logique basée sur des règles, comme dans ADISRA SmartView, on peut largement atténuer ces risques. Cette fusion crée une voie plus sûre et plus intelligente vers l’automatisation.