The European Union recently introduced a comprehensive regulatory framework for artificial intelligence, the AI Act. These regulations ensure that AI technologies are safe, transparent, and fair. For companies involved in chemical production, certain AI systems are classified as “high-risk” and require specific considerations to meet the requirements of the AI Act. This article will help you understand which AI applications fall under the high-risk category, why they are considered high-risk, and how to manage them effectively.

Qu'est-ce que la loi européenne sur l'intelligence artificielle, et qui est concerné ?

The Artificial Intelligence Act (also known as the EU AI Act) is a European Union-wide legal framework that sets transparency and reporting obligations for AI systems in the EU market or those which affect EU users. It applies to companies placing AI systems on the European Union market or whose outputs are used within the EU countries, regardless of development or deployment location. The EU AI Act has entered into force on the 1st of August 2024.

L'objectif de la loi européenne sur l'intelligence artificielle

The EU AI Act aims to create a comprehensive legal framework that regulates the development, deployment, and use of artificial intelligence (AI) in the European Union. The EU AI Act seeks to strike a balance between protecting citizens from the potential risks of AI while fostering innovation and maintaining the EU’s global leadership in ethical technology regulation. It considers aspects such as ensuring safety and fundamental rights, establishing trust in AI, promoting innovation, preventing fragmentation of AI regulation, ensuring accountability and transparency, and positioning the European Union as a leader in AI governance.

Quatre niveaux de risque définis dans la loi européenne sur l'IA

Le règlement européen sur l'IA établit une approche fondée sur les risques pour la régulation des systèmes d'IA, en les classant en quatre niveaux de risque selon le préjudice potentiel qu'ils représentent pour les individus ou la société :

  • Risque inacceptable: AI applications that are banned as they are deemed to pose significant threats to safety, fundamental rights, or democratic values. Those may be AI systems used for social scoring by governments, manipulative AI for exploiting one’s vulnerabilities, or real-time biometric identification in public spaces.
  • Risque élevé: AI systems in critical sectors that can significantly impact safety, fundamental rights, or vital services; for example, AI for medical devices, law enforcement systems, transport safety, or hiring algorithms. Those AI-based applications are subject to strict requirements such as rigorous risk assessments, transparency measures, human oversight, and data governance.
  • Risque limité: AI systems that don’t pose direct risks to safety or fundamental rights but still require transparency obligations. The user must be informed that they are interacting with artificial intelligence, for example, when using AI chatbots or artificial intelligence-powered customer service systems.
  • Minime ou sans risque: De nombreuses applications d'IA qui n'ont pas d'impact sur les droits ou la sécurité des individus entrent dans cette catégorie et ne nécessitent pas une surveillance ou une réglementation rigoureuse. Il peut s'agir, par exemple, de filtres anti-spam ou d'IA utilisées dans les jeux vidéo.
The EU AI Act 'Pyramid of Risks' (Source: European Parliament) Pyramid from bottom to top: 1. Art. 69: Minimal risk (Code of conduct) - Spam filters, video games 2. Art. 59: Limited risk (Transparency) - Chatbots, deep fakes, emotion recognition systems 3. Art. 6 & ss.: High risk (Conformity assessment) - Education, employment, justice, immigration, law 4. Art. 5: Unacceptable risk (Prohibited) - Social scoring, facial recognition, dark-pattern AI, manipulation
La 'Pyramide des risques' de l'EU AI Act (Source : Parlement européen)

Sanctions en cas de non-conformité à la loi européenne sur l'IA

Le non-respect de la loi européenne sur l'intelligence artificielle peut entraîner des sanctions financières importantes, structurées selon la gravité de l'infraction :

  • Jusqu'à7% du chiffre d'affaires annuel mondial ou35 millions € (le montant le plus élevé) en cas de non-conformité avec les activités d'IA interdites.
  • Jusqu'à3% du chiffre d'affaires annuel mondial ou15 millions € (le montant le plus élevé) pour la plupart des autres infractions.
  • Jusqu'à1.5% du chiffre d'affaires annuel mondial ou7,5 millions d'euros (le montant le plus élevé) pour avoir fourni des informations incorrectes, incomplètes ou trompeuses aux organismes notifiés ou aux autorités nationales.

Découvrez nos solutions d'intelligence artificielle pour les entreprises chimiques

En savoir plus
AI for chemistry is impacting the way industry professionals develop their projects.
En savoir plus

Comment l'intelligence artificielle est-elle utilisée dans l'industrie chimique ?

Intelligence artificielle is revolutionising industries, and chemical production is no exception. From optimising production schedules to predicting equipment maintenance needs, AI has become a powerful tool that enhances efficiency, safety, and quality control. However, not all AI applications are created equal – some carry more inherent risks, and these high-risk applications must be closely monitored to ensure compliance and safety.

In production chimique, l'IA peut être utilisée dans plusieurs domaines clés :

  • Optimisation des processus: les algorithmes d'IA peuvent analyser les réactions chimiques afin de maximiser le rendement tout en minimisant l'utilisation de matières premières et d'énergie.
  • Maintenance prédictive: Les modèles d'apprentissage automatique aident à prédire les défaillances des équipements avant qu'elles ne surviennent, réduisant ainsi les temps d'arrêt non planifiés et les coûts de maintenance.
  • Contrôle qualité: les systèmes alimentés par l'IA peuvent évaluer la qualité des produits en temps réel, réduisant les déchets et améliorant la cohérence.
  • Surveillance de la sécurité: les systèmes d'IA peuvent surveiller la sécurité des travailleurs, identifier les dangers potentiels et alerter le personnel lorsqu'une intervention est nécessaire.
  • Développement de formulations R&D: L'IA peut contribuer à la conception de nouvelles formulations chimiques en analysant des ensembles de données complexes afin d'identifier des combinaisons optimales d'ingrédients et de prédire les résultats de performance.

Évaluation du niveau de risque lié à l'IA des applications chimiques

The EU AI Act categorises certain AI applications as high-risk due to their potential impact on worker safety, environmental integrity, and operational reliability. In chemical production, high-risk AI applications include systems that directly influence:

  • Sécurité des travailleurs: Les systèmes d'IA qui surveillent les processus chimiques ou le comportement des employés sont considérés comme à haut risque, car des erreurs pourraient entraîner des conditions de travail dangereuses.
  • Risque environnemental: les modèles d'IA utilisés pour contrôler les émissions, les déchets ou les matières dangereuses doivent être précis afin de prévenir tout dommage environnemental potentiel.
  • Fiabilité opérationnelle: les systèmes d'IA qui optimisent des processus chimiques complexes doivent être robustes et soumis à une surveillance stricte, car même des erreurs mineures pourraient entraîner des perturbations de production ou des incidents dangereux.

Exemple 1 : logiciel traditionnel vs systèmes d'IA dans la production chimique

Pour mieux comprendre les risques et les avantages de l'IA, comparons un système logiciel traditionnel, non basé sur l'IA, avec une solution moderne pilotée par l'IA.

Logiciel dépassé: In traditional chemical production, process optimisation was handled by rule-based software. This software followed pre-defined parameters to manage production. For instance, if the temperature of a chemical reactor went beyond a certain threshold, the software would trigger an alert or shut down the process. While effective, these systems were rigid and could not adapt to changing conditions or predict issues before they arose.

Logiciel piloté par l'IA: An AI-driven system, by contrast, can continuously learn from data and optimise processes in real time. For example, it can predict temperature fluctuations before they occur and make adjustments to prevent a shutdown. While this adaptability offers significant benefits, it also brings new risks, such as incorrect predictions or biased training data leading to unsafe conditions.

Évaluation initiale des risques et conformité: Let’s assume a company implements an AI-driven predictive maintenance system that monitors the health of chemical reactors. The system uses historical data to predict maintenance, reducing downtime and improving efficiency. During the initial risk assessment, the system is classified as à faible risque car il assiste principalement le personnel de maintenance sans contrôler directement des processus critiques. L'entreprise effectue des contrôles de conformité, et le système les réussit sans problème majeur.

Modification d'un système à haut risque: Now, consider modifying this system: instead of merely predicting maintenance needs, the AI system is given direct control to shut down equipment when it detects a potential issue. This change significantly increases the risk level because the AI now has direct influence over critical operations. A malfunction or incorrect prediction could lead to an unsafe shutdown, resulting in potential safety hazards or production losses. As a result, the system is now classified as high-risk.

Exemple 2 : contrôle qualité dans la production chimique

Logiciel dépassé: Traditionally, quality control in chemical production was carried out through manual sampling and rule-based software that used fixed thresholds for detecting product deviations. Operators would manually inspect samples at regular intervals, and the software would flag any inconsistencies that exceeded the set parameters. Although this method worked, it was labour-intensive and sometimes too slow to prevent significant waste.

Logiciel piloté par l'IA: An AI-based quality control system can analyse data from sensors in real time, detecting subtle deviations in product quality that traditional methods might miss. It can even predict which batches are at risk of failing quality standards and recommend adjustments to the process to ensure conformity. However, this comes with risks such as over-reliance on AI decisions or incorrect training data, leading to faulty predictions.

Évaluation initiale des risques et conformité: Supposons que le système de contrôle qualité piloté par l'IA assiste les opérateurs en fournissant des recommandations. Il est initialement classé commeà faible risque puisque les opérateurs humains prennent encore les décisions finales. Les contrôles de conformité ne révèlent aucun problème majeur et le système est déployé.

Modification d'un système à haut risque: Consider a scenario where the AI system is automatically modified to reject or adjust batches without human intervention. This shifts the responsibility from human operators to AI, creating a high-risk situation. Incorrect AI decisions could lead to substantial financial losses or safety concerns if non-conforming products are mistakenly approved or safe products are rejected. The system now needs to be classified as high-risk.

Exemple 3 : R&D dans le développement de formulations

Logiciel dépassé: In traditional R&D for formulation development, researchers used rule-based methods and manual experimentation to determine the best combination of ingredients for a given product. This was a time-consuming process requiring a lot of trial and error, and often, the insights gained were limited by human interpretation of experimental data.

Logiciel piloté par l'IA: An AI-based formulation development system can analyse vast datasets, including ingredient properties, experimental results, and performance metrics, to recommend the best combinations for optimal product performance. The system can rapidly identify trends and propose new formulations, significantly speeding up the R&D process. However, it also introduces risks such as the reliance on biased training data, which could lead to suboptimal or even hazardous formulations.

Évaluation initiale des risques et conformité: Supposons que le système de R&D piloté par l'IA assiste les chercheurs en fournissant des recommandations de formulation. Initialement, il est classé commeà faible risque puisque les experts humains prennent encore les décisions finales. Les contrôles de conformité ne révèlent aucun problème significatif, et le système est mis en œuvre.

Autres modifications vers un risque inacceptable: Consider another modification: the AI system is altered to preferentially recommend products and ingredients from a single supplier, potentially due to limited training data or commercial agreements. This bias reduces the diversity of possible formulations, leading to biased and suboptimal decisions. As a result, the AI may overlook better or safer alternatives, increasing the likelihood of hazardous outcomes and compromising product quality. Therefore, the system would need to be classified as an unacceptable risk.

Tableau récapitulatif des différences

Chemicals EU AI Act Risk table talking about the following questions: 1. Direct control over processes? 2. System makes final decision without human oversight? 3. Impact on safety/enviroment? 4. Oparte anonymously? 5. Biased decision-making?

Normes de sécurité pour les applications à haut risque

To comply with the AI Act, companies must ensure that high-risk AI applications meet strict regulatory standards. This involves implementing a proper risk management system, understood as a continuous iterative process planned and run throughout the entire lifecycle of a software, documentation, testing for fairness, and mitigating biases in AI systems. Furthermore, the AI Act emphasises the importance of human oversight in AI decision-making processes.

Les étapes clés pour gérer les risques liés à l'IA dans la production chimique comprennent :

  • Évaluation des risques: Identifier tous les systèmes d'IA utilisés et évaluer leurs risques potentiels.
  • Contrôles de conformité: Veiller à ce que les systèmes d'IA respectent les exigences réglementaires de l'UE, en particulier ceux classés comme à haut risque.
  • Surveillance et tests: Surveiller et tester en continu les modèles d'IA pour s'assurer qu'ils fonctionnent comme prévu et n'introduisent pas de risques imprévus.
  • Supervision humaine: Affectez des opérateurs humains à la supervision de la prise de décision par l'IA à haut risque. L'intervention humaine est cruciale pour prévenir des conséquences potentiellement catastrophiques, en particulier dans les situations critiques pour la sécurité.

Rendez votre entreprise conforme à l'EU AI Act avec le soutien de Spyrosoft

Spyrosoft is a consulting-led technology services provider specialising in software development and the application of Artificial Intelligence accelerators. Our domain specialists in the chemical industry will help you prepare your company to be compliant with the EU Artificial Intelligence Act, conducting activities in three stages:

  • Enregistrement complet du système d'IA. Une assistance pour créer un inventaire complet de vos systèmes d'IA, incluant à la fois les solutions internes et tierces, ce qui permettra une catégorisation rapide des risques une fois l'AI Act transposé dans les réglementations nationales des États membres de l'UE.
  • Stratégie de gestion des risques liés à l'IA. Accompagnement dans le développement ou la sélection de flux de gouvernance visant à identifier, gérer et atténuer les risques liés à l'IA – une exigence cruciale pour les systèmes d'IA à haut risque en vertu de la loi européenne sur l'IA.
  • Support de documentation technique. Sélection ou création d'outils appropriés pour le suivi de la conformité, en veillant à ce que les systèmes d'IA satisfassent à toutes les exigences pertinentes de la loi.

Si vous souhaitez obtenir un accompagnement pour mettre en œuvre les exigences de la loi sur l'IA dans votre entreprise, contactez-nous via le formulaire ci-dessous ou découvrez-en davantage sur notre offre pour les entreprises chimiques. Nous répondrons à vos questions et vous guiderons tout au long du processus.

FAQ : Règlement européen sur l'IA

The EU AI Act entered into force on 1 August 2024. The specific application dates for different types of obligations will be phased in over the coming years, but companies are encouraged to start preparing now to ensure full compliance once enforcement begins.

AI in the chemical sector becomes high-risk when it directly impacts worker safety, environmental protection, or operational reliability. Examples include AI controlling chemical reactions, monitoring emissions, or managing process safety – where incorrect predictions could lead to accidents, pollution, or production failures.

Les amendes sont importantes et échelonnées selon le type de violation :
– Jusqu'à 7 % du chiffre d'affaires annuel mondial ou 35 millions d'euros pour les activités d'IA interdites.
– Jusqu'à 3 % ou 15 millions d'euros pour une non-conformité générale au règlement.
– Jusqu'à 1,5 % ou 7,5 millions d'euros pour avoir fourni des informations fausses ou incomplètes aux autorités.
Ces pénalités soulignent l'importance d'une préparation précoce et approfondie à la conformité.

Human oversight means that qualified personnel must be able to understand, intervene, and override AI-driven decisions when necessary. In the chemical industry, this often means that operators or engineers must remain in control of AI recommendations or automated actions, especially in safety-sensitive environments.

Spyrosoft offre un accompagnement de bout en bout pour la conformité à l'AI Act, adapté à l'industrie chimique. Nos experts vous assistent pour :
– Enregistrement du système d'IA et catégorisation des risques.
– Des stratégies de gestion des risques liés à l'IA alignées sur les réglementations de l'UE.
– Documentation technique et préparation aux audits pour répondre aux normes de transparence et de responsabilité.
Nous aidons les organisations à construire une feuille de route de conformité qui garantit à la fois l'efficacité opérationnelle et la préparation réglementaire.

arrow_circle_right Table des matières

Sebastian Kubiak

Sebastian Kubiak

Consultant de la Business Unit Chimie

Articles connexes