AI Act : projet de lignes directrices de la Commission européenne sur les systèmes d’IA à haut risque
Le règlement européen sur l’IA adopte une approche fondée sur les risques en classant les systèmes d’IA en 4 niveaux : risque inacceptable, élevé, limité et minimal.
Les systèmes classés à haut risque en application de l’art. 6 sont soumis à des exigences renforcées en matière de gestion des risques, de gouvernance des données et de contrôle humain.
Les lignes directrices — 167 pages consacrées au seul art. 6 et aux annexes I et III (!) — exposent l’interprétation de la Commission de certains concepts et fournissent des exemples, sans prétendre à l’exhaustivité.
Ainsi :
Un optimiseur de combustion dans un appareil à gaz peut être qualifié de système à haut risque si sa défaillance risque d’entraîner une formation de monoxyde de carbone ou une explosion. Un optimiseur de programmation de chauffage dont la défaillance ne produirait qu’une surconsommation, non.
Dans le domaine de l’éducation :
– L’IA contribuant à une évaluation sommative (note finale, certification) est à haut risque. Les outils qui aident un étudiant à s’exercer ou à progresser sans influer sur ses résultats finaux en sont exclus.
– Les outils de télésurveillance d’examens destinés à détecter les comportements interdits pendant les épreuves sont à haut risque.
En matière d’emploi et de RH :
– Un système qui génère une description de poste à partir de critères définis par un recruteur humain échappe à la qualification de haut risque. En revanche, un système qui définit lui-même les qualifications requises et évalue les candidatures au regard de la fiche qu’il a créée est à haut risque.
– La diffusion algorithmique d’offres d’emploi vers des profils ciblés est à haut risque dès lors qu’elle conditionne l’accès aux opportunités d’emploi ou présente un risque de discrimination. Le ciblage contextuel, basé sur le contenu du site où l’annonce est diffusée, sans ciblage de personnes spécifiques, y échappe.
Les lignes directrices confirment le report des dates d’entrée en application, acté par l’Omnibus IA :
– déc. 2027 : art. 6(2) / Annexe III : systèmes d’IA utilisés dans des domaines sensibles identifiés (biométrie, éducation, RH, services essentiels, etc.)
– août 2028 : art. 6(1) / Annexe I : systèmes d’IA composant de sécurité d’un produit soumis à législation sectorielle harmonisée.
Une consultation publique est ouverte jusqu’au 23 juin.
