Le règlement européen sur l’intelligence artificielle (« IA Act ») encadre les usages de l’IA en les catégorisant par typologie de risques pour les droits et libertés des personnes concernées.
Une classification par niveaux de risque
- Risque inacceptable : les systèmes présentant un risque inacceptable pour les droits fondamentaux sont interdits (par exemple la surveillance biométrique en temps réel dans les espaces publics, ou les systèmes manipulant le comportement humain de manière dommageable).
- Risque élevé : les systèmes utilisés dans des domaines critiques (santé, éducation, infrastructures critiques, sécurité publique) sont soumis à des exigences strictes : audits, transparence et évaluation des risques.
- Risque limité : les systèmes comme les chatbots doivent respecter des obligations de transparence, notamment informer l’utilisateur qu’il interagit avec une IA.
- Risque minimal : les IA de faible risque (filtres anti-spam, jeux vidéo) ne sont soumises qu’à des obligations minimales, dans le respect des normes de sécurité de base.
Les exigences pour les systèmes à haut risque
Ces systèmes doivent répondre à des exigences strictes en matière de gestion des risques, de documentation technique, de traçabilité des résultats, de transparence et de surveillance humaine. Ils doivent faire l’objet de tests rigoureux avant leur mise sur le marché, afin de garantir le respect des normes de sécurité et des droits fondamentaux, et l’absence de biais.
Les obligations des opérateurs économiques
Fabricants, fournisseurs et utilisateurs de systèmes d’IA doivent maintenir une documentation détaillée sur le fonctionnement du système, soumettre celui-ci à des tests de conformité, et coopérer avec les autorités de régulation dans le cadre d’une surveillance continue des systèmes déployés.
Transparence et notification
Les utilisateurs doivent être informés lorsqu’ils interagissent avec un système d’IA (par exemple un chatbot). Les systèmes générant du contenu, comme les deepfakes, doivent signaler clairement qu’il s’agit d’une production artificielle. L’entraînement d’une IA à l’insu des utilisateurs est, à l’inverse, lourdement sanctionné, comme l’ont illustré plusieurs enquêtes européennes visant les grandes plateformes.
Examin accompagne les organisations dans la mise en conformité à l’IA Act : cartographie des systèmes, qualification du niveau de risque, documentation et gouvernance.