L’intelligence artificielle est omniprésente dans nos environnements professionnels : entreprises et administrations l’utilisent pour analyser des données et prendre des décisions aux effets concrets. Ces processus, souvent perçus comme des « boîtes noires », soulèvent des enjeux de transparence. Par un arrêt du 27 février 2025 (affaire C-638/23), la Cour de justice de l’Union européenne a réaffirmé le droit des individus à obtenir des explications sur les décisions automatisées les concernant.
À l’origine de la décision : une citoyenne autrichienne s’est vu refuser un contrat de téléphonie mobile en raison d’une évaluation de solvabilité automatisée réalisée par Dun & Bradstreet Austria. La CJUE a confirmé que l’entreprise avait violé le RGPD en ne justifiant pas suffisamment sa décision.
La Cour précise que toute entreprise utilisant un algorithme pour une décision affectant un individu doit fournir des informations claires et compréhensibles sur les données personnelles utilisées, la logique sous-jacente de l’algorithme et les critères appliqués. Ces explications doivent être accessibles et pédagogiques. L’arrêt limite par ailleurs la possibilité d’invoquer le secret des affaires : en cas de données jugées confidentielles, l’entreprise doit les soumettre à l’autorité compétente, qui tranchera entre transparence et protection des intérêts commerciaux.
Les conséquences sont majeures pour les sociétés recourant à des algorithmes de notation (crédit, assurance, recrutement, santé) : elles doivent documenter précisément leurs modèles, en expliquer le fonctionnement aux personnes concernées, mettre en place des procédures de réponse aux demandes d’explication et garantir l’absence de biais discriminatoires. L’arrêt rappelle que, même à l’ère de l’IA, les droits des citoyens doivent primer sur les logiques purement commerciales.
Source : Solutions Numériques.