Décryptage de l’Artificial Intelligence Act, la loi sur l'IA

Qu'est-ce que la proposition législative européenne sur l'intelligence artificielle (IA) ?

Il s'agit d'une initiative historique de la part de l'Union européenne visant à encadrer l'utilisation de l'IA, représentant la première loi exhaustive sur ce sujet émanant d'un organisme de régulation majeur à l'échelle mondiale. Cette législation divise les applications de l'IA en trois catégories de risques distinctes. 

Dans un premier temps, elle interdit les applications et systèmes présentant un risque inacceptable, tels que les systèmes de notation sociale gérés par le gouvernement. Deuxièmement, les applications considérées à haut risque, comme un outil d'analyse de CV classant les candidats à l'emploi, sont soumises à des obligations légales spécifiques. Enfin, les applications qui ne sont ni explicitement interdites ni répertoriées comme présentant un risque élevé ne sont pas soumises à une réglementation particulière. 

Les principaux points de cet accord provisoire

Sources : 

Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI 

Artificial Intelligence Act: developpements

Sauvegardes pour l'IA à usage général :

• Interdiction des systèmes de catégorisation biométrique utilisant des caractéristiques sensibles.
• Limitation de l'utilisation des systèmes d'identification biométrique par les forces de l'ordre.
• Interdiction du scoring social et de l'utilisation de l'IA pour manipuler ou exploiter les vulnérabilités des utilisateurs.
• Droit pour les consommateurs de déposer des plaintes et de recevoir des explications significatives.

Applications interdites :

• Interdiction des systèmes de catégorisation biométrique utilisant des caractéristiques sensibles.
• Interdiction du scraping non ciblé d'images faciales sur Internet ou à partir de caméras de surveillance pour créer des bases de données de reconnaissance faciale.
• Interdiction de la reconnaissance émotionnelle sur le lieu de travail et dans les établissements éducatifs.
• Interdiction du scoring social basé sur le comportement social ou les caractéristiques personnelles.
• Interdiction des systèmes d'IA manipulant le comportement humain pour contourner leur libre arbitre.
• Interdiction de l'utilisation de l'IA pour exploiter les vulnérabilités des personnes en raison de leur âge, de leur handicap, de leur situation sociale ou économique.

Exceptions pour les forces de l'ordre :

• Safeguards et exceptions étroites pour l'utilisation de systèmes d'identification biométrique à des fins d'application de la loi dans des espaces publics, sous réserve d'une autorisation judiciaire préalable et pour des crimes strictement définis.

Obligations pour les systèmes à haut risque :

• Évaluation obligatoire de l'impact sur les droits fondamentaux pour les systèmes d'IA à haut risque.
• Mesures spécifiques pour les modèles d'IA à haut impact avec des risques systémiques.

Mesures de soutien à l'innovation et aux PME :

• Promotion de "regulatory sandboxes" et de tests dans le monde réel pour permettre aux entreprises, en particulier les PME, de développer des solutions IA innovantes.

Sanctions et entrée en vigueur :

• Des amendes allant jusqu'à 7% du chiffre d'affaires mondial en cas de non-respect des règles.

Les bases d'une première régulation au niveau mondial ?

Cet accord provisoire établit les bases d’une première législation horizontale sur l'IA dans le monde. L’union européenne souhaite devenir le pionnier dans le développement de l'IA tout en protégeant les droits et libertés fondamentaux. 

Le texte convenu devra maintenant être formellement adopté par le Parlement et le Conseil pour devenir une loi de l'UE. Les comités du marché intérieur et des libertés civiles du Parlement voteront sur l'accord lors d'une prochaine réunion.

Une avancée majeure vers une IA "responsable" ? Nous sommes impatients de voir comment cette réglementation contribuera à façonner le paysage de l'IA en Europe et au-delà. Chez delaware, nous investissons depuis plusieurs années déjà dans l'IA, et plus récemment dans l'IA générative, pour accompagner nos clients dans cette ère passionnante de l'innovation technologique. 

Pour en savoir plus sur nos initiatives en IA, visitez notre espace dédié ici.