Quand l’Europe encadre l’Intelligence Artificielle (IA) !
L’intelligence artificielle est susceptible d’apporter à nos sociétés des bénéfices très divers, qui vont de l’amélioration des soins médicaux aux progrès dans le monde de l’éducation. Face à la rapidité des avancées technologiques dans le domaine de l’IA, les membres de l’UE doivent agir de concert pour exploiter les possibilités offertes. Si la plupart des systèmes d’IA présentent des risques minimes ou nuls, certains d’entre eux sont toutefois à l’origine de risques qu’il s’agit de maîtriser pour éviter qu’ils n’aient des effets indésirables. Par exemple, l’opacité de nombreux algorithmes peut être source d’incertitudes et empêcher la bonne application de la législation actuellement en vigueur en matière de sécurité et de droits fondamentaux. Dans ce contexte, afin d’assurer le bon fonctionnement du marché intérieur des systèmes d’IA, il est nécessaire de prendre des mesures législatives en mettant en balance les bénéfices et les risques. Cela concerne les applications de l’AI telles que les systèmes d’identification biométrique ou l’aide à la prise de décisions portant sur des aspects personnels importants, par exemple dans les domaines du recrutement, de l’éducation, de la santé ou du maintien de l’ordre. La proposition de la Commission concernant un cadre réglementaire relatif à l’intelligence artificielle vise à garantir la protection des droits fondamentaux et la sécurité des utilisateurs, ainsi que la confiance dans le développement et la diffusion de l’IA.
Le cadre juridique s’appliquera aussi bien aux acteurs du secteur public que du secteur privé, à l’intérieur comme à l’extérieur de l’UE, pour tout système d’IA mis sur le marché dans l’Union ou dont l’utilisation a une incidence sur des personnes situées dans l’UE. Cela peut concerner aussi bien les fournisseurs (par exemple, le développeur d’un outil d’analyse de CV) que les utilisateurs de systèmes d’IA à haut risque (par exemple, la banque qui achète cet outil). Il ne s’applique pas aux utilisations privées non professionnelles.
Quatre niveaux de risque
La Commission propose une approche fondée sur les risques, comportant quatre niveaux de risque :
– risque inacceptable : un ensemble très limité d’utilisations particulièrement néfastes de l’IA qui sont contraires aux valeurs de l’UE parce qu’elles portent atteinte à des droits fondamentaux (par exemple, notation sociale par les gouvernements, exploitation de la vulnérabilité des enfants, recours à des techniques subliminales et – sous réserve d’exceptions strictement limitées – utilisation par les forces de l’ordre de certains systèmes d’identification biométrique en temps réel et à distance dans les lieux accessibles au public) sera interdit.
– risque élevé : un nombre limité de systèmes d’IA définis dans la proposition, qui ont une incidence négative sur la sécurité des personnes ou sur leurs droits fondamentaux (tels que protégés par la charte des droits fondamentaux de l’UE), sont considérés comme présentant un risque élevé. Une liste des systèmes d’IA à haut risque, qui pourra être révisée pour tenir compte de l’évolution des utilisations de l’IA (liste «à l’épreuve du temps») est annexée à la proposition.
– risque limité : pour certains systèmes d’IA, des obligations de transparence spécifiques sont imposées, par exemple lorsqu’existe un risque manifeste de manipulation (par exemple, du fait du recours à des “chatbots”). Les utilisateurs doivent savoir qu’ils interagissent avec une machine.
– et risque minimal : tous les autres systèmes d’IA peuvent être développés et utilisés à condition de respecter la législation actuelle; ils ne sont soumis à aucune obligation légale supplémentaire. La grande majorité des systèmes d’IA actuellement utilisés dans l’UE appartiennent à cette catégorie. Les fournisseurs de ces systèmes peuvent volontairement choisir d’appliquer les exigences relatives à une IA digne de confiance, et adhérer à des codes de conduite volontaires.
Surveiller et contrôler les surveillants…
Les États membres jouent un rôle clé dans l’application et le contrôle du respect de ce règlement. À cet égard, chaque État membre devrait désigner une ou plusieurs autorités nationales compétentes pour surveiller l’application et la mise en œuvre des règles, ainsi que pour mener des activités de surveillance du marché. Pour permettre un gain d’efficience et garantir l’existence d’un point de contact officiel avec le public et les homologues, chaque État membre devrait désigner une autorité nationale de surveillance, qui sera également chargée de le représenter au sein du comité européen de l’intelligence artificielle. Le comité européen de l’intelligence artificielle sera constitué de représentants de haut niveau des autorités nationales de surveillance compétentes, du Contrôleur européen de la protection des données et de la Commission. Son rôle consistera à faire en sorte que la mise en œuvre du nouveau règlement sur l’IA soit aisée, effective et harmonisée. Le comité formulera des recommandations et des avis à l’intention de la Commission concernant les systèmes d’IA à haut risque et d’autres aspects pertinents pour la mise en œuvre effective et uniforme des nouvelles règles. Il contribuera également au développement de l’expertise et jouera le rôle de centre de compétences que les autorités nationales pourront consulter. Enfin, il apportera également son soutien aux activités de normalisation dans ce domaine.
Le plan coordonné,
mise à jour 2021 par rapport à 2018
Le plan coordonné de 2018 a jeté les bases d’une coordination des politiques et encouragé les États membres à élaborer des stratégies nationales en matière d’IA. Depuis lors, la technologie, l’environnement économique et les politiques en matière d’IA ont considérablement évolué. Afin qu’il reste agile et adapté à sa finalité, la Commission présente donc une version actualisée du plan coordonné en 2021. Pour garantir un lien plus fort avec le pacte vert pour l’Europe ainsi qu’avec les marchés en développement, et en réponse à la pandémie de COVID-19, le plan actualisé renforce notamment les actions proposées dans les domaines de l’environnement et de la santé. Le plan coordonné propose un ensemble d’actions concrètes à mener conjointement par la Commission européenne et les États membres pour que l’UE devienne leader mondial en matière d’IA digne de confiance. Les actions clés proposées reflètent la vision selon laquelle la Commission, les États membres et les acteurs doivent, pour réussir: accélérer les investissements dans les technologies de l’IA, comme moteurs d’une reprise économique et sociale résiliente, facilitée par l’adoption de «nouvelles» solutions numériques; mettre en œuvre complètement et en temps utile les stratégies et les programmes en matière d’IA, afin de permettre à l’UE de bénéficier pleinement des avantages du précurseur; et aligner leurs politiques en matière d’IA pour mettre fin à la fragmentation et être en mesure de relever les défis mondiaux. Au total, 19 États membres (la Bulgarie, Chypre, la Tchéquie, le Danemark, l’Estonie, la Finlande, la France, l’Allemagne, la Hongrie, la Lettonie, la Lituanie, le Luxembourg, Malte, les Pays-Bas, le Portugal, la Slovaquie, la Suède et, plus récemment en décembre 2020, l’Espagne et la Pologne), ainsi que la Norvège, ont adopté des stratégies nationales en matière d’IA.
Le Parlement européen et les États membres devront adopter les propositions de la Commission relatives à une approche européenne en matière d’intelligence artificielle et aux machines et équipements dans le cadre de la procédure législative ordinaire. Une fois adoptés, les règlements définitifs seront directement applicables dans l’ensemble de l’UE. Parallèlement, la Commission continuera de collaborer avec les États membres à la mise en œuvre des actions annoncées dans le plan coordonné.
– Source : Commission Européenne : https://ec.europa.eu/commission/presscorner/detail/fr/QANDA_21_1683
