LA REVUE DEMOS

IA Act : comment l’UE tente-t-elle de réconcilier éthique et technologie ?

Entré en vigueur le 1er août 2024, le règlement européen sur l’intelligence artificielle (RIA), plus connu sous le nom d’IA Act, est un ensemble de règles visant à encadrer le développement, la mise sur le marché et l’utilisation des systèmes d’IA dans les pays membres de l’UE. Texte sans précédent puisqu’il est le premier cadre juridique et législatif mondial visant à réguler l’intelligence artificielle, l’IA Act est appliqué progressivement selon un calendrier fixé entre 2025 et 2027.

Grâce à ces règles, l’UE entend réconcilier éthique et technologie, comme le rappelle la présence même du mot ”éthique”, cité pas moins de 14 fois dans le “règlement (UE) 2024/1689 établissant des règles harmonisées sur l’intelligence artificielle”.

Loin de limiter l’IA, l’UE cherche davantage à la promouvoir afin d’asseoir sa souveraineté numérique, rassurer les  citoyens européens ou encore garantir la sécurité juridique des entrepreneurs et investisseurs. Pour cela, elle entend faire de l’IA un outil respectant les droits fondamentaux des individus et mettant en avant ses valeurs et principes (transparence, responsabilité,  confidentialité des données, non-discrimination et  protection des droits humains).

L’un des piliers de cette législation est d’abord l’approche par les risques. Plutôt que d’interdire ou de tout autoriser, l’UE classe les technologies selon le danger qu’elles représentent pour les citoyens en quatre catégories principales : risque inacceptable, haut risque, risque limité et risque minimal ou nul. Les systèmes présentant un “risque inacceptable” sont interdits depuis le 2 février 2025 : notation sociale, exploitation de la vulnérabilité des personnes, identification biométrique à distance en temps réel dans des espaces publics, etc. Viennent ensuite les systèmes à “haut risque” ou “risque élevé”, ayant un impact significatif sur la santé, la sécurité ou les droits fondamentaux. Les domaines de l’éducation, de l’emploi, de la justice ou de la biométrie sont par exemple concernés.

En 2018, un rapport publié par l’agence de presse britannique Reuters révèle que l’algorithme de recrutement d’Amazon discrimine les candidatures féminines. Nourri par une décennie de données historiques marquées par une forte domination masculine, surtout dans les postes techniques, l’algorithme reproduit ces inégalités. En dévaluant systématiquement les candidatures contenant des termes associés aux femmes, comme des références à des écoles ou clubs féminins, l’outil favorise les hommes pour ces postes, reproduisant un véritable biais sexiste automatisé. Ce cas d’école démontre que l’IA, loin d’être neutre ou « féministe », tend à automatiser les inégalités historiques plutôt qu’à les corriger. Ce biais s’est également manifesté de manière flagrante dans le secteur financier. En 2019, l’algorithme de la Apple Card (géré par Goldman Sachs) a été accusé de sexisme après avoir accordé des limites de crédit nettement inférieures à des femmes, alors même qu’elles partageaient des comptes bancaires et des profils fiscaux identiques à ceux de leurs époux. 

Pour remédier à ces risques de discrimination par l’IA, l’UE prévoit notamment la mise en place de “bacs à sable règlementaires”, un dispositif qui doit être appliqué le 2 août 2026 et qui permettra aux entreprises, en particulier les PME, de développer leurs projets tout en respectant les règles établies par l’UE. Grâce à cet outil de régulation, elles pourront tester des systèmes d’IA (souvent ceux classés à haut risque) dans un environnement sécurisé et supervisé par les régulateurs (comme la CNIL, Commission Nationale de l’Informatique et des Libertés, en France) avant leur mise sur le marché.

Les systèmes à risque limité ou spécifique doivent quant à eux informer les utilisateurs qu’ils interagissent avec une IA, comme pour les chatbots, tandis que les IA génératives doivent indiquer que le contenu est artificiel. L’article 50 de l’IA Act garantit ainsi la transparence vis-à-vis des citoyens en imposant le marquage des contenus générés par IA (comme les “deepfakes”). Enfin, les systèmes à risque minimal ou nul sont catégorisés comme ne présentant peu ou pas de risques.

Concernant la sécurité des données, l’UE protège aussi bien les citoyens que les créateurs européens (artistes, journalistes, éditeurs). En effet, au cours de ces dernières années, les affaires impliquant le vol d’identité, de voix ou d’image par l’IA sont légions. En septembre 2023 par exemple, la Authors Guild (le syndicat des auteurs américains) dépose une plainte collective contre OpenAI. Parmi les plaignants, on retrouve George R.R. Martin, John Grisham, ou encore Michael Connelly. Les auteurs démontrent que, si l’on demande à ChatGPT de rédiger un chapitre « à la manière de » George R.R. Martin pour la suite de Game of Thrones, l’IA utilise des points de l’intrigue très précis qui ne se trouvent que dans les livres sous copyright, et non dans des résumés publics. Aux États-Unis, OpenAI se défend en invoquant le « fair use » (“usage raisonnable”).

L’UE, qui a observé ce procès de près, a décidé d’agir en réaction. L‘article 11 impose une documentation technique rigoureuse, tandis que l’article 53 oblige les fournisseurs de modèles d’IA à usage général à publier un résumé détaillé des contenus utilisés et à respecter le droit d’auteur européen. À l’heure où l’un des plus grands défis de l’IA moderne (notamment les IA génératives comme GPT-4, Claude ou Gemini) est l’opacité des données d’entraînement, l’UE se devait de compléter le RGPD (Règlement Général sur la Protection des Données), cadre juridique de référence en Europe pour la protection des données personnelles, entré en application en 2018. Du côté du respect de la vie privée, l’article 5 dispose que l’utilisation de systèmes d’identification biométrique à distance « en temps réel » dans des espaces accessibles au public à des fins de répression est interdite, car  jugée intrusive pour la vie privée. 

Enfin, le concept de “human-in-the-loop” (“l’humain dans la boucle”), détaillé dans l’article 14 intitulé “Surveillance humaine”, est un des piliers éthiques majeurs de l’IA Act. L’UE impose que les systèmes à haut risque soient surveillés tout au long de leur utilisation par des personnes physiques capables d’intervenir, tout comme elle rend obligatoire la prévision d’une supervision humaine pour éviter que des décisions importantes soient prises uniquement par des machines. En somme, l’UE ne cherche pas à freiner l’intelligence artificielle mais à lui imposer un cadre juridique stable afin d’éviter toute incertitude quant à son utilisation, plus que jamais susceptible de générer de nombreux litiges. Le défi est désormais de taille : l’UE doit réussir à faire appliquer ces règles face aux géants mondiaux tout en veillant à ce que cette exigence éthique devienne un moteur d’innovation plutôt qu’un frein pour ses propres entreprises.

Vous aimez lire nos décryptages ?

Soutenez-nous ! Parce que nous sommes un média :

Nos dernières Synthèses

Le nucléaire, le paradoxe japonais

Les 6 et 9 août 1945, les États-Unis larguent deux bombes atomiques sur Hiroshima et Nagasaki. Elles causent entre 110 000 et 210 000 morts, victimes des explosions ou de l’irradiation dans les semaines qui suivent. Au-delà du bilan humain, ces bombardements deviennent le fondement d’une mémoire pacifiste. Dès août 1947, le premier Festival de la paix est organisé à Hiroshima. Initialement pensée pour rendre hommage aux victimes, cette commémoration locale s’est muée en une tribune politique et universelle. Chaque...

Comment l’île de Yonaguni est-elle le témoin de l’expansionnisme chinois ?

Pour la Chine, ce territoire insulaire revêt une importance stratégique dans sa volonté d’expansion territoriale. L’île est à seulement 150 km des îles Senkaku, administrées par le Japon, mais revendiquées par la Chine pour leur emplacement. En effet, elle appartient à une chaîne d’îles considérée comme la barrière essentielle empêchant la puissance chinoise de se projeter librement dans le Pacifique. Contrôler ou neutraliser ce verrou permettrait à la puissance chinoise d’élargir son champ d’action. Les détroits qui l’entourent sont parmi...

La WAICO, initiative chinoise et première organisation intergouvernementale mondiale dédiée à l’IA, annonce-t-elle une bipolarisation numérique ?

Aucun Etat membre de l’Union européenne  ou nord-américain n’en fait partie. Cette composition révèle la volonté de la Chine de renforcer ses liens avec des Etats du Sud Global, dont certains sont marginalisés ou entretiennent des relations difficiles avec les puissances occidentales. Cela peut donc être perçue comme l’émergence d’une bipolarisation numérique.  Les conditions d’entrée à la WAICO correspondent à plusieurs principes de la diplomatie chinoise. Pékin cherche depuis des années à devenir “rule-maker” plutôt que “rule-taker” dans plusieurs domaines...

Pourquoi la Tunisie veut-elle renégocier l’accord qui la lie à l’Europe depuis trente ans ?

Cette demande de rééquilibrage est portée par un pays en position de faiblesse économique marquée. Selon l’agence denotation Fitch Ratings, la dette publique tunisienne atteint 82 % du PIB en 2025 et devrait franchir le cap des 85 % en 2026. Les réserves de change ne couvrent que 3,3 mois d’importations. La Tunisie ne dispose, en 2026, d’aucun programme d’assistance conclu avec le FMI, Kaïs Saïed ayant rompu les négociations dès 2023. Pour limiter la pression sur ses réserves, la...

Comment la négociation du pacte de défense bilatéral entre Washington et Riyad contraint-elle l’administration américaine à sacrifier sa doctrine historique de non-prolifération pour freiner l’influence chinoise dans le Golfe ?

Pour endiguer l’expansionnisme technologique et diplomatique de la Chine dans le Golfe Persique, les États-Unis envisagent d’autoriser l’enrichissement d’uranium directement sur le sol saoudien. Cette concession technique inédite contraint la diplomatie américaine à sacrifier sa doctrine historique de non-prolifération, principe qui vise à interdire strictement la propagation des technologies permettant de fabriquer des armes atomiques.  Cette réorientation s’explique avant tout par les impératifs économiques chiffrés du plan de développement Vision 2030. Pour faire face à une consommation intérieure d’électricité qui...

L’affaiblissement du parapluie américain favorise-t-il l’émergence d’une architecture de sécurité régionale dans le Golfe ?

À cet égard, face aux répercussions d’une guerre menée par leur protecteur américain et aux doutes croissants sur la fiabilité de son parapluie militaire, les pétromonarchies du Golfe tentent de chercher dans l’intégration régionale une réponse à leur vulnérabilité. En effet, le Conseil de coopération du Golfe, créé en 1981, semble retrouver une nouvelle vigueur stratégique. Le 7 septembre 2026, des représentants militaires des États membres se sont réunis à Riyad pour la 38ᵉ réunion de son groupe de travail....

Les forces kurdes rejoignent l’armée syrienne : un tournant pour la Syrie ?

Créées en 2015 à l’initiative des États-Unis, impressionnés par la victoire kurde contre l’État islamique à Kobané, ville du nord de la Syrie située à la frontière turque, les FDS comptaient jusqu’à 100 000 combattants, kurdes et arabes, épaulés par une coalition internationale incluant la France, et avaient bâti dans le nord-est syrien une administration autonome, le Rojava, où l’égalité hommes-femmes s’incarnait dans les Unités de protection de la femme (YPJ). Leur chef, Mazloum Abdi, ingénieur civil né en 1967,...

Entre revendications historiques et sanctuarisation militaire : le conflit des îles Kouriles à l’épreuve des tensions contemporaines

Cet événement s’insère dans un contexte régional particulièrement dégradé et marqué par les répercussions du conflit en Ukraine, l’arrêt complet des pourparlers bilatéraux ainsi que l’alignement strict du gouvernement japonais sur les régimes de sanctions économiques internationales décidés contre Moscou. Le différend territorial opposant le Japon et la Russie repose sur des lectures historiques et juridiques fondamentalement inconciliables. Sur le plan géographique et administratif, quatre îles majeures situées dans la région de Sakhaline sont actuellement contrôlées par la Fédération de...

Quelles sont les stratégies des pays en développement face aux menaces sur leur agriculture ?

Ces derniers sont exportateurs nets de fruits, légumes, huile, thé ou sucre, mais ont des besoins d’importations en produits animaux, transformés et surtout céréaliers, les rendant très fragiles face aux variations et aux crises des marchés mondiaux. Les conflits, les migrations ou le manque d’infrastructures pèsent également lourd sur cet enjeu. Le dérèglement climatique affecte profondément l’agriculture. Selon un rapport de la FAO, le continent africain aurait enregistré, ces 30 dernières années, plus de 600 milliards de dollars de pertes...

Le Nigeria premier fournisseur de kérosène en Europe: un décrochage énergétique européen vis-à -vis des États-Unis ?

Cette augmentation des exportations de kérosène nigérian vers l’Europe est d’autant plus remarquable qu’elle s’inscrit dans un marché européen déjà surapprovisionné. Portés par une forte production locale, les volumes raffinés en Europe ayant progressé de près de 10 % sur la période, et des importations massives, les prix de référence sur le continent ont chuté de 1 694,25 $ la tonne en mars à 981,75 $ en juin. Simultanément, les exportations américaines de kérosène vers l’Europe ont fortement diminué, passant...