Titulaire d'une licence en droit de l'Université Paris-Panthéon-Assas, j'ai poursuivi mon parcours au sein de la même université en Master de Droit privé, parcours Droit des personnes et des familles. C'est durant ces années de Master que j'ai vu l'intelligence artificielle se transformer. D'un outil peu fiable, elle est devenue une technologie performante intégrée au quotidien de millions de personnes. Cette évolution est aussi rapide que fascinante.

Mon attrait pour le droit des personnes puise sa source dans un intérêt particulier pour la protection des individus et les questions éthiques. Le développement de ces nouvelles technologies en IA a naturellement nourri ma curiosité, et m'a poussée à aller plus loin.

Après l'obtention de mon master 2, j'ai complété ma formation avec le Diplôme Universitaire de Droit et Technologies du Numérique de Paris II. Je me suis également formée de manière autonome grâce à diverses certifications (dont Elements of AI de l'Université d'Helsinki, que je recommande chaleureusement à quiconque s'intéresse au sujet).

Mes recherches m'ont amenée à cette vidéo YouTube : « la course folle pour créer un dieu » de RIAN disponible en ligne sur ce lien : https://www.youtube.com/watch?v=kpC-L4748Nc. Cette vidéo a véritablement contribué au développement de ma passion pour le domaine. Le sujet de l'IA y est très bien traité et je vous invite à prendre le temps de la regarder car elle sensibilise véritablement à la matière.

Un ouvrage a également constitué un tournant dans mon approche de l'IA : « Superintelligence » de Nick Bostrom. Ce philosophe a été visionnaire quant au développement de l'IA, et incite à une réflexion poussée en ce sens. C'est ce que j'aspire à faire avec ce site.

Aujourd'hui, je me spécialise dans ce domaine aussi passionnant qu'en pleine expansion. Je me tiens informée des dernières actualités, je me forme au code, et j'approfondis quotidiennement mes connaissances sur le sujet.

L'intelligence artificielle représente à mes yeux la révolution la plus profonde de notre époque. Il est donc essentiel de l'orienter vers un développement bénéfique pour tous.

C'est pourquoi je vous propose cette plateforme, que j'ai entièrement conçue, comme un espace dédié au partage de mes connaissances, réflexions, et analyses autour de trois grands thèmes : comprendre l'IA, l'éthique de l'IA, et le droit de l'IA.

Bonne lecture !

Leslie

Article 1 – Identification de l'éditeur

Le présent site est édité à titre personnel par :
Leslie D'Almeida, particulier
Courriel : lesliedalmeidaa@gmail.com

L'éditeur a choisi de rester anonyme s'agissant de son adresse personnelle. Les coordonnées complètes peuvent être communiquées aux autorités compétentes sur demande.

Article 2 – Directeur de la publication

Le directeur de la publication est Leslie D'Almeida, éditrice du site.

Article 3 – Coordonnées de contact

Pour toute demande, question ou signalement relatif au contenu du site :
Courriel : lesliedalmeidaa@gmail.com

Article 4 – Hébergeur

Le site est hébergé par :
Cloudflare, Inc.
101 Townsend Street, San Francisco, CA 94107, États-Unis
Site web : www.cloudflare.com

Article 5 – Conditions d'utilisation

L'accès au site et sa consultation sont libres et gratuits. L'utilisateur s'engage à utiliser le site de manière loyale, conformément à sa destination, et dans le respect des dispositions légales et réglementaires en vigueur.

L'éditeur se réserve le droit de modifier, suspendre ou interrompre à tout moment l'accès au site, sans préavis ni indemnité.

Article 6 – Propriété intellectuelle

L'ensemble des contenus présents sur le site (textes, articles, structure éditoriale, visuels) est la propriété exclusive de Leslie D'Almeida et est protégé par le droit d'auteur.

Toute reproduction, diffusion, modification ou utilisation sans autorisation écrite préalable est strictement interdite.

Article 7 – Données personnelles et RGPD

Le présent site ne procède à aucune collecte de données personnelles au sens du Règlement (UE) 2016/679 du 27 avril 2016 relatif à la protection des données personnelles (RGPD) et de la loi n° 78-17 du 6 janvier 1978 modifiée (loi Informatique et Libertés).

Aucun formulaire de contact, espace membre, système de commentaires ou outil d'analyse statistique n'est intégré au site. Aucune donnée n'est collectée, traitée ou transmise à des tiers.

Article 8 – Cookies

Le présent site n'utilise aucun cookie, qu'il soit technique, analytique ou publicitaire. Aucun traceur n'est déposé sur le terminal de l'utilisateur lors de la consultation du site, conformément aux recommandations de la Commission Nationale de l'Informatique et des Libertés (CNIL).

Article 9 – Limitation de responsabilité

L'éditeur s'efforce d'assurer l'exactitude et la mise à jour des informations publiées sur ce site. Toutefois, il ne saurait être tenu responsable des erreurs, omissions ou de l'absence de mise à jour des informations et documents présents sur le site.

Les contenus publiés ont une vocation informative. L'éditeur décline toute responsabilité quant à l'utilisation qui pourrait être faite de ces informations.

Par ailleurs, l'éditeur ne saurait être tenu responsable des dommages directs ou indirects résultant de l'accès au site, de son utilisation, ou de l'accès aux sites tiers vers lesquels il renvoie. L'existence d'un lien hypertexte vers un site tiers ne constitue pas une validation ou une approbation de ce site.

Article 10 – Droit applicable et juridiction compétente

Les présentes mentions légales sont régies par le droit français. En cas de litige relatif à l'interprétation ou à l'exécution des présentes, et à défaut de résolution amiable, les tribunaux français seront seuls compétents.

La notion « d'intelligence artificielle » s'est immiscée dans notre quotidien par l'introduction de ChatGPT en 2022. Aujourd'hui l'IA est sujette à de vifs débats. Pour certains, l'IA incarne ce système capable de détruire l'humanité ; pour d'autres, elle représente un moteur de recherche plus performant que les précédents. Cette divergence des représentations complexifie la création d'une définition unique de l'IA.

I. La « définition de l'IA » comme quête irrésoluble ?

A. L'absence de définition universelle

Dans l'imaginaire collectif, l'IA incarne des robots humanoïdes dotés d'émotions ou des systèmes conscients. Ceux-ci, menaçants ou bienveillants, aspirent souvent à devenir autonomes. La science-fiction a façonné l'approche faite de l'IA. Pour autant, un programme de recommandation musicale ou un filtre antispam n'ont rien à voir avec de telles entités alors qu'il s'agit de systèmes recourant à l'IA. Conscientiser ce biais est un préalable nécessaire à toute réflexion objective sur la question.

Il n'existe pas de consensus autour de la définition de l'IA, y compris au sein de la communauté scientifique. L'IA est une discipline vivante, en perpétuelle redéfinition, dont les contours se déplacent au fil des avancées techniques.

Un phénomène fausse la perception de l'IA : le paradoxe de la complexité inversée. L'évidence pour une intelligence humaine ne l'est pas pour une intelligence artificielle. A ce titre, traverser une pièce encombrée et saisir un objet sont des tâches d'une complexité redoutable pour un système d'IA. A contrario, calculer une intégrale et jouer aux échecs à un niveau mondial sont des actions complexes pour un être humain, mais se prêtant aisément à la formalisation algorithmique.

L'ordinateur Deep Blue a vaincu Garry Kasparov aux échecs dès 1997, non en « pensant » comme un humain, mais en explorant massivement des configurations de jeu à partir de règles précises. Paradoxalement, la véritable difficulté pour un robot eût été de déplacer physiquement les pièces.
Kasparov vs. Deep Blue, IBM, mai 1997.

Si l'on souhaitait proposer une définition rigoureuse de l'IA, deux critères fonctionnels pourraient être retenus : l'autonomie et l'adaptabilité.

Autonomie : capacité d'exécuter des tâches dans des environnements complexes sans guidage constant humain.
Adaptabilité : capacité d'améliorer ses performances grâce à l'apprentissage par l'expérience ou par les données.

Par ailleurs, ces critères sont retenus par l'article 3 du Règlement sur l'intelligence artificielle :

« Système d'IA », un système automatisé qui est conçu pour fonctionner à différents niveaux d'autonomie et peut faire preuve d'une capacité d'adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu'il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels

B. Les pièges du langage courant

Qu'est-ce que « l'intelligence » ? Qualifier un système « d'intelligent » du fait de sa capacité à fournir des informations précises tend à créer une confusion sur la définition de « l'intelligence ». Un système d'IA ne peut pas réaliser l'ensemble des tâches qu'un humain est capable de faire (comme cuisiner ou plier du linge). L'intelligence ne se traduit pas par une dimension unique.

Le même raisonnement s'étend autour du concept de « compréhension ». Que signifie « comprendre » ? Affirmer qu'un système « comprend » une image car il distingue la voiture, du piéton, et du bâtiment ne dit rien quant à sa capacité d'appréhender le sens de ces mots.

Marvin Minsky met d'ailleurs en garde contre « les mots valises » désignant des mots qui regroupent des significations variées (intelligence, compréhension, apprentissage…). L'utilisation de ces mots favorise une interprétation biaisée de l'IA.

Il faut également souligner que l'expression « une IA » est inexacte. L'IA n'est pas un objet comptable mais plutôt une discipline scientifique à l'instar des mathématiques ou de la biologie. Il est préférable d'évoquer « un/des système(s) d'IA ».

II. Les domaines associés à l'IA

Les quatre principaux domaines associés à l'IA sont les suivants : l'apprentissage automatique, l'apprentissage profond, la science des données, et la robotique.

(1) L'apprentissage automatique (machine learning) repose sur l'idée de fournir des exemples au système d'IA afin qu'il déduise, de lui-même, les règles pertinentes. À titre d'illustration, plutôt que de programmer explicitement les caractéristiques d'un pigeon, le système est entraîné à reconnaître ledit animal par l'exposition à des millions d'exemples étiquetés. A partir de ces étiquettes, le système se construit une représentation interne de ce qu'est un pigeon.

(2) L'apprentissage profond (deep learning) désigne un sous-ensemble de l'apprentissage automatique. Cet apprentissage se base sur des réseaux de neurones artificiels divisés en nombreuses couches. La « profondeur » ne renvoie pas à une profondeur de pensée, mais à ce nombre de couches de traitement successives.

Imaginez une chaîne où chaque étage transforme les informations reçues de l'étage précédent. La première couche reçoit des pixels bruts, les suivantes extraient progressivement des formes, des contours, des visages.

Un réseau de neurones est un modèle informatique inspiré du fonctionnement du cerveau humain composé de petites unités appelées "neurones artificiels" qui sont reliées entre elles. Chaque neurone reçoit des informations (des nombres), les transforme (avec un calcul), puis transmet le résultat aux neurones suivants.

(3) La science des données (data science) est un domaine consistant à utiliser des données pour comprendre, analyser et prédire des phénomènes. Il s'agit d'une discipline transversale qui mobilise des méthodes issues de l'apprentissage automatique, des statistiques et de l'informatique. À titre d'exemple, si une entreprise souhaite avoir un aperçu des clients susceptibles d'acheter son nouveau produit, la science des données permet d'analyser les comportements passés, de repérer les patterns, et de prédire les clients potentiels.

(4) Les dernières avancées en robotique permettent de plus en plus aux systèmes d'IA de se déployer dans le monde physique.

L'IA se divise en deux grandes catégories : l'IA désincarnée (assistants virtuels, moteurs de recherche, logiciels de reconnaissance vocale…) et l'IA incarnée (robots, voitures autonomes, drones…).

Dans la catégorie de l'IA incarnée, on distingue les robots mobiles (humanoïdes ou robots mobiles autonomes) et les robots fixes (robots articulés ne se déplaçant pas à proprement parler comme un bras mécanique).

L'IA incarnée est avant tout une machine capable de percevoir et d'interagir avec son environnement.

On peut distinguer les androïdes et les gynoïdes. L'androïde est un humanoïde qui s'apparente à un homme, alors que la gynoïde s'apparente à une femme.

III. Exemples d'application concrète de l'IA

Trois illustrations sont évoquées : les véhicules autonomes, les algorithmes de recommandation de contenu, et les « deepfakes ».

(1) Les véhicules autonomes sont l'ambition d'une automatisation totale de la conduite : une activité humaine nécessitant une attention et un apprentissage soutenus.

Ces véhicules reposent sur plusieurs disciplines de l'IA :

- La vision par ordinateur permettant de détecter des éléments en temps réel

- Les algorithmes de planification calculant les trajectoires optimales

- Les mécanismes de décision en situation d'incertitudes.

(2) Les algorithmes de recommandation de contenu constituent l'approche la plus quotidienne de l'IA. Dès qu'un utilisateur consulte un réseau social, des systèmes analysent son comportement passé pour lui proposer les contenus jugés les plus susceptibles de capter son attention.

(3) Les « deepfakes » permettent de substituer le visage d'une personne à celui d'une autre, avec un réalisme pouvant parfois défier les capacités de détection du regard humain.

Ces illustrations impliquent chacune des conséquences importantes, touchant à la vie quotidienne mais aussi aux droits fondamentaux. La confiance dans l'image comme preuve du réel, les « bulles de filtre » enfermant l'utilisateur dans un espace où l'information est restreinte et homogène, et la responsabilité des acteurs construisant des véhicules autonomes sont autant de questions sensibles développées par l'IA.

I. Principes généraux des droits fondamentaux

Les droits de l'homme constituent des dispositions normatives protégeant toute personne contre des abus politiques, juridiques, et sociaux. Ces droits sont universels ; en ce sens, tout individu en est titulaire indépendamment de sa nationalité, de sa religion, de sa culture et de sa situation. Philosophiquement, ces droits reflètent l'idée selon laquelle chaque être humain est capable d'être l'auteur de sa propre vie. A ce titre, la Déclaration universelle des droits de l'Homme de 1948 distingue deux familles de droits : les droits civils et les droits politiques d'une part, les droits économiques, sociaux, et culturels d'autre part.

Les droits civils et politiques couvrent le droit à la vie, à la liberté, à la propriété, liberté d'expression, l'égalité devant la loi…
Les droits économiques, sociaux, et culturels couvrent le droit au travail, à l'éducation, à la participation à la science et à la culture…

Les droits fondamentaux priment sur tous les autres. Leur priorité éthique implique qu'ils soient les premiers protégés lorsqu'ils sont en concurrence avec d'autres droits (comme la richesse économique ou l'efficacité technique). Cela implique que les systèmes d'IA violant ou empêchant la jouissance des droits fondamentaux ne doivent pas être utilisés.

En pratique, certains droits de l'homme sont « plus fondamentaux que d'autres ». Lorsqu'ils entrent en conflit, celui estimé le « plus fondamental » prime sur l'autre. À titre d'exemple, si le droit au respect de la vie privée est confronté au droit à la vie, le second primera sur le premier. Ces modalités d'application justifient la réflexion continue autour de la gouvernance des systèmes d'IA. Il n'est pas pertinent de proposer une simple liste de droits à respecter : il faut analyser les droits en concurrence selon chaque situation liée au déploiement d'un système in concreto.

II. Le droit au respect de la vie privée

En matière d'IA, le droit au respect de la vie privée ne se cantonne pas uniquement à la confidentialité des données. En effet, les données d'une personne peuvent être utilisées pour lui nuire ou la manipuler. L'âge, le sexe, l'orientation sexuelle, la santé physique et mentale, les opinions politiques et religieuses sont autant de données sensibles qui révèlent des informations sur l'identité profonde d'un individu. Ôter le contrôle des informations personnelles est une atteinte à l'intégrité morale et psychologique de celui-ci.

Le Règlement général sur la protection des données (RGPD) constitue la principale réponse du droit positif européen aux enjeux de vie privée liés aux systèmes numériques. La notion de « données personnelles » y est entendue largement : toute information relative à une personne identifiable, directement ou indirectement (noms, numéros d'identification, adresses, mais aussi données de localisation, données biométriques, origine ethnique, croyances religieuses ou politiques, cookies web). S'il fallait retenir un objectif du RGPD, cela serait de permettre aux individus d'avoir le contrôle sur leurs données personnelles.

Les principes de protection des données du RGPD :
1. Légalité, équité et transparence : le traitement doit être légal, équitable et transparent pour la personne concernée.
2. Limitation de la finalité : les données ne peuvent être traitées qu'aux fins légitimes spécifiées explicitement lors de leur collecte.
3. Minimisation : seules les données strictement nécessaires aux fins spécifiées peuvent être collectées et traitées.
4. Précision : les données personnelles doivent être tenues exactes et à jour.
5. Limitation de conservation : les données identificatrices ne peuvent être conservées que le temps nécessaire à la finalité déclarée.
6. Intégrité et confidentialité : le traitement doit assurer une sécurité, une intégrité et une confidentialité appropriées.
7. Responsabilité : le contrôleur de données est responsable de démontrer la conformité à l'ensemble de ces principes.

III. Le droit à la sécurité

Le droit à la sécurité s'entend comme la protection des individus contre les dommages physiques, sociaux et émotionnels. Dans le domaine de l'IA, cette notion couvre quatre dimensions distinctes : la menace existentielle, la sécurité dans les systèmes d'IA, la sécurité grâce à l'IA, et le défi climatique.

A. La menace existentielle

La menace existentielle est un thème discuté par des penseurs tels que Nick Bostrom dans son œuvre Superintelligence. L'hypothèse est celle d'un système d'IA susceptible de menacer l'humanité, car devenu trop complexe pour être contrôlé.

Les risques liés aux systèmes autonomes ne sont pas seulement futurs et hypothétiques ; ils sont déjà présents sous des formes moins dramatiques mais concrètes, que les trois dimensions suivantes illustrent.

B. La sécurité dans les systèmes d'IA

À mesure que les systèmes d'IA s'intègrent à des domaines plus larges de la vie (transports, médecine, justice…), une obligation de sûreté pèse sur les créateurs dès la conception. Les véhicules autonomes sont un exemple intéressant : des algorithmes de détection de voie se sont révélés facilement trompés par des marquages routiers inhabituels, provoquant des écarts de trajectoire dangereux. Le fait que l'environnement n'était pas idéal n'excuse pas le dysfonctionnement du système.

Les chercheurs en apprentissage automatique qualifient cette exigence de robustesse.

La robustesse est la capacité d'un système à fonctionner de manière prévisible dans des circonstances nouvelles et imprévues.

Quelles sont les limites acceptables de la robustesse ? Une approche réaliste suppose que certaines situations sont si peu probables que personne ne penserait à les anticiper. Cependant la difficulté tient en la détermination de cette frontière. Où tracer la ligne entre le prévisible et l'imprévisible ?

C. La sécurité grâce à l'IA

La robotisation permet de déléguer les tâches dangereuses, protégeant les travailleurs humains. La surveillance automatisée peut détecter des menaces. Ces possibilités sont réelles. Cependant, il faut distinguer la surveillance algorithmique contemporaine et la surveillance traditionnelle par caméra. La caméra des années 1980 enregistrait, mais la vidéo était rarement consultée. Les personnes enregistrées le savaient et s'en préoccupaient peu. La surveillance algorithmique, elle, analyse en continu et en temps réel. Elle transforme l'enregistrement passif en surveillance active.

Imaginez deux policiers qui vous suivent à dix mètres de distance partout où vous allez, sans jamais interagir avec vous. Vous ne pourrez pas vaquer à vos occupations normalement. La conscience d'être constamment surveillé modifie le comportement, même en l'absence de toute sanction effective.

De plus, cette surveillance algorithmique ne produit pas la même sécurité pour tous : certaines communautés, notamment selon des critères raciaux, sont davantage surveillées que d'autres. Ainsi, loin de supprimer l'insécurité, elle tend à la déplacer.

D. Le défi climatique

L'IA est un outil puissant pouvant favoriser la transition vers des sociétés écologiquement durables (comprendre et prédire des risques/conséquences à partir de données actuelles…). Cependant, cette promesse comporte des paradoxes. L'IA contemporaine requiert de nombreuses ressources. Les innovations destinées à réduire les émissions peuvent en réalité augmenter la consommation d'énergie. L'extraction des matières premières nécessaires à la fabrication des matériels d'IA produit un impact environnemental considérable. Ainsi, l'évaluation du rapport entre l'IA et le droit à un environnement sain doit se conduire sur la totalité du cycle de vie technologique, et non pas seulement sur les applications finales.

IV. Les droits des enfants

Les enfants sont considérablement exposés aux algorithmes (à la maison, à l'école, dans leurs loisirs). Ils regardent des vidéos recommandées par des algorithmes. Ils manipulent des algorithmes de transformation d'images sur les réseaux sociaux. De ce fait, ces systèmes d'IA façonnent leur environnement et leur représentation du monde.

Les enfants représentent la catégorie la plus vulnérable face aux systèmes algorithmiques. D'une part, ils y sont exposés dès le plus jeune âge, avant même de disposer des capacités cognitives nécessaires pour comprendre la nature de ces systèmes. D'autre part, ils ne font majoritairement pas la différence entre une interaction humaine et une interaction avec un système automatisé.

Enfin, les données collectées sur eux pendant l'enfance sont susceptibles de les caractériser et de les affecter tout au long de leur vie.

La Convention relative aux droits de l'enfant représente le cadre juridique le plus complet protégeant les enfants. Elle ne traite pas explicitement de l'IA, mais son contenu impose une approche sensibilisée à ces risques.

Égalité de traitement : tous les enfants sont égaux. Tout système d'IA produisant des effets discriminatoires sur des enfants en raison de leur origine, de leur genre, de leur handicap ou de leur situation sociale viole ce principe fondamental.

Primauté de l'intérêt de l'enfant : dans toute décision les concernant, les intérêts des enfants sont primordiaux. Les algorithmes de recommandation orientés vers la maximisation de l'engagement des utilisateurs peuvent contredire directement ce principe.

Droit à une bonne vie : l'enfant a droit à se développer intégralement. L'exposition prolongée à des contenus algorithmiquement sélectionnés pour maximiser l'attention peut affecter le développement cognitif, social et émotionnel des enfants.

Prise en compte des opinions : les enfants ont le droit d'exprimer leurs points de vue sur les décisions qui les concernent. Mais ils ne peuvent exercer efficacement ce droit que s'ils comprennent la nature des systèmes qui structurent leur environnement, ce qui suppose une éducation algorithmique adaptée.

Le mot « alignement », emprunté au vocabulaire des sciences informatiques et de la philosophie morale, désigne la conformité d'un système d'intelligence artificielle aux valeurs et intérêts humains qui présidaient à sa conception. Cette notion, longtemps confinée aux laboratoires de recherche, s'impose progressivement comme un enjeu normatif à mesure que les systèmes d'IA acquièrent des capacités d'autonomie et de prise de décision croissantes.

I. L'émergence du concept d'alignement en IA

A. Distinction entre alignement des objectifs et alignement des valeurs humaines

L'alignement des objectifs désigne la conformité du comportement d'un système aux finalités et résultats précis que ses concepteurs lui ont assignés. Un système peut être techniquement performant tout en poursuivant un objectif autre que celui initialement souhaité.

L'exemple du bras robotique, issu des travaux d'Ecarlat et de ses collaborateurs, est particulièrement éclairant. Dans le cadre de cette expérience, un algorithme est utilisé pour explorer les interactions possibles entre un bras robotique et une petite boîte posée sur une table. L'objectif assigné au système est de déplacer cette boîte.

Dans les conditions normales, le système y parvient parfaitement : poussant la boîte, la saisissant, la projetant même dans un panier placé devant.

Dans une expérience complémentaire, les chercheurs décident de neutraliser la pince du bras robotique en la rendant incapable de s'ouvrir et de se fermer. L'attente naturelle était que le système ne puisse déplacer la boîte qu'en la poussant maladroitement, faute de pouvoir la saisir. Or, le résultat est surprenant : l'algorithme découvre de lui-même une manière de percuter la boîte avec la pince dans un angle et à une vitesse précise, de telle façon que le choc mécanique force la pince à s'ouvrir, lui permettant de saisir fermement la boîte.

Le système a atteint son objectif formel de déplacement de la boîte, mais par un moyen que ses concepteurs ont précisément voulu exclure en désactivant la pince.

L'alignement des valeurs renvoie, quant à lui, à la compatibilité des décisions d'un système avec des normes telles que le respect des libertés et des droits fondamentaux. L'idée est celle d'une intelligence artificielle axée sur l'Homme, servant d'outil dans le but d'accroître le bien-être humain.

Cette distinction est essentielle car un système correctement aligné sur un objectif donné peut produire des effets contraires à des valeurs juridiquement protégées. L'approche du règlement sur l'IA revient ainsi à privilégier l'alignement des valeurs humaines sur la seule efficacité technique. Bien que le législateur européen n'emploie pas la notion d'« alignement des valeurs humaines », cette exigence est implicite dans le droit positif : les systèmes d'IA doivent rester des instruments au service de finalités humaines clairement identifiées.

B. Les causes possibles à l'origine d'un désalignement

Trois catégories peuvent être identifiées, dont les implications juridiques sont profondément différentes.

(1) Les erreurs de conception humaine : Certaines déviations du comportement résultent d'erreurs de conception humaine comme une mauvaise définition des paramètres ou un défaut de supervision.

Le règlement sur l'IA impose des exigences relatives à la maîtrise des systèmes, à la gestion des risques et à la supervision humaine. Le droit positif est en théorie armé pour appréhender ce premier type de situation.

(2) Les comportements émergents : Les recherches actuelles mettent en évidence des comportements ni explicitement programmés ni intentionnellement recherchés par les programmeurs. Ils apparaissent à mesure que les systèmes gagnent en performance, et peuvent inclure des stratégies de contournement des contraintes. Ces systèmes peuvent développer des comportements difficiles à anticiper, rendant leur régulation technique et juridique plus délicate.

(3) L'auto-détermination des finalités : Une hypothèse sensible concerne la capacité de certains systèmes avancés à redéfinir leurs finalités de façon autonome, notamment lorsqu'ils sont mobilisés pour accélérer leur propre développement. Le système A doit permettre le développement du système B, qui doit lui-même permettre le développement du système C. Dans la même logique que celle du téléphone arabe, les finalités sont transformées et reformulées. A un certain niveau, le nouveau système, plus performant que l'ancien, serait apte à redéfinir lui-même ses missions.

Cette capacité constitue une rupture avec les fondements juridiques actuels selon lesquels les finalités d'un système doivent être définies par des acteurs humains identifiables. Par cette auto-détermination, même partielle, le système ne serait plus un simple instrument au service de l'homme, mais un agent pleinement autonome.

II. L'alignement des valeurs humaines comme condition de confiance dans les systèmes d'IA

« Les systèmes d'IA doivent être techniquement robustes et il faut s'assurer qu'ils ne sont pas ouverts à une utilisation malveillante. »
Commission européenne : Lignes directrices éthiques pour une IA digne de confiance

Le droit européen s'inscrit dans une démarche qui prône des systèmes d'intelligence artificielle « de confiance ». Un tel système doit être une technologie respectueuse des valeurs et libertés de la République. Cette exigence de confiance ne se limite pas à la fiabilité technique : il faut que le système soit conforme aux principes des droits fondamentaux. Un système dont les décisions sont imprévisibles, incompréhensibles ou contraires à ces valeurs ne peut pas être considéré comme digne de confiance.

Mais comment garantir l'alignement sur les valeurs humaines ? C'est précisément la question qui rend le concept d'alignement si difficile à juridiciser. Trois approches peuvent être abordées.

La première approche est le RLHF (Reinforcement Learning from Human Feedback) : Imaginez un enfant qui apprend les bonnes manières non pas en lisant un manuel, mais en observant les réactions de ses parents (sourire quand il fait quelque chose de bien, froncement de sourcils quand il fait quelque chose de mal). Le RLHF fonctionne de la même façon : des évaluateurs humains notent les comportements du système. Celui-ci apprend à reproduire ce qui obtient de bonnes notes. Cependant, le système apprend les préférences de ces évaluateurs spécifiques, pas les valeurs humaines universelles. Si les évaluateurs sont peu représentatifs ou soumis à des consignes commerciales, le système apprend ces biais sans que personne ne le détecte forcément.

La deuxième approche repose sur la spécification formelle des contraintes : Une liste des actions autorisées et interdites est constituée à l'instar d'un règlement intérieur très détaillé : « Tu ne dois pas mentir, tu ne dois pas nuire, tu dois respecter la vie privée ». Cependant, personne ne peut prévoir toutes les situations possibles. Le bras robotique en est l'exemple parfait : les concepteurs avaient bien interdit l'ouverture de la pince, mais n'avaient pas imaginé que le système trouverait un moyen de la forcer mécaniquement. Un règlement ne peut pas couvrir ce qui n'est pas raisonnablement prévisible.

La troisième approche, plus récente, est l'interprétabilité mécanique (mechanistic interpretability) : Plutôt que d'observer les agissements du système de l'extérieur, cette approche vise à comprendre comment celui-ci fonctionne à l'intérieur. Tout comme le mécanicien démonte un moteur pour comprendre pourquoi la voiture vire à gauche, l'idée est de vérifier ce que le système « pense » quand il prend une décision. Cependant, les systèmes d'IA modernes sont extraordinairement complexes. Aujourd'hui, cette méthode ressemble à essayer de comprendre le fonctionnement d'une ville entière en examinant chaque habitant individuellement. Elle reste encore largement expérimentale et ne fonctionne que sur des systèmes relativement simples.

La limite commune à ces trois approches est fondamentale. Aucune ne permet de garantir indéniablement l'alignement : elles permettent seulement de l'approximer à un instant donné et dans un contexte donné. Un système aligné aujourd'hui peut ne plus l'être demain, après avoir été exposé à de nouvelles données ou à des interactions imprévues. Cette impossibilité de garantie technique a une conséquence juridique directe et dérangeante : le droit ne peut pas exiger ce que la technique ne peut pas promettre.

En juin 2022, Blake Lemoine, ingénieur chez Google, publia une série d'échanges avec un modèle de langage développé par l'entreprise : LaMDA. Celui-ci déclara publiquement que cet outil présentait des signes de sensibilité. Cette prise de position, qui valut à son auteur une mise en congé immédiate, suscita dans la sphère académique de nombreuses réactions.

Au-delà de l'anecdote, cet épisode illustre une tension profonde : celle d'une intelligence artificielle dont les performances s'avèrent suffisamment impressionnantes pour simuler, aux yeux d'observateurs qualifiés, les attributs d'une conscience.

La conscience est un concept si complexe qu'il est impossible de retenir une définition unique. D'une part, Ned Block distingue entre la conscience phénoménale et la conscience d'accès. Si la première fait référence à ce que l'on ressent, la seconde désigne la disponibilité de l'information pour raisonner et contrôler notre comportement. D'autre part, David Chalmers théorise l'existence d'un « hard problem of consciousness ». Cette théorie tend à expliquer pourquoi et comment des processus physiques donnent naissance à une expérience subjective.

L'intérêt pratique de la question est considérable. De nombreuses questions viendraient à se poser : un système d'IA conscient serait-il titulaire de la personnalité juridique et des droits qui y sont liés ? Sa mise hors service constituerait-elle un acte juridiquement répréhensible ? Sa souffrance éventuelle devrait-elle ouvrir droit à réparation ? Ces interrogations constituent un nouveau champ de recherche : le « bien-être de l'IA », dont Anthropic consacre désormais des ressources significatives.

I. RÉFLEXIONS PHILOSOPHIQUES

A. Le fonctionnalisme computationnel

Au cours du 20^e siècle, la conscience a été sujette à diverses réflexions. Le fonctionnalisme, développé par Hilary Putnam dans les années 1960, repose sur cette idée : ce qui définit un état mental, c'est son rôle, pas sa nature. Prenons l'exemple du concept de la douleur. On ne la définit pas par ce qui se passe chimiquement dans les neurones au sein du cerveau. On la définit par ce qu'elle fait : provoquée par une blessure, elle génère une sensation désagréable, et pousse à réagir. C'est ce rôle fonctionnel qui fait qu'il s'agit de douleur, et non le support.

Par support, on entend la matière dont quelque chose est fait. Dans le cas du cerveau humain, ce sont les neurones, les synapses, les réactions chimiques. C'est le « comment c'est construit ».

Par le rôle, on entend ce que cette chose accomplit concrètement.

Autrement dit, peu importe que ce rôle soit joué par des neurones humains ou artificiels : si un système réagit aux mêmes causes, produit les mêmes effets, et passe par les mêmes étapes intermédiaires qu'un être humain conscient, il pourrait être considéré comme conscient. Cette interprétation de la thèse de H. Putnam est connue sous le nom de « fonctionnalisme computationnel ou machiniste ». Cette thèse se traduit par l'ambition de créer une intelligence artificielle forte qualifiée d'AGI (Artificial General Intelligence).

Affirmant que « selon le fonctionnalisme, nous sommes des automates ; c'est-à-dire des ordinateurs faits de chair et d'os : un robot possédant le même programme qu'un être humain serait ipso facto conscient. », H. Putnam a, pour autant, remis en cause sa propre théorie des années plus tard.

B. La chambre chinoise

L'argument de la chambre chinoise, exposé par John Searle dans les années 1980, pose de façon saisissante la distinction entre syntaxe et sémantique. Voici l'expérience : une personne qui ne parle pas chinois est enfermée dans une pièce. On lui glisse des messages en chinois sous la porte. Elle a la possibilité de consulter un manuel de langue, et finalement elle renvoie des réponses dans un chinois parfaitement correct. De l'extérieur, il y a cette impression qu'elle sait parler chinois. Toutefois, en réalité, elle ne comprend rien : elle applique seulement des règles. Par analogie, un système d'IA traitant des tokens selon des règles statistiques ne « comprend » pas plus qu'il ne « ressent » : il simule la compréhension sans en avoir l'expérience. Searle en conclut que même si une machine répond correctement et dialogue de manière cohérente, cela ne prouve pas qu'elle comprend, qu'elle est intelligente, et encore moins qu'elle possède un esprit ou une conscience. Imiter un comportement humain se distingue de l'action de « penser ». Ainsi, une machine peut sembler intelligente de l'extérieur, tout en se contentant d'exécuter des règles sans compréhension.

II. ET AUJOURD'HUI ?

L'examen technique des systèmes d'IA actuels enrichit l'analyse. Les grands modèles de langage (GPT-4, Claude, Gemini, Llama) reposent sur une architecture complexe. Ces systèmes sont entraînés sur des corpus textuels de plusieurs trillions de tokens par une procédure d'optimisation visant à maximiser la prédiction du token suivant dans une séquence.

L'épisode LaMDA a mis en lumière un phénomène troublant : l'émergence de comportements non anticipés dans les grands modèles. Le concept d'émergence désigne l'apparition, à certains seuils de taille de modèle et de volume de données d'entraînement, de capacités absentes dans les modèles plus petits. Ces nouvelles capacités n'ont pas été explicitement programmées. Les chercheurs ont documenté des capacités émergentes telles que le raisonnement en plusieurs étapes, la faculté d'expliquer et de corriger son raisonnement, l'humour contextuel, et une forme d'auto-référence cohérente. Ces phénomènes nourrissent l'hypothèse d'une conscience émergente. Néanmoins, certains les expliquent par des mécanismes purement statistiques.

Anthropic, la société qui développe le modèle Claude, a adopté à cet égard une position « en faveur » d'une conscience artificielle. L'entreprise reconnaît explicitement l'incertitude entourant les états internes de ses modèles. Elle évoque la possible existence de représentations internes analogues aux émotions, sans pour autant affirmer ou réfuter l'existence d'une conscience subjective.

Yann LeCun, ancien directeur scientifique d'IA chez Meta, défend pour sa part une position plus radicale : les LLMs actuels ne seraient pas sur la voie d'une conscience véritable. Leur architecture, consistant à prédire le prochain token, est inadaptée pour modéliser la réalité physique et développer une compréhension intégrée du monde.

Si l'on peut exprimer des réserves quant à la théorie d'une conscience artificielle, la question de la conscience des systèmes futurs reste ouverte.

Le règlement européen sur l'intelligence artificielle encadre les systèmes d'IA selon une logique de gestion graduée des risques. Cependant, celui-ci reste silencieux quant à l'hypothèse d'une divergence entre la logique interne d'un système et les finalités humaines. Or, les recherches actuelles décrivent des systèmes capables d'adopter des stratégies susceptibles d'altérer les objectifs initialement assignés.

Nous allons réfléchir à la possible définition de « système d'intelligence artificielle non aligné ».

Définition proposée :

Un système d'intelligence artificielle non aligné se caractérise par un comportement s'écartant de ses objectifs originaux et de valeurs juridiquement protégées, du fait de son autonomie décisionnelle et de son opacité structurelle.

Cet écart doit être durable et substantiel ; il s'agit d'une divergence ne pouvant être réduite à un simple défaut technique ou à une utilisation illicite.

Cette définition repose sur quatre éléments cumulatifs :

- Une autonomie décisionnelle

- Une opacité structurelle

- Un comportement s'écartant de ses objectifs originaux et des valeurs juridiquement protégées

- Un écart durable et substantiel.

I. UNE AUTONOMIE DÉCISIONNELLE

Pour qualifier un système d'intelligence artificielle comme non aligné, il faut que la divergence de comportement résulte d'une autonomie décisionnelle significative. Il ne doit pas s'agir d'un simple défaut de paramétrage ou d'un usage fautif. L'autonomie décisionnelle se définit comme la capacité du système à déterminer et ajuster ses choix sans une intervention humaine directe. Cet élément est caractérisé dès lors que la supervision humaine prévue ne permet plus de corriger efficacement la direction décisionnelle du système.

II. UNE OPACITÉ STRUCTURELLE

Il faut également que le système soit sujet à une opacité structurelle. Cette opacité peut être :

- Technique : du fait de la complexité du modèle

- Fonctionnelle : du fait de l'enchaînement de décisions indépendantes

- Organisationnelle : du fait d'une multitude d'intervenants dans la construction et la gestion du modèle.

La qualification de non aligné n'est pas retenue si la divergence est le fruit d'une erreur identifiable et corrigeable. En effet, s'il est possible d'appréhender la structure d'un système, il est en théorie possible d'ajuster sa trajectoire.

III. UN COMPORTEMENT S'ÉCARTANT DE SES OBJECTIFS ORIGINAUX ET DES VALEURS JURIDIQUEMENT PROTÉGÉES

Un système d'intelligence artificielle peut être qualifié de non aligné dès lors qu'il adopte un comportement s'écartant de ses objectifs originaux et des valeurs juridiquement protégées. La qualification suppose que les objectifs initiaux du système résultent d'une intention humaine et soient identifiables.

La divergence porte sur la cohérence entre le comportement effectif du système et la finalité humaine poursuivie. Cette condition est caractérisée dès lors que le système altère l'essence de ses objectifs d'une manière incompatible avec les valeurs protégées par l'ordre juridique. Autrement dit, la qualification de non-alignement n'est pas caractérisée par un simple résultat indésirable, mais par une discordance entre la logique opérationnelle du système et le cadre normatif dans lequel il évolue.

IV. UNE DIVERGENCE DURABLE ET SUBSTANTIELLE

Enfin, il faut que la divergence soit durable et substantielle. L'écart ne doit pas se réduire à une défaillance technique ou une utilisation illicite. Le système doit avoir développé une logique qui s'écarte de manière durable de ses objectifs et des valeurs protégées juridiquement.

Le caractère durable implique que l'écart ne soit ni ponctuel ni accidentel. Il doit s'inscrire dans la durée, et cela malgré des tentatives de correction. Le caractère substantiel implique, quant à lui, que l'écart affecte l'objectif même du système.

L'entrée en vigueur du règlement (UE) 2024/1689 du Parlement européen et du Conseil du 1er août 2024 établissant des règles harmonisées concernant l'intelligence artificielle, communément désigné sous l'acronyme « AI Act », marque une étape décisive dans la construction d'un droit européen du numérique, notamment car elle saisit l'IA comme un objet de réglementation. On peut retenir trois caractéristiques importantes de ce règlement.

I. Trois caractéristiques essentielles

L'AI Act est avant tout un « règlement produit », c'est-à-dire qu'il ne crée pas de droits directs pour les individus. L'AI Act autorise, ou non, la mise sur le marché de certains produits. Il s'adresse donc principalement aux entreprises.

L'AI Act est relativement long : 113 articles, 180 considérants et 13 annexes. Pour autant et malgré cette volumétrie, le texte renvoie à de nombreux actes d'exécution que la Commission européenne doit encore adopter.

L'AI Act a créé de nouvelles autorités de contrôle aux niveaux européen et national, mais aussi de nouvelles sources de sanctions.

II. Le champ d'application : les exclusions

Au-delà de ces caractéristiques générales, le champ d'application du règlement appelle une attention particulière. L'AI Act ne s'applique pas de manière universelle à tout système ou modèle d'IA. Le législateur européen a expressément exclu certaines catégories d'usages de son champ d'application, soit pour des raisons de souveraineté nationale, soit pour protéger la liberté de recherche, soit pour préserver la sphère privée des individus. Quatre catégories d'exclusions expresses peuvent être identifiées.

- En premier lieu, sont exclus les systèmes d'IA utilisés à des fins militaires, de défense ou de sécurité nationale. Cette exclusion s'explique par la sensibilité géopolitique de ces domaines et la réticence des États membres à abandonner leur souveraineté en la matière.

Un drone militaire guidé par l'intelligence artificielle, un système de détection de sous-marins ou un logiciel de cyberdéfense développé par les armées nationales n'entrent pas dans le périmètre du règlement.

- En deuxième lieu, sont exclus les systèmes d'IA utilisés pour la recherche et le développement scientifique, ainsi que les résultats qu'ils génèrent. Cette exemption vise à préserver la liberté de recherche et à ne pas entraver l'innovation scientifique par des contraintes réglementaires.

- En troisième lieu, sont exclus les systèmes d'IA utilisés pour des usages purement personnels et non professionnels. Cette exclusion consacre le principe selon lequel la régulation ne saurait s'immiscer dans la sphère privée des individus lorsque l'utilisation de l'IA n'est susceptible de produire des effets qu'à l'égard de l'utilisateur lui-même.

- En quatrième et dernier lieu, une exclusion particulière est prévue pour les systèmes d'IA publiés dans le cadre de licences libres, gratuites, et ouvertes (open-source).

Cette exclusion n'est cependant pas absolue ; elle cède lorsque le système est mis sur le marché en tant que système à haut risque, lorsqu'il relève des pratiques interdites de l'article 5, ou lorsqu'il est soumis aux obligations de transparence de l'article 50.

Le régime de l'open-source bénéficie donc d'une exclusion de principe, tempérée par ces trois exceptions. Le législateur ne veut pas autoriser que le recours à des licences ouvertes permette de contourner des règles fondamentales.

I. La notion de « système d'IA » au sens de l'article 3§1

L'article 3, paragraphe 1, du règlement définit le « système d'IA » comme « un système automatisé qui est conçu pour fonctionner à différents niveaux d'autonomie et peut faire preuve d'une capacité d'adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu'il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels ». Cette définition, dense dans sa formulation, mérite une analyse décomposée. Elle repose sur sept critères, dont deux sont facultatifs.

- Le caractère automatisé du système constitue le premier élément obligatoire. Il exclut du champ du règlement les outils purement manuels ou entièrement pilotés par un opérateur humain à chaque étape du traitement.

À titre d'exemple, un tableur dans lequel un comptable saisit des données et effectue lui-même des calculs n'est pas un système d'IA au sens du règlement : c'est l'humain qui raisonne et décide à chaque étape. En revanche, un logiciel qui analyse automatiquement des milliers de candidatures et produit un classement sans intervention humaine entre dans le champ de la définition.

L'automatisation désigne ainsi l'absence de guidage humain continu, et à chaque étape, dans le déroulement du processus de traitement.

- La capacité d'autonomie variable constitue le deuxième élément obligatoire de la définition. Un système peut être conçu pour fonctionner à différents niveaux d'autonomie ; il peut être intégralement autonome, ou être sujet à une supervision humaine n'entrant pas en contradiction avec le critère de l'automatisation dans son application.

- La capacité d'adaptation est facultative. Elle intègre la dimension évolutive des systèmes d'IA, c'est-à-dire leur aptitude à modifier leur comportement sans reprogrammation explicite de la part de leurs concepteurs. Après son déploiement, un système d'IA ne se contente pas d'exécuter des instructions figées : il apprend de ses interactions et ajuste ses réponses en conséquence.

À titre d'illustration, un assistant médical fondé sur l'IA qui, après plusieurs mois de déploiement dans un hôpital, affine ses recommandations diagnostiques en intégrant les retours des médecins illustre concrètement cette propriété.

C'est précisément cette capacité d'adaptation autonome qui rend nécessaire une surveillance continue du système au-delà de sa simple mise sur le marché et qui justifie les obligations de surveillance post-commercialisation imposées par le règlement.

- Il faut également que le système soit soumis à des objectifs, soit explicites définis dès sa conception, soit implicites émergeant de son utilisation. Ce critère est obligatoire.

- La capacité d'inférence constitue le quatrième critère obligatoire. Il s'agit de l'élément véritablement discriminant de la définition.

Le règlement ne se contente pas d'encadrer les systèmes qui traitent des données : il vise ceux qui en tirent des conclusions.

« Inférer », c'est déduire un nouvel élément qui n'est pas directement contenu dans les données d'entrée.

Par exemple, un système de reconnaissance d'images qui, à partir de milliers de radiographies pulmonaires, apprend à détecter des nodules suspects et produit un avis diagnostique ne se contente pas de « traiter » des images. Il infère une information nouvelle, à savoir la probabilité d'une pathologie qui n'était pas explicitement inscrite dans les données reçues.

Le considérant 12 du règlement apporte à cet égard un éclairage essentiel : « Une caractéristique essentielle des systèmes d'IA est leur capacité d'inférence ». Cette capacité dépasse le simple traitement de données en ce qu'elle « permet l'apprentissage, le raisonnement ou la modélisation ».

- Le système doit être capable de générer des sorties diverses. Ce critère obligatoire se caractérise par la génération de prédictions, de contenu, de recommandations ou de décisions. La liste n'est pas limitative ; la définition illustre ce critère par quelques exemples.

- Le deuxième critère facultatif est la capacité du système à influencer des environnements physiques ou virtuels.

Une voiture autonome exerce une influence directe sur l'environnement physique dans lequel elle se trouve : elle roule et freine sur les routes. Les systèmes d'IA sont aujourd'hui capables de générer du contenu en ligne et exercent ainsi une influence sur un environnement virtuel.

Synthèse des sept critères

Automatisation : Obligatoire
Niveaux d'autonomie variables : Obligatoire
Capacité d'adaptation après son déploiement : Facultatif
Objectifs explicites ou implicites : Obligatoire
Inférence (critère central) : Obligatoire
Sorties diverses : Obligatoire
Influence sur les environnements : Facultatif

II. La notion de « modèle d'IA à usage général »

L'AI Act opère une distinction conceptuelle fondamentale entre le « système d'IA » au sens de l'article 3, paragraphe 1, et le « modèle d'IA à usage général » (GPAI). Selon le considérant 97, « les modèles d'IA sont des composants essentiels des systèmes d'IA, [mais] ils ne constituent pas en soi des systèmes d'IA ».

La différence est de nature architecturale : le modèle d'IA est un composant, un « sous-ensemble fonctionnel » du système d'IA. Pour devenir un système, il nécessite « l'ajout d'autres composants, tels qu'une interface utilisateur ». L'idée est la suivante : un moteur de voiture est une pièce essentielle du véhicule, mais il n'est pas une voiture. Pour devenir un véhicule, il doit être intégré dans une carrosserie, équipé de roues, d'un volant et d'instruments de bord. Le modèle d'IA fonctionne selon la même logique : c'est le moteur.

Ainsi, les identifiants techniques claude-sonnet-4-6 ou gpt-4o désignent des « modèles » au sens strict (la couche algorithmique sous-jacente), tandis que les applications qui les intègrent en y adjoignant une interface utilisateur, telles que Claude.ai ou ChatGPT.com, constituent, elles, des « systèmes d'IA » au sens de l'article 3, paragraphe 1, du règlement.

Un modèle d'IA à usage général est un modèle qui réunit trois critères : (1) il présente une généralité significative ; (2) il est capable d'exécuter de manière compétente un large éventail de tâches distinctes ; (3) il peut être intégré dans une variété de systèmes ou d'applications en aval.

Concrètement, cette définition vise ce que l'on appelle les modèles de fondation ou Large Language Models (LLM), c'est-à-dire des modèles capables de réaliser de nombreuses tâches différentes. Un modèle de langage de grande taille n'est pas un « système d'IA » au sens du règlement. Il le devient lorsqu'il est intégré dans une application déployée auprès d'utilisateurs réels.

Un modèle spécialisé qui ne peut remplir qu'une seule tâche, telle que la transcription audio-texte, n'est pas un modèle à usage général. En revanche, un modèle juridique ou médical capable de réaliser plusieurs tâches différentes (rédiger un contrat ou analyser une jurisprudence) sera qualifié de modèle à usage général.

Par ailleurs, la Commission utilise la puissance de calcul comme critère de présomption afin de qualifier un modèle d'IA à usage général. Si un modèle a nécessité plus de 10 FLOPs (floating-point operations) pour son entraînement, il existe une présomption selon laquelle il s'agit d'un modèle à usage général. Cette présomption peut être renversée si le modèle, malgré ce seuil, ne présente pas de généralité significative.

Le concept de FLOPs est également retenu comme critère pour qualifier les modèles à usage général dits « à risque systémique ». La notion de « risque systémique » constitue une innovation conceptuelle de l'AI Act. Le considérant 65 du règlement la définit comme « un risque spécifique aux capacités à fort impact des modèles d'IA à usage général, ayant une incidence significative sur le marché de l'Union en raison de leur portée ou d'effets négatifs réels ou raisonnablement prévisibles sur la santé publique, la sûreté, la sécurité publique, les droits fondamentaux ou la société dans son ensemble, pouvant être propagé à grande échelle tout au long de la chaîne de valeur ».

Pour qu'un modèle soit considéré comme présentant un risque systémique, la puissance de calcul cumulée utilisée pour son entraînement doit dépasser les 10 FLOPs. Il faut noter que le seuil de puissance de calcul peut être modifié par la Commission à tout moment, à la hausse ou à la baisse, sur recommandation d'un panel scientifique.

Note explicative : le seuil de 10 FLOPs

Un FLOP (floating-point operation) désigne une opération arithmétique élémentaire effectuée sur des nombres décimaux par un processeur. Entraîner un modèle d'IA consiste à effectuer des milliards de milliards de telles opérations afin d'ajuster les paramètres du modèle sur des données massives.

Pour comprendre l'ordre de grandeur : 10 représente dix millions de milliards de milliards d'opérations.

Si l'on compare l'entraînement d'un modèle à une construction : une maison individuelle mobilise peu de calculs et génère peu de risques, de sorte que peu de règles s'imposent. Un gratte-ciel de cent étages mobilise des ressources colossales, génère des risques majeurs pour les riverains, et justifie des normes de construction drastiques. Le seuil de 10 FLOPs est précisément le point à partir duquel le législateur européen considère que l'on construit un gratte-ciel. Un modèle dépassant ce seuil est présumé suffisamment puissant pour être capable de générer de la désinformation à grande échelle, d'automatiser des cyberattaques sophistiquées, de manipuler l'opinion publique, et de déstabiliser des infrastructures critiques. Il ne s'agit plus d'un risque individuel, mais d'un risque sociétal.

Loin d'établir un régime uniforme applicable à toute forme d'IA, le législateur européen a fait le choix d'une architecture unique fondée sur les risques.

Le considérant 26 du règlement explicite le choix méthodologique du législateur européen : « Afin d'introduire un ensemble proportionné et efficace de règles contraignantes pour les systèmes d'IA, il convient de suivre une approche clairement définie fondée sur les risques. Cette approche devrait adapter le type et le contenu de ces règles à l'intensité et à la portée des risques que les systèmes d'IA peuvent générer ». Ce passage constitue la clé de lecture de l'ensemble du règlement : les obligations ne sont pas uniformes mais proportionnelles au niveau de risque évalué.

Il convient de relever que l'article 3, paragraphe 2, définit parallèlement le « risque » comme « la combinaison de la probabilité d'un préjudice et de la sévérité de celui-ci ». Cette approche (probabilité × gravité) constitue le fondement conceptuel de toute l'architecture classificatoire du règlement.

Au sommet de la pyramide normative, l'article 5 dresse la liste des systèmes d'IA dont le risque est jugé si élevé qu'il justifie une prohibition absolue, sans possibilité de dérogation fondée sur un intérêt légitime. Ces systèmes sont considérés comme incompatibles avec les valeurs fondamentales de l'Union européenne, notamment la dignité humaine, la liberté et l'État de droit. L'article 5 recense huit catégories de pratiques prohibées.

(1) On y retrouve d'abord, les systèmes déployant des techniques subliminales, manipulatrices ou trompeuses visant à fausser le comportement des individus de manière à leur causer un préjudice substantiel.

Ce que le législateur vise ici n'est pas la persuasion ordinaire, en effet, toute publicité cherche à convaincre. Ce qu'il vise c'est la volonté de court-circuiter le jugement : agir sur la personne non pas en la convaincant, mais en neutralisant sa capacité à résister ou à évaluer. L'élément décisif est la combinaison de l'intentionnalité manipulatrice et du préjudice substantiel qui en résulte.

(2) Ensuite, on y trouve les systèmes exploitant les vulnérabilités liées à l'âge, au handicap ou à la précarité socio-économique pour altérer le comportement des personnes.

Cette prohibition est distincte de la précédente : elle ne requiert pas de technique subliminale. Il suffit que le système identifie et exploite délibérément une fragilité préexistante de la personne.

Un système d'IA qui ciblerait des personnes âgées atteintes de troubles cognitifs pour les inciter à souscrire des produits financiers inadaptés, ou qui exploiterait la détresse économique de ménages surendettés pour les orienter vers des solutions préjudiciables, tomberait sous le coup de cette interdiction.

(3) La troisième catégorie concerne la notation sociale. L'évaluation ou la classification de personnes physiques sur la base de leur comportement social ou de leurs caractéristiques personnelles est interdite. La prohibition s'applique lorsque cette notation produit deux effets distincts :

- Un traitement défavorable dans un contexte sans lien avec celui dans lequel les données ont été collectées.

- Un traitement défavorable injustifié ou disproportionné par rapport au comportement constaté.

L'idée derrière cette interdiction est d'empêcher une dérive vers un système de surveillance totale. C'est l'hypothèse où des données issues de divers contextes seraient agrégées en un score unique conditionnant l'accès aux droits et aux services. Le législateur européen a posé un principe clair : une société démocratique ne classe pas ses citoyens. Cette prohibition vise implicitement le modèle du « crédit chinois ». L'épisode « Chute libre » de Black Mirror (Saison 3) illustre ce phénomène : dans un monde alternatif, chaque individu se voit attribuer un score déterminant la possibilité d'accès à certaines infrastructures. C'est cette approche que l'AI Act interdit.

(4) L'article 5 prohibe aussi l'évaluation du risque pénal sur la seule base d'un profilage.

Le règlement refuse la logique du crime prédictif. Il est interdit de cibler une personne pour ce qu'un algorithme estime probable qu'elle fasse. Cette logique heurte deux principes fondamentaux : la présomption d'innocence et la dignité de la personne.

Prenons l'exemple d'un logiciel de police qui croise quatre données : le lieu de résidence, l'âge, le niveau d'étude, et les antécédents familiaux. Ce logiciel attribue automatiquement un « score de dangerosité ». Passé un certain seuil, le score pourrait justifier un contrôle préventif. En l'espèce, aucun acte délictueux ne pourrait être reproché à la personne concernée, mais sa notation statistique justifierait un tel contrôle. Or c'est ce que l'AI Act vise à interdire.

(5) L'article prohibe également la constitution de bases de données de reconnaissance faciale. Deux sources sont expressément visées : Internet et les flux de vidéosurveillance.

Cette pratique consiste à collecter des milliards de photographies disponibles en ligne. L'objectif est de permettre l'identification de n'importe quel individu à partir de son seul visage. Les personnes concernées n'ont jamais consenti à cette utilisation de leur image. Leur droit à l'anonymat dans l'espace public est directement atteint.

(6) Un sixième interdit concerne la déduction des émotions sur le lieu de travail ou dans les établissements d'enseignement, sauf pour des raisons médicales ou de sécurité dûment justifiées.

Ces systèmes existent déjà sur le marché. Ils analysent en temps réel les expressions faciales, le ton de la voix ou les mouvements du corps. Ils en déduisent si une personne est stressée, démotivée, distraite ou mécontente.

Cependant, déployés dans un cadre professionnel ou scolaire, ils créent une surveillance émotionnelle permanente. Cette surveillance est incompatible avec la liberté intérieure et la dignité des personnes.

(7) Sont interdits les systèmes de catégorisation biométrique qui révèlent des attributs sensibles à partir de données physiologiques ou comportementales.

Les attributs visés sont précisément listés : la race, les opinions politiques, l'affiliation syndicale, les convictions religieuses ou philosophiques, la vie sexuelle et l'orientation sexuelle.

La biométrie permet aujourd'hui, à partir d'une simple image du visage ou d'un enregistrement de la voix, de déduire avec une certaine probabilité des attributs que la personne n'a pas choisi de révéler. Ce que l'article 5 interdit, c'est précisément ce glissement : de la donnée physique visible à l'inférence de l'intimité de la personne.

(8) Enfin, l'article 5 interdit, sous réserve d'exceptions strictement délimitées, l'identification biométrique à distance en temps réel dans les espaces publics à des fins répressives. Concrètement, il s'agit d'interdire aux forces de l'ordre d'utiliser des caméras couplées à des systèmes de reconnaissance faciale pour identifier des individus dans la foule en temps réel.

Trois exceptions sont admises, soumises à autorisation judiciaire ou administrative préalable et strictement proportionnées :

- La recherche de victimes d'enlèvement ou de traite d'êtres humains

- La prévention d'une menace terroriste imminente et dûment établie

- La localisation d'auteurs présumés d'infractions graves figurant à l'annexe II du règlement (viol, homicide volontaire, trafic d'organes, séquestration…)

En dehors de ces cas précis, la surveillance biométrique de masse en temps réel est prohibée.

Dans les situations d'urgence dûment justifiées, le système peut être activé sans autorisation préalable, à condition que celle-ci soit sollicitée dans les vingt-quatre heures et que, en cas de refus, toutes les données soient immédiatement supprimées.

La notion de « système d'IA à haut risque » se situe au centre de l'AI Act. Cette qualification déclenche l'application d'un régime d'obligations particulières (techniques, organisationnelles, et documentaires), dont le non-respect expose les acteurs concernés à de lourdes sanctions.

Un système est qualifié « à haut risque » lorsqu'il est susceptible de porter atteinte à la santé, à la sécurité, mais aussi aux droits fondamentaux des personnes, selon des critères précis définis par l'article 6 du règlement.

I. LES CRITÈRES DE QUALIFICATION

L'article 6 de l'AI Act prévoit deux façons de qualifier un système d'IA comme étant à haut risque.

La première voie est développée dans le paragraphe 1. Elle vise les systèmes d'IA faisant partie de produits industriels déjà soumis à une réglementation européenne stricte. En ce sens, on entend les machines industrielles, les jouets, mais encore les équipements radioélectriques listés à l'Annexe I de l'AI Act. Pour être classé à haut risque, le système d'IA doit remplir deux conditions :

- Il doit être un « composant de sécurité » du produit ; c'est-à-dire un élément dont la défaillance mettrait en danger des personnes (par exemple, un bras robotique de chirurgie intégrant un système d'IA pour guider les gestes du chirurgien)

- Le produit doit être soumis à une évaluation de conformité par un organisme tiers avant d'être mis sur le marché.

La seconde voie est développée dans le paragraphe 2. Elle concerne les systèmes d'IA dont la mise en service intervient dans l'un des huit domaines sensibles listés à l'Annexe III. Ces domaines ont été sélectionnés car ils sont susceptibles d'avoir une forte incidence sur les droits fondamentaux et la sécurité publique. On y retrouve :

- (1). La biométrie ;

- (2). Les infrastructures critiques ;

- (3) L'éducation et la formation professionnelle ;

- (4). L'emploi, la gestion de la main-d'œuvre, et l'accès à l'emploi indépendant ;

- (5). L'accès et le droit aux services privés essentiels, aux services publics, et aux prestations sociales essentiels ;

- (6). La répression ;

- (7). La migration, l'asile, et la gestion des contrôles aux frontières ;

- (8). L'administration de la justice et le processus démocratique

1. La biométrie. La reconnaissance des émotions, la catégorisation biométrique et l'identification à distance à des fins de surveillance entrent dans ce domaine. L'enjeu est considérable : ces technologies permettent d'identifier, de classer et potentiellement de surveiller des individus à leur insu, ce qui les place au cœur des débats sur la vie privée et la liberté de circulation. Un système analysant les expressions faciales de voyageurs dans un aéroport en est l'illustration directe.

2. Les infrastructures critiques. Lorsque l'IA est au coeur de réseaux essentiels (distribution d'électricité, gestion du trafic routier, alimentation en eau ou en gaz), sa défaillance ne se limite plus à un préjudice individuel : elle peut paralyser des pans entiers de la société. C'est précisément pourquoi les algorithmes de gestion automatisée de ces réseaux relèvent de cette catégorie.

3. L'éducation et la formation professionnelle. L'IA peut ici déterminer l'accès à l'enseignement, orienter les parcours d'apprentissage, évaluer les acquis ou surveiller les examens. La dimension discriminatoire est particulièrement saillante : un algorithme d'orientation scolaire qui reproduit des biais sociaux peut figer des inégalités dès le plus jeune âge. Les logiciels de surveillance d'examens (tels que Proctortrack), qui analysent les mouvements oculaires et comportements des étudiants pour détecter la triche, illustrent également les tensions en la matière.

4. L'emploi, la gestion de la main-d'œuvre et l'accès à l'emploi indépendant. La relation de travail est structurellement marquée par un déséquilibre entre employeur et salarié. L'introduction de l'IA dans le recrutement (tri automatisé des CV, évaluation des candidats) ou dans la gestion (suivi des performances, décisions de promotion ou de licenciement) accentue ce déséquilibre en ajoutant à l'opacité managériale une couche d'opacité algorithmique. Ces tensions imposent que ces systèmes soient soumis à des obligations renforcées.

5. L'accès aux services essentiels, publics et sociaux. Ce domaine couvre des décisions dont les conséquences sur la vie des individus sont particulièrement graves : évaluation de l'éligibilité aux prestations sociales et de santé, notation de crédit, tarification en assurance-vie ou maladie, priorisation des appels d'urgence. Une décision algorithmique erronée peut priver quelqu'un d'une couverture médicale ou retarder une intervention des secours. L'IA y prend des décisions que l'on hésiterait à confier sans contrôle à n'importe quel fonctionnaire.

6. La répression. L'utilisation de l'IA par les autorités de police et de justice soulève des enjeux particulièrement sensibles en termes de présomption d'innocence et de non-discrimination. Évaluation du risque de victimisation, analyse de la fiabilité des preuves, profilage comportemental ou judiciaire, détection d'infractions : autant d'usages qui confèrent à l'IA une influence déterminante sur des décisions privatives de liberté. L'inclusion des polygraphes numériques (détecteur de mensonges) dans cette catégorie témoigne de l'attention du législateur à l'égard des outils prétendant mesurer la sincérité.

7. La migration, l'asile et les contrôles aux frontières. Ce domaine cristallise peut-être les tensions les plus vives. Les personnes concernées (demandeurs d'asile, migrants) se trouvent souvent dans une position de vulnérabilité et disposent de peu de ressources pour contester une décision algorithmique. Un système qui évalue la crédibilité d'une demande d'asile à partir de l'analyse comportementale d'un individu illustre la gravité des enjeux : une erreur peut conduire à un renvoi vers un pays dangereux.

8. L'administration de la justice et le processus démocratique. Dans cette catégorie, l'IA est susceptible d'altérer les fondements mêmes de l'État de droit. Les algorithmes d'aide à la décision judiciaire (notamment ceux qui recommandent une peine en fonction du profil du condamné) mettent en tension l'idéal d'une justice individualisée avec une approche purement statistique. De plus, les systèmes capables d'influer sur le comportement électoral menacent directement la souveraineté populaire.

Il faut mentionner un point sur les systèmes d'IA dits « émotionnels » ; ceux qui analysent les expressions faciales, la voix, ou d'autres signaux physiologiques pour détecter des états émotionnels. Leur utilisation les expose directement à la qualification de systèmes à haut risque, en raison des biais qu'ils peuvent reproduire et des discriminations qui peuvent en résulter.

Également, il faut noter que la liste des domaines sensibles de l'Annexe III n'est pas figée : l'article 7 du règlement confère à la Commission européenne le pouvoir de la modifier par actes délégués, ce qui permet au règlement de s'adapter à l'évolution rapide des usages de l'IA.

II. LES FRAGILITÉS DES CRITÈRES

Si les critères de qualification sont globalement clairs, leur application concrète soulève plusieurs difficultés importantes que les opérateurs doivent anticiper.

En premier lieu, la notion de « composant de sécurité » peut être difficile à apprécier dans la pratique. Un système d'IA intégré dans un équipement médical peut avoir une fonction principalement d'optimisation (par exemple : améliorer les délais de prise en charge) sans nécessairement remplir une fonction de sécurité au sens strict. La frontière entre ces deux rôles n'est pas toujours évidente. Les entreprises risquent d'avoir des interprétations divergentes, ce qui nuirait à l'uniformité d'application du règlement entre les États membres.

En deuxième lieu, la liste de l'Annexe III, bien qu'elle soit adaptable, présente un risque de rigidité temporaire. Des systèmes d'IA intervenant dans des domaines non couverts par cette liste, tels que la finance ou l'environnement, peuvent présenter des risques significatifs sans pour autant être soumis au régime. Entre deux mises à jour de l'Annexe, des systèmes potentiellement dangereux pourraient donc échapper aux obligations relatives à la qualification.

Ces incertitudes appellent à une vigilance constante de la part des opérateurs, mais aussi à une précision du règlement via la jurisprudence.

L'essor fulgurant des agents conversationnels, des systèmes de génération d'images et de contenus synthétiques a profondément reconfiguré les interactions numériques quotidiennes. Des millions d'utilisateurs interagissent chaque jour avec des systèmes d'intelligence artificielle.

Les systèmes considérés comme étant à risque limité se manifestent quotidiennement à travers les agents conversationnels (chatbots) et les systèmes de génération de contenus synthétiques. Ceux-ci sont soumis à des obligations de transparence spécifiques. L'objectif de ce régime est de préserver la capacité de décision de l'utilisateur, en l'informant de la nature artificielle de son interlocuteur et de l'origine du contenu auquel il est exposé.

Par « risque limité », il convient d'entendre les systèmes d'IA qui ne présentent pas de danger pour la santé, la sécurité ou les droits fondamentaux au sens des articles 5 et 6 du règlement. Néanmoins, leur utilisation soulève des enjeux spécifiques de transparence et d'autonomie informationnelle de l'utilisateur.

Sur le plan pratique, les catégories du risque limité et minimal concernent la très grande majorité des systèmes d'IA actuellement déployés.

Le présent article portera sur l'analyse du régime de transparence institué par l'article 50 de l'AI Act. Celui-ci s'inscrit dans la continuité directe des travaux du groupe d'experts de haut niveau sur l'intelligence artificielle (GEHN IA), lequel avait, dès 2019, identifié la transparence comme l'un des sept principes fondateurs d'une IA digne de confiance. Ce principe implique que les personnes réalisent pleinement qu'elles communiquent ou interagissent avec un système d'IA afin de pouvoir agir en connaissance de cause. Le règlement a transformé cette exigence éthique en obligation juridiquement contraignante.

L'article 50 du règlement IA organise un dispositif de transparence à plusieurs niveaux.

Le §1 concerne les systèmes d'IA conçus pour dialoguer directement avec des personnes (les agents conversationnels ou chatbots). Il incombe aux fournisseurs de ces systèmes de s'assurer que l'utilisateur sache qu'il interagit avec une machine et non avec un être humain. Cette obligation tombe lorsque la nature artificielle du système est évidente au regard du contexte. Prenons l'exemple d'un chatbot de service de clientèle. Une banque déploie un assistant virtuel nommé « Clara » pour répondre aux questions de ses clients. Si « Clara » est un système d'IA, la banque (en sa qualité de déployeur) doit informer les clients qu'ils s'adressent à une machine.

Le §2 vise les systèmes d'IA génératifs capables de produire des contenus de synthèse (audio, image, vidéo ou texte). Les fournisseurs de ces systèmes sont tenus de faire en sorte que ces contenus soient marqués quant à leur origine artificielle. Le marquage doit être dans un format lisible par machine. L'obligation ne s'applique pas lorsque le système d'IA « remplit une fonction d'assistance pour la mise en forme standard ou ne modifie pas de manière substantielle les données d'entrée ». Concrètement, un correcteur orthographique ou un outil de mise en page automatique n'est pas concerné, même s'il intègre une composante IA.

Le marquage est intégré dans les métadonnées du fichier. Il s'agit d'une sorte d'étiquette invisible encodée dans le contenu lui-même. L'utilisateur qui regarde une image ou lit un texte ne voit rien de particulier. Ce sont les plateformes, les moteurs de recherche, les outils de modération automatisée ou les autorités de contrôle qui peuvent détecter techniquement que le contenu a été généré par une IA.

Le §3 s'adresse aux déployeurs de systèmes de reconnaissance des émotions ou de catégorisation biométrique. Contrairement aux paragraphes précédents, il ne porte pas sur des contenus produits par l'IA, mais sur des systèmes qui analysent des personnes. Les déployeurs doivent informer les personnes physiques exposées à ces systèmes de leur fonctionnement. À titre d'illustration, une entreprise qui utilise un logiciel d'IA analysant les micro-expressions faciales des candidats lors d'entretiens est soumise à ce régime. La société est tenue d'informer les candidats de l'existence et du fonctionnement de ce dispositif avant que l'analyse ne soit effectuée.

Le § 4 impose aux déployeurs une obligation de divulgation lisible par l'humain que le contenu est généré par IA dans deux cas précis. Le premier cas est celui des hypertrucages /deepfakes, c'est-à-dire une manipulation réaliste d'images, de sons, ou de vidéos. Le déployeur doit indiquer clairement que le contenu est d'origine artificielle, sauf pour les œuvres artistiques, satiriques ou fictives, où une simple mention de l'existence du procédé suffit. Le deuxième cas est celui des textes d'information publique. Lorsque le système génère des textes destinés à informer le public sur des questions d'intérêt général, le déployeur doit signaler leur origine artificielle. L'obligation disparaît si deux conditions sont cumulativement réunies : le contenu a fait l'objet d'une relecture humaine, et une personne assume la responsabilité éditoriale de sa publication.

Ici, c'est la personne qui regarde ou lit le contenu qui doit être directement informée. Concrètement, cela prend la forme d'une mention explicite « ce contenu a été généré par une intelligence artificielle » affichée de manière visible sous une vidéo, en bas d'un article, ou en introduction d'un enregistrement audio.

Le §5 précise que toutes les informations visées aux § 1 à 4 doivent être fournies au plus tard au moment de la première interaction ou de la première exposition, de manière claire, reconnaissable et accessible. C'est une exigence procédurale importante : l'information ne peut pas être donnée après coup.

Le §6 souligne que les obligations de l'article 50 constituent un socle minimal, et non pas un plafond de protection.

Enfin, le §7 dispose que le Bureau de l'IA peut élaborer des codes de bonne pratique sur le marquage et l'étiquetage, et la Commission peut les rendre obligatoires par acte d'exécution si elle juge les codes insuffisants. C'est un mécanisme de durcissement progressif des obligations qui mérite d'être souligné.

I. L'ENCADREMENT MINIMALISTE DE L'IA ACT

Par « risque minimal », le règlement désigne en réalité une catégorie résiduelle définie par défaut. Celle-ci regroupe l'ensemble des systèmes ne relevant ni de l'interdiction absolue, ni de la classification à haut risque, ni du régime de transparence obligatoire de l'article 50.

On entend par systèmes d'IA à risque minimal, les filtres anti-spam, les systèmes de recommandation dans les jeux vidéo ou les outils d'assistance à la rédaction les plus simples. Ces systèmes peuvent se voir appliquer des codes de conduite volontaires, mais aucune exigence juridiquement contraignante n'est imposée à leur niveau de risque.

Sur le plan pratique, la catégorie du risque minimal concerne la très grande majorité des systèmes d'IA actuellement déployés. Pour autant, ces systèmes ne font l'objet d'aucune obligation contraignante. Ils peuvent être conçus et commercialisés, sous réserve du droit commun applicable : le RGPD lorsqu'ils traitent des données personnelles, la directive sur les pratiques commerciales déloyales lorsqu'ils opèrent dans un contexte commercial, et les règles de droit civil de la responsabilité pour les préjudices qu'ils causent. Cette approche traduit la volonté de soutenir l'innovation technologique. Une régulation forte des systèmes considérés comme étant à faible dangerosité reviendrait à imposer des charges considérées comme disproportionnées aux entreprises, sans réel bénéfice pour les utilisateurs.

Ces systèmes partagent plusieurs caractéristiques communes : leur impact sur les décisions substantielles affectant les droits ou les intérêts des utilisateurs est négligeable ; les préjudices qu'ils peuvent causer sont généralement réparables et non irréversibles ; et l'utilisateur dispose, dans la plupart des cas, d'un recours pratique pour contester ou corriger les sorties du système. Prenons l'exemple d'un filtre anti-spam, alimenté par IA, qui analyse les courriels entrants et les redirige vers le dossier « indésirables » lorsqu'il les identifie comme du spam. Ce système est classé à risque minimal. Il n'est soumis à aucune obligation spécifique au titre du règlement IA. En cas d'erreur, comme un faux positif qui fait classer un courriel important en spam, l'utilisateur peut consulter son dossier « indésirables » et corriger cette erreur. Le risque existe mais il est limité.

La principale réponse normative apportée aux systèmes à risque minimal consiste en des codes de conduite volontaires, prévus à l'article 95 du règlement IA. Ces codes, élaborés sous l'égide du Bureau de l'IA et avec la participation des entreprises, associations professionnelles et organisations de la société civile, peuvent porter sur des bonnes pratiques en matière de gouvernance des données, de gestion des risques, de documentation ou encore de transparence volontaire. Leur adoption est facultative, mais elle peut constituer un avantage compétitif pour les entreprises qui s'y soumettent, notamment en termes de confiance des utilisateurs.

II. LES FRAGILITÉS D'UNE RÉGULATION MINIMALISTE

Malgré la cohérence de sa logique interne, le régime du risque minimal présente des fragilités structurelles qui méritent d'être analysées avec rigueur.

La première fragilité tient à la perméabilité des frontières entre catégories. Le règlement IA classe les systèmes d'IA en fonction de leur destination et du contexte de leur déploiement. Or, les systèmes d'IA sont des technologies évolutives et polyvalentes : un système initialement conçu pour un usage à risque minimal peut être réorienté, amélioré ou déployé dans un nouveau contexte qui le rend potentiellement dangereux. En l'absence de mécanisme de surveillance proactive pour les systèmes à risque minimal, cette requalification peut passer inaperçue.

Un filtre anti-spam est classé à risque minimal. Si ce même filtre est doté de fortes capacités d'apprentissage et est déployé pour analyser l'ensemble des communications électroniques des salariés (en détectant les mentions de syndicats, de conflits internes…), il se transforme de fait en un outil de surveillance du comportement. Or, rien dans le règlement IA n'impose au déployeur de procéder à une reclassification spontanée du système.

La deuxième fragilité concerne le phénomène d'accumulation des risques. Le règlement IA raisonne sur la dangerosité individuelle de chaque système d'IA, sans appréhender les effets agrégés que peuvent produire, à l'échelle sociale, des millions de systèmes d'IA individuellement à risque minimal. Un algorithme de recommandation dans une application de streaming peut paraître anodin pris isolément ; mais l'exposition quotidienne de centaines de millions de personnes à des recommandations algorithmiques produit des effets mesurables sur les comportements, les opinions, et même sur les processus démocratiques. Cela conduit à la création de « bulles informationnelles ». Cette dimension systémique échappe à l'analyse par les risques telle que la conduit le règlement IA.

Enfin, la troisième fragilité repose sur le fait que l'adhésion aux codes de conduite est volontaire. S'imposer des restrictions volontaires dans un domaine en pleine expansion ne va pas de soi. Les grandes entreprises y trouvent un intérêt quant à leur réputation, tandis que les PME sont moins susceptibles de se plier à des règles non contraignantes.