La r\u00e9cente mont\u00e9e en puissance de l’ IA \u00ab\u00a0g\u00e9n\u00e9raliste\u00a0\u00bb -qui englobe l’ IA g\u00e9n\u00e9rative- complique les choses car elle ne s’ int\u00e8gre pas facilement dans le cadre r\u00e9glementaire que je vais d\u00e9crire ci-dessous; sa prise en compte dans l’ AI Act<\/em> fait actuellement l’ objet d’ intenses tractations.<\/p>\n\n\n\n Afin de ne pas allonger trop cet article, je vais ici me concentrer sur le traitement de l’ IA \u00ab\u00a0traditionnelle\u00a0\u00bb, et je couvrirai la probl\u00e9matique de l’IA g\u00e9n\u00e9raliste dans le prochain article.<\/p>\n\n\n\n Je ne suis pas juriste et donc le texte qui suit ne saurait se substituer \u00e0 l’avis \u00e9clair\u00e9 d’un homme de l’ art; mais si je peux vous permettre de comprendre la situation d’ensemble et de poser les bonnes questions aux sp\u00e9cialistes en la mati\u00e8re j’ estimerai avoir atteint mon but.<\/p>\n\n\n\n Le but de l’ EU AI Act<\/em> est de r\u00e9glementer de mani\u00e8re uniforme la vente et l’ utilisation de produits et services bas\u00e9s sur l’ IA dans l’ Union Europ\u00e9enne. Cette l\u00e9gislation est potentiellement tr\u00e8s importante car elle est la premi\u00e8re au monde qui adresse explicitement les risques caus\u00e9s par l’ Intelligence Artificielle.<\/p>\n\n\n\n Elle vient compl\u00e9menter les autres l\u00e9gislations europ\u00e9ennes qui r\u00e9glementent l’ \u00e9conomie digitale : le RGPD<\/em>, le Digital Services Act<\/em> et le Digital Markets Act<\/em>. Le RGPD couvre la protection des donn\u00e9es personnelles des citoyens de l’ UE, le DMA emp\u00eache les grandes plateformes syst\u00e9miques (Google, Apple, Meta, Microsoft… ) d’ abuser de leur position dominante, et le DSA r\u00e9glemente les diff\u00e9rents aspects de l’ offre de services en ligne comme par exemple la lutte contre les contenus ill\u00e9gaux.<\/p>\n\n\n\n Comme le RGPD, l’ EU<\/em> AI Act<\/em> aura tr\u00e8s probablement un impact global car son champ d’action couvre non seulement tous les syst\u00e8mes IA mis sur le march\u00e9 dans l’ UE mais aussi tous les services en ligne mis \u00e0 disposition des citoyens de l’ UE, ind\u00e9pendamment de la localisation des fournisseurs de services….<\/p>\n\n\n\n Trois domaines sont exclus du champ de la l\u00e9gislation : les applications militaires, les syst\u00e8mes IA d\u00e9velopp\u00e9s dans un but de recherche scientifique et les mod\u00e8les gratuits et\/ou open-source<\/em>.<\/p>\n\n\n\n L’id\u00e9e fondamentale de la l\u00e9gislation est d’ \u00e9valuer chaque syst\u00e8me IA en fonction du niveau de risque qu’ il fait courir aux utilisateurs; ceci donne lieu \u00e0 un classement de l’ application parmi quatre cat\u00e9gories. Ces cat\u00e9gories vont d\u00e9terminer le niveau de r\u00e9glementation qui sera d’ application.<\/p>\n\n\n\n Ces cat\u00e9gories sont : risque inacceptable, risque \u00e9lev\u00e9, risque limit\u00e9 <\/em>et risque minimal<\/em>. Assez logiquement, ce sont surtout les deux premi\u00e8res cat\u00e9gories qui font l’ objet des attentions de l’ AI Act<\/em>.<\/p>\n\n\n Cette approche est logique vu le but de protection des citoyens recherch\u00e9. La loi est neutre au niveau technologique et r\u00e9duit les contraintes sur les applications peu risqu\u00e9es afin de limiter autant que possible la charge administrative sur les d\u00e9veloppeurs.<\/p>\n\n\n\n Voyons maintenant chacune des cat\u00e9gories plus en d\u00e9tail.<\/p>\n\n\n\n Ces applications sont consid\u00e9r\u00e9es comme faisant courir un risque inacceptable aux utilisateurs et sont donc interdites par l’ AI Act<\/em>.<\/p>\n\n\n\n La liste actuelle de ces applications comprend trois cat\u00e9gories de syst\u00e8mes :<\/p>\n\n\n\n Certaines d\u00e9rogations sont en discussion, comme l’ identification biom\u00e9trique en cas de suspicion de crime grave ou de recherche de mineurs disparus.<\/p>\n\n\n\n La mention des syst\u00e8mes de cr\u00e9dit social me semble curieuse car elle ne n\u00e9cessite pas en soi de l’ IA pour \u00eatre mise en place. Il me semble qu’ il s’ agit surtout d’une r\u00e9action au projet chinois en ce sens et de s’ assurer qu’ aucun pays europ\u00e9en n’ a la mauvaise id\u00e9e de les imiter.<\/p>\n\n\n\n C’ est la cat\u00e9gorie-cl\u00e9 de l’ EU<\/em> AI Act<\/em>.<\/p>\n\n\n\n Les applications IA sont consid\u00e9r\u00e9es comme pr\u00e9sentant un risque \u00e9lev\u00e9 si une des deux conditions suivantes est r\u00e9unie :<\/p>\n\n\n\n La d\u00e9finition pr\u00e9cise de ce qui constitue une t\u00e2che sensible est toujours en discussion, mais l’ id\u00e9e est de se concentrer sur les t\u00e2ches qui jouent un r\u00f4le dans la prise de d\u00e9cision.<\/p>\n\n\n\n Ces syst\u00e8mes \u00e0 haut risque seront soumis \u00e0 un processus d’ \u00e9valuation au cours duquel ils devront d\u00e9montrer que toutes les mesures possibles ont \u00e9t\u00e9 prises pour assurer leur fiabilit\u00e9 et leur s\u00e9curit\u00e9. Apr\u00e8s la mise sur le march\u00e9, les exploitants devront mettre en place un m\u00e9canisme de supervision et de suivi des incidents s\u00e9rieux qui devront \u00eatre notifi\u00e9s aux autorit\u00e9s.<\/p>\n\n\n\n Vous remarquerez que les soins de sant\u00e9 ne sont pas repris dans la liste, ce qui peut surprendre. La raison est que ce secteur est d\u00e9j\u00e0 largement couvert par des l\u00e9gislations sp\u00e9cifiques de s\u00e9curit\u00e9, c’est donc la premi\u00e8re condition mentionn\u00e9e ci-dessus qui va s’appliquer.<\/p>\n\n\n\n Les applications \u00e0 risque limit\u00e9 sont typiquement celles dans lesquelles l’ utilisateur interagit directement avec une IA mais sans tomber dans le champ des risques \u00e9lev\u00e9s (ou inacceptables) d\u00e9finis ci-dessus.<\/p>\n\n\n\n Dans ce cas, l’exploitant est uniquement soumis \u00e0 une obligation de transparence : il doit informer l’ utilisateur qu’ il interagit avec une IA afin d’ \u00e9viter toute manipulation et lui permettre de choisir de continuer ou non l’interaction.<\/p>\n\n\n\n Cette cat\u00e9gorie inclut les syst\u00e8mes de chatbot<\/em>, les g\u00e9n\u00e9rateurs d’images, d’audio et\/ou de vid\u00e9o de synth\u00e8se, ainsi que les g\u00e9n\u00e9rateurs de deepfakes<\/em>.<\/p>\n\n\n\n Ces applications utilisent l’ IA dans une fonction qui ne pose aucun risque pratique pour l’utilisateur, comme des jeux vid\u00e9o ou des filtres anti-spam.<\/p>\n\n\n\n Elles ne sont soumise \u00e0 aucune contrainte sp\u00e9cifique par l’ AI Act<\/em>.<\/p>\n\n\n\n La grande majorit\u00e9 des syst\u00e8mes IA actuels entre dans cette derni\u00e8re cat\u00e9gorie.<\/p>\n\n\n\n La l\u00e9gislation n’est pas encore vot\u00e9e donc des \u00e9volutions auront encore lieu, et il sera tr\u00e8s int\u00e9ressant de voir quels compromis seront adopt\u00e9s dans la version finale. Mais la pierre d’ achoppement principale est sans conteste la r\u00e9glementation de l’ IA g\u00e9n\u00e9raliste, dont je reparlerai.<\/p>\n\n\n\n Une autre partie importante des discussions en cours porte sur les m\u00e9canismes de mise en oeuvre, et ces derniers sont absolument cruciaux. Il ne suffit pas de faire voter un beau texte pour changer le cours des choses; il faut aussi que les provisions de la loi soient impl\u00e9mentables et ex\u00e9cutables, faute de quoi l’ AI Act<\/em> restera lettre morte dans la pratique.<\/p>\n\n\n\n L’article examine la l\u00e9gislation europ\u00e9enne sur l’Intelligence Artificielle, en soulignant l’importance de l’EU AI Act et ses diff\u00e9rentes cat\u00e9gories de risque, avec des implications potentielles sur les citoyens de l’UE.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8],"tags":[],"class_list":["post-968","post","type-post","status-publish","format-standard","hentry","category-gouvernance","post-preview"],"_links":{"self":[{"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/posts\/968","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/comments?post=968"}],"version-history":[{"count":0,"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/posts\/968\/revisions"}],"wp:attachment":[{"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/media?parent=968"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/categories?post=968"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/artificiellementintelligent.eu\/index.php\/wp-json\/wp\/v2\/tags?post=968"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}1. Contexte<\/h2>\n\n\n\n
2. Approche bas\u00e9e sur le risque<\/h2>\n\n\n\n
![\"\"](\"https:\/\/artificiellementintelligent.wordpress.com\/wp-content\/uploads\/2023\/11\/image-20231120a.png\")
3. Risque inacceptable<\/h2>\n\n\n\n
\n
<\/li>\n\n\n\n
<\/li>\n\n\n\n4. Risque \u00e9lev\u00e9<\/h2>\n\n\n\n
\n
<\/li>\n\n\n\n
\n\n
5. Risque limit\u00e9<\/h2>\n\n\n\n
6. Risque minimal<\/h2>\n\n\n\n
7. Conclusions<\/h2>\n\n\n\n
Sources et r\u00e9f\u00e9rences<\/h2>\n\n\n\n
\n
<\/li>\n\n\n\n
<\/li>\n\n\n\n
<\/li>\n\n\n\n