{"id":1016,"date":"2023-12-11T11:07:22","date_gmt":"2023-12-11T10:07:22","guid":{"rendered":"https:\/\/artificiellementintelligent.wordpress.com\/?p=1016"},"modified":"2023-12-11T11:07:22","modified_gmt":"2023-12-11T10:07:22","slug":"un-point-sur-la-reglementation-europeenne-des-modeles-generatifs","status":"publish","type":"post","link":"https:\/\/artificiellementintelligent.eu\/index.php\/2023\/12\/11\/un-point-sur-la-reglementation-europeenne-des-modeles-generatifs\/","title":{"rendered":"Un point sur la r\u00e9glementation europ\u00e9enne des mod\u00e8les g\u00e9n\u00e9ratifs"},"content":{"rendered":"\n

Vous l’ aurez probablement lu ou entendu dans les m\u00e9dias ces derniers jours : les Institutions Europ\u00e9ennes ont trouv\u00e9 un accord sur la future r\u00e9glementation de l’ Intelligence Artificielle ce vendredi 8 d\u00e9cembre. C’ est le fameux European Artificial Intelligence Act<\/em> dont j’ avais d\u00e9j\u00e0 esquiss\u00e9 les grandes lignes dans un article pr\u00e9c\u00e9dent<\/a>.<\/p>\n\n\n\n

A l’ \u00e9poque, je n’ avais pas parl\u00e9 de la r\u00e9glementation des mod\u00e8les g\u00e9n\u00e9ralistes car ce point restait en discussion. Il est maintenant temps de pallier \u00e0 cette omission. <\/p>\n\n\n\n

Ce qui suit se base sur les informations disponibles 48 heures apr\u00e8s l’ accord. Le texte d\u00e9taill\u00e9 de l’ accord n’est pas encore connu; il devrait \u00eatre publi\u00e9 avant le 22 janvier, date du premier comit\u00e9 parlementaire \u00e0 son sujet. Mon but n’ est cependant pas d’ aller dans le d\u00e9tail mais juste de vous donner un aper\u00e7u de l’ approche retenue.<\/p>\n\n\n\n

1. Pourquoi l’ IA g\u00e9n\u00e9raliste complique la r\u00e9glementation <\/h2>\n\n\n\n

Les mod\u00e8les IA g\u00e9n\u00e9ralistes sont apparus il y a quelques ann\u00e9es. On les d\u00e9finit en fonction de la modalit\u00e9 qu’ ils traitent (texte, image, vid\u00e9o, 3D.<\/em>..) et de leur nature discriminative<\/em> ou g\u00e9n\u00e9rative<\/em>.<\/p>\n\n\n\n

Ces mod\u00e8les se caract\u00e9risent par un large spectre d’ applications, et leur grand avantage est de pouvoir \u00eatre affin\u00e9s pour r\u00e9aliser avec pr\u00e9cision un t\u00e2che sp\u00e9cialis\u00e9e. Cet affinage peut \u00eatre r\u00e9alis\u00e9 par une autre entreprise disposant de moyens bien inf\u00e9rieurs \u00e0 ceux n\u00e9cessaires \u00e0 l’ entra\u00eenement du mod\u00e8le de base. Un mod\u00e8le textuel g\u00e9n\u00e9ratif comme GPT3 peut donc \u00eatre adapt\u00e9 pour r\u00e9aliser diff\u00e9rentes t\u00e2ches dans diff\u00e9rents secteurs (par exemple des chatbots pour du service \u00e0 la client\u00e8le).<\/p>\n\n\n

\n
\"\"
Figure 1 : l’ IA g\u00e9n\u00e9raliste, aspects discriminatifs et g\u00e9n\u00e9ratifs<\/figcaption><\/figure>\n<\/div>\n\n\n

D\u00e8s lors, la cha\u00eene de valeur de l’ IA g\u00e9n\u00e9raliste peut mettre en jeu plusieurs acteurs : un acteur en amont qui d\u00e9veloppe un mod\u00e8le g\u00e9n\u00e9raliste puissant et le met \u00e0 disposition d’ acteurs en aval qui vont affiner et exploiter le mod\u00e8le pour le mettre \u00e0 leur tour sur le march\u00e9 \u00e0 destination des utilisateurs finaux.<\/p>\n\n\n\n

Cette multiplication des acteurs ne s’ int\u00e8gre pas bien dans la logique de l’ EU AI Act qui se base sur le risque pour l’ utilisateur final. Cette logique est appropri\u00e9e pour une application IA d\u00e9velopp\u00e9e par une organisation dans un but sp\u00e9cifique, mais si l’ on applique cette logique \u00e0 l’ IA g\u00e9n\u00e9raliste seuls les acteurs en aval seront directement sujets \u00e0 la r\u00e9glementation. La r\u00e9glementation de l’ acteur en amont ne se fera qu’ indirectement par \u00ab\u00a0percolation\u00a0\u00bb des exigences pos\u00e9es sur les acteurs en aval. Pas tr\u00e8s \u00e9quilibr\u00e9 si vous \u00eates une petite start-up<\/em> qui exploite un mod\u00e8le d\u00e9velopp\u00e9 par Google ou OpenAI… et vu le r\u00f4le techniquement central de l’ acteur amont, les risques ne sont pas r\u00e9glement\u00e9s \u00e0 leur source.<\/p>\n\n\n

\n
\"\"
Figure 2 : Les acteurs de l’IA g\u00e9n\u00e9raliste<\/figcaption><\/figure>\n<\/div>\n\n\n

Il a donc fallu d\u00e9finir une r\u00e9glementation diff\u00e9rente pour l’ IA g\u00e9n\u00e9raliste. Celle-ci va s’ appliquer sp\u00e9cifiquement \u00e0 l’ acteur amont. Ceci ne d\u00e9douane pas enti\u00e8rement l’ acteur aval qui reste soumis aux contraintes r\u00e9glementaires bas\u00e9es sur le risque utilisateur, mais ce dernier peut au moins se reposer sur la conformit\u00e9 du mod\u00e8le g\u00e9n\u00e9raliste sur lequel il se base.<\/p>\n\n\n\n

2. R\u00e9glementation de l’ IA g\u00e9n\u00e9raliste<\/h2>\n\n\n\n

Cette r\u00e9glementation fait la distinction entre deux cat\u00e9gories de mod\u00e8les sur base de leur puissance : les mod\u00e8les les plus capables sont appel\u00e9s \u00ab\u00a0syst\u00e9miques\u00a0\u00bb par opposition aux autres.<\/p>\n\n\n\n

Tous les mod\u00e8les g\u00e9n\u00e9ralistes sont soumis \u00e0 des exigences de transparence : ils doivent documenter en d\u00e9tail l’architecture du mod\u00e8le ainsi que le jeu de donn\u00e9es qui a servi \u00e0 son entra\u00eenement, et confirmer le respect des droits d’auteur. Le contenu g\u00e9n\u00e9r\u00e9 par un mod\u00e8le g\u00e9n\u00e9ratif devra \u00eatre reconnaissable comme tel.<\/p>\n\n\n\n

De plus, les mod\u00e8les consid\u00e9r\u00e9s \u00ab\u00a0syst\u00e9miques\u00a0\u00bb vont \u00eatres soumis \u00e0 des exigences suppl\u00e9mentaires : leurs cr\u00e9ateurs devront mener \u00e0 bien des \u00e9valuations du mod\u00e8le, d\u00e9montrer comment ils g\u00e8rent et mitigent les risques, notifier les autorit\u00e9s en cas d’ incident et d\u00e9montrer leur r\u00e9silience face aux cyberattaques.<\/p>\n\n\n\n

Les mod\u00e8les g\u00e9n\u00e9ralistes open-source<\/em> b\u00e9n\u00e9ficieront d’ une r\u00e9glementation all\u00e9g\u00e9e (au moins pour les non-syst\u00e9miques), mais la nature de cet all\u00e8gement n’ est pas encore claire.<\/p>\n\n\n\n

Toutes ces exigences seront d\u00e9taill\u00e9es et pr\u00e9cis\u00e9es \u00e0 travers des standards europ\u00e9ens harmonis\u00e9s qui seront \u00e9tablis par des organismes comme le comit\u00e9 IA<\/a> du CEN\/CENELEC, une fois l’ Acte vot\u00e9.<\/p>\n\n\n\n

3. Notes et r\u00e9f\u00e9rences<\/h2>\n\n\n\n