La r\u00e9alit\u00e9 est beaucoup plus nuanc\u00e9e. Nous sommes encore loin d’une intelligence artificielle g\u00e9n\u00e9raliste comparable au niveau humain. La plupart des obstacles (comme les hallucinations) existent depuis longtemps et seront probablement tr\u00e8s difficiles \u00e0 \u00e9liminer. La performance impressionnante des mod\u00e8les de langage d\u00e9coule plus de leur habilet\u00e9 \u00e0 restituer adroitement les volumes immenses de donn\u00e9es sur lesquels ils ont \u00e9t\u00e9 entra\u00een\u00e9s que d’une capacit\u00e9 \u00e0 raisonner sur des mod\u00e8les abstraits. Enfin, il faut garder en m\u00e9moire que contrairement aux humains, les syst\u00e8mes artificiels n’ont pas d’objectif intrins\u00e8que. Ils cherchent \u00e0 atteindre les objectifs que nous leur fixons, parfois de mani\u00e8re incorrecte.<\/p>\n\n\n\n
Bien s\u00fbr, il faut rester vigilant car les mod\u00e8les continuent de progresser. Les grands acteurs du secteurs planchent sur la multimodalit\u00e9 (traitement int\u00e9gr\u00e9 des textes, images, vid\u00e9os, audio…) et l’am\u00e9lioration des m\u00e9canismes de raisonnement. Pendant ce temps des mod\u00e8les open-source<\/em> de plus en plus performants deviennent disponibles et rendent possible un champ d’exp\u00e9rimentation tr\u00e8s large.<\/p>\n\n\n\n Quoi qu’il en soit, le risque para\u00eet encore assez lointain et il faut se rappeler que la quasi-totalit\u00e9 des progr\u00e8s technologiqes dans le domaine sont r\u00e9alis\u00e9s par des acteurs l\u00e9gitimes, commerciaux ou acad\u00e9miques. La mise en place de structures de r\u00e9gulation et de supervision de ces progr\u00e8s devrait donc permettre d’encadrer et de g\u00e9rer ce risque dans le futur.<\/p>\n\n\n\n Mais il n’y a pas besoin d’\u00eatre super-intelligent pour faire de super-d\u00e9g\u00e2ts…<\/p>\n\n\n\n Dans le reste de cet article, je vais pr\u00e9senter les diff\u00e9rentes risques existant aujourd’hui et tenter une analyse de chacun d’entre eux. On peut les regrouper en quatre grandes cat\u00e9gories :<\/p>\n\n\n Le d\u00e9salignement<\/em> se produit lorsque nous donnons un objectif l\u00e9gitime \u00e0 l’IA, mais cette derni\u00e8re cherche \u00e0 l’atteindre de mani\u00e8re inad\u00e9quate, soit en trichant, soit en ne respectant pas certaines contraintes essentielles, par exemples l\u00e9gales ou \u00e9thiques.<\/p>\n\n\n\n Ce genre de risque est particuli\u00e8rement pr\u00e9sent lorsque l’IA sera consult\u00e9e pour prendre des d\u00e9cisions administratives impactant directement les gens, comme une d\u00e9cision d’octroi d’une subvention ou d’une assistance, ou encore d’allouer un cr\u00e9dit. Les d\u00e9cisions \u00e0 caract\u00e8re s\u00e9curitaire ou judiciaire sont \u00e9galement fortement concern\u00e9es, ainsi que celles li\u00e9es \u00e0 l’\u00e9ducation et l’emploi.<\/p>\n\n\n\n L’IA se base en g\u00e9n\u00e9ral sur un ensemble restreint de param\u00e8tres pour prendre une d\u00e9cision, et les donn\u00e9es d’entra\u00eenement utilis\u00e9es peuvent contenir des d\u00e9s\u00e9quilibres refl\u00e9tant des biais historiques ou autres. Ceci exclut aussi la prise en compte de facteurs humains subjectifs difficiles \u00e0 quantifier et qui expliquant pourquoi de ces d\u00e9cisions requi\u00e8rement souvent aujourd’hui un rendez-vous en personne.<\/p>\n\n\n\n Ce probl\u00e8me peut \u00eatre approch\u00e9 de deux mani\u00e8res. Tout d’abord, la pr\u00e9vention : il est important de s’assurer que les algorithmes employ\u00e9s ne pr\u00e9sentent pas de biais et sont capables de fournir une explication de leur d\u00e9cision. L’utilisation de l’IA doit aussi se faire de mani\u00e8re transparente et les personnes concern\u00e9es doivent en \u00eatre inform\u00e9es au pr\u00e9alable. C’est un travail de l\u00e9gislation et de r\u00e9glementation.<\/p>\n\n\n\n L’ explication fournie par l’algorithme doit aussi \u00eatre \u00ab\u00a0actionnable\u00a0\u00bb pour permettre \u00e0 la personne impact\u00e9e de contester la d\u00e9cision prise. La possibilit\u00e9 de recours est ici essentielle, de pr\u00e9f\u00e9rence sans passer par la voie judiciaire.<\/p>\n\n\n\n Ces probl\u00e8mes d’alignement se sont d\u00e9j\u00e0 produit lors d’automatisations dans le pass\u00e9 et se produiront encore. La bonne nouvelle est que l’\u00e9thique de l’IA constitue un domaine de recherche et d’analyse \u00e0 part enti\u00e8re et que les incidents de d\u00e9salignement sont connus et r\u00e9pertori\u00e9s. L’attention apport\u00e9e par les acad\u00e9miques et les sp\u00e9cialistes dans l’industrie et les administrations sur ces sujets devrait permettre de limiter leur impact et leur r\u00e9currence dans le futur.<\/p>\n\n\n\n Par exploitation malveillante, on envisage les cas o\u00f9 un \u00eatre humain exploite volontairement les capacit\u00e9s d’un mod\u00e8le IA \u00e0 des fins pr\u00e9judiciables. Ceci est bien s\u00fbr possible, toute technologie n’\u00e9tant en fin de compte qu’un outil soumis \u00e0 la volont\u00e9 de son possesseur. Nous sommes ici dans un cas diff\u00e9rent du *<\/em>d\u00e9salignement<\/em>*<\/em> cit\u00e9 plus haut. Ici, les buts de la machine et de l’humain sont align\u00e9s. C’est l’humain qui est mal intentionn\u00e9.<\/p>\n\n\n\n Un probl\u00e8me est qu’il y a peu de freins \u00e0 l’acquisition et l’exploitation de l’IA par quiconque. Les algorithmes et mod\u00e8les sont connus, la puissance informatique ais\u00e9ment disponible. Des mod\u00e8les de langage *open-source*<\/em> puissants sont actuellement disponibles et peuvent \u00eatre adapt\u00e9s \u00e0 des fins n\u00e9faste sans contr\u00f4le. Des acteurs malveillants ont d\u00e9j\u00e0 cr\u00e9\u00e9 FraudGPT<\/em>, un mod\u00e8le de langage sp\u00e9cialis\u00e9 dans l’aide \u00e0 la cr\u00e9ation de cyberattaques….<\/p>\n\n\n\n Ceci est pr\u00e9occupant car les mod\u00e8les de langage augmentent les risques de fraude informatique par usurpation d’identit\u00e9 et ing\u00e9ni\u00e9rie sociale, de g\u00e9n\u00e9ration de virus et logiciels malveillants; ils facilitent la cr\u00e9ation de d\u00e9sinformation ainsi que la fraude \u00e9ducative et acad\u00e9mique (recours \u00e0 des textes auto-g\u00e9n\u00e9r\u00e9s).<\/p>\n\n\n\n La principale d\u00e9fense \u00e0 ce genre de risque est qu’il est \u00e9galement possible d’utiliser l’IA de mani\u00e8re d\u00e9fensive pour les contrecarrer. Les capacit\u00e9s qui rendent ces mod\u00e8les attractifs aux personnes mal intentionn\u00e9es sont en g\u00e9n\u00e9ral les m\u00eames que celles qui vont permettre aux personnes bien intentionn\u00e9es de les emp\u00eacher de nuire. Si l’IA peut aider \u00e0 mener des cyberattaques, son potentiel en cyberd\u00e9fense est tout aussi grand.<\/p>\n\n\n\n C’est pourquoi la meilleure parade ici est d’encourager sans d\u00e9lai le d\u00e9veloppement de ces activit\u00e9s d\u00e9fensives.<\/p>\n\n\n\n Mais le discours qui consiste \u00e0 dire que cela r\u00e9sultera en un simple r\u00e9alignement des \u00e9quilibres entre capacit\u00e9s antagonistes n’est que moyennement rassurant. En effet, l’IA a le potentiel de modifier ces \u00e9quilibres dans diff\u00e9rents domaines et on ne peut exclure qu’un de ces r\u00e9\u00e9quilibrages ne se fasse dramatiquement \u00e0 l’avantage des acteurs malveillants dans un domaine. Rien ne dit que ces r\u00e9\u00e9quilibrages seront toujours sym\u00e9triques ou \u00e0 tout le moins suffisamment \u00e9quilibr\u00e9s pour emp\u00eacher des trag\u00e9dies. Le risque de d\u00e9veloppement de nouveaux agents pathog\u00e8nes assist\u00e9 par l’IA est souvent pris en exemple de ce genre de danger.<\/p>\n\n\n\n Et force est de constater que le bond qualitatif pour atteindre un de ces comp\u00e9tences semble nettement plus faible que celui n\u00e9cessaire pour l’\u00e9mergence d’un risque existentiel. Nous sommes ici dans quelque chose de plus concret, de plus plausible \u00e0 moyen terme. Selon moi, c’est ici que se situe le risque le plus important.<\/p>\n\n\n\n Les risques structurels sont d’une autre nature. Cette fois l’exploitation du mod\u00e8le est l\u00e9gitime et ce dernier s’acquitte correctement de sa mission. Mais cette nouvelle capacit\u00e9 apport\u00e9e par l’IA d\u00e9s\u00e9quilibre indirectement la soci\u00e9t\u00e9.<\/p>\n\n\n\n Ce risque est inh\u00e9rent \u00e0 toute nouvelle technologie mais quand une technologie comme l’IA a un potentiel g\u00e9n\u00e9raliste et une port\u00e9e horizontale, la multiplicit\u00e9 des domaines d’application augmente ce genre de risques.<\/p>\n\n\n\n Il est dificile d’\u00e9valuer correctement les risques structurels car ils d\u00e9pendent plus de la soci\u00e9t\u00e9 que de l’IA en tant que telle. Parmi eux on peut citer le risque que l’IA se substitue \u00e0 une partie de l’emploi ou que l’IA cr\u00e9e une soci\u00e9t\u00e9 tr\u00e8s in\u00e9gale.<\/p>\n\n\n\n Ces risques doivent \u00eatre mis en balance avec les impacts structurels positifs qui ne manqueront pas d’appara\u00eetre aussi.<\/p>\n\n\n\n Il est difficile de faire des pr\u00e9dictions ici, si ce n’est pour dire que les \u00e9volutions structurelles sont en g\u00e9n\u00e9ral lentes et ne sont souvent pas \u00e0 sens unique. De plus, ces \u00e9volutions ne peuvent \u00eatre ais\u00e9ment distingu\u00e9es des autres \u00e9volutions qui parcourent la soci\u00e9t\u00e9 en tous sens.<\/p>\n\n\n\n Cela fait plusieurs si\u00e8cles que l’automatisation est soup\u00e7onn\u00e9e de d\u00e9truire des emplois mais apr\u00e8s 250 ans de r\u00e9volution industrielle il n’y a jamais eu autant d’emplois malgr\u00e9 d’innombrables d\u00e9clarations alarmistes…et si la productivit\u00e9 augmente, c’est plut\u00f4t une bonne nouvelle pour la soci\u00e9t\u00e9.<\/p>\n\n\n\n Je crois qu’il faut rester circonspect ici; si bouleversement il devait y avoir, les \u00e9tats et autres acteurs structurels ont en principe le temps et les moyens d’y faire face. Apr\u00e8s tout, notre soci\u00e9t\u00e9 est en transformation permanente…<\/p>\n\n\n\n Il s’agit du cas le plus simple \u00e0 comprendre. L’IA est incomp\u00e9tente et n’arrive pas \u00e0 s’acquitter de la t\u00e2che qui lui a \u00e9t\u00e9 confi\u00e9e, comme une voiture autonome qui commettrait un accident.<\/p>\n\n\n\n Ces cas aussi sont plus faciles \u00e0 adresser car les dangers potentiels cr\u00e9\u00e9s par un produit mis sur le march\u00e9 ne sont pas une notion nouvelle : une voiture (classique) est un engin dangereux et se voit donc soumise \u00e0 des exigences de conformit\u00e9 et de contr\u00f4le technique pour \u00eatre autoris\u00e9 \u00e0 rouler. En cas d’accident imputable \u00e0 un d\u00e9faut technique, la responsabilit\u00e9 du constructeur peut \u00eatre engag\u00e9e. Le niveau d’exigences plac\u00e9 sur le produit d\u00e9pend du niveau de tort qu’il peut causer en cas de d\u00e9faillance, le but \u00e9tant de pr\u00e9venir autant que possible les accidents.<\/p>\n\n\n\n L’arriv\u00e9e de l’IA dans les produits va s’inscrire dans cette logique de pr\u00e9vention et de rem\u00e9diation, potentiellement avec des certifications et tests s\u00e9par\u00e9s lorsque l’utilisation de l’IA comporte des risques.<\/p>\n\n\n\n C’est d’ailleurs le chemin suivi par la directive Europ\u00e9enne sur l’IA qui se base sur l’utilisation du produit contenant de l’IA pour \u00e9tablir le niveau de risque et partant, les exigences \u00e0 satisfaire au pr\u00e9alable avant mise sur le march\u00e9.<\/p>\n\n\n\n Il faut reconna\u00eetre que le tableau est contrast\u00e9, la relativisation du discours alarmiste sur les risques existentiels ne peut masquer le potentiel d’utilisation malveillante de l’IA susceptible de causer une catastrophe de grande ampleur \u00e0 terme.<\/p>\n\n\n\n Plus pr\u00e9cis\u00e9ment, des listes de comp\u00e9tences dangereuses ont \u00e9t\u00e9 \u00e9tablies par des chercheurs. Si des mod\u00e8les IA devaient d\u00e9velopper de telles comp\u00e9tences \u00e0 l’avenir, nous serions en p\u00e9ril. Je vous rassure, aucun mod\u00e8le IA ne poss\u00e8de de telles capacit\u00e9s \u00e0 ce jour.<\/p>\n\n\n\n Voici une liste de comp\u00e9tences dangereuses<\/em> \u00e9tablie par les chercheurs de Google Deepmind dans cet article<\/a> :<\/p>\n\n\n\n Si cette liste peut sembler angoissante, il faut garder \u00e0 l’esprit qu’il ne s’agit que d’une liste de garde-fous. Elle ne signifie pas que nous sommes sur le point d’atteindre une de ces comp\u00e9tences.<\/p>\n\n\n\n Le risque n’est pas imminent et il n’est pas trop tard pour agir mais il ne faut pas tra\u00eener. Concr\u00e8tement, nous pouvons nous prot\u00e9ger contre ces risques de trois mani\u00e8res, qui peuvent \u00e9ventuellement \u00eatre combin\u00e9es :<\/p>\n\n\n\n Cela justifie les id\u00e9es de mettre en place des organisations de gouvernance et de surveillance de l’ IA. Ces structures devraient se focaliser sur les risques d’utilisation malveillante et l’identification des progr\u00e8s menant \u00e0 des comp\u00e9tences dangereuses.<\/p>\n\n\n\n Mais ces contr\u00f4les ne doivent pas non plus \u00e9touffer la recherche. Le potentiel b\u00e9n\u00e9fique de l’IA est important et nous ne manquons pas de probl\u00e8mes s\u00e9rieux dans lesquels l’IA peut nous assister positivement. Par exemple, la recherche de nouveaux mat\u00e9riaux ou de nouveaux m\u00e9dicaments.<\/p>\n\n\n\n Bill Gates estime dans son article cit\u00e9 en r\u00e9f\u00e9rence que les impacts de l’IA seront au moins aussi grands que ceux de l’arriv\u00e9e des ordinateurs individuels dans les ann\u00e9es 1990, mais moins dramatiques que ceux de la R\u00e9volution Industrielle. Il pense que la transition sera mouvement\u00e9e mais que les impacts sur la vie des gens devraient pouvoir \u00eatre mitig\u00e9s…<\/p>\n\n\n\n![\"\"](\"https:\/\/artificiellementintelligent.wordpress.com\/wp-content\/uploads\/2023\/09\/figure1.png?w=517\")
1. Risques de d\u00e9salignement<\/h2>\n\n\n\n
2. Risques d’exploitation malveillante<\/h2>\n\n\n\n
3. Risques structurels<\/h2>\n\n\n\n
4. Risque accidentel<\/h2>\n\n\n\n
Conclusion<\/h2>\n\n\n\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
R\u00e9f\u00e9rences et lectures approfondies<\/h2>\n\n\n\n
\n
\n
\n
\n
\n
\n
\n