{"id":826,"date":"2023-10-11T15:46:33","date_gmt":"2023-10-11T13:46:33","guid":{"rendered":"https:\/\/artificiellementintelligent.wordpress.com\/?p=826"},"modified":"2023-10-11T15:46:33","modified_gmt":"2023-10-11T13:46:33","slug":"l-ecosysteme-de-l-ia-generative","status":"publish","type":"post","link":"https:\/\/artificiellementintelligent.eu\/index.php\/2023\/10\/11\/l-ecosysteme-de-l-ia-generative\/","title":{"rendered":"L’ \u00e9cosyst\u00e8me de l’ IA g\u00e9n\u00e9rative"},"content":{"rendered":"\n

Apr\u00e8s avoir fait le tour d’ horizon des acteurs dans le pr\u00e9c\u00e9dent article, j’ ai pens\u00e9 qu’ il serait int\u00e9ressant d’ expliquer un peu plus en d\u00e9tail la cha\u00eene de valeur du secteur et de positionner chacun des acteurs \u00e0 sa juste place. Ceci est \u00e9galement une occasion de parler d’ autres intervenants dont le nom est moins souvent \u00e9voqu\u00e9 tout simplement parce qu’ ils ne s’ adressent pas aux utilisateurs finaux.<\/p>\n\n\n\n

Le secteur de l’ IA faisant partie du secteur de l’ industrie logicielle et on peut prendre pour point de d\u00e9part une cha\u00eene de valeur logicielle assez g\u00e9n\u00e9rique :<\/p>\n\n\n\n

1. Applications orient\u00e9es utilisateur <\/strong><\/em>: ce sont les produits qui sont accessibles aux utilisateurs finaux, comme le site web de chatGPT. Ceux-ci peuvent \u00eatre accessibles sur le web ou via une interface utilisateur plus traditionnelle.<\/p>\n\n\n\n

2. Mod\u00e8les<\/strong><\/em> : Les mod\u00e8les contiennent la logique et les algorithmes essentiels au coeur de l’ application. Ils sont souvent s\u00e9par\u00e9s des applications utilisateur et \u00e9changent des informations avec ces derni\u00e8res via des interfaces de programmation (API). Les mod\u00e8les re\u00e7oivent des demandes de traitement des applications utilisateur et renvoient le r\u00e9sultat du traitement. Dans une application de chat<\/em>, c’ est assez simple \u00e0 imaginer: l’ applicatif envoie votre prompt au mod\u00e8le qui renvoie sa r\u00e9ponse \u00e0 l’ applicatif.<\/p>\n\n\n\n

3. Infrastructure<\/strong><\/em> : il s’ agit ici des soci\u00e9t\u00e9s qui mettent \u00e0 disposition l’ infrastructure d\u00e9mat\u00e9rialis\u00e9e (cloud) pour faire fonctionner les deux couches sup\u00e9rieures. Cette infrastructure se comporte d’ \u00e9l\u00e9ments de connectivit\u00e9 r\u00e9seau, de serveurs, de puissance de calcul, de m\u00e9moire et d’ \u00e9quipements de stockage. Pour une soci\u00e9t\u00e9, le grand avantage du cloud est que l’ exploitation est pay\u00e9e \u00e0 l’ utilisation au lieu de n\u00e9cessiter un gros investissement initial. Ce m\u00e9canisme est aussi tr\u00e8s flexible car la capacit\u00e9 de l’ infrastructure peut grandir en phase avec le succ\u00e8s de l’ application, et donc les co\u00fbts \u00e9volueront avec les revenus.<\/p>\n\n\n\n

1. La cha\u00eene de valeur de l’IA g\u00e9n\u00e9rative<\/h2>\n\n\n\n

Voyons maintenant comment cette cha\u00eene de valeur s’ articule plus sp\u00e9cifiquement dans le cas de l’ IA g\u00e9n\u00e9rative :<\/p>\n\n\n

\n
\"\"
Figure 1 : Cha\u00eene de valeur de l’IA g\u00e9n\u00e9rative<\/figcaption><\/figure>\n<\/div>\n\n\n

Analysons maintenant les couches une \u00e0 une.<\/p>\n\n\n\n

2. La couche infrastructure<\/h2>\n\n\n\n

Commen\u00e7ons par la base. L’ ex\u00e9cution des mod\u00e8les g\u00e9n\u00e9ratifs fait appel \u00e0 beaucoup de puissance de calcul. Les fonderies de silicium produisent des circuits int\u00e9gr\u00e9s sp\u00e9cialis\u00e9s dans les calculs vectoriels qui sont \u00e0 la base des mod\u00e8les g\u00e9n\u00e9ratifs. Une soci\u00e9t\u00e9 domine le march\u00e9 : Nvidia<\/em>, qui fournit toute une famille de coprocesseurs graphiques dont les mod\u00e8les les plus puissants (A100, H100) se vendent comme des petits pains et co\u00fbtent entre 10.000 et 30.000$ pi\u00e8ce ! Les diff\u00e9rents acteurs de l’ IA g\u00e9n\u00e9rative se battent pour mettre la main sur ces processeurs dont la demande d\u00e9passe de loin l’ offre, d’ autant plus que le secteur des supercalculateurs en est \u00e9galement gros consommateur.<\/p>\n\n\n\n

Le grand avantage de Nvidia est d’ avoir mis au point depuis de nombreuses ann\u00e9es (et donc bien avant l’ engouement actuel pour l’ IA) un environnement de programmation de ses coprocesseurs, qui est parfaitement int\u00e9gr\u00e9 dans les grandes biblioth\u00e8ques de programmation d’ IA g\u00e9n\u00e9rative : JAX<\/em>, Tensorflow<\/em> ou encore Pytorch<\/em>. Tout mod\u00e8le d\u00e9fini au moyen de ces biblioth\u00e8ques pourra \u00eatre ex\u00e9cut\u00e9 sur les coprocesseurs graphiques disponibles de mani\u00e8re quasi-transparente.<\/p>\n\n\n\n

Si Nvidia est clairement l’ acteur dominant, il faut aussi citer son \u00e9ternel rival AMD<\/em>. Quant \u00e0 Google<\/em>, il a d\u00e9velopp\u00e9 ses propres processeurs pour l’ IA (appel\u00e9s TPU<\/em>); Apple en fait de m\u00eame avec sa gamme de processeurs Mx<\/em> qui contiennent un coprocesseur neuronal int\u00e9gr\u00e9 applel\u00e9 neural engine<\/em>; des rumeurs indiquent que Microsoft<\/em> d\u00e9veloppe en secret son propre coprocesseur actuellement d\u00e9nomm\u00e9 Athena<\/em>. Ceci dans le but de s’ affranchir de la d\u00e9pendance \u00e0 Nvidia.<\/p>\n\n\n\n

Parlons ensuite des fournisseurs de service d\u00e9mat\u00e9rialis\u00e9s (cloud<\/em>). On y retrouve la plupart des g\u00e9ants de la tech avec des activit\u00e9s comme Amazon Web Services<\/em>, Microsoft Azure<\/em>, IBM Cloud<\/em> ou encore Google Cloud Platform<\/em> (GCP). Comme je l’ ai expliqu\u00e9 dans l’ introduction, ces derniers proposent aux entreprises informatiques une infrastructure d\u00e9mat\u00e9rialis\u00e9e, disponible et payable \u00e0 la demande. Et cette infrastructure contient naturellement des serveurs munis des fameux coprocesseurs graphiques que les fournisseurs de mod\u00e8les et d’ applications peuvent louer en fonction de leurs besoins. Et ceci explique pourquoi Google et Microsoft d\u00e9veloppent leurs propres coprocesseurs : pour les installer dans leurs propres datacenters<\/em> et les proposer en location \u00e0 leurs clients sans \u00eate tributaire des livraisons de Nvidia.<\/p>\n\n\n\n

3. Les mod\u00e8les IA<\/h2>\n\n\n\n

Nous arrivons maintenant \u00e0 la partie IA proprement dite : les mod\u00e8les. Et ici, nous avons deux cas \u00e0 distinguer : les mod\u00e8les propri\u00e9taires et les mod\u00e8les open-source<\/em>.<\/p>\n\n\n\n

Un mod\u00e8le propri\u00e9taire est un mod\u00e8le qui fonctionne en tant que bo\u00eete noire. Il est accessible de l’ ext\u00e9rieur mais vous n’ en connaissez pas le fonctionnement ou les param\u00e8tres et donc impossible de le dupliquer. La plupart des grands mod\u00e8les g\u00e9n\u00e9ralistes actuels (chatGPT, Claude, Bard) sont de ce type. Ceci est avantageux pour les soci\u00e9t\u00e9s qui ont d\u00e9velopp\u00e9 ces mod\u00e8les puisqu’ il permet une mon\u00e9tisation facile en rendant l’ acc\u00e8s payant, ce qui leur permet d’ amortir leurs frais d’ entra\u00eenement et d’ exploitation du mod\u00e8le dans le cloud.<\/p>\n\n\n\n

L’ autre grand cas de figure est l’ approche open-source<\/em>. Dans ce cas, la soci\u00e9t\u00e9 qui d\u00e9veloppe le mod\u00e8le publie les donn\u00e9es n\u00e9cessaires \u00e0 son exploitation, soient son architecture et les param\u00e8tres du mod\u00e8le. N’ importe qui peut alors louer une infrastructure cloud (voire acheter des serveurs) et faire tourner le mod\u00e8le de mani\u00e8re autonome. <\/p>\n\n\n\n

Ce sont les d\u00e9tails de la license open-source sous lequel est publi\u00e9 le mod\u00e8le qui vont d\u00e9terminer les limites permissibles de l’ exploitation de ce dernier. Est-ce que l’utilisation commerciale est autoris\u00e9e ? Est-ce ce que la mise \u00e0 disposition \u00e0 des tiers est autoris\u00e9e… ? En th\u00e9orie, une licence purement open-source autorise toutes les utilisations l\u00e9gales du mod\u00e8le mais la pratique montre que les cr\u00e9ateurs de mod\u00e8les IA open-source ont tendance \u00e0 introduire des restrictions suppl\u00e9mentaires pour ne pas se retrouver en concurrence avec leur propre mod\u00e8le…<\/p>\n\n\n\n

La mon\u00e9tisation du mod\u00e8le open-source par son cr\u00e9ateur peut se faire par une exploitation directe, mais aussi indirectement gr\u00e2ce \u00e0 la notori\u00e9t\u00e9 que lui conf\u00e8re la publication du mod\u00e8le (surtout s’ il est performant) ainsi que des d\u00e9veloppements compl\u00e9mentaires qui seront r\u00e9alis\u00e9s gratuitement par la communaut\u00e9 sur le mod\u00e8le (milieu acad\u00e9mique, programmeurs open-source, autres soci\u00e9t\u00e9s…).<\/p>\n\n\n\n

Au rang des principaux mod\u00e8les open-source, on compte aujourd’ hui BLOOM<\/a>, Llama <\/a> (Meta), MPT<\/a> (MosaicML), Mistral<\/a>, Falcon<\/a> et StableLM<\/a> (StabilityAI).<\/p>\n\n\n\n

Si les mod\u00e8les les plus puissants sont aujourd’ hui propri\u00e9taires, le dynamique qui accompagne le d\u00e9veloppement des mod\u00e8les open-source laisse \u00e0 penser que la situation pourrait s’ inverser \u00e0 l’ avenir.<\/p>\n\n\n\n

4. Les applications utilisateur<\/h2>\n\n\n\n

Cette couche est relativement simple \u00e0 expliquer. Il s’ agit des applications avec lesquelles vous interagissez, via un site web ou une app sur un smartphones. Il peut s’ agir d’ applications assez complexes m\u00eame si, dans le cas des applications g\u00e9n\u00e9ratives, le traitement apport\u00e9 par ces applications utilisateur est souvent assez faible et se limite \u00e0 contextualiser le dialogue et le pr\u00e9senter dans une interface utilisateur conviviale. Notons que le site d’ OpenAI que vous utilisez pour acc\u00e9der \u00e0 chatGPT entre dans cette cat\u00e9gorie : il s’ agit d’ une interface assez simple qui va appeler le mod\u00e8le chatGPT, la seule particularit\u00e9 \u00e9tant ici que c’ est la m\u00eame soci\u00e9t\u00e9 qui d\u00e9ploie le mod\u00e8le et l’ application utilisateur.<\/p>\n\n\n\n

N\u00e9anmoins il est utile de bien identifier cette couche car m\u00eame si elle peut para\u00eetre \u00ab\u00a0l\u00e9g\u00e8re\u00a0\u00bb en terme de valeur ajout\u00e9e conceptuelle, elle poss\u00e8de une grande importance \u00e9conomique. De nombreuses start-ups n’ existent qu’ \u00e0 travers un site ou une app de ce type, judicieusement positionn\u00e9e vers un public sp\u00e9cifique, qui appellent des mod\u00e8les d\u00e9velopp\u00e9s par des tiers (comme openAI) via l’ interface de programmation.<\/p>\n\n\n\n

Un dernier mot pour parler des applications int\u00e9gr\u00e9es. Il s’ agit de soci\u00e9t\u00e9s qui ont construit un ensemble monolithique reprenant \u00e0 la fois l’ interface utilisateur et le mod\u00e8le, mais sans que ce dernier soit accessible ind\u00e9pendamment via une API. C’ est le cas de Midjourney<\/a> (images IA) ou de RunwayML<\/a> (g\u00e9n\u00e9ration de vid\u00e9os).<\/p>\n\n\n\n

5. Evolution<\/h2>\n\n\n\n

Cette description de la cha\u00eene est appel\u00e9e \u00e0 \u00e9voluer, et on voit d\u00e9j\u00e0 plusieurs tendances s’ amorcer : si les grands mod\u00e8les g\u00e9n\u00e9ralistes (Claude, GPT…) occupent aujourd’ hui le devant de la sc\u00e8ne, ils risquent de se voir progressivement marginalis\u00e9s au profit de mod\u00e8les plus petits et plus sp\u00e9cialis\u00e9s, mais capables de fonctionner localement sur l’ ordinateur ou le t\u00e9l\u00e9phone de l’ utilisateur ce qui est tr\u00e8s avantageux en termes de confidentialit\u00e9 et de robustesse (pas besoin de r\u00e9seau).<\/p>\n\n\n\n

La disponibilit\u00e9 de mod\u00e8les \u00ab\u00a0fondationnels\u00a0\u00bb en open-source facilite cette \u00e9volution puisque n’ importe qui peut partir d’ un de ces mod\u00e8les et le sp\u00e9cialiser via un entra\u00eenement compl\u00e9mentaire du mod\u00e8le appel\u00e9 affinage.<\/p>\n\n\n\n

Une autre inconnue est le passage \u00e0 la multimodalit\u00e9. Si le traitement d’ images et de s\u00e9quences vid\u00e9o devient possible en temps r\u00e9el, le champ applicatif explose avec une pl\u00e9thore de nouvelles applications en conduite autonome, robotique, pilotage de drones, jeux vid\u00e9o, d\u00e9fense…<\/p>\n\n\n\n

6. Notes et r\u00e9f\u00e9rences<\/h2>\n\n\n\n