{"id":1655,"date":"2024-10-20T17:51:13","date_gmt":"2024-10-20T15:51:13","guid":{"rendered":"https:\/\/artificiellementintelligent.wordpress.com\/?p=1655"},"modified":"2024-10-20T17:51:13","modified_gmt":"2024-10-20T15:51:13","slug":"les-machines-gracieuses-resume-d-un-essai-de-dario-amodei-pdg-d-anthropic","status":"publish","type":"post","link":"https:\/\/artificiellementintelligent.eu\/index.php\/2024\/10\/20\/les-machines-gracieuses-resume-d-un-essai-de-dario-amodei-pdg-d-anthropic\/","title":{"rendered":"Les Machines Gracieuses : r\u00e9sum\u00e9 d’ un essai de Dario Amodei, PDG d’ Anthropic"},"content":{"rendered":"\n

Dario Amodei est le PDG d’ Anthropic, un des principaux acteurs de l’ IA g\u00e9n\u00e9rative qui a produit le mod\u00e8le Claude<\/a>. Il a r\u00e9cemment publi\u00e9 un texte tr\u00e8s int\u00e9ressant sur les cons\u00e9quences possibles de l’ IA sur la soci\u00e9t\u00e9 dans les prochaines ann\u00e9es. Intitul\u00e9 Machines of Loving Grace<\/em>, ce texte, assez long et d\u00e9taill\u00e9, est accessible ici<\/a>.<\/p>\n\n\n

\n
\"\"
Illustration : les Machines Gracieuses<\/figcaption><\/figure>\n<\/div>\n\n\n

Je trouve cet exercice tr\u00e8s int\u00e9ressant et je vais tenter d’ en r\u00e9sumer les principaux enseignements dans l’ article qui suit.<\/p>\n\n\n\n

Le texte s’ inscrit dans une s\u00e9rie de d\u00e9clarations ambitieuses de la part des principaux acteurs du secteur, \u00e0 savoir Sam Altman d’ OpenAI<\/em> dans son texte The Intelligence Age<\/em> ainsi que l’ interview de Demis Hassabis, PDG de Google Deepmind<\/em> au Time Tech Summit 2024. Vous trouverez les liens ci-dessous en r\u00e9f\u00e9rence et si vous en avez le temps et l’ int\u00e9r\u00eat, je ne puis que vous encourager \u00e0 les consulter.<\/p>\n\n\n\n

Ces discussions tournent autour de la cr\u00e9ation d’ une intelligence artificielle \u00ab\u00a0g\u00e9n\u00e9raliste\u00a0\u00bb (AGI<\/em> en Anglais) dans un avenir relativement proche. La d\u00e9finition de cette AGI<\/em> reste floue mais cette derni\u00e8re serait globalement aussi capable et versatile qu’ un expert humain et ce dans tous les domaines, disposerait d’une capacit\u00e9 \u00e0 agir de mani\u00e8re autonome dans le domaine digital voire dans le monde physique (robotique); par ailleurs, cette AGI<\/em> serait en mesure de planifier et ex\u00e9cuter des t\u00e2ches complexes pouvant demander des heures, des jours ou des semaines pour \u00eatre men\u00e9es \u00e0 bien.<\/p>\n\n\n\n

Il est frappant que l’ article de Dario Amodei sugg\u00e8re qu’ une telle AGI<\/em> (qu’ il pr\u00e9f\u00e8re appeler Powerful AI<\/em>) pourrait appara\u00eetre \u00e0 partir de 2026 dans sc\u00e9nario le plus optimiste. \u00c9tant donn\u00e9 que nous sommes \u00e0 la fin de l’ann\u00e9e 2024 et que le cycle de la recherche \u00e0 la production d’une IA est d’environ 18 mois, cela implique que plusieurs directions de recherche actuelles pourraient effectivement porter leurs fruits, et il est bien plac\u00e9 pour savoir ce qui se passe dans ses laboratoires…<\/p>\n\n\n\n

L’ article d\u00e9crit avec beaucoup de clarvoyance et d’ \u00e9quilibre les impacts potentiels de l’ appartition d’ une telle intelligence artificielle g\u00e9n\u00e9raliste sur la soci\u00e9t\u00e9 et sa transformation end\u00e9ans les 5 \u00e0 10 ans apr\u00e8s l’ apparition de l’ AGI. Loin des r\u00eaveries transhumanistes et de la singularit\u00e9 exponentielle quasi-instantan\u00e9e ch\u00e8re \u00e0 Ray Kurzweil<\/em>, l’ analyse de Dario Amodei prend sobrement en compte les goulets d’ \u00e9tranglement du monde physiques et les d\u00e9lais de transformation inh\u00e9rents \u00e0 chacun de ces secteurs.<\/p>\n\n\n\n

De m\u00eame, il \u00e9carte le sc\u00e9nario de l’immobilisme, selon lequel l’intelligence est paralys\u00e9e par la r\u00e9glementation et rien ne se passe. Au lieu de cela, il choisit une voie m\u00e9diane : une intelligence d’abord limit\u00e9e par toutes sortes de murs, qu’ elle s’ efforce d’ escalader et de surmonter.<\/p>\n\n\n\n

Que pouvons-nous donc attendre dans les 5 \u00e0 10 ans apr\u00e8s l’ an z\u00e9ro de l’ AGI, que ce dernier soit en 2026 ou quelques ann\u00e9es plus tard ?<\/p>\n\n\n\n

1. Biologie, neurosciences et sant\u00e9<\/h2>\n\n\n\n

L’ un des principaux obstacles \u00e0 l’ acc\u00e9l\u00e9ration des d\u00e9couvertes biologiques est le temps n\u00e9cessaire pour les exp\u00e9rimentations sur des cellules, des animaux ou des humains, qui peuvent durer des ann\u00e9es. De plus, m\u00eame lorsque des donn\u00e9es sont disponibles, elles sont souvent incompl\u00e8tes ou ent\u00e2ch\u00e9es d’ incertitude, compliquant l’ identification pr\u00e9cise d’ effets biologiques sp\u00e9cifiques. Ces d\u00e9fis sont aggrav\u00e9s par la complexit\u00e9 des syst\u00e8mes biologiques, o\u00f9 il est difficile d’ isoler et d’ intervenir de mani\u00e8re pr\u00e9dictive.<\/p>\n\n\n\n

L’ auteur souligne qu’ il veut utiliser l’ IA non pas comme un outil d’analyse de donn\u00e9es, mais comme un chercheur \u00e0 part enti\u00e8re qui am\u00e9liore tous les aspects du travail d’ un biologiste, de la d\u00e9finition \u00e0 l’ ex\u00e9cution d’ exp\u00e9riences dans le monde r\u00e9el. Il souligne que la plupart des progr\u00e8s en biologie proviennent d’ un petit nombre de perc\u00e9es majeures telles que CRISPR pour les manipulations g\u00e9n\u00e9tiques ou les vaccins \u00e0 ARN messager, et qu’il y a en moyenne une de ces d\u00e9couvertes majeures par an.<\/p>\n\n\n\n

L\u2019 IA pourrait multiplier par dix le rythme de ces d\u00e9couvertes, permettant de r\u00e9aliser en 5 \u00e0 10 ans les progr\u00e8s que les humains auraient faits en 50 \u00e0 100 ans. Des perc\u00e9es comme AlphaFold<\/em>, qui a r\u00e9volutionn\u00e9 la compr\u00e9hension des structures prot\u00e9iques, montrent d ores et d\u00e9j\u00e0 le potentiel de l’ intelligence artificielle pour transformer la biologie.<\/p>\n\n\n\n

Cela pourrait conduire \u00e0 l\u2019 \u00e9limination des maladies infectieuses, la pr\u00e9vention de la plupart des cancers, la gu\u00e9rison des maladies g\u00e9n\u00e9tiques et m\u00eame la pr\u00e9vention d\u2019 Alzheimer. Il ne consid\u00e8re pas les essais cliniques comme un obstacle. Les essais cliniques sont longs parce que nos m\u00e9dicaments sont mauvais et qu’ ils ne donnent g\u00e9n\u00e9ralement pas d’ indications claires sur leur efficacit\u00e9. Cela changera si l’ IA ne produit que les m\u00e9dicaments les plus efficaces, avec des techniques de mesure am\u00e9lior\u00e9es et des crit\u00e8res d’ \u00e9valuation plus pr\u00e9cis.<\/p>\n\n\n\n

Dario Amodei voit un potentiel analogue dans le domaine des neurosciences, avec l’ \u00e9limination de la plupart des maladies mentales comme la schizophr\u00e9nie, le stress post-traumatique ou l’ addiction \u00e0 travers une combinaison de d\u00e9veloppements de nouveaux m\u00e9dicaments et de th\u00e9rapies comportementales. La possibilit\u00e9 de traiter des maladies mentales ayant des causes neuro-anatomiques comme la psychopathie semble possible mais moins probable.<\/p>\n\n\n\n

De tels d\u00e9veloppements -entra\u00eenant une augmentation significative de la dur\u00e9e de vie en bonne sant\u00e9- auraient un impact positif majeur sur la s\u00e9curit\u00e9 sociale et son financement. Il est cependant probable que d’ autres d\u00e9fis appara\u00eetraient alors comme celui de modifier en profondeur nos infrastructures sociales, y compris les m\u00e9canismes de d\u00e9part \u00e0 la retraite, ainsi que d’ offrir l’ acc\u00e8s le plus large possible \u00e0 ces technologies.<\/p>\n\n\n\n

2. Aspects socio-\u00e9conomiques et politiques<\/h2>\n\n\n\n

L’ acc\u00e8s aux nouvelles technologies, notamment en mati\u00e8re de sant\u00e9, ne va pas de soi. La disparit\u00e9 des conditions de vie entre les pays d\u00e9velopp\u00e9s et les pays en d\u00e9veloppement, o\u00f9 le PIB par habitant en Afrique subsaharienne est d’environ 2 000$, contre 75 000$ aux \u00c9tats-Unis, est alarmante. Si l’ IA am\u00e9liore uniquement la qualit\u00e9 de vie dans les pays riches, cela constituerait un \u00e9chec moral majeur. L’ id\u00e9al serait que l’ IA aide \u00e9galement le monde en d\u00e9veloppement \u00e0 rattraper les pays riches.<\/p>\n\n\n\n

Cependant, Dario Amodei est moins confiant dans la capacit\u00e9 de l\u2019 IA \u00e0 r\u00e9soudre les probl\u00e8mes d\u2019 in\u00e9galit\u00e9 \u00e9conomique, car l\u2019\u00e9conomie d\u00e9pend largement de facteurs humains et de la complexit\u00e9 intrins\u00e8que des syst\u00e8mes \u00e9conomiques. La corruption, omnipr\u00e9sente dans certains pays en d\u00e9veloppement, complique encore la t\u00e2che, mais il reste optimiste quant au potentiel de l\u2019 IA pour surmonter ces d\u00e9fis.<\/p>\n\n\n\n

L\u2019 IA pourrait aussi contribuer \u00e0 la s\u00e9curit\u00e9 alimentaire et \u00e0 la lutte contre le changement climatique, des enjeux particuli\u00e8rement pressants pour les pays en d\u00e9veloppement. Les technologies agricoles et les innovations pour att\u00e9nuer les effets du changement climatique, comme l\u2019 \u00e9nergie propre ou l\u2019 \u00e9limination du carbone atmosph\u00e9rique, devraient aussi b\u00e9n\u00e9ficier des avanc\u00e9es en IA.<\/p>\n\n\n\n

Sur le plan politique, Dario Amodei examine la question de savoir si l’ IA favorisera la d\u00e9mocratie et la paix, ou si elle pourrait au contraire renforcer l’ autoritarisme. M\u00eame si l’ IA r\u00e9duit la maladie, la pauvret\u00e9 et les in\u00e9galit\u00e9s, il reste la menace des conflits humains et de l’ autoritarisme. L’ auteur souligne que l’ IA pourrait tout aussi bien servir les \u00ab\u00a0bons\u00a0\u00bb que les \u00ab\u00a0mauvais\u00a0\u00bb acteurs, en particulier en mati\u00e8re de propagande et de surveillance, deux outils majeurs des r\u00e9gimes autoritaires.<\/p>\n\n\n\n

Au niveau interne, l’ auteur pense que si les d\u00e9mocraties dominent l’ IA sur la sc\u00e8ne mondiale, cela pourrait favoriser l’ exercice d\u00e9mocratique. L’ IA pourrait contrer la propagande autoritaire en offrant un acc\u00e8s libre \u00e0 l’ information et des outils pour affaiblir les r\u00e9gimes r\u00e9pressifs, tout en am\u00e9liorant la qualit\u00e9 de vie des citoyens, ce qui, historiquement, a tendance \u00e0 encourager la d\u00e9mocratie. En outre, l’ IA pourrait aider \u00e0 renforcer les institutions d\u00e9mocratiques en rendant les syst\u00e8mes judiciaires plus impartiaux et en r\u00e9duisant les biais humains dans les d\u00e9cisions juridiques. Elle pourrait \u00e9galement am\u00e9liorer l’ acc\u00e8s aux services publics, renforcer la capacit\u00e9 des \u00c9tats \u00e0 r\u00e9pondre aux besoins de leurs citoyens et r\u00e9duire le cynisme \u00e0 l’ \u00e9gard du gouvernement. L’ id\u00e9e est que l’ IA pourrait jouer un r\u00f4le central pour am\u00e9liorer la transparence, l’ impartialit\u00e9 et l’ efficacit\u00e9 des syst\u00e8mes d\u00e9mocratiques.<\/p>\n\n\n\n

3. Travail et valeurs<\/h2>\n\n\n\n

Dans un monde o\u00f9 l’ IA se r\u00e9v\u00e8le capable de faire tant de choses, quelle valeur encore accorder \u00e0 l’ \u00e9ducation, \u00e0 l’ effort, au travail et \u00e0 la r\u00e9mun\u00e9ration de ce dernier ?<\/p>\n\n\n\n

Dario Amodei fait deux constats : le premier est que notre soci\u00e9t\u00e9 est organis\u00e9e de mani\u00e8re \u00e0 traiter les d\u00e9s\u00e9quilibres macro\u00e9conomiques de mani\u00e8re progressive et d\u00e9centralis\u00e9e. C’est un point que j’ avais \u00e9galement fait dans mon article sur les risques structurels de l’ IA accessible ici<\/a>. Cela ne constitue pas une garantie absolue de succ\u00e8s mais nous disposons \u00e0 tout le moins d’ institutions repr\u00e9sentatives et en principle capables de traiter ce genre de questions si les bouleversements ne sont pas trop rapides.<\/p>\n\n\n\n

Le second est que ce n’ est pas parce qu’ une IA peut faire votre travail mieux que vous que votre travail perd sa valeur ou sa signification. Ce n’ est pas parce que vous ne courrez jamais aussi vote qu’ Usain Bolt que vous abandonnez le jogging. L’ immense majorit\u00e9 des gens ne sont exceptionnels en aucun domaine et cela ne semble pas les g\u00eaner outre mesure ni les emp\u00eacher de vivre ni de gagner leur vie. Par ailleurs, beaucoup de gens passent une partie importante de leur vie \u00e0 effectuer des activit\u00e9s non-productives comme jouer \u00e0 des jeux vid\u00e9os…Ce que les gens recherchent avant tout, c’est un sens de l’ accomplissement.<\/p>\n\n\n\n

Et il suffit que certaines t\u00e2ches restent comparativement plus difficiles pour des IA pour que les humains conservent une vraie valeur ajout\u00e9e. L’ interaction avec le monde physique restera probablement un de ces domaines, au moins dans un premier temps.<\/p>\n\n\n\n

Sur le plus long terme, si des IA devaient devenir sup\u00e9rieures aux humains en tous points, il faudrait alors engager une discussion plus large sur notre mod\u00e8le socio-\u00e9conomique, mais les structures sont en place pour ce faire, d’ autant plus que ces transitions devraient \u00eatre progressives. La forme d\u00e9finitive que prendrait notre soci\u00e9t\u00e9 est difficile \u00e0 estimer aujourd’ hui. Mais une chose \u00e0 la fois…<\/p>\n\n\n\n

4. Conclusion<\/h2>\n\n\n\n

Ma r\u00e9serve principale quant \u00e0 ce texte remarquable est qu’ il ne aborde pas deux autres domaines o\u00f9 l’ IA peut jouer un r\u00f4le transformationnel : l’ \u00e9ducation et la recherche scientifique non li\u00e9e aux sciences du vivant. Quoi qu’ il en soi, l’ ajout de ces deux \u00e9lements suppl\u00e9mentaire ne ferait que renforcer l’ impression d’ensemble qui se d\u00e9gage du texte…<\/p>\n\n\n\n

Je ne peux qu’ en appeler \u00e0 tout le monde : prenez cela au s\u00e9rieux ! Si les sc\u00e9narios d\u00e9crits ci-dessus ne sont pas certains, ils sont plausibles et ce qu’\u00e9crit Dario Amodei n’ est pas insignifiant, ni sans int\u00e9r\u00eat.<\/p>\n\n\n\n

Nous devons en parler maintenant et r\u00e9fl\u00e9chir \u00e0 ce \u00e0 quoi notre monde pourrait ressembler dans cinq ou dix ans. Car l’ intelligence artificielle pourrait bien bouleverser nos vies bien plus vite que pr\u00e9vu, et nous nous trouvons ici en face d’ une transformation potentiellement plus profonde que celle que nous avons connue avec les ordinateurs ou Internet.<\/p>\n\n\n\n

5. Notes et r\u00e9f\u00e9rences<\/h2>\n\n\n\n