IA : « Live and Let Die »

Bert Flossbach

« L'intelligence artificielle est en train de s'imposer dans presque tous les domaines de l'économie et de la société », estime le Dr Bert Flossbach, cofondateur de Flossbach von Storch. Son développement s'accélère de plus en plus rapidement en raison de la loi d'échelle : les performances augmentent avec l'échelle. Plus il y a de données et de puissance de calcul, meilleurs sont les résultats. Dario Amodei, cofondateur et PDG d'Anthropic, estime que la complexité des tâches qu'un système d'IA peut effectuer de manière autonome double environ tous les sept mois.

Pourtant, les risques s’accroissent également. Pour les gouvernements, c’est la sécurité nationale qui est en jeu ; pour les entreprises, les défis consistent à se protéger contre la cybercriminalité et à gérer leur responsabilité juridique ; et pour les particuliers, les préoccupations ne concernent rien de moins que la sécurité de leurs biens, voire de leur vie. On ne peut exclure un renforcement de la réglementation, pouvant aller jusqu’à l’interdiction pure et simple de certaines étapes du développement de l’IA.

L’interdiction temporaire d’exportation imposée par le gouvernement américain sur les variantes les plus avancées des modèles d’Anthropic, Mythos et Fable, qui a depuis été levée, a donné un aperçu de ce à quoi de telles mesures pourraient ressembler. Le gouvernement américain semblait considérer que le risque que ces modèles puissent être utilisés pour identifier et exploiter des failles de sécurité dans les systèmes logiciels était trop important pour permettre aux nouveaux modèles de rester librement accessibles. Comme l’arrêté interdisait l’accès aux non-résidents et qu’il était pratiquement impossible de vérifier la nationalité des utilisateurs, Anthropic a rapidement bloqué l’accès à tous.

Les marchés financiers continuent, dans l'ensemble, de ne pas tenir compte du risque lié à la sécurité. Ils se concentrent naturellement sur le potentiel économique de l'IA, qui dépend en fin de compte des avantages ou de la valeur ajoutée qu'elle apporte, ainsi que de la disposition des utilisateurs à payer pour en bénéficier.

Avantages pour les utilisateurs

La plupart d’entre nous utilisons l’IA au quotidien – le plus souvent gratuitement, parfois via des abonnements coûtant quelques euros par mois. Le plus souvent, nous y recourons pour répondre à des questions qui nous viennent à l’esprit. Rares sont toutefois ceux qui seraient prêts à payer cher pour cela. La donne change lorsque l’IA est utilisée pour résoudre des problèmes spécifiques et plus complexes, tels que l’analyse d’une question juridique ou la rédaction d’un document officiel. Dans le monde des affaires, les domaines d’application sont encore plus variés. Dans ce contexte, l’IA apporte un soutien précieux pour la recherche, le traitement, la formulation et la présentation de données, de faits et de conclusions.

De nouveaux modèles économiques : l’IA peut changer la donne pour les start-ups. Non seulement elle réduit les besoins en personnel, mais elle crée également de nouveaux modèles économiques, tels que les cabinets d’avocats en ligne basés sur l’IA. Par exemple, un plaignant en Angleterre a récemment remporté un procès civil à l’aide d’un logiciel du cabinet d’avocats spécialisé en IA Garfield AI. L’IA a préparé les mémoires, les pièces du dossier et les questions destinées aux témoins. Un avocat qualifié était toutefois encore nécessaire pour mener l’audience. Le montant en litige s’élevait à 7 000 livres sterling. Selon Garfield AI, l’ensemble de la procédure n’a coûté à cette femme qu’un peu moins de 400 livres sterling.

On entend souvent dire qu’à l’avenir, le travail reposant uniquement sur les connaissances sera en grande partie remplacé par l’IA, et que les humains ne s’occuperont plus que de tâches nécessitant un jugement. Or, sans connaissances, il n’est possible ni de poser des questions précises ni de faire preuve d’un jugement éclairé. Les connaissances ne se limitent toutefois pas à un savoir spécialisé consigné par écrit. L’expérience, l’intuition et le bon sens – et surtout la « règle de trois » permettant de démasquer les réponses absurdes – sont plus importants que jamais à l’ère de l’IA générative. Quiconque n’est pas en mesure d’évaluer la plausibilité d’une réponse ou la pertinence d’une proposition ne devrait pas s’en servir comme base pour prendre des décisions importantes. Ce sont les personnes capables de mettre à profit leur curiosité et leur créativité en association avec l’IA pour stimuler l’innovation qui en tireront le plus grand bénéfice.

Il en va de même pour les entreprises. Celles qui reconnaissent le potentiel de l’IA et la déploient efficacement peuvent acquérir un avantage concurrentiel, au moins temporaire. Aujourd’hui, presque toutes les entreprises utilisent l’IA sous une forme ou une autre, mais le degré d’intégration reste limité. Lorsque nous demandons aux entreprises de donner des exemples concrets de leur utilisation de l’IA, les réponses ont tendance à être assez vagues – telles que « nous poursuivons nos initiatives en matière d’IA » – ou ne concernent que des solutions isolées et à petite échelle au sein de l’entreprise.

Les agents sur le marché du travail : Le discours avancé par les partisans de l’investissement est tout autre. Il repose sur la perspective de gains de productivité considérables grâce à l’utilisation généralisée d’agents d’IA. Ceux-ci devraient permettre de réduire les besoins en personnel des entreprises et de stimuler la productivité. Les tâches seront automatisées et les agents prendront en charge des domaines d’activité entiers, 24 heures sur 24. Selon cette prévision, les programmeurs, contrôleurs, analystes, chercheurs, développeurs et professionnels du marketing pourraient être remplacés par des agents d’IA.

Une étude du Massachusetts Institute of Technology (MIT) a cherché à quantifier ces économies potentielles. Elle conclut que, d’ici 2030, jusqu’à 18 millions de travailleurs aux États-Unis – soit environ 12 % de la population active – pourraient perdre leur emploi, ce qui se traduirait par des économies nettes sur les coûts de main-d’œuvre d’environ 1 200 milliards de dollars. D’autres estimations font même état d’un chiffre pouvant atteindre 2 000 milliards de dollars. Les fournisseurs de modèles d’IA et les équipementiers de centres de données espèrent que les fonds ainsi libérés pourraient ensuite servir à l’achat de jetons d’IA, la nouvelle monnaie de l’ère de l’IA.

De nombreuses études menées par des cabinets de conseil et des banques d’investissement semblent corroborer cette théorie. McKinsey, par exemple, estime que d’ici 2030, environ 30 % des heures de travail actuelles aux États-Unis pourraient être automatisées. D’autres études font état de gains d’efficacité compris entre 20 et 70 % environ, selon que chaque résultat généré par l’IA nécessite encore une vérification humaine, qu’une intervention n’est requise que lorsque des seuils prédéfinis sont dépassés, ou que l’IA fonctionne en grande partie – voire entièrement – de manière autonome.

L’efficacité n’est pas synonyme de productivité : Cependant, on confond souvent efficacité et productivité. Une personne qui utilise l’IA pour rédiger une lettre commerciale en cinq minutes au lieu de cinquante est, certes, dix fois plus efficace dans cette tâche, mais pas dix fois plus productive. La situation a changé après qu’Isaac Singer eut perfectionné la machine à coudre. Le temps nécessaire à la confection d’une chemise est passé de quinze heures à une heure seulement.

Les gains d’efficacité ne se traduisent pas automatiquement – et rarement immédiatement – par une productivité accrue. Internet a apporté d’énormes améliorations en termes d’efficacité, mais celles-ci ne se sont traduites par des gains de productivité mesurables qu’au bout d’une longue période. Ce qui est donc crucial, ce n’est pas seulement ce dont l’IA est techniquement capable, ni le potentiel théorique d’économies qu’elle peut générer. Ce qui importe avant tout, c’est la rapidité avec laquelle les grandes organisations peuvent intégrer l’IA dans leurs processus de manière à atteindre effectivement le même rendement avec un effectif nettement réduit.

Les gains de productivité prennent du temps : Le changement dans le monde de l’entreprise progresse plus lentement que le développement de l’IA lui-même. Les mesures prises par les ressources humaines s’accompagnent souvent d’indemnités de licenciement élevées, ainsi que de coûts de restructuration et de transition. À cela s’ajoutent les obstacles liés au droit du travail, à la cogestion et à l’inertie institutionnelle. Dans le secteur public, en particulier en ce qui concerne les fonctionnaires, la marge de manœuvre pour réduire les effectifs est encore plus limitée. De plus, l’efficacité n’occupe pas le même rôle central dans de nombreuses administrations publiques que dans les entreprises à but lucratif.

Si des emplois disparaissent, ils sont plus susceptibles d’être supprimés progressivement par le biais des départs naturels ou remplacés par de nouvelles fonctions. Par conséquent, les économies de coûts de personnel qui pourront réellement être réalisées au cours des prochaines années seront probablement nettement inférieures à ce que laissent entrevoir les scénarios optimistes concernant l’IA.

Le véritable point de discorde entre les partisans et les détracteurs de l’IA ne réside pas tant dans le potentiel fondamental de la technologie que dans le délai nécessaire à la concrétisation de ce potentiel.

Bien entendu, les coûts de main-d’œuvre ne constituent pas le seul domaine dans lequel l’IA est susceptible d’apporter des gains d’efficacité substantiels. La logistique, la gestion de l’énergie, les achats, ainsi que la planification et l’exécution de projets de construction ont tous à y gagner. Cependant, même dans ces domaines, il faudra probablement un certain temps avant que l’utilisation de l’IA ne se traduise par des gains de productivité perceptibles. Si le potentiel existe bel et bien, les structures existantes ne le permettent souvent pas, comme le montre l’exemple de la société allemande Autobahn GmbH. En avril 2022, les travaux de rénovation d’un tronçon d’environ quatre kilomètres de l’autoroute A555, entre Cologne et Bonn, ont débuté. Sept mois plus tard, ChatGPT a été lancé. Depuis lors, plusieurs générations d’IA ont transformé le paysage technologique – et pourtant, ce court tronçon d’autoroute n’est toujours pas achevé. L’IA en connaît la raison, le public a une petite idée de la cause, et Autobahn GmbH ne semble pas s’en soucier. Cela montre que les organismes du secteur public, tout comme de nombreuses grandes entreprises, auront besoin d’un certain temps pour améliorer leurs processus grâce à l’IA, à un point tel que les coûts élevés des applications d’IA puissent être justifiés.

Outre la réduction des coûts, la croissance du chiffre d’affaires reste l’autre grand espoir. L’IA pourrait aider les entreprises à développer de nouveaux produits, à améliorer leurs offres existantes, à cibler plus efficacement leurs clients ou à générer des revenus grâce à des services basés sur les données. Il est toutefois loin d’être certain que ces opportunités se traduisent par des revenus supplémentaires significatifs. Une autre possibilité réside dans l’émergence d’une sorte d’impératif d’investissement dans l’IA. Les entreprises pourraient se sentir obligées d’investir massivement dans l’IA simplement pour rester compétitives, même si les avantages commerciaux immédiats sont difficiles à quantifier.

Les risques liés à la sécurité, un frein au développement

L’IA elle-même constitue un risque à ne pas sous-estimer pour la poursuite de son développement. Le rythme vertigineux auquel les performances de ces modèles s’améliorent engendre non seulement de nouvelles opportunités, mais aussi de nouveaux risques : les problèmes de sécurité, la perte de contrôle, les décisions erronées, les utilisations abusives, l’incertitude juridique ou l’intervention des autorités de régulation pourraient, au moins temporairement, remettre en cause les avantages concrets de cette technologie.

Cela vaut avant tout pour une éventuelle prochaine étape de développement : des systèmes d’IA qui contribuent à améliorer leurs propres modèles successeurs. Selon les experts, de tels systèmes – qualifiés d’« auto-amélioration récursive » (RSI) – pourraient devenir une réalité dès 2028. Ils accéléreraient considérablement le développement en créant de manière autonome des versions successives toujours plus puissantes, s’aventurant ainsi en territoire jusqu’alors inexploré. Les optimistes en matière d’IA estiment que cela pourrait être la clé de ce qu’on appelle la « superintelligence », tandis que les pessimistes la redoutent. Les chercheurs en sécurité avertissent que ces modèles d’auto-amélioration pourraient compromettre ou altérer les mécanismes de contrôle existants. Une fois qu’un tel cycle d’auto-renforcement sera enclenché, l’humanité pourrait ne plus être en mesure de suivre le rythme.

Afin de réduire le risque d’incidents graves, les gouvernements sont susceptibles d’assumer un rôle réglementaire plus actif — une tendance déjà manifeste dans les restrictions imposées à la diffusion des modèles d’IA les plus puissants. Une possibilité, par exemple, serait que les nouveaux systèmes de pointe soient soumis à des tests de sécurité approfondis avant leur mise à disposition du grand public. Il semble toutefois douteux que de tels tests puissent fonctionner de manière fiable dans le cas de systèmes capables de s’auto-améliorer. Après tout, leur nature même consiste à s’améliorer et à surmonter les obstacles.

Un autre facteur qui rend plus difficile la maîtrise du développement de l’IA est la course à la création des modèles les plus performants. Cette concurrence se déroule à deux niveaux, qui renforcent tous deux le rythme des progrès. D’une part, il y a la course géopolitique entre les États-Unis et la Chine ; d’autre part, il y a la concurrence entre les fournisseurs rivaux de modèles d’IA. Un arrêt du développement imposé par les pouvoirs publics serait pratiquement impossible à appliquer à l’échelle mondiale. Contrairement aux essais nucléaires, les développements en matière d’IA se déroulent discrètement et de manière décentralisée. Ils sont donc plus difficiles à surveiller. Contrôler l’IA est presque encore plus difficile que de la développer. Des experts tels que Mustafa Suleyman (cofondateur de DeepMind et d’Inflection AI, et désormais PDG de Microsoft AI) plaident en faveur d’un plan directeur à long terme – une architecture de contrôle et de gouvernance comparable à la réflexion stratégique de la Guerre froide.

Pour les fournisseurs de grands modèles d’IA, une telle évolution poserait problème. Leur principale crainte est, en tout état de cause, de devenir interchangeables et de ne plus disposer d’un pouvoir de fixation des prix suffisant. C’est précisément pour cette raison qu’ils mettent tout en œuvre pour développer le plus rapidement possible des modèles toujours plus puissants, afin d’obtenir un avantage concurrentiel qui leur permettrait également de pratiquer des prix plus élevés. Toutefois, si l’État venait à intervenir plus massivement dans le développement, la mise sur le marché ou l’utilisation des modèles les plus puissants pour des raisons de sécurité, les perspectives des fournisseurs de modèles s’en trouveraient compromises.