L’intelligence artificielle : Le soulèvement des machines ?

Il y a un peu moins de 25 ans, il fallait encore mettre un timbre sur une enveloppe et la déposer dans une boite aux lettres pour envoyer un courrier. Pour téléphoner, il fallait être soit chez soi, soit au bureau, et pour passer un appel urgent entre son domicile et son lieu de travail, il fallait s’arrêter dans une cabine téléphonique. Pour acheter de la musique, il fallait se rendre dans un magasin de disques. Dans les banques et les sociétés d’investissement, les analystes devaient se plonger dans des piles de documents pendant des heures et vérifier des dizaines de sources d'information avant de prendre leurs décisions, en espérant n’avoir rien raté qui pourrait induire des pertes et coûter une fortune.

Grâce à l’informatique, tout ceci appartient au passé et il nous est difficile d’imaginer passer une seule journée sans utiliser un smartphone. Aujourd’hui, même les voitures se conduisent toutes seules, tout comme les avions. Tout ceci est bien sûr rendu possible grâce à la saisie de données par des humains. C’est également le cas dans le secteur financier où l’intelligence artificielle fait des progrès rapides dans le domaine de l’investissement.

Anders Kirkeby

Il semble donc logique que la prochaine étape soit la capacité pour les machines de penser par elles-mêmes et de prendre des décisions en conséquence dans toutes les sphères de la vie en société. Faut-il s’en réjouir ou en avoir peur ? Les machines vont-elles nous dire bientôt où et comment investir, ou vont-elles tout simplement le faire toutes seules ? Les experts SimCorp se penchent sur ces implications.

Nous n’en sommes qu’aux balbutiements de l’intelligence artificielle mais les progrès dans ce domaine sont considérables. « Actuellement, seuls quelques fonds spéculatifs quantitatifs et quelques nouveaux produits encore aux stades préliminaires de développement utilisent l’intelligence artificielle, » explique Anders Kirkeby, Vice-President Enterprise Architecture chez SimCorp. « Avant que cette technologie ne soit pas simplement largement utilisée mais devienne la technologie dominante sur le marché, elle doit apporter la preuve de sa supériorité en termes de performances et de rendements. Il faudra encore attendre deux à trois ans avant que l’intelligence artificielle ne soit considérée comme une vraie option sur le marché. Il faudra probablement patienter quatre à six ans avant qu’elle ne soit couramment choisie, et environ dix ans avant que ce ne soit la technologie dominante, à condition que les dynamiques des marchés ne changent pas radicalement, plaçant alors l’intelligence artificielle dans une position moins favorable. »

Comme pour toutes les avancées technologiques, il y aura inévitablement des avantages et des inconvénients liés à l’intelligence artificielle. « La technologie de la science des données offre la possibilité d’analyser de très grands ensembles de données de façon répétée tout en analysant bien plus d’aspects que les humains n’en ont le courage, » continue Kirkeby. « De surcroît, l’intelligence artificielle permet de détecter des tendances et des corrélations intéressantes que les analystes humains n’auraient pas repérées, que ce soit parce qu’il leur aurait fallu trop de temps pour le faire, ou à cause de leurs différents biais. Mais l’intelligence artificielle ne peut être pas être meilleure que ceux qui la conçoivent. Il est également facile de trouver des corrélations sans causalité. Un jour, l’intelligence artificielle sera tellement capable d'interagir avec le monde des humains qu'elle aura plus ou moins accès à toutes les informations auxquelles les humains ont eux-mêmes accès. Mais nous n’en sommes pas encore là, les concepteurs des intelligences artificielles doivent donc rester humbles face aux limites de leurs conceptions. En outre, il y a toujours la possibilité de voir apparaitre un comportement grégaire qui provoquerait de nouveaux effondrements boursiers et une volatilité générale. »

Avec chaque innovation technologique vient une certaine appréhension, et il faut généralement un certain temps pour convaincre toutes les parties intéressées. « En règle générale, nos clients ne sont pas encore tout à fait convaincus. L’industrie de la gestion d’actifs est un secteur dans lequel la technologie prend une place importante, et ce depuis des décennies, mais elle reste aussi très conservatrice. Nous constatons parfois un certain intérêt, mais il reste au niveau de la question ‘de quoi s’agit-il, et devrais-je m’y intéresser ?’. »

Comme toujours, la question primordiale est de savoir si le taux de précision de l’intelligence artificielle par rapport à l’intelligence humaine peut être scientifiquement et correctement mesuré. Anders Kirkeby est catégorique : « Dans certaines niches spécifiques, la réponse serait clairement oui, l’intelligence artificielle peut de façon vérifiable surpasser les êtres humains lorsqu’il s’agit d’exécuter une tâche dont les résultats sont mesurés par un certain nombre d’indicateurs clairs, objectifs et quantifiables. »

Mais quelles sont les implications d’un point de vue légal ? Existe-t-il des obstacles juridiques à l’implémentation de l'intelligence artificielle par secteur, pays, région ? « Il n’en existe pas encore, mais nous en avons absolument besoin, » admet M. Kirkeby. « Dans la réalité, nous aurons probablement besoin de régulateurs qui utiliseront probablement eux-mêmes l’intelligence artificielle en vue de garantir la stabilité et l’équité des marchés. De nombreux doctorats doivent encore être accordés dans le domaine de l’éthique et du droit de l’intelligence artificielle. »

Les contraintes légales amènent inévitablement la question des obstacles juridiques liés à la responsabilité. Comment la mesurer ou la quantifier ? « Cela peut prendre encore quelques années avant que nous soyons prêts à envisager l’intelligence artificielle comme une personne légale ; l’intelligence artificielle ne peut donc pas être tenue responsable de quoi que ce soit, » indique Anders Kirkeby. « Ce sont les propriétaires ou « distributeurs » d’intelligence artificielle qui sont responsables. Ce qui fait en partie la nouveauté de l’intelligence artificielle, c’est sa complexité. Vous utilisez les machines pour effectuer une tâche qui s’avère de plus en plus complexe. Par conséquent, la façon dont la solution à cette tâche a été dérivée devient de plus en plus opaque, et il devient difficile pour ceux qui l’ont créée de se sentir responsables de la solution. »

« Les propriétaires et/ou vendeurs d'une solution fondée sur l’intelligence artificielle portent donc toutes les responsabilités directes ou inférée. Comment peuvent-ils être responsables alors que ce qui crée cette responsabilité devient de plus en plus opaque ? Il s’agit d’une des questions à laquelle mon équipe de recherche, SimCorp Technology Labs, et moi sommes confrontés. Nous pensons que nous pouvons offrir une valeur ajoutée à certains défis réels auxquels l’industrie buy-side est confrontée. En réalité, il est, à bien des égards, plus difficile de trouver des façons crédibles de chercher à rassurer les acteurs tout en restant simples et éventuellement en assurant la protection de certains droits de propriété intellectuelle. « Dans ce domaine, nous nous attendons à voir apparaitre de nombreuses règlementations. Le comportement des investissements va être scruté à la loupe. Car on se trouve confronté à de nombreuses difficultés, avec comme exemple évident celui des voitures sans chauffeur. Un jour ou l’autre, la voiture devra choisir entre sauver son passager et sauver un étranger. »

Enfin, se pose la question de la sécurité et des tentatives de piratage toujours plus sophistiquées de la part d’entreprises, organisations et même des pays malveillants. Que peut-on donc faire pour éviter tout problème grave dans le domaine de l’intelligence artificielle, à une échelle locale, internationale, voire même mondiale ? « A ce stade, je m’inquiète principalement des actes de piratage qui cherchent délibérément et discrètement à modifier des données afin de provoquer certains comportements de la part d’une intelligence artificielle, » explique M. Kirkeby. « Les algorithmes peuvent être piratés mais je pense que nous sommes en mesure de relativement bien les sécuriser. Le vrai risque est que l’intelligence artificielle fonctionne comme attendu mais que les résultats soient tout de même faux car les données ont été manipulées avant d’atteindre l’intelligence artificielle. Dans le domaine de la gestion d’actifs, il n’existe pas de bonne excuse pour ne pas crypter les lignes, utiliser des certificats et, en règle générale, renforcer toutes les interfaces externes pour éviter aux données d’être manipulées que ce soit lorsqu’elles sont utilisées ou lorsqu’elles sont inutilisées. »

« Aujourd'hui, l’apprentissage automatique est le sujet le plus brûlant dans le domaine de l’informatique. Il touche également plusieurs autres disciplines. On parle d’intelligence artificielle depuis les années 1950 et le niveau d’optimisme a été fluctuant, » explique Anders Kirkeby. « Toutefois, nous avons aujourd’hui accès à des outils pratiques et faciles d’utilisation, ainsi qu’à une puissance de calcul presque infinie grâce au Cloud. De fait, nous en voyons enfin les applications concrètes et utiles, comme les voitures sans chauffeur. »

« Avec l’apprentissage artificiel, ‘l’apprentissage complet’ est probablement le domaine de croissance le plus récent et le plus rapide, » continue-t-il. « Cela signifie principalement que vous utilisez une série d’outils d’intelligence artificielle en chaîne ou selon une hiérarchie au sein de laquelle ils se nourrissent les uns des autres. « Cette approche par couche apporte une profondeur supplémentaire qui permet de repérer des motifs complexes au sein des données. Alphabet a fait des investissements massifs dans ce domaine. Il semble qu’ils soient convaincus par l’apprentissage non supervisé et qu’ils veuillent utiliser l’apprentissage complet pour éviter d’avoir à enseigner à leur intelligence artificielle d’agir de la façon la plus proche possible d’un humain. »

Cela nous mène à l’inévitable question : quand les machines sauront-elles penser par elles-mêmes ? Anders Kirkeby : « Pour répondre à cette question il nous faut une définition très claire de ce que signifie réellement penser par soi-même. Le test classique de Turing n’est pas vraiment une indication que l’ordinateur est capable de penser par lui-même. Nous pourrions tout à fait en conclure que l’ordinateur cesse d’avoir un but précis et qu’il choisit son propre but dans la vie. Ray Kurweil , qui a popularisé le concept de singularité, c’est à dire le point dans le temps à partir duquel les ordinateurs dépasseront la capacité totale d’intelligence combinée des humains sur Terre, prédit que cela devrait se produire aux alentours de 2045. Il me semble personnellement que cette idée est très intéressante mais qu’elle ne nous aide pas dans l’intervalle. Nous ne devons pas tant nous inquiéter du moment où les machines sauront penser par elles-mêmes mais plutôt nous concentrer sur la création d’intelligence artificielle à utiliser dans des cas qui soient utiles aux gens. Au fur et à mesure que nous perfectionnons ces systèmes, je m’attends à ce que nous atteignions un niveau auquel nous sommes en règle générale satisfaits du résultat mais où nous ne comprenons plus exactement pourquoi une intelligence artificielle se comporte ainsi. Pour moi, l’intelligence est un phénomène émergent qui pourrait se développer dans différents contextes mais toujours hors de réseaux complexes. »

Il y a soixante-quinze ans, le scientifique britannique Alan Turing inventa le prédécesseur de l'ordinateur moderne et craqua le code Enigma. Il ne savait pas qu’au début du 21ème siècle son invention serait de nouveau sur le point de révolutionner le monde dans presque chaque sphère de la société. La question qu’il s’est posé à l’époque, ‘Les machines peuvent-elles penser ?' pourrait très bientôt trouver une réponse. Jusqu'à ce moment-là, la communauté scientifique est à pied d'œuvre pour répondre à une autre réflexion connue de Turing : ‘Un ordinateur mériterait d’être qualifié d’intelligent s’il pouvait amener un humain à penser qu’il est humain.’

Alan Mathison Turing était un informaticien, mathématicien, logicien, cryptanalyste et biologiste théorique anglais.
Raymond "Ray" Kurzweil est un auteur, informaticien, inventeur et futuriste américain.