Quelque peu agacé par l’engouement actuel pour l’intelligence artificielle, présentée comme une grande nouveauté, je suis retourné voir ce qu’en disait il y a une quarantaine d’années l’un de ses grands promoteurs et annonciateurs, le prix Nobel d’économie 1978, Herbert Simon.
Simon a vécu à Pittsburg, à l’époque ville très centrée sur la métallurgie, et ses travaux en tant que professeur à l’université Carnegie Mellon ne se limitèrent pas à l’économie : il reçut aussi le prix Turing en informatique, et le prix de l’association américaine de psychologie. Son véritable champ de recherche était la prise de décision : comment décidons-nous de faire ceci plutôt que cela ?
La rationalité procédurale
Les économistes ont d’abord raisonné sur un être humain qu’on ne rencontre guère dans la rue, homo economicus, censé posséder toutes les informations requises pour faire rationnellement le meilleur choix possible de son point de vue, à savoir celui qui maximise son « utilité ». Bien sûr, trois questions se posaient : Madame Michu a-t-elle effectivement toutes les informations nécessaires ? Est-elle capable de les traiter ? Et sait-elle vraiment ce qui est bon pour elle ?
Les économistes n’étant pas tous ignorants des réalités, ils ont pour la plupart assez vite admis que nous sommes rarement en situation d’information parfaite, que nous commettons des erreurs de traitement de l’information, et que nous n’avons pas forcément une idée très claire de ce que nous attendons de la vie. Beaucoup de travaux ont donc été effectués pour rapprocher de la réalité le modèle homo economicus. La théorie des asymétries d’information tient compte par exemple du fait que, quand deux personnes signent un contrat, elles ne détiennent pas les mêmes informations : souvent l’employeur est un peu « short » sur les capacités réelles du candidat à tel poste, et le postulant sur ce qu’il aura exactement à faire. Mais il arrive aussi qu’un recruteur perspicace voit chez la personne en face de lui des potentialités dont celle-ci n’avait pas conscience.
Simon est devenu célèbre par son idée de rationalité procédurale, très simple dans son principe : nous adoptons un comportement qui, le plus souvent, selon notre expérience, conduit à un résultat acceptable. En somme, « le mieux est l’ennemi du bien », contentons-nous du bien. Et cette idée de rationalité procédurale conduit au recours à l’intelligence artificielle : dans certains domaines, la machine nous est supérieure ; elle peut constituer une aide à la décision, intéressante par sa capacité à effectuer rapidement des calculs et des recherches d’informations dans d’énormes bases de données. Ce n’est pas pour rien que les trois composants essentiels d’un système informatique sont le processeur, qui exécute les programmes ; la mémoire, qui est une première base de données ; et la connexion à internet, qui ouvre l’accès à de nombreuses autres sources d’information.
Intelligence artificielle et intelligence « tout court »
La capacité d’apprentissage des systèmes d’intelligence artificielle, dont on nous rebat aujourd’hui les oreilles, avait été parfaitement détectée par Herbert Simon, il y a déjà quatre décennies. En revanche, il était trop intelligent pour ne pas reconnaître en parallèle les rôles de l’intuition et de l’adaptation des préférences ou des objectifs.
Il avait fort bien vu que le problème numéro un, déjà à son époque, était l’extraordinaire abondance de l’information, l’incertitude et l’ambiguïté qui l’accompagnent souvent, et la difficulté inhérente au choix des informations pertinentes. Traiter beaucoup d’information peut être résolu par l’accroissement de la capacité de calcul des ordinateurs ; en revanche, il est très difficile de démêler dans le flot des informations celles qui sont à la fois fiables et pertinentes pour le problème que l’on veut résoudre. Il suffit de faire des recherches sur internet pour voir à quel point cela est vrai. Trouver les restaurants ouverts dans tel quartier n’est pas un problème ; en revanche, si vous vous intéressez aux comptes de l’Etat ou des organismes de sécurité sociale, l’avalanche de chiffres sous laquelle vous êtes immédiatement enseveli n’a d’égal que le manque de pertinence des données disponibles, souvent récoltées en utilisant des concepts inappropriés.
Une interview d’Herbert Simon par Alain Vernay publié dans Le Figaro du 21 mars 1981 (donc il y a 38 ans jour pour jour) témoigne cependant de l’enthousiasme naïf qui habitait ce grand économiste à propos de l’intelligence artificielle, comme elle habite aujourd’hui tant de nos contemporains. Le journaliste lui avait raconté l’histoire d’habitants de la Nouvelle-Guinée qui, durant la seconde guerre mondiale, voyant atterrir chez eux d’énormes avions ravitailleurs de l’armée américaine, s’étaient mis à rendre un culte à ces êtres fantastiques ; dans la foulée, il lui avait demandé « si la programmation des ordinateurs dans le but de leur faire faire des activités humaines à leur façon » n’allait pas produire des effets du même genre. La réponse de Simon avait été, selon Vernay : « L’homme s’est habitué à Copernic. Il s’est habitué à Darwin. Il lui faudra bien s’habituer à ce que l’ordinateur comprenne sa pensée et raisonne en termes de fins et de moyens à propos de n’importe quel problème exposé sous forme générale. »
Ne soyons pas adorateurs d’un veau d’or !
J’ai un immense respect pour Simon, et je pense qu’il avait entièrement raison de nous remettre les pieds sur terre en nous rappelant que « l’homme réel se borne à chercher des solutions satisfaisantes ». Mais je crois comme Alain Vernay que sa foi en l’intelligence artificielle est semblable à celle des Papous rendant un culte aux gros porteurs de l’US Army. Le fait que nombreux sont nos contemporains à partager cette adoration me parait regrettable, et même inquiétant. Le succès des ouvrages d’Hariri, Sapiens puis Homo Deus, est doublement instructif : primo, il montre que la conception de l’homme comme système de gestion de l’information capable d’évoluer et de se perfectionner en utilisant toutes sortes d’outils et de prothèses rencontre une large audience ; secundo, il nous montre combien nous sommes disposés à accepter cette conception dès lors que l’on nous fait miroiter la perspective d’un « homme augmenté ».
Nous devons nous servir des instruments numériques les plus sophistiqués, mais pas les adorer. Ce ne sont que des créatures. L’intelligence humaine, elle, est créatrice. S’agissant du jeu d’échec, la puissance de calcul des ordinateurs a pu les faire gagner face à l’intelligence des champions, mais cela prouve seulement ce que l’on peut apprendre de n’importe quel silex taillé par nos lointains ancêtres : l’homme est capable de renforcer ses capacités en créant des outils. L’homme augmenté existe depuis des millénaires. Et il est tenté d’adorer ce qui l’augmente. C’est une erreur. L’intelligence artificielle est notre créature, elle ne doit pas devenir notre veau d’or.