La récente sortie en salle de « Ghost in the shell » – l’adaptation du célèbre manga du même nom – replace au cœur du débat la question des possibles conséquences d’un monde où l'homme et la machine seraient intrinsèquement liés.
En effet, la quatrième révolution industrielle, portée par l’intelligence artificielle (IA), est en marche. Son émergence et son utilisation ont fortement agité le monde ces dernières années, notamment dans l’espace BtoC, générant des questions d’ordre éthique aussi passionnantes que fondamentales. On se souvient tous en mai 2016, de cet accident de voiture impliquant une Tesla et un camion. Très vite le système d’autopilotage de la Tesla avait été mis en cause. La question de la fiabilité de l’intelligence artificielle derrière la voiture s’est alors posée. Dix mois plus tard, ce système semi-autonome a été reconnu innocent aux yeux du monde, tel un humain auquel on aurait fait procès. La légitimité humaine des ordinateurs intelligents est bien LA question qui entoure l’IA et ce même au sein de l’entreprise. En effet depuis de nombreuses années, l’environnement corporate n’est pas épargné par le développement d’applications intelligentes. Comme dans un film de science-fiction (tel que « Ghost in the shell »), on se demande même aujourd’hui si l’intelligence artificielle pourrait à terme prendre le pas sur l’intelligence humaine dans les processus de prise de décision. Mais est-ce la bonne question à se poser ? L’interaction entre l’IA et l’humain ne devrait-elle pas être l’élément sur lequel il est nécessaire de se focaliser dans un premier temps ?
Des risques à prendre en considération
Particuliers comme entreprises utilisent de plus en plus l’intelligence artificielle pour faciliter et automatiser la prise de décision. Mais comme dans toute nouveauté « non maitrisée » il y a un certain nombre de risques liés au développement de ces applications intelligentes à prendre en compte.
Le premier risque est celui du contrôle par un nombre limité de personnes ou d’entreprises. Les années 2000 ont vu émerger des organisations techniquement agiles, telles que Google ou Amazon. Toujours présentes dans l’espace technologique d’aujourd’hui, elles pourraient développer les applications intelligentes du futur ou même racheter facilement de nombreuses startups spécialisées dans l’IA (c’est le cas aujourd’hui avec Google notamment), signifiant le monopole de l’évolution technologique par un nombre limité d’entreprises.
Avec l’intelligence artificielle c’est aussi toute une frange de la population qui pourrait devenir « esclave » de l’ordinateur. Imaginez une entreprise dans laquelle les processus de ventes ou de marketing seraient contrôlés par l’ordinateur et où les collaborateurs seraient de simples exécutants ne pouvant faire appel à leur capacité de réflexion et de prise de recul. Comment retenir et valoriser des employés réduits à de simples rôles de “pousse-boutons” ? Notre futur est-il celui d’un monde où les travailleurs sont devenus de simples robots ?
Notre futur est-il celui d’un monde où l’objectif moral serait aux mains d’ordinateurs ? Où se trouve la moralité d’une voiture automatique prenant des décisions seules ? Quelle décision une voiture pourrait prendre dans le cas où elle ne soit pas à même de s’arrêter alors que dix personnes passeraient sur un passage piéton ? Doit-elle préférer écraser un passant sur le trottoir ou s’encastrer dans un mur pour épargner les piétons, mais en tuant son conducteur ? Qui faut-il sauver ? Est-ce bien une question à laquelle un ordinateur pourrait répondre de la même manière qu’un être humain doté d’une morale ?
Des patterns à développer pour éviter les menaces
Quand l’intelligence artificielle est évoquée en entreprise c’est donc bien le rôle de l’utilisateur et la question du design UX qu’il faut prendre en considération. Un certain nombre de modes de fonctionnement doivent être implémentés de manière à faciliter les interactions entre humains et applications intelligentes.
- Repérer les tendances : Laisser l’IA déterminer automatiquement les tendances en inspectant les données, tout en laissant l’interprétation de la tendance finale à l’être humain. L’IA devient alors un déclencheur d’alertes. C’est le cas des applications de monitoring media où l’ordinateur exécute le travail préparatoire pour les êtres humains ou encore des applications permettant d’envoyer des signaux détectant la fraude. Toute anomalie est ainsi identifiée par l’IA, puis évaluée par les humains qui pourront agir en conséquence et prendre les meilleures décisions.
- Définir un objectif business : Un ordinateur ne peut pas être le seul décisionnaire en entreprise et certainement pas celui à même de définir les objectifs de cette dernière. Une fois l’objectif défini par les êtres humains, les solutions proposées par l’ordinateur (définition des priorités, planning, etc.) ne seront que des outils pour l’atteindre.
- Aider à la prise de décision : L’apparition d’applications générant et envoyant des contenus automatisés (chatbots, choix de stratégie, etc.) laisse aussi entrevoir une forme de collaboration entre machine et humain, où les deux se renforcent mutuellement.
Avec l’émergence de l’IA c’est en fait une nouvelle discipline qui s’est créée, chargée d’optimiser l’interaction entre ordinateur intelligent et être humain. L’IA, quand elle est utilisée de manière judicieuse, n’est pas un monstre sorti du placard mais plutôt un outil supplémentaire pour faciliter le quotidien et simplifier la prise de décisions en entreprise. Car après tout, un ordinateur ne sera jamais à même de remplacer un être humain capable de prendre du recul, juger, regarder de loin les tendances à plusieurs niveaux, valider et s’engager. Et c’est sans doute pour cela que dans les années à venir, les entreprises auront en leur sein des IA experience designers chargés de faire cohabiter ces deux mondes.