Quelle place pour l’Humain dans les solutions d’IA pour l’industrie ?

La conception d’un système d’IA en industrie doit, pour qu’il ait du sens, apporter une valeur ajoutée, qu’elle soit qualitative ou quantitative. Pour ce faire, le système d’IA va exploiter la donnée pour fournir aux hommes des informations susceptibles de les aider dans la prise de décision voire, dans certains cas, recommander des décisions optimisées. Alors se pose une question déterminante pour le succès du projet : où tracer la ligne entre ce que fait la Machine et ce qu’elle laisse à l’Humain ? Cette question, moins simple qu’il n’y parait, peut trouver une réponse technique, mais surtout méthodologique.

La toute puissance du calcul VS la sensibilité humaine

Dans bon nombre d’application industrielle de l’IA, telle que l’optimisation des tournées de livraison, il n’est pas rare de constater des gains colossaux sur le papier, entre les recommandations de la Machine et ce que des experts humains ont produit (des gains de 15 à 30% sont monnaie courante en optimisation de tournées). En face de ces gains potentiels, la tentation est grande de laisser à la machine la responsabilité totale de la décision, étant donné la supériorité évidente qu’elle a sur les experts (supériorité qui ne doit rien au hasard, la complexité calculatoire étant très forte, il n’y a rien d’étonnant à ce qu’un ordinateur puisse tester beaucoup plus de scénarios qu’un expert).

Pourtant, si l’on tente de remplacer totalement les Hommes par une IA, on réalise rapidement qu’il y a de nombreux aspects qui ne sont pas gérés par la machine, tels que :

  • La relation client : par exemple, en cas de forte demande, choisir quels clients il faudra décevoir et ceux qu’il faut privilégier, ainsi que toutes les habitudes que le client a prises et qu’il faut respecter pour maintenir une bonne relation
  • La gestion des hommes : par exemple, quand un chauffeur connait une période difficile ou qu’il est junior, lui permettre d’avoir des tournées moins chargées ou des horaires plus souples
  • La connaissance du terrain : par exemple, quand certains coins à livrer présentent souvent des niveaux de sécurité importants, qui augmentent le temps de livraison

Ces éléments ne sont pas anecdotiques : s’ils ne sont pas pris en compte la décision de la Machine n’est pas acceptable, et donc pas viable. La plupart des échecs d’implémentation d’IA « décisionnelle » dans ces cas là vient du fait que la complexité de la réalité est très difficile à intégrer dans les algorithmes. En effet, il y a énormément de subtilités, parfois contradictoires, qu’il faut gérer. 

C’est la force de l’Humain : il parvient à garder cette vue d’ensemble des enjeux autres que la seule productivité court terme pour garantir la pérennité de l’activité industrielle.

Ainsi, le dilemme se pose rapidement : que faut-il choisir entre d’une part les gains de performance importants que l’IA peut amener, de l’autre la gestion complexe des priorités multiples d’une Industrie que l’Homme gère au quotidien ?

 Et si la réponse était : les deux ?

La synergie Homme-Machine : le défi d’un partage équilibré et optimisé des tâches

La difficulté du sujet vient du fait qu’on cherche, in fine, à faire interagir deux façons de penser radicalement différentes. Sur l’exemple des tournées de livraison, là où un Homme, pour s’aider, va plutôt réaliser des tournées de base par arrondissement ou par code postal, la Machine va pouvoir s’affranchir de toutes les limites pour aller chercher tous les gains de performance possibles. Mais de fait, la Machine va ainsi produire des tournées qui paraîtront illisibles à l’expert, car elles ne semblent pas « logiques » de prime abord. Et de fait, la Machine n’a effectivement pas suivi la « logique » de l’expert, qui est en fait une méthode manuelle de construction de tournée destinée à produire un résultat correct.

Ce premier niveau de décalage entre l’Homme et la Machine est généralement inévitable si l’on souhaite capter les gains promis par l’IA. Mais on le voit ici : ces gains se traduisent par une perte de contrôle sur ce qui se passe, car la décision produire par l’IA n’est pas compréhensible.

 Le premier pas à faire est donc un pas de confiance, de l’expert vers la Machine. Mais en retour, l’IA doit permettre à l’Homme de regagner du contrôle sur ce qui se passe. C’est là qu’est le défi principal.

En effet, sans assistance de l’IA, l’Homme a un contrôle total sur sa décision. Au moins en apparence, car en réalité, sa capacité de calcul ne lui permet d’explorer que quelques possibilités, contre les millions que la Machine pourra traiter. Ce contrôle total se traduit donc en pratique par une manipulation manuelle, fastidieuse, de ses données afin de produire une décision. Si l’IA prend en charge cette partie « calcul », il est naturel de penser que l’Homme peut ainsi accéder à un contrôle de plus haut niveau, plus stratégique, sur la décision. Encore faut-il lui donner ces moyens de contrôle !

La décision augmentée : un processus itératif et concerté entre l’homme et la machine

Pour poser les choses, on peut donc considérer que l’Homme est en capacité de produire des décisions imparfaites mais complètes (au sens où elles englobent tous les aspects importants à considérer), alors que la Machine sait produire des décisions parfaites mais incomplètes. L’idée est donc de mettre en place un système itératif de suggestion – ajustement où la Machine produit une décision optimisée par le calcul, que l’expert humain examine et ajuste en fournissant des informations supplémentaires (contraintes, changements de données, etc) à la Machine qui revoie sa copie afin de refaire une suggestion, et ainsi de suite jusqu’à validation finale par l’Homme. C’est l’Homme qui a le dernier mot, car il est le seul à véritablement « savoir » si tout est bon. Dans le processus, la Machine aura mis ses formidables capacités de calcul pour lui suggérer des décisions optimisées à chaque étape.

C’est ce genre de système que nous mettons en place chez Kardinal, et c’est la raison pour laquelle nos algorithmes fonctionnent en continu : cela leur permet de faire, à chaque instant, la meilleure recommandation possible dans un contexte où l’expert humain l’abreuve d’ajustement en temps réel.

Bien évidemment, cela pose des problèmes techniques et théoriques forts car l’IA doit ici résoudre un problème de façon itérative, en étant asservie à l’homme, ce qui est très différent des problèmes théoriques étudiés en laboratoire. C’est pourtant l’une des clés des projets d’IA décisionnelle à avoir réussi leur implémentation.

The Author

Cédric Hervet, Head of Science @Kardinal

Cédric Hervet est docteur en Mathématiques Appliquées et co-fondateur de Kardinal. Depuis plus de 10 ans, il étudie et conçoit des systèmes d’Intelligence Artificielle pour des applications industrielles dans les secteurs des télécommunications, du marketing digital et du transport.

Sa double compétence en statistiques/Machine Learning ainsi qu’en algorithmie/Recherche Opérationnelle lui permet d’articuler ces deux grands ensembles de techniques pour concevoir les systèmes intelligents de demain.

Vous voulez en apprendre davantage ? Retrouvez les autres articles de notre dossier “Collaboration Humain-IA dans les solutions industrielles”

Partager