Livre

Entreprises, travail - Recherche, sciences, techniques

Remplacer l’humain. Critique de l’automatisation de la société

Par

Remplacer l’humain. Critique de l’automatisation de la société
CARR Nicholas , « Remplacer l’humain. Critique de l’automatisation de la société », L'Échappée, 2017.

On pourrait résumer de façon à peine abusive le livre de Nicholas Carr par la formule « jusqu’où ne pas aller trop loin en matière d’automatisation ? » Ce serait cependant faire peu de cas de l’analyse fouillée qu’il nous propose, ancrant le phénomène dans le développement du machinisme et multipliant les références à Adam Smith, au luddisme, à Karl Marx, à John M. Keynes ou à Jeremy Rifkin. En multipliant aussi les exemples sur les formes successives qu’a prises cette automatisation au fil des années, sur les progrès qu’elle a apportés, mais aussi sur les limites auxquelles elle confronte le genre humain. On peut en citer deux principales touchant toutes deux à une modification de nos capacités cognitives :

— Les grandes difficultés qu’éprouve un opérateur à reprendre dans des conditions satisfaisantes le contrôle d’un processus en cas de défaillance de l’automatisme de la machine, y compris s’il s’agit pour lui d’effectuer à nouveau des tâches qui lui étaient naguère familières ; d’ailleurs, dans le pilotage d’un avion, par exemple, cette éventualité est non seulement prévue mais fait l’objet d’un entraînement spécifique.

— L’incapacité pour l’esprit humain de transformer l’information recueillie en connaissance puis en savoir-faire si le processus ne s’accompagne pas d’un rôle d’opérateur actif plutôt que d’observateur passif, rôle auquel il est trop souvent cantonné quand il utilise un logiciel ou une machine automatisée.

En outre, souvent l’homme abdique tout sens critique face à des données fournies par la machine, remettant plus facilement en cause des constatations pourtant objectives plutôt que de questionner le caractère fallacieux de la « sortie machine ».

L’auteur consacre aussi un assez long développement autour de la phrase de George Dyson : « Et si le prix à payer des machines qui pensent était celui de gens qui ne pensent pas ? » Il décrit un schéma d’évolution qui voit tout d’abord le travailleur confronté au fil des siècles à l’utilisation d’un outillage manuel plus sophistiqué, qui complique sa tâche mais la rend aussi plus riche et lui permet de développer des savoirs personnels (souvent mutualisés). La pénibilité peut diminuer ensuite avec une certaine automatisation de la production, mais ce sera rapidement au détriment de la compétence concrète et de la part de responsabilité dans l’élaboration du produit. Et cette pénibilité réapparaît ensuite sous d’autres formes (d’inspiration généralement taylorienne) quand la nécessité d’augmenter la productivité se fait jour. Ce processus est valable aussi bien pour le travailleur manuel que pour le travailleur intellectuel, même si, bien sûr, les modalités d’application ne sont pas superposables compte tenu des différences entre les produits de sortie. À terme, le niveau de compétence du travailleur régresse inévitablement.

La logique s’inverse : ce n’est plus la machine qui apporte une aide à l’homme, c’est désormais le travailleur qui recueille des données qui seront exploitées par la machine. Nicholas Carr décrit un futur dans lequel un médecin jouera le rôle de « capteur humain » qui collecte des données de santé dont l’analyse est effectuée par un logiciel qui pose un diagnostic et propose un traitement. On peut se demander si, avec le développement des objets connectés, en se plaçant dans la logique de l’auteur du livre, il n’est pas encore un peu trop optimiste s’agissant du rôle dévolu au médecin…

On terminera cette recension forcément très incomplète par le questionnement de l’auteur sur la réversibilité possible des phénomènes entraînés par cette automatisation, voire sur la possibilité qui reste à l’homme de contrôler son développement. En reprenant les travaux de Bruno Latour sur l’invisibilité d’une technologie familière et sur le pouvoir qu’elle acquiert petit à petit sur nous en nous imposant ses contraintes à notre insu, l’auteur s’inquiète d’un dévoiement possible. Est-ce vraiment une demande qui nous est propre que nous formulons quand nous achetons un produit ou nous engageons dans une démarche personnelle ; ou est-elle déterminée en dernière instance par l’environnement technologique qui nous est devenu tellement familier que nous ne le voyons plus, pas plus que nous ne discernons l’influence qu’une autre entité (État, GAFAM [1], intelligence artificielle…) a délibérément ou non instillée ? En d’autres termes, voulons-nous la satisfaction de nos envies ou celle d’un formatage extérieur ?

L’auteur termine par un éloge du travail (au demeurant pas très éloigné de l’éloge du carburateur dans le livre éponyme de Matthew Crawford [2]), seul garant selon lui de la possibilité d’être et de se comporter comme un être humain plutôt que comme un mutant…

On permettra à l’auteur de cette recension une remarque finale. Si le livre de Nicholas Carr est brillant, bien documenté et revendique à juste titre une fonction de lancement d’alerte, il pèche probablement un peu par son caractère trop général et désincarné quant aux acteurs : de la même façon que nous ne sommes pas tous égaux devant la technologie, l’automatisation n’implique pas forcément les mêmes contraintes pour tous ceux qui y sont confrontés. Le caractère assez général du propos nuit sans doute un peu à la compréhension de certains rapports de production au sein de la société automatisée. Nous avons peut-être tous à perdre à un contrôle insuffisant, il serait illusoire de penser que nous gagnerons tous forcément à l’amélioration de ce contrôle.



[1] Google Apple Facebook Amazon Microsoft.

[2]Crawford Matthew B., Éloge du carburateur. Essai sur le sens et la valeur du travail, Paris : La Découverte, 2010.