Livre

Recherche, sciences, techniques - Société, modes de vie

Le Mythe de la singularité. Faut-il craindre l’intelligence artificielle ?

Par

Le Mythe de la singularité. Faut-il craindre l’intelligence artificielle ?
GANASCIA Jean-Gabriel , « Le Mythe de la singularité. Faut-il craindre l’intelligence artificielle ? », Seuil, 2017.

Des chercheurs et des capitaines d’industrie de renom (le cosmologiste Stephen Hawking et l’industriel Elon Musk notamment) se sont alarmés des risques que ferait courir à l’homme sa transformation radicale par l’intelligence artificielle. Jean-Gabriel Ganascia, un spécialiste reconnu de cette discipline, s’attaque dans ce livre à ce qu’il considère être un mythe.

L’auteur explore, dans les huit chapitres de son livre, le cheminement intellectuel qui a conduit des scientifiques et des ingénieurs réputés à prophétiser l’avènement d’une bifurcation de l’Histoire, la « singularité technologique », au-delà de laquelle la machine prendrait la commande de l’espèce humaine — ce concept fleurissait, dans les années 1980, dans des scénarios de science-fiction. Ceux-ci sont convaincus que l’alliance des technologies de l’information, l’intelligence artificielle notamment, avec les nanosciences et les neurosciences transformera profondément le cerveau humain en l’hybridant avec des machines qui en prendront le contrôle. Leur légitimité intellectuelle conduit Jean-Gabriel Ganascia à discuter le fondement scientifique de leurs prophéties. Ils font l’hypothèse que les technologies de l’information et la puissance de calcul des ordinateurs progressent en suivant la loi empirique de Moore (le nombre de puces électroniques sur un microprocesseur doublerait tous les deux ans) et permettraient une auto-amélioration des machines. Au-delà d’un point de non-retour, « la » singularité technologique, leurs performances dépasseraient celles du cerveau humain. Des scientifiques, des ingénieurs et des philosophes ont adopté ce concept, n’hésitant pas à passer de la science-fiction à la science. Leurs « prévisions » de la date d’avènement de cette singularité vont bon train et Time osait titrer sa une du 21 février 2011 : « 2045 l’année où l’homme devient immortel [1] » !

La notion de singularité est empruntée aux mathématiques et à la théorie des catastrophes (des anomalies de figures géométriques) appliquée à la physique des changements d’état (sans grand succès il est vrai) et à l’astrophysique. L’auteur explique, dans son troisième chapitre, que la loi de Moore est le cheval de bataille des défenseurs de la singularité car, comme le spécialiste de robotique Raymond Kurzweil, ils n’hésitent pas à la généraliser à l’ensemble de l’évolution de l’humanité depuis le Big Bang jusqu’à une étape finale, la sixième, celle de la substitution de l’intelligence humaine par la technologie, chacune étant parcourue à une vitesse exponentielle. L’auteur conteste cette approche car des lois comme celle de Moore dépendent des conditions d’observation de phénomènes (une performance technique) et ne sont pas reproductibles, aucun modèle ne permettant de prévoir le développement des techniques ; et par ailleurs, on ne peut affirmer que la nature évolue à un rythme exponentiel. Qui plus est, la loi de Moore ne s’applique plus en informatique, elle est en passe d’atteindre une limite matérielle.

Jean-Gabriel Ganascia conteste l’affirmation selon laquelle les machines pourraient s’autoreproduire et il rappelle qu’Alan Turing, un des pères de l’informatique, avait conditionné la capacité d’une machine à simuler la pensée à la possibilité qu’elle acquière un grand nombre de connaissances, sur le monde et la société, et qu’elle sache les traiter. Il n’est pas douteux que les techniques d’apprentissage des machines ont fortement progressé avec l’intelligence artificielle — un concept introduit en 1955 — mais les systèmes n’ont pas acquis pour autant une pleine autonomie car, fonctionnant dans un cadre fixé de l’extérieur, ils n’ont pas la capacité d’en inventer de nouveaux. Autrement dit, la possibilité de réaliser une intelligence artificielle totale conduisant à une autonomisation des machines n’a pas été démontrée. Les affirmations des prophètes de la singularité technologique s’apparentent à une gnose : la croyance quasi religieuse en l’avènement d’un temps où la machine dégagerait le corps humain des contingences biologiques et vivrait une existence autonome. Le futur n’aurait plus besoin de nous et l’humanité entrerait dans la véritable postmodernité ; l’homme serait remplacé par la machine et, éventuellement, accéderait à l’immortalité.

Ces prophètes envisagent une évolution de la technique qui annihilerait la possibilité pour l’homme d’avoir une influence sur son destin, une négation de l’humanisme, tout en imaginant une intelligence artificielle amicale qui le protégerait sans éviter la rupture technologique. Jean-Gabriel Ganascia déplore que des scientifiques et des ingénieurs de renom n’hésitent pas à jouer ainsi les marchands de catastrophes, en popularisant des scénarios sans fondement scientifique. Quelles sont les motivations de ces prophètes, dont bon nombre travaillent dans les GAFA (Google, Apple, Facebook, Amazon), voire les dirigent, s’interroge alors l’auteur ? Il fait trois hypothèses. Exaltés par les prouesses des techniques, leur hubris n’aurait plus de limites, mais ayant une vague inquiétude sur l’avenir, ils se comporteraient en pompiers pyromanes. Il en formule une deuxième : ils feraient preuve d’humilité car, préoccupés par la stratégie des entreprises, ils s’interrogent sur les attentes de leurs clients ainsi que sur l’évolution des techniques, sans se l’avouer, dans un contexte de forte concurrence où elles ont beaucoup à perdre. L’auteur ne la retient pas et en privilégie une troisième : les tenants de ce récit, enrobé de science-fiction, affirment que l’intelligence artificielle va permettre l’autonomisation des techniques mais, conscients des risques et bienveillants, ils alertent l’opinion en affirmant qu’ils peuvent y parer. Leurs discours seraient une publicité pour les entreprises gravitant autour du Web, tempérée par la charité des bons samaritains de la technologie.

Le lecteur lira avec grand intérêt ce démontage scientifique du mythe de la singularité technologique, dont le transhumanisme est un clone, l’auteur montrant qu’il n’a aucune base scientifique. L’auteur souligne que, derrière ce mythe, se cachent des questions éthiques (peut-on faire fi de tout l’héritage humaniste ?), sociales et politiques de fond. Il tire aussi la sonnette d’alarme : les grandes entreprises multinationales développant les nouvelles techniques de l’information et manipulant un nombre croissant de données de toute nature sont des nouveaux lieux de pouvoir, face auxquels les États risquent d’être démunis, car leur autorité est battue en brèche. Ces questions sont bien posées et il est urgent d’y répondre.



[1] « 2045: The Year Man Becomes Immortal », Time, 21 février 2011.