Un appel à la pause dans le développement de l’intelligence artificielle

Plus précisément, ces signataires invoquent les menaces sur nos canaux d’information, victimes potentielles d’une submersion par des infox accompagnées d’images fabriquées à l’envi, et sur les dangers pour des millions d’emplois potentiellement remplacés par des machines capables de les prendre en charge. Au-delà et selon ses auteurs qui se réfèrent probablement à la « singularité ^[2] », la multiplication des systèmes dotés de capacités intellectuelles dépassant en nombre et en performance tous les cerveaux humains présenterait un risque de perte de contrôle de notre civilisation. Ils considèrent important de procéder à une évaluation indépendante avant d’entraîner de futurs systèmes et de limiter le rythme de croissance du calcul utilisé pour créer de nouveaux modèles.

Cette lettre est écrite à un moment où une nouvelle génération d’IA est sortie des laboratoires. Ce sont des systèmes d’IA génératives (SIAG) dont les plus connus sont ChatGPT pour les agents conversationnels, DALL-E et Midjourney pour les images, ainsi que GitHub Copilot pour les algorithmes. Ces applications et leurs concurrents se diffusent rapidement grâce au dynamisme de la demande et à l’ampleur des usages possibles. Il y aurait donc urgence à réfléchir maintenant aux conséquences de la diffusion de ces « esprits numériques que personne — pas même leurs créateurs — ne peut comprendre, prévoir, ou contrôler de manière fiable ^[3] ». Et la lettre propose de mettre en pause pour au moins six mois l’entraînement des systèmes plus puissants que ChatGPT-4. La lettre n’a pas suscité de réponse directe. Néanmoins, le 4 mai 2023, le président Biden a rencontré les principaux leaders de l’IA et a fait appel à leur sens des responsabilités.

D’autre part, de nombreux secteurs importants et directement touchés, comme l’information, les médias, la recherche, l’enseignement et, bien sûr, le développement des applications informatiques se sentent bousculés par ces nouveaux assistants et s’interrogent sur leur avenir. Plus fondamentalement encore, une inquiétude particulière se manifeste autour d’une mise en extériorité du savoir par rapport au sachant ^[5]. Avec elles, c’est une ère de production industrielle de connaissances par les machines qui s’ouvre. Alors, deux questions se posent : comment distinguer le vrai du faux dans cette production ? Et quelle est la légitimité de ces savoirs ? Or, il est avéré que ces connaissances peuvent être porteuses de biais, erronées ou simplement « approximativement correctes » compte tenu du caractère probabiliste de leur élaboration. Pourtant, elles seront opératoires et massivement disséminées par des processus marchands. Compte tenu des relations entre savoirs et pouvoirs, elles semblent bien susceptibles de provoquer de véritables séismes dans nos sociétés.

Pour les pessimistes qui pensent que nous sommes face à des technologies qui mettent en cause les fondements de nos sociétés, cette lettre renvoie au dilemme de Robert Oppenheimer face au feu nucléaire. Elle constituerait aussi une timide tentative de la part des créateurs de ces systèmes pour se dédouaner de leurs responsabilités, mais elle aurait le mérite de poser la question de leur gouvernance avec une autorité indéniable.

Enfin, plus prosaïquement, on peut aussi penser que l’ampleur des risques légaux et financiers liés à la commercialisation de ces systèmes inquièterait leurs promoteurs qui y consacrent des investissements importants. Il serait logique qu’ils souhaitent un encadrement légal de ces activités pour leur permettre de prospérer dans un environnement propice. Ce faisant, ils pourraient espérer ouvrir une période de « législation en attente », véritable parapluie juridique pour la poursuite des développements en cours, et ils se seraient positionnés dans les débats à venir sur l’élaboration de ces règles. Quoi qu’il en soit, il y aurait sans doute un véritable intérêt à saisir ce moment d’incertitude pour engager une réflexion sur la gouvernance de ces systèmes compte tenu du rôle qu’ils sont appelés à jouer dans les années à venir.