Comment éviter l’extinction de l’espèce humaine ? Jusqu’où peut-on aller dans l’intelligence artificielle ? C’est à ces questions que tenteront de répondre les experts du Centre pour l’étude des risques existentiels (CSER, Centre for the Study of Existential Risk)1. Ce centre a été créé au sein de l’université de Cambridge à l’initiative d’un professeur de philosophie et de deux ingénieurs. Il sera chargé d’étudier les technologies susceptibles de menacer l’espèce humaine, qui pourraient conduire à son extinction. Les domaines d’étude sont vastes : biotechnologies, intelligence artificielle, nanotechnologies… en clair, toute technologie humaine capable d’échapper, un jour, au contrôle humain.
L’idée est d’envisager des événements ayant une faible probabilité d’occurrence mais dont les conséquences pourraient être désastreuses pour l’espèce humaine.
Cette initiative s’inscrit dans les questionnements que suscitent actuellement les robots intelligents. En effet, de plus en plus de domaines sont touchés par la robotisation et les études à ce sujets se multiplient : fin 2012, le PIPAME a publié un rapport sur le développement industriel futur de la robotique personnelle et de service en France 2, le programme Foresight du gouvernement britannique a récemment publié un rapport sur la finance assistée par ordinateur qui pourrait mettre fin au métier de trader (automatisation des transaction financière) 3, l’ONG Human Rights Watch a également publié un rapport sur les armes létales autonomes 4…
Martin Rees, l’un des fondateurs du centre, prévient que le progrès technologique aura atteint un niveau critique lorsque les ordinateurs seront capables de se programmer eux-mêmes sans intervention humaine. Selon lui, c’est un scénario à envisager, même s’il semble tout droit sorti d’un film de science-fiction.
Le CSER n’a pas encore fait ses preuves : aucun travail n’a pour l’instant été publié et le centre recherche des financements, mais le fait qu’il regroupe certains experts mondialement connus comme David Cleevely, directeur et fondateur du Centre for Science and Policy de Cambridge, et Hermann Hauser, entrepreneur et cofondateur de Amadeus Capital Partners, pourrait intéresser de nombreux investisseurs.
Source : HEINTZ Maggy, « Création d’un centre pour l’étude des risques existentiels », Bulletin électronique Royaume-Uni, n° 119, ADIT (Agence pour la diffusion de l’information technologique), 24 janvier 2013. URL : http://www.bulletins-electroniques.com/actualites/72062.htm
2 PIPAME (Pôle interministériel de prospective et d’anticipation des mutations économiques), Le Développement industriel futur de la robotique personnelle et de service en France, Paris : PIPAME, 2012. URL : www.industrie.gouv.fr/p3e/etudes-prospec tives/robotique
3 Foresight, The Future of Computer Trading in Financial Markets, An International Perspective, Londres : Foresight Program, The Government for Office Science, 2012. URL : http://www.bis.gov.uk/foresight/our-work/projects/current-projects/computer-trading
4 HRW (Human Rights Watch, Loosing Humanity), The Case against Killer Robots, New York : HRW, 2012. URL : http://www.hrw.org/reports/2012/11/19/losing-humanity-0
