Un centre pour surveiller les robots et prévenir leur révolte

Le CSER est un centre dont la mission est d’observer l’évolution des technologies et surtout de lorgner si ces dernières ne pourraient pas un jour distancer l’homme en devenant plus intelligentes. Il doit normalement ouvrir en 2013.
"Quelque chose de totalement nouveau est apparu durant ces cinq dernières années : la technologie remplace la religion." [1] Cette phrase d'Eric Horvitz, huile de chez Microsoft, a été prononcée lors d'une rencontre entre plusieurs scientifiques à propos des possibles dérives de la robotique. C'était à Asilomar, en Californie, en 2009. Elle trouve un écho aujourd'hui en Angleterre où des universitaires et un ingénieur [2] veulent créer le Center for the Study of Existential Risk (centre d'étude du risque existentiel) au sein de l'université de Cambridge.
LE CSER doit normalement ouvrir ses portes dans le courant de l'année 2013. Son but, servir d'observatoire pour anticiper et éviter à l'humanité des scénarios futuristes cauchemardesques. A les entendre, la réalité pourrait rejoindre la fiction avec comme modèle des blockbuster tels que Terminator, I Robot et Matrix. Ils redoutent de voir l'homme être dépassé par des machines devenues plus intelligentes. On peut d'ailleurs lire sur le site du CSER que "beaucoup de scientifiques sont préoccupés par le fait que les développements dans les technologies humaines pourraient bientôt poser de nouveaux risques allant jusqu'à l'extinction de notre espèce en tant que telle."
Au menu des réjouissances, on retrouve le péril de la révolte des robots, la fameuse "Robopocalypse". La révolution de l'Intelligence Artificielle et des Nanotechnologies sont aussi dans le collimateur. Le concept de la Singularité technologique défendu par le futurologue Ray Kurzweil est également sérieusement envisagé par le CSER qui pense qu'elle se produirait d'après "certains indices vers le milieu (...)

Il ne faut pas oublier les trois lois de la robotique !

Et puis, c'est bien joli de surveiller les machines automatisées, mais il faudrait aussi surveiller ceux qui les utilisent et, surtout, ceux qui utilisent des équipements, machines, logiciels, etc... pas automatisés, genre le gros bouton rouge qui sert à faire décoller les têtes nucléaires (voilà, c'était la minute "Philosophie de comptoir de 22 heures après 3 ou 4 apéros").

Many scientists are concerned that developments in human technology may soon pose new, extinction-level risks to our species as a whole. Such dangers have been suggested from progress in AI, from developments in biotechnology and artificial life, from nanotechnology, and from possible extreme effects of anthropogenic climate change. The seriousness of these risks is difficult to assess, but that in itself seems a cause for concern, given how much is at stake. (For a brief introduction to the issues in the case of AI, with links to further reading, see this recent online article by Huw Price and Jaan Tallinn.)

The Cambridge Project for Existential Risk — a joint initiative between a philosopher, a scientist, and a software entrepreneur — begins with the conviction that these issues require a great deal more scientific investigation than they presently receive. Our aim is to establish within the University of Cambridge a multidisciplinary research centre dedicated to the study and mitigation of risks of this kind. We are convinced that there is nowhere on the planet better suited to house such a centre. Our goal is to steer a small fraction of Cambridge's great intellectual resources, and of the reputation built on its past and present scientific pre-eminence, to the task of ensuring that our own species has a long-term future. (In the process, we hope to make it a little more certain that we humans will be around to celebrate the University's own millennium, now less than two centuries hence.)

Penser que les robots peuvent prendre conscience d'eux même et se révolter, et ainsi devenir indépendant de l'homme, etc..., c'est juste de l'animisme primaire...

Après effectivement, surveiller le développement des machines, peu importe leur but initial, c'est peut être un moyen d'éviter de future défiance (accidentelle ou non, causé par l'utilisation ou la négligence de l'homme et non des machines qui restent des outils) du style aux bombes atomiques ou aux nucléaires