Robopocalypse de Daniel H. Wilson

[marie.m]

L'avis de Philippe Curval sur le site des 42.

[Hoêl]

Je l'ai fini la semaine dernière , ça se lit vite et facilement , pas grand chose de nouveau cela dit , les clins d'oeil et les références fourmillent , on s'attend à chaque coin de page à voir surgir Sarah Connor , à ce qu'Archos avoue que son 2ème prénom est Hal , etc... Quelques trucs gênants à la longue , les familles providentielles et leurs héros sans qui rien n'aurait pu être sauvé , l'anticipation systématique du chapeau sur la narration des chapitres suivants .

Enfin , une interrogation et une question (non , ce n'est pas la même chose) :

Je m'interroge sur la tendance à considérer quasi systématiquement l'avènement d'une I.A. comme la fin de l'humanité , sur quoi se fonde ce postulat ?

La question concerne la possibilité pour un système informatique de perdurer dans un environnement hautement radioactif (explosion d'une bombe A souterraine) .

[silramil]

Une dynamique narrative simple consiste à présenter tout être nouveau comme un concurrent potentiel de l'humanité. Mutant, robot pensant, monstre, surhomme, extraterrestre... tout ce qui est radicalement différent de l'humain est potentiellement susceptible de le rendre obsolète. D'où les multiples guerres, conflits raciaux, etc. qui abondent dans la SF, jusqu'à nos jours.
L'ordinateur pensant a, de plus, un problème spécifique : il a été conçu pour être un simple instrument ; il est censé servir les humains jusqu'à être mis au rebut et remplacé. l'émergence d'une pensée autonome dans un ordinateur crée donc deux tensions : les humains ne sont pas forcément prêts à accepter une pensée non-humaine ; l'ordinateur perçoit les humains comme des bourreaux potentiels. On entre facilement dans une logique de "c'est lui ou moi".
Cela dit, il n'y a aucune nécessité absolue à ce schéma, comme on le voit dans la Culture ou dans les bouquins de Sawyer. Tout le problème est de savoir rendre intéressant le concept d'un ordinateur pensant sans qu'il devienne une sorte de super-gadget. Il y a des bouquins de B .R Bruss (24e siècle... l'an 2391, quelque chose comme ça), qui présentent d'abord un conflit entre un Cerveau électronique, selon le schéma classique, puis une société où les cerveaux électroniques sont devenus des gardiens bienveillants de l'humanité... Heureusement, dans ce dernier cas, qu'il envisage un trafic de drogue pour cerveaux électroniques pour donner un peu d'énergie à son histoire...

[Erion]

Ne pas négliger non plus l'effet médiatique que cela peut engendrer, qui fait qu'on va s'intéresser aux recherches sur les I.A. précisément à cause de cette perspective apocalyptique. Une sorte de frisson-fascination d'autant plus acceptable qu'au fond, chacun ayant déjà utilisé un ordinateur, on se dit qu'il y aura bien un bug quelque part permettant de sauver la mise.
Alors que les virus, les nanotechnologies et les zombies, on ne sait pas comment leur survivre.

[Hoêl]

Oui , oui , j'ai conscience de tout cela mais le mouvement me semble s'emplifier .
Ainsi , Spielberg nous avait pondu I.A. il y a une décennie qui montrait les robots victimes de l'humanité , il se prépare à tourner Robopocalypse , est-ce un signe des temps ? Je pense qu'il y a une forte ambivalence sur le sujet vu l'intérêt qu'a suscité la démonstration du robot danseur aux Utopiales , un mélange de désir et de répulsion , et des bouquins comme celui-ci ou La fille automate semblent précéder un véritable phénomène de société .

Cela dit , le présupposé d'une I.A. systématiquement antagoniste de l'humanité a été posé par Vernor Vinge dès 1993 et j'aimerais comprendre sur quoi il se fonde .

[silramil]

C'est quand même très vieux comme concept... (tu parlais de Hal et de Skynet un peu plus haut), et je ne crois pas qu'il y ait une tendance à mettre en scène des ordinateurs intelligents ennemis de l'humanité plus qu'auparavant. Cela fait partie d'un répertoire thématique, voilà tout.

[Herbefol]

Je m'interroge sur la tendance à considérer quasi systématiquement l'avènement d'une I.A. comme la fin de l'humanité , sur quoi se fonde ce postulat ?

Asimov doit se retourner dans sa tombe.

[bormandg]

Cela dit , le présupposé d'une I.A. systématiquement antagoniste de l'humanité a été posé par Vernor Vinge dès 1993 et j'aimerais comprendre sur quoi il se fonde .

En l'occurence, Vinge envisage les problèmes de rivalité; mais je ne crois pas qu'il ne parle que de disparition de l'humanité telle que nous la connaissons pour apparition d'une humanité différente, qui inclurait humains augmentés et IAs, non?

[Lensman]

Je m'interroge sur la tendance à considérer quasi systématiquement l'avènement d'une I.A. comme la fin de l'humanité , sur quoi se fonde ce postulat ?
.

Je crois que c'est une espèce de darwinisme mal compris. Les I.A. seront censées être plus intelligentes, plus ceci, plus cela, etc. Donc, elles vont nous éliminer. C'est un raisonnement un peu court, qui part de l'idée que nous avons bien compris ce que voudraient faire des entités plus intelligentes que nous, ce qui est déjà idiot à la base, comme prétention, par principe même.
Ensuite, il y a l'idée que si les I.A. ne nous exterminent pas, elles vont tout régenter, et donc, on va s'ennuyer et et on va doucement disparaître à cause de l'ennui... Pareil, ce n'est qu'une idée, qui n'a rien de prouvée, et n'a peut-être juste pas de sens.
Mais bon, il y a des naïfs qui prennent ces raisonnements pour autre chose que ce qu'ils sont, à savoir des idées intéressantes à exploiter en SF. Leur plausibilité est, par principe même, impossible à valider. Il n'y a pas besoin de réfléchir longtemps pour s'en rendre compte…

Oncle Joe

[bormandg]

Je m'interroge sur la tendance à considérer quasi systématiquement l'avènement d'une I.A. comme la fin de l'humanité , sur quoi se fonde ce postulat ?
.

Je crois que c'est une espèce de darwinisme mal compris. Les I.A. seront censées être plus intelligentes, plus ceci, plus cela, etc. Donc, elles vont nous éliminer. C'est un raisonnement un peu court, qui part de l'idée que nous avons bien compris ce que voudraient faire des entités plus intelligentes que nous, ce qui est déjà idiot à la base, comme prétention, par principe même.
Ensuite, il y a l'idée que si les I.A. ne nous exterminent pas, elles vont tout régenter, et donc, on va s'ennuyer et et on va doucement disparaître à cause de l'ennui... Pareil, ce n'est qu'une idée, qui n'a rien de prouvée, et n'a peut-être juste pas de sens.
Mais bon, il y a des naïfs qui prennent ces raisonnements pour autre chose que ce qu'ils sont, à savoir des idées intéressantes à exploiter en SF. Leur plausibilité est, par principe même, impossible à valider. Il n'y a pas besoin de réfléchir longtemps pour s'en rendre compte…

Oncle Joe

Cf Les Humanoïdes, de Williamson....
et autemps pour les Trois Lois d'Asimov... (au moins pour les deux premières, mais les Humanoïdes interpréteraient la 3° comme automatiquement annulée par ses exceptions valides pour tous les ordres qui impliqueraient la libération de leur patient)....

[MF]

Je m'interroge sur la tendance à considérer quasi systématiquement l'avènement d'une I.A. comme la fin de l'humanité , sur quoi se fonde ce postulat ? .

Je crois que c'est une espèce de darwinisme mal compris. Les I.A. seront censées être plus intelligentes, plus ceci, plus cela, etc. Donc, elles vont nous éliminer. C'est un raisonnement un peu court, qui part de l'idée que nous avons bien compris ce que voudraient faire des entités plus intelligentes que nous, ce qui est déjà idiot à la base, comme prétention, par principe même.
Ensuite, il y a l'idée que si les I.A. ne nous exterminent pas, elles vont tout régenter, et donc, on va s'ennuyer et et on va doucement disparaître à cause de l'ennui...

idée par exemple intelligemment réfutée par C. Stross dans Crépuscule d'Acier en encore plus dans Aube d'Acier avec la "personnae " de l'Eschaton...

[Hoêl]

Merci à tous , food for thought .

Sinon , ma question sur le fonctionnement d'un système électronique abritant une I.A. dans un environnement hautement radioactif ?

[Yvan]

Dans le film I-Robot, inspiré d'un roman d'Asimov, la super-machine explique que les hommes se font du mal et s'occupent mal de leur environnement, et que prendre le pouvoir par la force cause moins de tort à l'homme que le laisser libre.

Le film était plutôt mauvais et le concept est simple, mais il est aussi intéressant. J'aimerais bien avoir une histoire où les hommes sont gérés et éduqués par les machines.

[Tétard]

J'aimerais bien avoir une histoire où les hommes sont gérés et éduqués par les machines.

Les deux romans de Bass, par ex. : http://www.noosfere.com/icarus/livres/a ... Auteur=542

[Hoêl]

Dans le film I-Robot, inspiré d'un roman d'Asimov, la super-machine explique que les hommes se font du mal et s'occupent mal de leur environnement

C'est aussi l'argument de l'I.A. de Robopocalypse (que ce titre est laid !) qui considère qu'il n'y a rien de plus important que la vie et que l'homme qui en est le destructeur principal doit être détruit pour la préserver... on notera le paradoxe à la limite du sophisme fort proche de certains dogmes religieux...