Le forum d'ActuSF.com

Un article de blog circulant sur les réseaux sociaux entre "passionnés" d'intelligence artificielle :
The singularity is not coming

Il semble y avoir dans cet article confusion entre deux problèmes distincts:
- d'une part celui de la pertinence d'un modèle mathématique de mesure de la connaissance scientifique, savoir si on peut considérer la dite connaissance comme en croissance linéaire ou exponentielle; on peut discuter de ce problème et le raisonnement paraît défendable;
- d'autre part l'idée que certaines connaissances peuvent créer des sauts qualitatifs ou singularités dans la perception du monde; sur ce point, il me semble que la réalité de telles singularités passées (imprimerie; révolution industrielle et, plus récemment, âge de la communication) n'est pas réellement remise en cause par son raisonnement.
Et je ne sais pas (écrivant après une première lecture non approfondie de l'article) si l'autre problème envisagé, celui de savoir si la réalisation de ce saut qualitatif annoncé par Vinge ou par Kurzweil peut être envisagée dans un avenir proche, est traité par la discussion sur la validité du modèle. Que Vinge ait dû renvoyer de plus en plus loin de nous la réalisation de sa Singularité et que Kurzweil mélange "wishful thinking" et boniment pouir vendre ses produits permet de qualifier les approches du problème, pas la réalité éventuelle du problème de fond.

bormandg a écrit :... la réalité éventuelle du problème de fond.

de quoi tu parles, là ?

De confusion entre la Lune et le doigt, AMA.

bormandg a écrit :Il semble y avoir dans cet article confusion entre deux problèmes distincts:
- d'une part celui de la pertinence d'un modèle mathématique de mesure de la connaissance scientifique, savoir si on peut considérer la dite connaissance comme en croissance linéaire ou exponentielle; on peut discuter de ce problème et le raisonnement paraît défendable;
- d'autre part l'idée que certaines connaissances peuvent créer des sauts qualitatifs ou singularités dans la perception du monde; sur ce point, il me semble que la réalité de telles singularités passées (imprimerie; révolution industrielle et, plus récemment, âge de la communication) n'est pas réellement remise en cause par son raisonnement.
Et je ne sais pas (écrivant après une première lecture non approfondie de l'article) si l'autre problème envisagé, celui de savoir si la réalisation de ce saut qualitatif annoncé par Vinge ou par Kurzweil peut être envisagée dans un avenir proche, est traité par la discussion sur la validité du modèle. Que Vinge ait dû renvoyer de plus en plus loin de nous la réalisation de sa Singularité et que Kurzweil mélange "wishful thinking" et boniment pouir vendre ses produits permet de qualifier les approches du problème, pas la réalité éventuelle du problème de fond.

Il y a beaucoup de points "soulevables" dans l'article (il suffit de voir les commentaires). Et beaucoup trop d'hypothèses posées (à mon avis) pour que le modèle soit vraiment pertinent... Mais il a le mérite de soulever certains points cruciaux et de formaliser quelques "évidences". Maintenant comme tout article de blog (qui n'est donc pas une publication scientifique) il n'est qu'un point de vue (bien présenté et formalisé). C'est aussi pour ça que je l'ai posté dans la partie "discussions" du forum, parce que "ça se discute" :p
De mon point de vue il n'a pas tord sur le fait que l'intelligence artificielle ne progresse pas très vite (toutes les technologies qu'apple met dans siri étaient connues dans les années 70) ou que les méthodes de mesure faussent les choses. Mais je pense qu'il a tord de se focaliser sur la programmation alors que les principales évolutions en intelligence artificielle peuvent venir du hardware ou des usages (cf apple et ses téléphones encore une fois). Mais si le but est juste d'utiliser des vieux algorithmes avec des machines de plus en plus puissantes, il n'y a pas beaucoup de chances d'atteindre une quelconque singularité.

De toute façon, on verra bien...
En attendant, les auteurs de SF peuvent écrire des fictions dans lesquelles il y aura singularité, et des fictions dans lesquelles il n'y aura pas singularité. C'est du gagnant/gagnant, du point de vue de la SF.

Oncle Joe

Vinze a écrit : Mais si le but est juste d'utiliser des vieux algorithmes avec des machines de plus en plus puissantes, il n'y a pas beaucoup de chances d'atteindre une quelconque singularité.

Autrement dit : il a trouvé une rue en sens interdit et il en conclut qu'il est impossible d'aller où que ce soit....
C'est bien ce genre de généralisation....
Première loi de Clarke

bormandg a écrit :

Vinze a écrit : Mais si le but est juste d'utiliser des vieux algorithmes avec des machines de plus en plus puissantes, il n'y a pas beaucoup de chances d'atteindre une quelconque singularité.

Autrement dit : il a trouvé une rue en sens interdit et il en conclut qu'il est impossible d'aller où que ce soit....
C'est bien ce genre de généralisation....
Première loi de Clarke

Mais la phrase commence par "si"... Il n'est pas dit qu'en modifiant la méthode, le résultat ne soit pas différent.
Au fond, c'est un peu comme quand une personne dit qu'on va finir par va atteindre la lune en construisant des tours de plus en plus hautes. On peut lui dire qu'elle ne va pas atteindre la lune. Cela ne signifie pas pour autant que la Lune n'est pas atteignable, mais que pour espérer le faire, il faut radicalement changer de méthode.
Personnellement, je ne vois comment il est possible de prévoir une singularité. Cela me semble par principe même quelque chose qui ne peut pas se prévoir. On peut bien sûr regarder le passé et dire que tel ou tel phénomène (par exemple, l'imprimerie (généralisée, parce que sinon, ça n'a rien de très remarquable), la révolution industrielle, l'Internet, etc...) sont des sortes de singularités, mais on ne peut le savoir qu'après coup.

Si l' on trouve une méthode qui permet de prédire de manière convaincante une singularité, alors là, cette méthode même serait une singularité!!!

Oncle Joe
[/i]

La disparition brutale de l’Humanité suite à un emballement de l'effet de serre (risque estimé à 1% sur la base des données – très insuffisantes – disponibles) peut-il être considéré comme une singularité ?

Eons a écrit :La disparition brutale de l’Humanité suite à un emballement de l'effet de serre (risque estimé à 1% sur la base des données – très insuffisantes – disponibles) peut-il être considéré comme une singularité ?

Moi, j'aurais tendance à appeler ça une singularité.

Mais je vois bien que dans la discussion, il est question d'un truc qui s'appellerait la Singularité (avec un S majuscule), qui serait exclusivement lié à l'augmentation accélérée des connaissances et à une sorte d'"emballement" des systèmes permettant de les augmenter. Pourquoi pas? Mais comme tu le fais remarquer, si entre temps, on crève à cause du réchauffement planétaire (ou, encore plus marrant, on crève à cause d'une météorite qui nous tombe sur la gueule), cela nous ferait une belle jambe...
J'ai l'impression que l'intérêt autour de la Singularité vient plutôt d'une inquiétude devant l'aggravation de divers problèmes, et surtout l'inquiétude devant le fait que l'on discerne mal quelles en seraient les solutions, MEME si tout le monde s'y mettait sérieusement et était de bonne volonté (on n'en est pas là...). Alors, se dire qu'une sorte de "percée" de l'"intelligence" va survenir (de préférence de son vivant...), qui pourrait résoudre ces problèmes angoissants, une sorte de "miracle", mais qui ne serait pas lié à un prophétisme d'origine prétendument surnaturelle, qui s'appuierait tout de même au départ, ce serait plus "sérieux", sur quelque chose qui a l'air plus "solide", "constatable" (la connaissance scientifique, et ses applications), et non pas sur les parole d'un prophète qui aurait été en contact avec Dieu (on se méfie un peu...), ça doit apporter à certains une sorte de relatif espoir, qui ressemblerait à autre chose qu'au simple "je crois que les progrès de la science vont nous sortir de là", mais qui n'est, au fond que cela. Intervient juste un nouveau facteur, celui d'une urgence apparente (et sans doute réelle), qui nécessite cette radicalisation de la croyance en la Singularité.
Après, note bien, il y aura peut-être EFFECTIVEMENT un truc qui sera la Singularité avec emballement du savoir et de l'intelligence pour le traiter, et qui contribuera à résoudre de gros problèmes, mais ce n'est pas pour cela que je modifierais ma description. La Singularité, telle qu'elle est promue par la plupart de ceux qui l'attendent; est du "wishfull thinking". Et d'ailleurs, pourquoi pas? S'enthousiasmer pour la prétendue Singularité, ce n'est pas pire que de faire du sport ou dialoguer sur ce site...
Et c'est automatiquement une idée intéressante à traiter sous forme de fiction, en SF, puisque c'est censé concerner l'avenir. D'autant que les approches peuvent être multiples...

Oncle Joe

Hier Georges a attiré mon attention sur ce sujet lors du diner de la cyberculture, du coup j'y apporte mon grain de sel.

Vi.. cet article fait référence très précisément à LA Singularité de Kurzweil, et à ses extrapolations sur l'évolution des technologies... il n'est pas question dans cet article de faire référence à d'autres éventuelles "singularités" ayant eu lieu dans notre histoire.
Après, je dois avouer que n'étant pas matheux, je suis largué pour pouvoir juger de la pertinence des formules proposées...

J'ai la flemme de replonger dans ses écrits, mais il me semble que Kurzweil précise bien que l'évolution des technologies informatiques influe sur l'évolution de nos connaissances et pratiques scientifiques, mais cette évolution n'évolue pas de façon identique à l'évolution des capacités de traitement de l'information des processeurs (entre autre) cf loi de Moore. Qui est de plus en plus remise en question.

Pour ma part, même si les fameuses "courbes" de Kurzweil donnent un vernis scientifique séduisant à ses écrits, ses extrapolations sur l'approche de "SA Singularité" sont plus de mon point de vue à prendre comme une sorte de spéculation intuitive éclairée qu'une démonstration "mathématique" car il manipule pour les besoins de ses arguments des données qui peuvent être largement sujettes à controverses, ce que ne s'empêchent pas de faire tous ses multiples contradicteurs auxquels vient s'ajouter celui-ci.
Par contre, il est certain pour moi, que nous assistons avec La SIngularité à l'émergeance d'une nouvelle mythologie, et tous les jours j'en vois les signes dans le nombre d'adeptes que ces idées séduisent dans les courants post-humains et trans humains. Et Kurzweil assume aussi cette éventuelle dimension religieuse de "La singularité" qui vient combler l'incapacité des anciennes religions à s'adapter à l'évolution de notre modernité.

"ich bin ein Singularitarian "de Humanité 2.0 par Raymond Kurzweil version Ipad.

Ray : Eh bien, oui, nous avons besoin d'une nouvelle religion. L'un des rôles les plus importants de la religion était de rationaliser la mort, puisque jusqu'à maintenant il n'y avait rien de concret que nous puisions faire pour y échapper.
Bill : Quels seraient les principes de cette nouvelle religion?
Ray : Il faudrait préserver deux principes : un de la religion traditionnelle et l'autre des arts et des sciences séculaires ; de la religion traditionnelle, le respect pour la conscience humaine.
------------
P 420


plus que ces histoires de courbes que je trouve de mon côté un peu ennuyeuses, ce qui pour moi est fondamental dans l'espérance de l'occurence de la Singularité entre 2040 et 2050, c'est que ces prospectives sont basées sur une très vieille hypothèse dont Von Neumann est considéré comme le premier inspirateur et que je résumerai ainsi :
" Nous arriverons un jour à fabriquer des machines capables de se reproduire elle-même en plus perfectionnées"

C'est une intuition philosophique dont il reste à démontrer la pertinence...


kurzweil
citations : Humanité 2.0 : la bible du changement de Ray Kurzweil, M21 Editions (30 août 2007), ESSAIS DOCUMENT, ISBN-10: 2916260048, ISBN-13: 978-2916260044

Mais qu'est-ce donc que la singularité? C'est une période future pendant laquelle le rythme du changement technologique sera tellement rapide, son impact si important, que la vie humaine en sera transformée de façon irréversible. Bien qu'elle ne soit ni utopique, ni dystopique, cette époque transformera les concepts sur lesquels nous nous fondons pour donner un sens à nos vies, des modèles de marché au cycle de la vie humaine, incluant même la mort.

Comprendre la Singularité modifiera notre perspective sur la signification de notre passé et les ramifications de notre futur. La comprendre de façon totale et complète changera notre point de vue sur la vie en général, et sur nos modes de vie en particulier. Je considère ceux qui ont compris la singularité et qui ont réfléchi sur ses implications dans leur vie comme des "singularitairiens".

La singularité représentera le point culminant de l'osmose entre notre mode de pensée biologique et l'existence avec notre technologie.

Ici ma conférence sur le sujet au cube http://www.dailymotion.com/video/xjznrr ... -2011_tech


et les courbes de kurzweil auxquelles il est fait référence.
http://www.yannminh.org/french/TxtSingularite-100.html










http://www.yannminh.org/img/PPTMooresLawai.jpg





Yann TransNooNaute...

C'est une intuition philosophique dont il reste à démontrer la pertinence...

Bah ! c'est sans importance, puisque ça se démontrera tout seul, en le constatant... ou en ne le constatant pas. Si quelque chose de ce genre doit se passer, cela doit se passer, que l'on en soit conscient ou pas est intégré à la chose. C'est l'intérêt du truc: il n'est nullement besoin d'être convaincu soi-même si ça doit arriver.

Oncle Joe

toutafé

En revanche, on peut se demander d'où vient le besoin de vouloir convaincre de la proximité d'un phénomène qui doit (ou, disons, qui devrait...) de toute façon survenir...
Dans le cadre d'un messianisme religieux, je comprendrais l'idée, par exemple s'il faut se convertir à toute berzingue avant un Jugement Dernier, pour se mettre en ordre in extrémis avec Dieu, qui pour le coup existerait vraiment! (Mauvaise nouvelle pour quelques-uns d'entre nous, si ça se passe comme ce qui est affirmé dans certaines religions...)
Mais dans le cas de la Singularité, c'est (enfin, ce serait) juste l'évolution normale du monde. Et donc, je ne vois pas bien où est l'intérêt d'en être convaincu, ou de convaincre quelqu'un. La seule chose intéressante, c'est d'observer pour voir si ça arrive, éventuellement.

Oncle Joe

C'est comme pour la croyance dans l'existence des E.T.

c'est une profession de foi scientiste...


PS: cependant...

Autour du "mythe" de la singularité, comme au début des religions ou mouvements pré-révolutionnaires, il y a déja plusieurs orientations, ou postures divergentes identifiables chez les "adeptes" et "militants" dont sont emblématiques différents groupes et associations. (comme les extropians, entre autre...)
Par exemple, une réflexion emblématique de ces prises de positions idéologique est celle des représentants de l'association française de transhumanisme http://blog.transhumanistes.com/ , lors d'une émission de radio à laquelle j'avais participé, où ils affirment militer " pour un transhumanisme social, démocratique, voulu, plutôt que subit.."
http://www.siliconmaniacs.org/transhuma ... n-sociale/

En gros, comme au début des révolutions communistes, il y a des divergences idéologiques importantes qui apparaissent sur les postures, stratégies, combats à tenir par rapport à l'évolution de notre modernité, et ce qu'il va "réellement" se passer avant et au moment de la singularité... et les postures philosophiques autour du transhumanisme et de la singularité varient entre ... pour faire simple et carricatural, un Cyber-anarchisme libertarien élitaire... (USA) opposé à un cyber-anarchisme social collectif... (Europe).
Pour Kurzweil, qui serait plutôt "libertarien" de mon point de vue... la "démocratisation" des NBIC ( http://fr.wikipedia.org/wiki/Nanotechno ... cognitives ) se fera toute seule, comme pour les téléphones portables, par baisse du cout de production et de la taille des instruments...

A l'opposée, je constate que beaucoup de militants transhumains ici en europe, perçoivent cette évolution comme une sorte de combat cyberpunk, où il va falloir empêcher les nantis de s'approprier ces progrès technologiques pour mieux nous contrôler... avec différentes stratégies possibles traditionnelles allant de la lutte clandestine révolutionnaire à l'action politique démocratique légale.. (la lutte armée, autre que l'artillerie de base du hacker n'étant pas encore envisagée, sauf peut-être chez qq groupes d'extrème droite libertariens américains)

En fait, pour moi, les débats autour du post-humanisme et du transhumanisme et de la singularité sont passionnants... et je retrouve souvent, de façon cryptée derrière les utopies singularitariennes, une nouvelle forme des utopies communistes qui m'ont été enseignées dans mon enfance, qui elle mêmes sont héritées de tropismes anciens, qui sont décrits par Théophile Gautier par exemple, lorsqu'il rêve d'une société des loisirs républicaine, où les machines travaillent pour nous..
http://www.cuberevue.com/transsubstantiation-utopia/661





Hier aux diners de la cyberculture, les débats étaient passionnants, car certains convives, bien que ne se revendiquant pas directement de la singularité, étaient venu militer pour la création de nouvelles monnaies... et militaient aussi pour une société futur, sans propriété intelectuelle, où l'ensemble des humains deviennent des "créateurs" qui n'ont pas à "travailler" pour survivre et se consacreraient au partage généreux, des idées, des concepts... etc.. entre autre, je carricature pour faire simple...

Mais, de mon point de vue, je retrouve, dans le discours de beaucoup de jeunes "militants" transhumains, (avoués ou non) des convictions révolutionnaires pour une société future plus équitable dont beaucoup d'éléments m'évoquent les utopies révolutionnaires post hippie et communistes... mais avec une mise en oeuvre très cyberpunk, passant par le contrôle et le détournement des NBIC.
Et ce n'est plus du fantasme, ou de la fiction, ces "engagements" militants sont en train de se formaliser concrétement au travers d'actions réelles, et parfois efficaces... comme par exemple la participation active de nombre de hackers aux "révolutions" arabes... qui ont concrètement infléchi sur des choix politiques....

Bref... la "Singularité", outre d'être une spéculation futurologique, est aussi devenu un point de convergence idéologique... et effectivement... je constate que les enjeux autour du contrôle et de l'usage des NBIC génère des luttes et combats sociaux qui semblent partis pour être de plus en plus "investis" et "radicaux"...