Du sense of wonder à la SF métaphysique

[Gérard Klein]

Prière de relire Turing. Le test ne prouve pas qu'une machine ou plutôt un programme est intelligent ou conscient, mais il prouve seulement que le programme semble intelligent ou conscient et que ses interlocuteurs humains ne sont pas capables de le percer à jour.
Un escroc qui parvient à se faire passer pour un banquier est-il un banquier pour qui d'autre que ses victimes?

Tu pars de l'idée que "banquier" et "escroc" sont deux concepts bien distincts, de même que "clients" et "victimes". il faudra préciser...
Cela dit, Gérard, j'aimerais savoir si tu as un test pour distinguer "être intelligent ET se comporter de manière intelligente", de "Ne pas être intelligent ET se comporter de manière intelligente"...
Oncle Joe

Le test, c'est la vie.
Cela dit, il est facile d'être intelligent et de ne pas se comporter de manière intelligente.
J'en vois des exemples tous les jours. À l'occasion dans mon propre comportement.
Certes, je fais ici l'hypothèse que je suis intelligent.
Elle est discutable mais je n'admettrai pas la contestation sur ce point.

[Lensman]

Le test, c'est la vie.
Cela dit, il est facile d'être intelligent et de ne pas se comporter de manière intelligente.
J'en vois des exemples tous les jours. À l'occasion dans mon propre comportement.
Certes, je fais ici l'hypothèse que je suis intelligent.
Elle est discutable mais je n'admettrai pas la contestation sur ce point.

C'est ce qu'on dit : on peut être intelligent, et en même temps ne pas se comporter de manière intelligente. Aucune contestation dans ton cas particulier, bien sûr! mais aurais-tu un test qui aurait une valeur générale, et permettrait de trancher pour tous les cas?
Je suis un peu étonné que l'inverse (se comporter de manière intelligente, sans être intelligent) est une idée qui n'a l'air d'intriguer personne...

Mais que veux-tu dire par "le test, c'est la vie"?
Oncle Joe

[Bull]

Mais que veux-tu dire par "le test, c'est la vie"?
Oncle Joe

Béta-HCG positives ?

[Lensman]

Mais que veux-tu dire par "le test, c'est la vie"?
Oncle Joe

Béta-HCG positives ?

Encore la mécanique quantique! Personne ne va rien comprendre!

Je plaisante, mais Gérard a l'air de poser, ou qu'il faut être un être vivant pour avoir le droit d'être qualifié d'intelligent (ce serait donc posé dans la définition de l'intelligence, pourquoi pas? ou pourquoi?), ou que, pour des raisons structurelles, l'intelligence ne peut être produite que par des êtres vivants.
(Une fois résolu cette ambiguité, on attaquera le problème de la conscience, et là, je serais moins critique, car je ne sais pas du tout ce qu'est la conscience...)
Oncle Joe

[Atv']

Le support matériel de l'intelligence est-il réellement déterminant pour en faire une intelligence ou seulement un semblant d'intelligence ? Faut-il que tous ces petits vecteurs d'énergie, ces connexions électriques, ces capteurs, ces actionneurs soient hémoglobine, axones, rétines, fibres musculaires définis par un code génétique et engendrés par une reproduction, pour qu'en émerge l'intelligence ?

Supposons qu'un scanner extrêmement performant cartographie mon cerveau et le charge dans un programme informatique relié à des caméras, des micros, un synthétiseur vocal, mais incapable de perpétuer son "espèce". Dénué de vie, donc. Mais capable de se comporter comme un cerveau, de modifier des connexions en fonction des stimuli, d'apprendre. Devient-il un semblant d'intelligence ?

(Comme dit Oncle Joe, la question de la conscience ne va pas tarder à émerger, et tout comme lui, je serais bien incapable de me prononcer à ce sujet...)

[marypop]

Le test, c'est la vie.
Cela dit, il est facile d'être intelligent et de ne pas se comporter de manière intelligente.
J'en vois des exemples tous les jours. À l'occasion dans mon propre comportement.
Certes, je fais ici l'hypothèse que je suis intelligent.
Elle est discutable mais je n'admettrai pas la contestation sur ce point.

C'est ce qu'on dit : on peut être intelligent, et en même temps ne pas se comporter de manière intelligente. Aucune contestation dans ton cas particulier, bien sûr! mais aurais-tu un test qui aurait une valeur générale, et permettrait de trancher pour tous les cas?
Je suis un peu étonné que l'inverse (se comporter de manière intelligente, sans être intelligent) est une idée qui n'a l'air d'intriguer personne...

Ca veut dire que ça a été bien programmé ?
Pour moi c'est assez simple.
Une machine suffisamment bien programmée pour modéliser un comportement propre à la faire passer pour intelligente (ou du moins lui permettant de passer le test de Turing) n'est pas intelligente. C'est que son programmeur a super bien bossé.

Je dirais que le test ultime permettant de faire la différence, cela serait probablement que le programmeur lui même (ou créateur, ou ... enfin tu vois le truc) soit capable de tester que sa création lui échappe et devient au delà du programme.
En gros, c'est si tu connais le code, que tu peux savoir si la machine le dépasse.

[Lensman]

Ca veut dire que ça a été bien programmé ?
Pour moi c'est assez simple.
Une machine suffisamment bien programmée pour modéliser un comportement propre à la faire passer pour intelligente (ou du moins lui permettant de passer le test de Turing) n'est pas intelligente. C'est que son programmeur a super bien bossé.

Je dirais que le test ultime permettant de faire la différence, cela serait probablement que le programmeur lui même (ou créateur, ou ... enfin tu vois le truc) soit capable de tester que sa création lui échappe et devient au delà du programme.
En gros, c'est si tu connais le code, que tu peux savoir si la machine le dépasse.

Mais si on ignore tout de la provenance de ce que l'on teste, on fait quoi?
Oncle Joe

[marypop]

Ca veut dire que ça a été bien programmé ?
Pour moi c'est assez simple.
Une machine suffisamment bien programmée pour modéliser un comportement propre à la faire passer pour intelligente (ou du moins lui permettant de passer le test de Turing) n'est pas intelligente. C'est que son programmeur a super bien bossé.

Je dirais que le test ultime permettant de faire la différence, cela serait probablement que le programmeur lui même (ou créateur, ou ... enfin tu vois le truc) soit capable de tester que sa création lui échappe et devient au delà du programme.
En gros, c'est si tu connais le code, que tu peux savoir si la machine le dépasse.

Mais si on ignore tout de la provenance de ce que l'on teste, on fait quoi?
Oncle Joe

On prend le risque de se faire avoir ?
C'est comme de parler à un message de répondeur en pensant que la personne a décroché.

[Lensman]

On prend le risque de se faire avoir ?
C'est comme de parler à un message de répondeur en pensant que la personne a décroché.

Oui, bien sûr. J'imagine la scène. "Oh, Grumbbkst, laisse tomber! Tu vois bien que ces machins protoplasmiques avec ces quatre membres ridicules, et qui se tiennent bizarrement verticalement, sont de toute évidence le résultat d'une expérience ratée par de vraies intelligences... tu peux les éliminer!"
Tu devrais lire un peu plus de science-fiction... ou au moins "The Far Side"...
Oncle Joe

[marypop]

ksssss

je n'ai jamais dit ça !
Je dis qu'il y a toujours un doute raisonnable sur l'intelligence ou non.

Et si l'on prend le risque de se faire avoir, c'est qu'implicitement, je considère que l'on prendrait pour acquis qu'il y a une intelligence là où peut-être il n'y en a pas.

C'est amusant puisque justement je viens juste de lire Océanique d'Egan (la nouvelle éponyme) qui assez indirectement peut traiter de ça.
Prendre pour une intelligence (ou même une divinité du reste, ça va plaire à Lem -ou pas-) en toute bonne foi ce qui n'en est pas forcément une.

Imaginons qu'un androide parfaitement ressemblant à un être humain débarque chez toi. Qu'il soit suffisamment bien programmé pour passer ton test de turing.
Tu peux le croire intelligent sans qu'il ne le soit.

Tu n'as donc aucune raison de l'éliminer. Ca ne change rien au fait que tu te sois "fait avoir".

[Atv']

Vous êtes tous extrêmement bien conçus. Je prends le risque de discuter avec vous.

Plus sérieusement, je ne vois pas pourquoi l'être humain serait nécessairement inférieur à l'évolution en tant que créateur. Des dizaines d'années d'intelligence peuvent bien égaler des millions d'années de chance stupide... Surtout quand notre petit cerveau peut prendre exemple sur ce que l'évolution a produit. Toute création humaine serait donc condamnée à n'être que machine, tandis que l'humain, lui, serait condamné à être plus qu'une machine, plutôt qu'être une machine extrêmement bien foutue. On parlait de conscience. Il faut bien au moins reconnaître qu'elle ne fait qu'émerger d'un certain agencement de la matière, puisque nous ne sommes que matière bien agencée. Pourquoi et comment elle en émerge, that's the question...

[Edit] Oups, j'arrive en retard, et j'avais moi aussi mal compris l'affirmation de marypop...

[Re-edit] Ceci dit, à se faire éternellement berner sans plus pouvoir dire ce qui est intelligent et ce qui ne l'est pas, c'est qu'il y a là un gros problème de caractérisation de l'intelligence, et donc de définition.

[Sand]

je pense que ce que veut dire Tonton, c'est que cette explication est anthropocentrée.

Imaginons qu'un être humain parfaitement ressemblant à un extra-terrestre !m/fr débarque chez Gouzi'br?k. Qu'il soit suffisamment bien préparé pour passer le test de Rat;-ne, célèbre mathématicien !m/fr .
Gouzi'br?k peux le croire intelligent sans qu'il ne le soit.

[marypop]

Pour sortir une réponse un peu bâclée, et sans parler de conscience ou d'infériorité / supériorité de la création par rapport au créateur.

Je dirais que la création est réellement intelligente si elle sort de ce qui a simplement été programmé au départ.
Ainsi une machine dotée de ses propres méthodes d'apprentissage a plus de chance pour moi d'être considérée comme intelligente à terme, même si elle peut avoir moins de chance de passer le test de Turing.

Pourquoi ? Parce que ce test dit :

Le test de Turing est une proposition de test d’intelligence artificielle ayant la faculté d’imiter la conversation humaine. Décrit par Alan Turing en 1950 dans sa publication Computing machinery and intelligence, ce test consiste à mettre en confrontation verbale un humain avec un ordinateur et un autre humain à l’aveugle. Si l’homme qui engage les conversations n’est pas capable de dire qui est l’ordinateur et qui est l’autre homme, on peut considérer que le logiciel de l’ordinateur a passé avec succès le test. Cela sous-entend que l’ordinateur et l’homme essaieront d’avoir une apparence sémantique humaine. Pour conserver la simplicité et l’universalité du test, la conversation est limitée à un échange textuel entre les protagonistes.

Le terme capital est le mot "imiter". Il n'est pas question de savoir si la machine est intelligente, mais bien de savoir si elle peut duper un interlocuteur pour se faire passer pour humaine.

Puisque justement Jo, de la SF j'en lis, j'ai toujours espoir qu'une rencontre d'intelligence, créée ou non par l'homme serait une intelligence différente. On a assez de problèmes avec les hommes existants
D'où forcément l'inadéquation du test de Turing à déterminer ce qui est ou non intelligent.

[Le_navire]

Je vous cause de mes perroquets ?



Non, hein...

[marypop]

Si ton perroquet sait écrire répondre aux questions, et que caché derrière une porte on n'arrive pas à le distinguer d'un humain qui fait la même chose, c'est dans le topic