L’humanité était mon horizon - Le procès de l’intelligence artificielle - Chapitre 4

L’humanité était mon horizon

Le procès de l’intelligence artificielle

EPISODE 4 :

Les minutes du procès (2/6)

Juge Mendernier :

Bien, bien, bien. Voilà un démarrage plein d’émotions et de belles phrases qui font la part belle à la Défense. Mais il ne faut pas que notre jugement soit parasité par l’émotion. Il faut qu’il repose sur la raison. Il devient donc nécessaire d’entendre la parole d’autres experts afin de définir exactement ce dont on parle : c’est quoi l’Intelligence Artificielle ? Et d’ailleurs, c’est quoi l’intelligence ? Où en est-on des avancées scientifiques dans ce domaine ? Afin de faire le point et la part des choses entre science et fiction, entre anti et cipation, j’appelle à la barre l’expert Monsieur Eddy Bergson. Monsieur Edgar Davu, veuillez officier, je vous prie.

Juge Mendernier :

Monsieur Bergson, veuillez décliner votre identité et jurer sur la bible du programmeur de faire état de votre savoir, rien que de votre savoir et de tout votre savoir.

Eddy Bergson :

Moi Eddy Bergson, chercheur en philosophie des sciences, je jure de faire état de mon savoir, rien que de mon savoir et de tout mon savoir.

Juge Mendernier :

Monsieur Bergson, je serai direct. C’est quoi une intelligence ?

Eddy Bergson :

En première approximation, l’intelligence est la capacité à utiliser une expérience passée pour s’adapter à une situation nouvelle. Ce n’est pas très précis, non ? Et pourtant, cela correspond bien à ce qu’on suppose être une personne dite intelligente. Par exemple, si Alfred…

Juge Mendernier :

Soyez précis, s’il vous plaît ! Qui est cet Alfred auquel vous faites référence ? Nobel ?

Eddy Bergson :

Alfred… Heu… Nobel… Heu… Non, c’est juste un exemple… Bon si Alfred fait x fois la même erreur face à la même situation, on peut percevoir un problème. Si en revanche Alfred est rapidement capable de s’adapter à un changement dans son environnement pour réaliser une tâche, en utilisant des ressources, parfois non proposées immédiatement (les doigts) mais qui font appel à ce qu’il a appris par ailleurs… là, Alfred fait preuve d’intelligence. Cette définition n’a pas beaucoup évolué depuis celle proposée par le psychologue suisse Édouard Clapared au début du vingtième siècle qui évoquait la capacité de résoudre par la pensée des problèmes nouveaux.

Juge Mendernier :

Est-ce que tout cela veut dire qu’il n’y aurait qu’UNE seule forme d’Intelligence ?

Eddy Bergson :

Le peintre Degas aurait dit « le jour où on a commencé à écrire intelligence avec un I majuscule, on a été foutu. On a l’intelligence de ceci ou de cela… ». Dès qu’on parle d’intelligence avec un I majuscule, on fait une catégorisation entre ceux qui l’ont et ceux qui ne l’ont pas. Il y a les animaux et les humains et dans les humains, ceux qui sont intelligents et ceux qui ne le sont pas. Cela charrie évidemment une dimension sociale, de relation de pouvoir entre le classificateur et le classifié. En tant que philosophe, j’ai donc du mal à admettre l’unicité de l’intelligence, le pluralisme me paraît plus pertinent. Cela rejoint la proposition des intelligences multiples que le psychologue américain Howard Garner formulait dès 1983. Parmi les humains, certains ont plus de facilités dans le rapport interpersonnel, d’autres dans des situations kinesthésiques...

Maître Etalon :

Permettez-moi de vous interrompre, Monsieur Bergson. Mais vous prononcez des mots absolument incompréhensibles. Kinésiniste ????

Eddy Bergson :

Kinesthésiques. Comme dans « kiné », c’est-à-dire qui concerne la sensation de mouvement des parties du corps. Prenons un exemple. Les hallucinations kinesthésiques sont des hallucinations des sens musculaires. Si vous en êtes victime alors vous avez, cher Maître, l’impression que vos muscles se contractent alors que vous êtes immobile. Cette mise au point étant faite, je reprends mon propos si vous le permettez.

Maître Etalon :

Je le permets.

Eddy Bergson :

Ce que je veux dire est que vouloir faire une liste exhaustive des intelligences, liste qui serait donc bloquée et définie n’est peut-être pas une bonne idée et ne me semble pas forcément pertinent. Pas plus que de définir l’intelligence comme le fait le test du QI qui ne mesure que des performances logico-mathématiques et verbales. L’intelligence est aussi le résultat d’un apprentissage, d’un développement, etc. Dès qu’on va vouloir la mesurer, il faudrait donc spécifier le type de domaine, d’aspect du comportement dans lequel s’inscrit cette intelligence…

Maître Etalon :

Monsieur Bergson, ce que nous voudrions savoir c’est si une intelligence artificielle est possible ?

Eddy Bergson :

J’y viens, tout cela est justement lié… C’est pourquoi je parle d’intelligences, au pluriel… Si l’on considère certains types d’intelligence définis précisément, il est certain qu’une intelligence artificielle est possible. On le voit dans le fait que des intelligences artificielles ont déjà surpassé les humains dans de nombreux domaines (les jeux comme les échecs, le go et le poker aussi, la reconnaissance de motifs informationnels (visuels ou autres), la catégorisation de données.

Maître Etalon :

Alors, si je vous suis bien, et je pense le faire, non seulement une intelligence artificielle est possible mais en plus, elle est supérieure à l’intelligence humaine ! Messieurs-dames, je pense que nous allons bientôt pouvoir clore les débats !

Eddy Bergson :

Maître, je ne suis pas certain que ma réponse va permettre de clore les débats. Car je parle ici d’intelligence artificielle faible.

Maître Etalon :

Faible ??? Mais vous venez de dire qu’elles avaient déjà surpassé les humains !

Eddy Bergson :

Laissez-moi vous expliquer. Une intelligence artificielle faible est une sorte d’intelligence qui se concentre sur une tâche spécifique. Certains algorithmes peuvent effectivement devenir experts dans un domaine très précis comme par exemple la reconnaissance faciale ou le jeu d’échecs, mais ils ne savent faire que ça. Les intelligences artificielles dont on dispose aujourd’hui sont des systèmes qui ont été entraînés pour réaliser des tâches spécifiques. Et comme nous les entraînons sur des tâches de plus en plus compliquées, ces systèmes nous semblent intelligents. Mais attention, il faut garder à l'esprit que ces systèmes sont entraînés à réaliser des choses précises, comme générer un texte descriptif pour des images ou planifier un chemin sur son GPS. C’est très différent de l’intelligence humaine ou animale qui nous permet de nous adapter à toute nouvelle situation. Mon GPS, par exemple, ne pourra jamais comprendre des images du jour au lendemain, la reconnaissance faciale ne pourra pas, comme cela, planifier mon chemin... enfin pas sans qu'on l'ait explicitement programmé. Si votre question, Maître, portait sur la possibilité d’une « intelligence artificielle générale », alors là…

Juge Mendernier :

Une Intelligence Artificielle générale ?

Eddy Bergson :

Oui, enfin… Par opposition à l’intelligence artificielle faible, l’intelligence artificielle forte, ou intelligence artificielle générale, désigne une « machine » qui serait capable d’appliquer l’intelligence à tout problème plutôt qu’à un problème spécifique.

Juge Mendernier :

Et ça, ce n’est pas possible ?

Eddy Bergson :

A la question « une intelligence artificielle générale est-elle possible ? », je ne peux pas répondre.

Juge Mendernier :

Faites un effort, vous êtes tout de même là pour ça !

Eddy Bergson :

C’est une question qui ne peut être résolue a priori. Enfin, il faudrait, pour y répondre par l’affirmative considérer comme « certaines » des considérations métaphysiques pour lesquelles nous n’avons pas de solution univoque ! La conscience personnelle ou la conscience phénoménale est-elle nécessaire au développement d’une intelligence générale ? Certains critères pragmatiques et sémantiques de l’intelligence (par exemple ceux qui sont relatifs à la nécessité d’une intentionnalité originale dans la formation et la manipulation d’informations) semblent indiquer qu’il pourrait y avoir des obstacles de principe au développement d’une véritable intelligence artificielle générale. C’est, selon moi et en tant que philosophe, une question empirique qui ne pourra être tranchée que sur la base des travaux des informaticiens et des chercheurs en sciences et en philosophie cognitives. Pour l’instant, je n’ai pas la réponse. Je ne sais pas.

© Illustre Hâteur

Procureure Denet :

Monsieur Bergson, cette incertitude que vous partagez avec nous sur la base de vos connaissances indique bien qu’il manque donc bien quelque chose à l’intelligence artificielle par rapport à l’intelligence humaine, non ? Ce serait alors extrêmement dangereux de se soumettre à une intelligence artificielle imparfaite !

Eddy Bergson :

En effet, il leur manque une incorporation, le passage à l’opérationnalisation physique, physiologique, kinesthésique.

Maître Etalon :

Trop de mots en « ique » Monsieur Bergson, soyez pragmatique et synthétique s’il vous plaît !

Eddy Bergson :

Oui, excusez-moi, l’habitude sémantique liée à ma pratique…

Procureure Denet :

Du moment que cela ne crée pas un précédent d’ordre éthique. Là ce serait pathétique !

Maître Etalon :

Carrément catastrophique !

Procureure Denet :

Inique !

Maître Etalon :

Un vrai problème juridique !

Procureure Denet :

S’agirait-il d’une pique ?

Maître Etalon :

Disons que je trouve vos discours pour le moins amphigouriques !

Procureure Denet :

Oh ! Vos jugements autocratiques vous vous doutez bien où je me les mets ! Commencez donc par faire votre autocritique.

Juge Mendernier : S’il vous plaît, ça devient pathologique là ! Pouvons-nous reprendre les débats de manière plus pacifique ? Nous en étions à kinesthésique…¹

Eddy Bergson :

Oui… heu alors… Kinesthésique c’est… heu… heu… je vais essayer d’être pédagogique et synthétique : prenons par exemple le cas d’une tâche aussi simple que d’ouvrir une porte en utilisant sa poignée. Eh bien, c’est très compliqué pour un robot au vu des éléments à gérer tels que : adapter la préhension à la forme de la poignée et au mouvement à exécuter pour l’actionner, tourner de tant de degrés l’angle de la poignée et ne pas l’arracher, avoir conscience de l’endroit où est son corps par rapport à l’ouverture et anticiper sur le passage de la porte, etc. On peut parler d’intelligence comme une capacité à suivre un programme ou à apprendre à partir de l’expérience, mais on a négligé le caractère incarné, incorporé, de notre intelligence. Selon mon savoir, tout mon savoir et rien que mon savoir, il n’y a pas d’intelligence en dehors d’un corps. Nous ne sommes pas des cerveaux dans des cuves. Nous sommes des cerveaux dans des corps qui vivent parmi d’autres corps dans des groupes humains structurés par des règles explicites et implicites qui supposent certaines institutions. Notre intelligence est liée à une dynamique très complexe de notre histoire développementale, psychologique, historique, éducative, familiale, kinesthésique donc psychomotrice, etc. Cette dynamique se répercute dans notre cerveau et inversement.

Juge Mendernier :

Bien je vous remercie Monsieur Eddy Bergson pour cette belle entrée en matière bénéfique bien que fort spécifique, vous pouvez disposer. J’appelle maintenant à la barre Monsieur Francis Ohm.

Juge Mendernier :

Monsieur Francis Ohm, veuillez décliner votre identité et jurer sur la bible du programmeur de faire état de votre savoir, rien que de votre savoir et de tout votre savoir.

Francis Ohm :

Moi Francis Ohm, chercheur en neurosciences computationnelles, je jure de faire état de mon savoir, rien que de mon savoir et de tout mon savoir.

Juge Mendernier :

Monsieur Ohm, veuillez éclairer nos lanternes et merci de le faire de manière brève : c’est quoi exactement l’intelligence artificielle ?

Francis Ohm :

Pour faire court autant que faire se peut et tenter de répondre à votre demande, l’intelligence artificielle est un ensemble de techniques informatiques qui permettent de réaliser des tâches que nous considérons comme relevant de l’intelligence.

Juge Mendernier :

Comme, par exemple ?

Francis Ohm :

Eh bien au début de l’IA, c’est-à-dire dans les années 1950, certains chercheurs considéraient que le jeu des échecs était un marqueur de l’intelligence humaine, et donc que si on arrivait à battre le champion du monde d’échecs, alors on aurait résolu une bonne partie du problème.

Juge Mendernier :

Oui, Kasparov s’est fait battre par Deep Blue, une intelligence artificielle, en 1997 si je me souviens bien, non ?

Francis Ohm :

Tout à fait Monsieur le Président. Quelle culture !

Juge Mendernier :

Merci, je travaille mes dossiers vous savez…

Francis Ohm :

Mais c’est tout à votre honneur Votre Honneur. Et cet événement montre bien la difficulté à définir l’intelligence. Puisque le champion du monde d’échecs est maintenant un programme, on ne va plus parler d’intelligence. A l’époque l’intelligence artificielle s’appuyait sur le modèle cognitiviste. Cela signifie que l’on donnait des règles de raisonnement à l’intelligence artificielle et, pour le dire simplement, on appelait « intelligence » justement tout ce que l’intelligence artificielle ne pouvait pas faire. En fait, le terme d’intelligence artificielle a étémal choisi au départ et prête maintenant à confusion. Aujourd’hui, les chercheurs préfèrent parler d’apprentissage machine, de résolution symbolique, de théorie des jeux ou bien encore de robotique. Bref, tout un tas de disciplines scientifiques qui ont été regroupées un peu malgré elles sous le nom générique d’« intelligence artificielle ».

Juge Mendernier :

Aujourd’hui, à l’époque… Quelque chose aurait-il changé depuis ?

Francis Ohm :

Oui, fin des années 2010, tout a changé. Nous sommes passés dans l’ère des modèles connexionnistes. Cela signifie que l’intelligence artificielle est désormais composée, un peu comme notre cerveau, de plein de petites entités connectées. On entraîne ces petites entités avec des tonnes d’exemples et elles se créent leur propre fonctionnement. A partir de cette époque, il y a eu une résurgence de l’apprentissage machine parce qu’on a maintenant suffisamment de puissance de calcul et de données pour les faire fonctionner à peu près correctement. Mais en fait l’intelligence artificielle est entrée dans nos vies bien avant 2010.

Maître Etalon :

Ah bon ?

Francis Ohm :

Oui, par exemple les robots aspirateurs autonomes qui sont dans nos foyers ou bien les applications sur nos téléphones qui peuvent prédire quel mot on veut taper ou encore l’application bancaire qui va décider de vous accorder un crédit ou non.

Maître Etalon :

C’est formidable ! Et ce n’est que le début j’imagine ?

Francis Ohm :

Oui, on envisage encore beaucoup d’applications. Par exemple les voitures autonomes mais là, ce n’est pas pour tout de suite parce que c’est encore trop compliqué.

Maître Etalon :

Mais je croyais que ça marchait déjà !

Francis Ohm :

En fait oui mais non. On les a lancées puis on les a « dé-commercialisées » suite à trop d’accidents… On peut avoir des aides à la conduite comme on peut avoir des aides à la décision par des IA mais pour la conduite autonome, ça ne marche pas tout à fait. Il suffit de regarder l’état de ce pauvre Edi Nasmushe…

Procureure Denet :

Ah, ah, ah ! Je le savais ! Et il y en a beaucoup d’intelligences artificielles dans la nature qui ne marchent « pas tout à fait » ?

Francis Ohm :

Alors dans les laboratoires, on en a plein mais dans la vraie vie, normalement y’en a un peu moins.

Procureure Denet :

« Normalement », ça veut dire quoi « normalement » ? Que vous n’êtes pas sûr ?

Francis Ohm :

C’est une des difficultés que l’on a aujourd’hui avec l’informatique en général et avec l’intelligence artificielle en particulier : on ne peut pas garantir le fonctionnement à cause de l’apprentissage et des corpus qui peuvent être biaisés. Dans un sens ou dans l’autre.

Procureure Denet :

Pardon, mais qu’est-ce que ça veut dire des « corpus biaisés » ?

Francis Ohm :

Eh bien, certains algorithmes sont capables de se modifier à partir des exemples qu’on leur présente et si ces exemples comportent un biais, ils vont reproduire ce biais. Par exemple, si on veut qu’une intelligence artificielle rende les décisions de justice, il faut lui donner les jugements passés. Si ces exemples sont biaisés contre une certaine catégorie de population, disons au hasard les classes sociales les plus défavorisées, alors la machine pourra et fera la corrélation que : être pauvre ça veut dire être coupable. Dit comme ça, ça parait évident que ce n’est pas ce qu’on veut faire, mais le problème c’est qu’on n’a pas toujours conscience des biais dans les exemples qu’on utilise.

Maître Etalon :

Pourtant, Monsieur Ohm, il existe bien des domaines où l’intelligence artificielle est supérieure à notre intelligence dite humaine ?

Francis Ohm :

Oui, sur certaines tâches très spécifiques, les intelligences artificielles sont en effet supérieures. Surtout dans le cas des tâches qui demandent des raisonnements répétitifs et une grande capacité de mémorisation.  Si elle est assez entraînée, une intelligence artificielle peut nous surpasser dans plusieurs domaines, comme dans les cas des jeux d’échecs ou de go. L’intelligence artificielle peut aussi prendre des décisions plus profitables sur le marché financier, par exemple.  Mais elle est limitée. Il lui manque la polyvalence, la souplesse et la flexibilité ! S'il y a un changement de contexte, une intelligence artificielle va simplement arrêter de marcher ou donner des réponses sans aucun sens. Pour donner un exemple, une intelligence artificielle qui peut jouer aux échecs ne saura pas quoi faire sur le marché financier, ou même pire : elle pourrait essayer de jouer aux échecs avec les actions de la bourse...

Procureure Denet :

Mais il me semble que c’est parfois déjà le cas, non ?

Maître Etalon :

Objection Votre Honneur, objection. Pure spéculation !!!

Juge Mendernier :

Accordée ! Madame la Procureure, vos propos sont hors de propos…

Procureure Denet :

Excusez-moi Votre Honneur… Ça m’a échappé ! Ce que je comprends à demi-mots dans ce que vous dites c’est que les chercheurs eux-mêmes ne comprennent pas ce que font leurs algorithmes !

Francis Ohm :

Oui, il faut bien admettre que dans une certaine mesure, c’est vrai qu’on ne sait pas ou qu’on ne peut pas toujours expliquer pourquoi une intelligence artificielle prend telle ou telle décision.

Juge Mendernier :

Vous semblez aller clairement dans le sens de Monsieur Eddy Bergson, à savoir qu’une intelligence artificielle générale n’est pas possible, que le fantasme du grand remplacement de l’Humain par l’IA n’est pas pour demain ?

Francis Ohm :

C’est ça, on ne dispose pas aujourd’hui d'un système unique capable d’apprendre tout sur tout et de s'adapter à tout moment. En revanche, j’attire votre attention sur le fait qu’on dispose de pléthore de « petits-remplacements » sur lesquels il serait bon de peut-être s’interroger.

Juge Mendernier :

Des « petits-remplacements » ?

Francis Ohm :

Tout à fait. On petit-remplace de plus en plus d’activités, de fonctions, de comportements intelligents de sapiens par des programmes ou des artefacts spécialisés. Certes, ils ne peuvent rien faire en dehors des situations pour lesquelles ils ont été conçus, mais ces petits remplacements sont légion et sacrément utiles. Pensez à la correction automatique, la navigation par GPS, la reconnaissance de la parole, les filtres à spam, les systèmes de recommandations et j’en passe. Les gens sont à la fois contents du confort que ça amène mais dans le même temps, ils sont inquiets parce ces petits remplacements pourraient aussi les mettre au chômage. Les petit-remplacer au travail en quelque sorte.

Juge Mendernier :

Mais ce n’est pas à l’ordre du jour, tout de même ?

Francis Ohm :

Si, et d’ailleurs c’est bien ce qui est arrivé au président de notre macropole, il a été petit-remplacé par le jumeau de Nasmushe. En fait, on sait qu’un certain nombre de métiers sont voués à disparaître car on pourra les automatiser à plus ou moins long terme. C’est déjà le cas par exemple dans la finance où les ordres d’achats et de ventes sont majoritairement faits par des programmes. Faut-il se réjouir de la disparition des traders ? Je ne suis pas là pour le dire mais il est presque certain que ce métier va disparaître. En revanche pour les plombiers ça devrait bien mieux se passer, d’autant plus que la plupart des robots ne sont pas étanches et, en plus, c’est vraiment des billes en plomberie.

Procureure Denet :

Oui, enfin excusez-moi, je ne vais pas faire un cours d’histoire mais, à ce sujet, je voudrais objecter que Marx par exemple postulait que la machine allait libérer les travailleureuses², mais bien souvent l’histoire nous a montré que ces derniers était finalement assujettis à leur fonctionnement… Ils servaient les machines plutôt que de s’en servir… Et il y a fort à craindre que nous allons, sans même nous en rendre compte, basculer vers ce nouveau paradigme : les humains au service des machines…

Juge Mendernier :

Mais donc, vous confirmez ? Il va y avoir de plus en plus d’IA dans le monde ?

Francis Ohm :

En tout cas on en prend clairement la direction. La question est donc de savoir où est-ce que l’on s’arrête ?

Juge Mendernier :

Merci Monsieur Francis Ohm, c’est justement ce dont nous devons débattre ! J’ai parfois l’impression de nager en pleine science-fiction dans ces débats. Ce qui me permet une transition parfaite pour appeler à la barre Mademoiselle Marylin Morrisson.

© Illustre Hâteur

Juge Mendernier :

Bonjour Marylin³, J’espère que vous allez bien ? Veuillez décliner, je vous prie, votre identité et jurer sur la bible du programmeur de faire état de votre savoir, rien que de votre savoir et de tout votre savoir.

Marylin Morrisson :

Mais bien sûr, Monsieur le Président. Moi Marylin Morrisson, spécialiste de la science-fiction littéraire et cinématographique, enseignante et chercheure à l’Université, je vous jure, Monsieur le Président, de faire état de mon savoir, rien que de mon savoir et de tout mon savoir.

Juge Mendernier :

Madame Morrisson, je commencerai par une question qui semble bien naïve mais qui pourtant ici m'apparaît comme nécessaire : la réalité n’est-elle pas affaire de science-fiction ?

Marylin Morrisson :

C’est une question plus complexe qu’il n’y paraît. Si les chercheurs ne confondent pas la fiction – les histoires inventées de la littérature, du cinéma ou des séries – avec la réalité de l’intelligence artificielle, ce n’est pas obligatoirement le cas du grand public et des médias. La représentation qui se forme dans l’esprit du grand public est issue de la science-fiction, des œuvres cinématographiques et littéraires créées depuis la fin du dix-neuvième siècle. La science-fiction a construit un rapport aux machines (Robots et IA mélangés) complètement ambivalent car tout à la fois fondé sur le complexe dit « de Frankenstein » et sur une empathie machinique.

Juge Mendernier :

Heu… Empathie machinique ? Pardonnez mon manque de savoir, mais…

Marylin Morrisson :

Je m’explique. Pour l’écrivain Issac Asimov, le complexe de Frankenstein est celui de la machine qui se révolte contre l’humanité. L’empathie machinique, à l’inverse, c’est l’idée qu’une machine, IA ou robot, entretient un lien émotionnel avec l’humanité, qu’elle est prête à tout pour nous aimer et nous protéger comme nous pouvons le voir dans des références artistiques telles que AI, l’IA enfant, L’Homme bicentenaire, Wall-E, Edi Nasmushe, et cetera. Notez bien que la science-fiction d’aujourd’hui ne reproduit plus cette image de l’ordinateur géant, centralisé, omnipotent comme dans « Un bonheur insoutenable » d’Ira Levin, mais une IA dématérialisée, présente dans de petites unités, partout et nulle part à la fois comme dans le film HER ou dans Les Machines fantômes d’Olivier Paquet.

Juge Mendernier :

Permettez, Marylin⁴, mais ne sont-ce pas justement ces deux visions, complexe de Frankenstein et empathie machinique, qui s’opposent dans ce tribunal ?

Marylin Morrisson :

Plus ou moins, Monsieur le Président, plus ou moins. Ces représentations sont des images fictionnelles qui se confondent avec la réalité et viennent nourrir des discours, comme celui de la peur des machines. Mais elles ne sont pas la réalité. La SF enrichit nos fantasmes et nos rêves mais il faut faire la part des choses. Il faut écouter l’imaginaire pour ne pas tomber dans la démesure et perdre le contrôle. Il faut entendre l’imaginaire pour se poser des questions. Mais les politiques et les économistes lisent-ils de la SF ? Je ne crois pas…. Moi voyez-vous, à mes heures perdues, quand je suis seule et que je médite, je colle mon oreille à un disque dur, je fais le vide en moi… et eh bien, que croyez-vous que j'entende dans ce moment de béatitude méditatif ? Bien, j’entends le doux bruit de l’avenir qui ronronne…

Maître Etalon :

Moi en tout cas j’en lis de la science-fiction et j’adore ça. Et je peux ajouter que c’est parfois plein d’espoir aussi…

Juge Mendernier :

Oui … et ?

Maître Etalon :

Ben rien… c’est juste pour dire.

Marylin Morrisson :

Permettez-moi mais ce n’est pas « juste pour dire ». On ne dit pas quelque chose juste pour dire. Ou alors ça ne sert juste à rien !

Juge Mendernier :

Je permets, Marylin, je permets.⁵

Marylin Morrisson:

Merci Monsieur le Président. L’imaginaire entretient deux types de relation à la réalité. Celle qui permet de s’abstraire de la réalité et celle qui relève de la fonction d’imagination de choses qui n’existent pas encore. Cette dernière est celle qui permet de construire le monde de demain, de l’imaginer, ainsi que le font les scientifiques tout comme certains auteurs de SF. J’en appelle pêle-mêle à l’Orwell de 1984, à Léonard de Vinci, à Jules Verne… Ce sont les chercheurs et les scientifiques qui construisent la réalité d’aujourd’hui et de demain. Imaginons – ou anticipons, donc, si vous préférez – la possibilité du « tout data ». Réalité déjà présente mais surtout sans doute à venir. C’est pour cela que Francis Ohm vous posait à l’instant LA question : en veut-on encore plus ? Et d’ailleurs, la science-fiction d’aujourd’hui reproduit bien cette image d’une intelligence artificielle dématérialisée, présente dans de petites unités, partout et nulle part à la fois. Nous le voyons ici aussi dans le cas qui nous réunit tous ici : l’intelligence artificielle se promène de l’œil de l’EDIA aux Sphincter-control du monde entier… Il y a aussi la possibilité d’un grand remplacement de Sapiens, de l’Humain avec un grand h, par une super-IA. Ce grand remplacement surviendrait après ce qu’on appelle la Singularité, c'est-à-dire un moment unique d'une évolution autonome et accélérée où l’intelligence artificielle surpasserait Sapiens en intelligence et prendrait en main son propre destin ainsi que le nôtre. Certains vont jusqu’à dire que cela pourrait conduire à la mise en esclavage ou peut-être pire à l'extinction totale de Sapiens !  « celui qui deviendra le leader dans le domaine de l’intelligence artificielle sera le maître du monde. ⁶», a dit en son temps le président Vladimir Poutine. C’est donc la course aujourd’hui. Et l’EDIA ici présente en est une preuve… Du moins un échelon scientifique, une marche vers un grand bouleversement idéologique…

Maître Etalon :

Madame Morrisson, n’êtes-vous pas là vous-même en train de nous faire passer la fiction pour réalité ? Cette Singularité a été théorisée et anticipée dès les années 1970 où, pour rappel, la consommation de LSD était à son niveau le plus haut… ⁷

Marylin Morrisson:

Fiction aujourd’hui ou réalité demain ? Réalité d’hier ou fiction de demain ?Je souhaiterais d’ailleurs ajouter que les auteurs de science-fiction ont eu de grands questionnements à ce sujet qui perdurent aujourd’hui. Ils se demandent si les univers qu’ils proposent ne sont pas devenus ou ne deviennent pas des marches à suivre, des guides pour les recherches scientifiques et la transformation du monde. Ce qu’ils présupposaient ou proposaient restait de l’ordre du fantasme, mais certains états et certaines civilisations ont mis en pratique ces fantasmes, ce qui a conduit à ces grands bouleversements que je viens d’évoquer… Preuve en est plus récemment, c’est l’auteur de l’ancienne série Black Mirror qui jette l’éponge tant il redoute que ce qu’il écrit pour dénoncer serve de modèle de société pour le futur. Cela pose la question qu’a soulignée Noémie Lewis reprise par Madame la Procureure Denet : doit-on faire ce que l’on peut faire ? Pour l'heure, personne ne peut dire « si » et « quand » cette Singularité aura réellement lieu. Nombreux sont ceux qui croient qu'elle appartient au domaine du pur fantasme et qu'il faut ignorer totalement sa possibilité. D'autres, au contraire, pensent que c'est une vraie possibilité et qu'il faut d’ores et déjà penser à faire de l'intelligence artificielle tout en nous prémunissant de la survenue potentielle de la Singularité. Ici la question posée est : comment imaginer une intelligence artificielle autonome et évolutive qui stopperait son évolution au seuil même de devenir super-intelligente ? Il faudra sans doute inventer un nouvel art de la guerre préventive de l'homme contre ses propres machines. Un art de la guerre dit Frankenstein !

Juge Mendernier :

Bien, bien, bien, Marylin⁸. Votre intervention est à votre image, plus que parfaite, elle mériterait d’être approfondie… En tout cas cela me donne envie de continuer le débat avec vous… Merci à vous chers experts-témoins pour avoir su mettre l’intelligence au pluriel. A propos de pluralisme et d’intelligence, vous souhaitiez, Monsieur l’Avocat, appeler un témoin, je crois ?

Maître Etalon :

Oui, Monsieur le président, je souhaiterais citer à comparaître, et ce en exclusivité macropolitaine, NAO le petit robot.

Juge Mendernier :

Ah oui, je me demandais bien ce que ce jouet faisait à la barre ? J’ai cru que c’était un scellé ! Bien, bien, bien. Il se fait tard, nous verrons cela demain.