L’humanité était mon horizon - Le procès de l’intelligence artificielle - Chapitre 3

L’humanité était mon horizon

Le procès de l’intelligence artificielle

EPISODE 3 :

Les minutes du procès (1/6)

Illustre Hâteur

Chloé Toupirre, en direct depuis l’entrée de l’hémicycle, pour le Macropolit’ Live :

Chers Macropolitaintaines, bonsoir ! Moi, Chloé Toupirre, je serai, pour cette soirée plus que spéciale et exceptionnelle, votre dévouée « spéciale envoyée ». Actuellement en direct du Macrop’hôtel (ancien hôtel de Région) réhabilité pour l’occasion en Cour d’Assises, en direct, en live et de l’intérieur, je vais vous accompagner pour vous faire vivre le plus grand procès que notre Macropole ait connu depuis, depuis… sûrement depuis toujours !

Je me trouve à présent et présentement ainsi qu’en ce moment même devant l’entrée du bâtiment principal où, comme vous pouvez le constater, des groupes de manifestants « D’accord », « Pas d’accord », et plus étonnant « D’accord et Pas d’accord en même temps se laisser diriger par une IA » s’affrontent à coups de slogans et autres chants. De quel côté vous situez-vous chers Macropolitaintaines ? Adhérez-vous à la maxime : « IA si tu savais, tes data, tes data… IA, si tu savais, tes data où on se les met ! » Ou seriez-vous plus enclinclines à chanter (à pleins poumons, ndct) : « Aucune, aucune, aucune hésitation ! L’IA, l’IA, l’IA nous choisissons ! » ?

Car votre avis compte ce soir, et plus que jamais ! Vous allez devoir trancher car c’est de notre avenir commun dont il est question. Pour ou contre maintenir l’Intelligence Artificielle au pouvoir ?

Pas de demi-mesure possible : c’est OUI ou c’est NON ! Appelez le 0 872 537 22 492 68 12 9000 pour voter ! Pour voter « pour l’IA aux manettes » : taper 1, pour voter « Contre » : taper 2. Envoyer 1 ou 2 par télé-message au 666. Prononcez-vous, donnez votre sentiment car je vous rappelle que la proposition qui émanera de votre vote comptera comme une voix double dans les délibérations du jury sous le regard attentif de notre huissier de justice Maître Lecouvert. La démocratie participative est plus que jamais de mise ce soir !

Oh ! Mais voilà que retentit la sirène dans le Macrop’hôtel. L’excitation, la peur, le doute se lisent sur les visages des Macopolitaintaines venus en masse participer aux débats. Voilà qu’Edgard Davu entre dans l’hémicycle pour annoncer l’entrée de la Cour… un silence à couper au couteau électrique s’installe et toute l’assemblée se lève comme un seul Macropolitaintaine. C’est parti !

Edgard Davu :

Mesdames, Messieurs, chers Macropolitaintaines, levez-vous s’il vous plaît, la Cour !

L’audience de ce jour sera présidée par l’éminent Juge Mendernier, accompagné des Assesseurs Pour et Léchaffot. La Défense sera assurée par Maître Étalon et le Ministère public sera représenté par Madame la Procureure Denet.

Juge Mendernier :

Mesdames et Messieurs, chers Macropolitaintaines, bienvenue à toutes et à tous dans ce tribunal exceptionnel et d’exception où nous nous réunissons ce soir pour débattre et juger d’une affaire abracadabrantesque qui touche au cœur notre Macropole.

Je procède sans plus tarder au rappel des faits. En 2047, Martin Nasmushe, neurochirurgien renommé se retire de la scène scientifique et médicale pour se consacrer à la vie politique. Immédiatement élu président de la Macropole au terme d’une campagne menée d’une main de maître, il présente, trois ans plus tard, un bilan élogieux. Son action est unanimement appréciée mais voilà…

Dimanche 6 octobre, lors de la présentation de ses vœux de rentrée, Martin Nasmushe est victime d’un « bug », en direct, devant les caméras de télévision. Bug qui, semble-t-il, a provoqué, une panne synchronique de tous les sphincter-contrôl en activité, mettant en danger la vie de moult Macropolitaintaines¹ ainsi que de nombreux humainmaines² bien au-delà de nos frontières de France et de Navarre.

Après de nombreux examens anthropo-médicaux, les médecins experts découvrent qu’ils n’ont pas entre leurs mains Martin Nasmushe, mais son frère jumeau, Edi Nasmushe. De rebondissements en rebondissements, après moult étudenquêtes approfondies, nous apprenons que Martin avait relié son frère jumeau, tombé dans un état neurovégétatif suite à un accident de véhicule autonome, à une Intelligence Artificielle, dissimulée dans son œil et reliée à son système de sphincter-contrôl. C’est donc ce frère, enfin… cette Intelligence Artificielle, qui dirigerait notre Macropole depuis trois ans ! Enfin, sachez que je m’étonne moi-même de tout ce que je viens de dire tellement cela semble sorti d’un cerveau malade… Mais, nonobstant et néanmoins³, je garderai pour moi mes réflexions personnelles sur ce sujet car j’ai un devoir de réserve que j’entends bien utiliser, étant donné que je n’ai pas le choix.

Martin Nasmushe ne pourra malheureusement pas venir s’expliquer sur cette affaire devant le tribunal puisqu’il s’est suicidé dans sa cellule du Pénit’club Montessori. Nous pourrons toutefois profiter de la présence de Marguerite Faustus, son assistante de l’ombre, qui s’est rendue d’elle-même aux autorités compétentes pour remettre l’EDIA en route.

Mais sufficit ! Dura Lex, Sed Lex. Nous aurons donc à statuer sur la responsabilité de Mademoiselle⁴ Marguerite Faustus dans l’affaire dite du « Bug de Nasmushe ».

J’appelle donc à la barre et sans plus tarder, Mademoiselle Marguerite Faustus.

Maître Etalon :

Objection Votre Honneur !

Juge Mendernier :

Monsieur l’Avocat de la défense, je m’oppose à votre objection et vous rappelle que dans le droit français, les objections n'existent pas. Toutefois, et par curiosité, je me demande bien sur quoi émettriez-vous une objection.

Maître Etalon :

Oui pardon, et merci de me poser la question Monsieur le Président. J’objecterais dès à présent le fait de faire reposer sur les frêles épaules de ma cliente des responsabilités pour des faits dont elle n’est pas responsable ! Ce procès est dès son origine biaisé…

Procureure Denet :

« Scandale », Votre Honneur ! Vous noterez, au passage, que je n’objecte pas, moi.

Juge Mendernier :

« Scandale », Madame la Procureure ?

Procureure Denet :

Tout à fait Monsieur le Président, un scandale ! Comment, oui comment, oserions-nous ne pas considérer Madame Marguerite Faustus comme responsable dans cette affaire ?

Juge Mendernier :

Heu… oui… tout à fait… Comment ?

Procureure Denet :

Eh bien, je vais donc vous l’expliquer. Nous avons dans un premier temps à traiter de la question primordiale : Souhaitons-nous nous voir gouverner par une intelligence artificielle ? Car c’est, chers Macropolitaintaines, une occasion à ne pas manquer pour nous interroger sur la société que nous souhaitons construire. Je me permets d’ailleurs ici de citer Noémie Lewis, entendue il y a peu sur le plateau de « Science et astuce » : Peut-on faire ce que l’on peut faire ? Doit-on faire ce que l’on peut faire ? Souhaite-on faire ce que l’on peut faire ? Veut-on faire ce que l’on peut faire ? Doit-on faire ce que l’on veut faire ? Veut-on faire ce que l’on souhaite faire et surtout, surtout, souhaite-on faire ce que l’on veut faire ? Autrement dit, pour ceux qui n’auraient pas bien suivi l’implication d’une telle décision : est-il souhaitable de confier nos existences à une Intelligence Artificielle, à une machine ? Telle est la question ! L’incroyable question ! La diabolique question ! L’inconcevable question ! La question sans réponse ! La question vertigineuse de la question ! La question de la question ! Face à cette entêtante et questionnante question, nous ne pouvons que nous questionner en posant cette simple question : accepterons-nous la réactivation de cette intelligence ? Certes mais n’oublions pas, Mesdames Messieurs, que nous sommes réunis dans ce tribunal réhabilité, afin de juger un délit ! Et pour juger un délit, il faut un délinquant ! Et croyez-moi, ce délinquant est ici ! Nous sommes ici afin d’incriminer, d’infliger un châtiment à la hauteur du mal. Il nous faut un coupable ! Un coupable de chair et de sang si je puis dire, avec toute sa tête, et qui peut répondre à toutes nos questions, ce que ne peut faire cette coquille vide d’Edi Nasmushe que vous voyez ici… L’importance ici ce n’est pas la recherche de la culpabilité à tout prix mais la question… La pertinence de la question… L’importance de la question.⁵ Et la réponse à une de ces questions c’est bien la responsabilité évidente de Madame Marguerite Faustus dans l’affaire du bug des sphincters-contrôle. Responsabilité qui a mis en danger la vie de tant de Macropolitaintaines ! Il me semble donc in fine que nous ne pouvons passer à côté de cette question.

Juge Mendernier :

Bien… merci… Soit ! A affaire abracadabrantesque, procédure abracadabrantesque. Scandale retenu, objection rejetée ! Dura lex, Sed Lex, Nous jugerons donc de la culpabilité de Mademoiselle Faustus. J’appelle donc à la barre derechef et sans plus tarder, Mademoiselle Marguerite Faustus. Edgar Davu, veuillez officier, je vous prie.

Chloé Toupirre, en facetime sur Macropolit’ Live:

Je profite de ce moment pour vous retrouver, chers Macropolitaintaines qui nous suivez en direct sur le flux du Macropolit’ Live. Edgar Davu vient de partir chercher Marguerite Faustus, ce personnage plus que central dans cette affaire, celle qui est la seule aujourd’hui à pouvoir allumer et éteindre l’EDIA. Nous lui devons au passage le rétablissement des connexions qui nous permettent cette télédiffusion.

Marguerite Faustus :

Votre Honneur, Messieurs et Mesdames les jurés, de quoi serais-je vraiment coupable ? Je n’ai fait qu’apporter mon aide à l’homme le plus brillant de ce siècle… J’ai aidé mon prochain, j’ai aidé les Macropolitaintaines, quand l’EDIA a buggué, J’ai pris mon courage à deux mains et je l’ai remis en marche afin que le chaos ne s’empare pas de notre Macropole… Ne serais-je donc coupable que d’avoir aidé ?

Procureure Denet :

Non Madame, vous avez été prise la main dans le sac et vous êtes coupable d’avoir mis la vie des Macropolitaintaines en danger. La panne qui a touché les sphincter-contrôle le soir du bug synchronique de l’EDIA, de ce… de… de cette chose que certaintaines appellent encore Edi Nasmushe, aurait pu avoir des conséquences plus désastreuses encore que cette vague de panique et d’excréments !

MargueriteFaustus :

Peut-être, mais moi je ne suis pas responsable, je n’ai été qu’une petite main dans cette histoire. Je ne comprenais même pas ce que je faisais, je mettais juste la main à la pâte. C’est Martin, cet impeccable Martin, cet implacable Martin qui détenait tout le savoir… Moi je ne savais rien, je ne sais rien… J’ai prêté main forte… Il me disait quoi faire et je le faisais ! C’est tout.

Procureure Denet :

Vous allez nous faire croire que vous étiez sous influence ?

Marguerite Faustus :

Oui, sous la plus belle influence qui soit… Celle de l’amour…

Procureure Denet :

Bien vous admettez donc que vous aviez une liaison !

Marguerite Faustus :

Oui, j’admets, oui, j’avoue. La plus belle liaison qui puisse être. Je parle de l’amour de la science…

Procureure Denet :

C’est un peu court, quand même.

Marguerite Faustus :

Que dire de plus ? Je n’ai pas les connaissances de Martin. Mais je savais qu’il faisait le bien. Alors soit, son projet a buggué, entraînant il est vrai quelques menues contrariétés, mais rien de grave… Et d’autre part, j’ai pu remettre en partie l’EDIA en marche, ce qui a certainement sauvé de nombreuses vies !

Procureure Denet :

Excusez-moi, vous parlez de « menues contrariétés » mais il s’agit de bien plus que cela. Ce bug va laisser des traces dans l’histoire et dans l’âme de ces pauvres gens, des cellules de crise ont été installées un peu partout et ne désemplissent plus. Vous pensez aux traumatismes dont souffrent les Macropolitaintaines ? D’autre part et c’est un point on ne peut plus important, vous refusez de dire comment vous avez remis en marche l’EDIA. Pourquoi laisser ce si silencieux silence siffler sur nos têtes ?

Marguerite Faustus :

Parce que Martin ne voulait pas que son savoir tombe entre de mauvaises mains, il avait peur que certains esprits mal intentionnés, en un tour de main, fassent main basse sur ses recherches et… et…

Procureure Denet :

Ah vous admettez maintenant que vous aviez la mainmise sur le savoir de Martin ? Vous n’êtes donc pas l’oie blanche, la main pure à laquelle vous espérez nous faire croire… Et est-ce pour ça aussi que vous n’avez pas remis toutes les fonctions de L’IA en marche et qu’il ou qu’elle ne parle plus ?

Marguerite Faustus :

Je suis juste la femme qui a appuyé sur le bon bouton au bon moment, je suis la main du destin. Martin m’avait préparée à cette éventualité mais sans rien me dire de plus… Et je ne dirai rien de plus non plus… Je serai « mouette » comme une tombe et le reste je m’en lave les mains. Jugez-moi si vous le voulez ! Mais sachez que je ne suis ni coupable, ni responsable de ce bouleversement scientifique. Je n’ai été que la femme aimante d’un homme aimant, la petite main d’un bras de fer, l’épouse « inépousée » de la science, le beau temps après la pluie… De l’écrou ou de la vis qui retient la planche ? Hein ? Hein ? Vous pouvez répondre à cette question ? Moi pas. Moi il ne me reste que ma douleur d’avoir perdu Martin Nasmushe, le cerveau de ce siècle ! Je suis la larme pendue à l’œil de l’humanité… La main tendue à la misère humaine⁶…

Procureure Denet :

Reprenez-vous Madame Faustus ! Dois-je vous rappeler où vous vous trouvez et la gravité de vos actes ?

Marguerite Faustus :

Je suis la caresse des datas ! Le cœur sur la main ! La comptine de l’enfant qui vient de naître ! L’antilope du destin ! Je suis le synchrotron du démon… La sharing box de l’instantané !

Maître Etalon :

Votre Honneur, vous voyez bien dans quel état se trouve ma cliente. Je vous demande de cesser l’interrogatoire. Il faut qu’elle se repose…

Procureure Denet :

Elle simule, Votre Honneur, elle simule Mesdames, Messieurs ! Elle simule ! Simulae semule non est aqui simulili !⁷

Marguerite Faustus :

Non ! Je suis la science sans conscience de l’aube de l’humanité.
Martin, l’humanité était ton horizon et le mien est parti dans le bleu noir de l’œil atrophié…

Juge Mendernier :

Bien, bien, bien, effectivement, quelque chose ne va pas… Qu’on ramène madame Faustus dans sa cellule. Monsieur Edgard Davu… Officiez, je vous prie… Et reprenons le cours de nos débats.

Marguerite Faustus : Je suis l’avenir dans la main du présent que le passé retient. Je suis femme de la science et vérité du monde ancien. Je suis l’exploratrice de vos impasses. Je suis l’assistante de l’histoire.

© Illustre Hâteur

Chloé Toupirre, en facetime discret pour le Macropolit’ Live :

Tragique vision que celle de Marguerite Faustus ne pouvant plus contenir le flot de ses paroles qui coulent comme le torrent de larmes qui jaillit de ses yeux. Edgard Davu ne peut faire autrement que de la prendre – littéralement comme un sac à patates – pour la ramener dans le boxalarium des accusés.

Juge Mendernier :

Silence ! Monsieur l’Avocat de la défense s’il vous plaît, reprenez la main, il me semble que vous souhaitiez appeler un témoin à « décharge » dans l’affaire « Marguerite Faustus », est-ce toujours le cas ?

Maître Etalon :

Oui, Monsieur le Président. J’appelle à la barre Monsieur Martin Nasmushe.

Procureure Denet :

Tiens, tiens, Monsieur l’Avocat nous proposerait-il une séance de spiritisme, peut-être ?

Maître Etalon :

Non, non, non, loin s’en faut. Monsieur le Président, chers confrères et collègues, l’instant est grave. Il y a deux jours de cela, mon équipe d’enquêteurs a percé à jour le dernier secret de Martin Nasmushe. Rappelez-vous cette formule retrouvée dans sa cellule le jour de son suicide : « sous l’eau est l’au-delà » … Eh bien, pendant que les équipes du méta-shérif Ludovic Cruchot draguaient toutes les rivières alentour, nous, nous avons retrouvé, cachée dans le système d’évacuation des sanitaires de sa cellule, une capsule étanche reliée par un câble au système de sa chasse-d’eau. Et, tenez-vous bien, dans cette capsule étanche, il y avait, des papiers… Et, sur ces papiers étaient écrits des mots… Et ces mots…

Juge Mendernier :

Assez de suspens, Maître, les faits je vous prie.

Maître Etalon :

Pardonnez-moi Votre Honneur, c’est l’émotion. Je peux enfin dire que nous avons retrouvé le Testament du Docteur Nasmushe ! Testament que nous avons immédiatement enregistré comme pièce à conviction numéro 666 et dont nous allons faire immédiatement la lecture. C’est donc bien Martin Nasmushe qui nous parle maintenant d’outre-tombe.

Juge Mendernier :

Ainsi soit-il. J’ordonne trois minutes de silence pour la lecture du testament

© Illustre Hâteur

Pièce à conviction n°666

Le Testament de Martin Nasmushe⁸

Mes chers concitoyens, mon très cher Frère,

Je laisse ce document en guise de testament. Je suis pris dans la tourmente, exposé à mille vents contraires et j’erre maintenant au milieu des lambeaux de vérité que l’on croit arracher à la peau de mes recherches. Pourtant, ce que j’ai fait, je l’assume sans problème. Je n’ai eu qu’un seul but : améliorer la vie et préserver l’humanité. Faire en sorte que le bonheur et la douceur de vivre conjointement réunis s’étendent sur tout notre territoire de Bordeaux-Métropole ainsi que dans un avenir durable et plus large. C’est l’humanité qui était mon horizon.

Et toi mon frère, mon cher frère que j’ai retrouvé un jour par miracle, je ne peux que me réjouir de ce que j’ai accompli sur toi. Après ton accident survenu bien trop tôt, tu n’étais plus réduit qu’à une enveloppe charnelle sans parole, même ton âme avait fui de ce que tu étais. Je ne pouvais me résoudre à ne pas utiliser tout mon savoir et mes moyens pour opérer cette transformation. Quand nous avons le potentiel de résoudre les problèmes pourquoi s’en priver ?

Après ma série d’expériences sur les souris, j’ai vu le potentiel de l’homme augmenté. J’ai perçu les bienfaits possibles d’une intelligence hors normes pouvant instantanément trier, traiter, combiner toutes les données pour en tirer les meilleures solutions afin d’apaiser le plus grand nombre. C’est donc pour une cause juste que j’ai fait de toi ce que tu es devenu.

Si j’ai brûlé et détruit aujourd’hui toutes mes recherches c’est parce qu’au cœur de ce scandale éthique qui secoue aujourd’hui la Métropole et bien au-delà, j’assume seul cet acte. Et que quoi qu’il arrive par la suite dans ce procès, nulle personne n’aura accès à mes recherches pour continuer ce travail ou le détourner vers de mauvais desseins. Si vous ne conservez pas mon frère augmenté, il vous faudra à nouveau trouver par vous-mêmes le moyen neuf de façonner une autre AI dans un corps d’homme. N’oubliez pas cependant que l’AI est un reflet de nous-mêmes. Mon but était pur et vous en avez eu la démonstration par la clarté du bilan laissé par mon frère augmenté. Moi, c’est un geste d’amour que j’ai laissé. Mais imaginons maintenant que je n’ai été que haine et puissance destructrice ? Cette question ne sera plus mon problème. Moi j’aurai ouvert la voie. A vous maintenant de la continuer ou de la refermer.

Personnellement, je pense « qu’il n'y a pas de propositions éthiques, il n'y a que des actes éthiques »⁹ et c’est ce que, après un terrible examen de conscience, je crois avoir fait avec la création de mon frère augmenté. Car voilà bien l’essence de notre tragique existence : « nous sommes incapables d’apercevoir une image de l'équilibre dans la succession indéfinie des ruptures d'équilibre. Il nous faudrait pour cela embrasser la totalité de l'univers et du temps. Nous sommes donc inaptes à penser concrètement l'équilibre et par suite la limite et par suite l'illimité, et par suite, d'une manière générale, de penser, s'il ne nous était pas donné des images de l'équilibre à notre échelle. »¹⁰ Comme ma condition me semblait minuscule, comme j’étais claustrophobe de ma propre pensée, moi qui petit déjà avais la tête dans les étoiles. Il me fallait donc trouver un moyen d’être heureux dans notre ignorance, d’imaginer sans sombrer dans le chaos une place vacante pour notre ignorance. Pourquoi, oui pourquoi vouloir toujours nous montrer si intelligents alors que nous pourrions juste être un peu moins bêtes ?¹¹ Il suffirait donc de laisser faire mon frère et de cultiver tranquillement notre jardin sous ses bienveillantes décisions. Mon frère a largement dépassé l’étroitesse de nos pensées, il embrasse l’échelle de l’univers et son savoir ne cessera jamais de croître avec lui.

Car lui ne ressent pas qu’inexorablement « Notre esprit est déchiré, mis en morceaux, dispersé à travers l'espace, à travers la matière étendue. Qu’il est crucifié sur l'étendue. Qu’il est aussi crucifié sur le temps, dispersé en morceaux à travers le temps. Nous, humains, dans notre désir le plus animal comme dans notre aspiration la plus haute, sommes séparés de nous-mêmes par la distance que met le temps entre ce que nous sommes et ce que nous tendons à être. Si nous croyons nous être trouvés nous-mêmes, nous nous perdons aussitôt par la disparition du passé. Ce que nous sommes dans un seul instant n'est rien ! Ce que nous avons été, ce que nous serons n'est pas ! Le monde étendu est fait de tout ce qui nous échappe, maintenus que nous sommes en un point comme par une chaîne et une prison. Le plaisir et l’immédiateté de l’instant présent nous clouent sur place. Le désir des lendemains nous suspend à un instant prochain et fait disparaître le monde entier pour un objet ! La douleur consiste toujours pour nous à sentir le déchirement et la dispersion de notre pensée à travers la juxtaposition des moments et des lieux. »¹² C’est pour rompre ce pacte pernicieux de nos conditions d'existence que j’ai œuvré à l’amélioration d’un humain pour que justement il puisse opérer la juxtaposition des moments et des lieux sans dispersion de pensée. Pour que quelque chose de plus grand que nous puisse enfin nous laisser un espace vacant de bonheurs simples et de plaisirs à partager loin des prises de décisions qui nous séparent sans cesse les uns des autres. Rêver enfin à une organisation sociale qui sera assurée par une intelligence fiable, dédouanée de nos faiblesses, erreurs et passions humaines. Mon frère augmenté ne ressent pas ce déchirement entre l’espace, le temps et l’éparpillement des données. Il agit pour le mieux à votre place sans en sentir aucun poids, aucune tension parasite, créé pour le bien, il fait le bien sans atermoiement, sans hésitation car il est passé, présent et avenir en datas réunies, il est la somme de ce que nous sommes.

Ma tâche est maintenant accomplie, et c’est ici que le vertige me prend. Je ne veux pas participer à ce procès et ses interminables polémiques qui ne manqueront pas. Je ne veux pas répondre point par point à toutes ces questions désormais vides de sens pour moi puisque j’ai franchi le Rubicon scientifique. Mon parcours scientifique a tracé mon propre chemin à travers la jungle de la connaissance et la végétation que j’avais mis tant de temps à défricher a repoussé résolument derrière moi. Je suis seul maintenant à savoir où je suis. Seul restera de moi un acte d’acier, un geste fort et irrémédiable. Je suis passé de l’autre côté du miroir technologique et ne peux plus revenir en arrière…

Martin Nasmushe.