L’humanité était mon horizon - Le procès de l’intelligence artificielle - Chapitre 8

L’humanité était mon horizon

Le procès de l’intelligence artificielle

EPISODE 8 :

Les minutes du procès (6/6)

Renaud Smith :

Président, Président, dites, Mister Président, dites, puis-je revenir ?

Juge Mendernier :

Pourquoi donc ?

Renaud Smith :

Je discutais avec Monsieur Jul Lavoisier-Curie de son histoire de petites balles et… comment dire… disons qu’on pourrait bien vous illustrer ce que Monsieur Francis Badinter vient d’énoncer !

Juge Mendernier :

Êtes-vous en train de me demander de revenir à la barre pour jouer avec vos petites balles de couleur ?

Procureure Denet :

Si tel est le cas, je me permets d’appeler Monsieur Renaud Smith et ses petites balles de couleur à venir témoigner à charge.

Juge Mendernier :

Serions-nous à la maternelle ce soir ? Maître, vous ne pouvez pas rajouter des témoins à tire-larigot ! Mais bon, au point où nous en sommes… A procès abracadabrantesque, procédure abracadabrantesque. Et, pour être honnête, une petite récréation ne nous fera pas de mal. C’est donc bon, Monsieur Smith… Venez, et n’oubliez pas vos petites balles.

Renaud Smith :

Le modèle de prise de décision géré par l’IA fonctionne bien « en théorie » uniquement parce qu’il est destiné, en théorie, à des individus purement rationnels considérés comme des automates dans un monde purement mécanique. Or, l’humain est certes un être doué de raison, mais elle n’est que relative ! L’humain a aussi un inconscient. Il n’est donc pas toujours prévisible.

Juge Mendernier :

Et alors, quel rapport avec la choucroute ???

Renaud Smith :

Il peut se faire piéger ! Il pourrait se faire contrôler ! Commençons par le commencement. Une décision purement rationnelle est toujours affaire de maximisation d’un gain (qu’il soit économique, ou qu’il s’agisse d’un plaisir ou d’une satisfaction, voire d’une habitude, d’un apprentissage vous dirait Monsieur Jul Lavoisier-Curie). Un choix rationnel, au sens économique, est un choix qui satisfait deux règles. La première, c’est la transitivité.

Juge Mendernier :

La transitivité ? Qu’est-ce donc que cela ?¹

Renaud Smith :

Imaginions que vous préfériez l’option A (disons la balle rouge de Monsieur Lavoisier-Curie) à l’option B (disons un cube bleu) et que vous préfériez aussi l’option B (le cube bleu) à l’option C (disons un cylindre jaune). Cela signifie alors que l’option A (balle rouge) est préférée à C (cylindre jaune). Enoncé de la règle de la transitivité : si A est supérieur à B et que B est supérieur à C, alors A est supérieur à C.

Juge Mendernier :

Et ?

Renaud Smith :

Il y a une deuxième règle. Celle de la régularité !

Juge Mendernier :

Et ?

Renaud Smith :

Son nom l’indique. C’est simple, non ? Non ? Bon. Alors j’explicite. Si vous préférez A à B et B à C (prenons un nouvel exemple, qui vous parlera peut-être plus : A c’est le canard, B la pintade et C le bœuf) alors A (le canard) est toujours préféré à B (la pintade), que l’option C (le bœuf) existe ou pas (qu’il figure au menu ou pas, pour vous le dire vite).

Juge Mendernier :

Allons bon, où voulez-vous en venir, à la fin ! Vous mettez mes nerfs à rude épreuve en me parlant de nourriture, dois-je vous le rappeler ?

Procureure Denet :

C’est finalement beaucoup moins récréatif que prévu… Et de toute façon, moi, je suis végétarienne, alors…

Renaud Smith :

Laissez-moi poursuivre. L’économie c’est tellement simple que ça en devient compliqué à expliquer. Dans la vraie vie, ça ne marche pas comme le voudrait la théorie ! Le simple fait de vous proposer l’option C peut retourner votre choix et vous faire préférer l’option B à l’option A ! Les économistes vous taxeront d’avoir pris une décision irrationnelle mais je suis justement là pour vous expliquer l’effet de leurre !

© Illustre Hâteur

Juge Mendernier :

L’effet de l’heure ??? C'est-à-dire l’effet du temps qui passe ??

Renaud Smith :

Non, leurre ! L-E-U-R-R-E…² De tromperie si vous préférez. Un effet d’ailleurs très très bien connu des commerçants… Imaginons que vous soyez face à un choix d’achat de micro-ondes (mais cela a été testé avec tout un tas de produits et de services, dans toute la gamme des prix imaginables, du cas de l’acquisition d’un appartement à celui d’un saucisson ou d’un Kitchempouët, pour le dire simplement). Considérons que vous prenez en compte deux critères : le prix (et vous le souhaitez modéré) et la qualité (vous la souhaitez la plus grande possible). Face à vous : deux options : la première est un micro-ondes de prix modéré mais de qualité moyenne et l’autre est un modèle beaucoup plus cher mais de bien meilleure qualité.

JugeMendernier :

Et ???

Renaud Smith :

Et… Eh bien, quel est votre choix, Votre Honneur ?

Juge Mendernier :

La première option pour moi, la A, le modèle low cost ! Qualité correcte et prix raisonnable. Vous savez, moi, je me sers rarement d’un micro-ondes… Je préfère faire mijoter ma tambouille. Donc le modèle A m’ira très bien.

Renaud Smith :

Très bien. Votre choix est l’option A, pas l’option B. Et là, paf ! Le vendeur vous parle tout à coup d’une autre option, appelons-le modèle C qui a exactement la même qualité que B mais qui est beaucoup plus cher que B. « B est une super promo, regardez, il coûte beaucoup moins cher que C et est pourtant de la même qualité ! » Quel modèle choisissez-vous, désormais, Votre Honneur ?

Juge Mendernier :

Ah ben là, hum, réfléchissons… voyons… voyons, mais voyons mais c’est bien sûr : l’option B !

Renaud Smith :

Vous venez de vous faire avoir par l’effet leurre et vous êtes irrationnel.

Juge Mendernier :

Seriez-vous en train d’outrager la Cour ?

Renaud Smith :

Non… Reprenons : entre B et C qui sont de même qualité mais de prix différents, C étant beaucoup plus cher, vous choisissez quel modèle ?

Juge Mendernier :

Enfin, Monsieur Smith, l’option B, vous me prenez pour un gigot ? C’est le B-A-BA ! A qualité équivalente, je choisis l’option la moins chère, é-vi-de-mment ! Mais où diable voulez-vous en venir ?

Renaud Smith :

A est supérieur à B et B est supérieur à C, donc A devrait toujours être préféré à B, que C soit de la partie ou pas. Or, quand je vous parle de l’option C, vous revenez sur votre choix et, finalement, vous préférez B à A !

Juge Mendernier :

Pouvez-vous vous montrer un tantinet plus explicite, Monsieur Smith ?

Renaud Smith :

Dans le choix entre A et B vous êtes face à deux options aux avantages et aux inconvénients contradictoires : un micro-ondes moins cher avec une moindre qualité en face d’un micro-ondes de meilleure qualité mais avec un prix plus élevé. Vous pesez le pour et le contre et vous prenez votre décision, A dans votre cas. Quand je vous propose l’option C, j’introduis une asymétrie. Hé oui, je vous propose un inconvénient supérieur à B (coûte encore plus cher) pour un avantage similaire (la même qualité), vous me suivez ?

Juge Mendernier et Procureure Denet :

Ben, pas trop en fait…

Maître Etalon :

J’ai compris, moi ! Je peux, je peux, Monsieur Smith ?

Renaud Smith :

Faites, Maître, faites.

Maître Etalon :

En me parlant de l’option C, vous avez volontairement focalisé mon attention sur la qualité ! Je suis face à deux options de grande qualité et parmi elles, je finis par choisir la moins chère des deux ! J’ai oublié l’option A dans mon raisonnement, l’option la moins chère mais la seule option de moindre qualité. J’ai violé la règle de régularité, j’espère que la sanction ne sera pas trop importante.

Juge Mendernier :

Très légère, Maître, très légère.

Procureure Denet :

Cher Maître, laissez-moi vous remercier chaleureusement ! Non seulement vous m’avez éclairée mais, en plus, vous donnez de l’eau à mon moulin. On imagine assez bien ce que la généralisation de l’intelligence artificielle pourrait donner… La manipulation de nos intentions et donc nos décisions par l’introduction de leurres…

Francis Badinter :

C’est ce que je tentais de vous expliquer…

Juge Mendernier :

Merci à tous, mais l’heure, l’heure pas le leurre, n’est-ce pas, tourne et je voudrais bien que nous parvenions à prendre une décision. Je clos les débats !

Jean-Jacques Turing :

Monsieur le Président, vous voulez clore les débats alors même que les questions qui ont été soulevées à l’occasion du procès n’ont pas trouvé de réponse !

Juge Mendernier :

Pardon, mais, vous êtes ?

Jean-Jacques Turing :

Je suis Jean-Jacques Turing, chercheur en interaction homme-machine et je jure sur la bible du programmeur de faire état de mon savoir, rien que de mon savoir et de tout mon savoir.

Juge Mendernier :

Mais… Mais je ne vous ai rien demandé moi… C’est incroyable tout de même !

Chloé Toupirre, en facetime discret pour le Macropolit’Live :

Chers Macropolitaintaines, je me permets d’intervenir pour vous décrire la scène en deux mots. Un homme vient de se lever dans le public d'interpeller le juge Mendernier. Et le voici maintenant qui s’approche de la barre des témoins. Décidément, cela fait deux fois ! Je me demande comment le juge va réagir ce coup-ci car celui-ci, jamais vu !

Jean-Jacques Turing :

Comment savoir ce que peut faire l’intelligence artificielle ? Comment savoir ce qu’elle ne sait pas faire ? Comment savoir ce qu’elle fait, comment comprendre pourquoi et comment elle le fait ? Et pour quoi ?

Procureure Denet :

Et surtout : pour qui ?

Jean-Jacques Turing :

Et la liste ne s’arrête pas là ! Comment influer sur ce qu’elle fait ? Comment lui prendre ou lui reprendre le contrôle ? Et d’ailleurs, pourquoi se pose-t-on la question de l’IA ? Pour quelles raisons voulons-nous créer des intelligences artificielles ? Quels sont les buts que nous souhaitons atteindre ? Que nous souhaitons obtenir ? Et de quelle manière ?

Procureure Denet :

Monsieur Turing, savez-vous répondre à ces questions ?

Jean-Jacques Turing :

Hé non… Je donne ma langue au chat.

Procureure Denet :

Mesdames et Messieurs, chers Macropolitaintaines, si on ne sait pas répondre à ces questions, veut-on réellement de cette intelligence artificielle ? Hein ? Hein ? Moi, Mesdames et Messieurs, je vais être claire, je n’en veux pas et n’en veux plus. Monsieur le Président, puis-je vous emprunter votre marteau ?

Chloé Toupirre, en facetime discret pour le Macropolit’Live :

Alors là, chers Macropolitaintaines, alors là, ce procès vire résolument au spectacle ! Voici que le juge Mendernier, pris au dépourvu, vient de tendre son marteau, sans un seul mot, à Madame la Procureure Denet. Espérons qu’elle ne va pas commettre d’acte répréhensible… La Procureure Denet écarte et lève bien haut ses bras…

Procureure Denet :

Francis Badinter, je vous ai compris !!!

©Illustre Hâteur

Procureure Denet :

Et vous Monsieur Turing, Monsieur le chercheur en interaction homme-machine, en voulez-vous ?

Maître Etalon :

Objection Votre Honneur !

Juge Mendernier :

Vous n’allez pas vous y mettre vous aussi !

Maître Etalon :

Je reformule. « Non, non, non », Votre Honneur !

Juge Mendernier :

Précisez.

Maître Etalon :

Monsieur Turing n’est pas à la barre pour nous donner son opinion sur la question mais pour nous faire état de son savoir, de tout son savoir et rien que de son savoir !

Procureure Denet :

Excusez-moi, je reformule ma formulation : Monsieur Turing, pourquoi se pose-t-on la question de l’IA, alors ?

Jean-Jacques Turing :

C’est toute la question. Pour quelles raisons voulons-nous créer des intelligences artificielles ? Parce qu’on sait le faire ? Parce qu’on ne sait pas le faire ? Parce que d’autres le font ?

Procureure Denet :

Voulez-vous dire que l’intelligence artificielle n’est pas un phénomène naturel qui s’impose à nous ?

Jean-Jacques Turing :

Ben non, l’intelligence artificielle n’est pas un phénomène naturel qui s’impose à nous. L’IA résulte uniquement de nos choix. N’oublions pas que les intelligences artificielles sont des outils informatiques comme les autres, qu’elles doivent donc uniquement être conçues en réponse à des besoins ou des désirs qui doivent pouvoir être explicitement explicités. Qu’elles doivent pouvoir fournir tous les éléments nécessaires à leur compréhension et à leur utilisation. L’informatique doit être au service de l’humain. Et d’ailleurs, rappelez-vous bien qu’informatique et intelligence artificielle ne sont que des moyens, pas des finalités ! Et ce ne sont pas forcément, partout et toujours, les meilleurs moyens. L’IA résulte uniquement de nos choix. C’est une force que nous créons, collectivement.

Maître Etalon :

Vous voyez, c’est une force !

Procureure Denet :

Oui, une force, vous avez raison ! On dit souvent que la force est impuissante à dompter la pensée, mais pour que cela tienne, Maître Etalon, il faut encore qu’il y ait une pensée. Là où les opinions irraisonnées tiennent lieu d’idées, alors là, la force peut tout…³

Jean-Jacques Turing :

Tout à fait exact ! Une force qui peut aussi être une force de destruction…

Procureure Denet :

Nous y voilà ! L’intelligence artificielle comme moyen pour prendre les meilleures décisions ? Les décisions optimales, n’est-ce pas, Monsieur Smith ? Une force destructrice, oui ! Je ne veux pas vivre dans une société réduite à n’être qu’une somme d’individus. Prendre une décision pour qu’elle soit en phase avec la majorité quantitative des individus pris individuellement n’est pas la même chose que prendre une décision parce qu’elle sert une volonté politique réfléchie et qu’elle a été débattue selon un processus démocratique et dialectique. Un processus qu’une machine ne peut bien sûr pas comprendre. L’intelligence artificielle n’est pas forcément, partout et toujours, le meilleur moyen, Monsieur Turing ? Pour ce qui concerne le gouvernement de notre macropole, moi, je n’en veux pas. Je veux vivre en démocratie, pas en technocratie !

Maître Etalon :

Je n’objecte plus, je n’objecte plus. Mais, chère confrère, ne seriez-vous un tantinet en train de digresser vers votre plaidoirie ?

Juge Mendernier :

Greffier, on retire. Et Madame la Procureure, veuillez-vous contenir, s’il vous plaît.

Procureure Denet :

J’anticipe, Monsieur le Président, j’anticipe. D’ailleurs ici même ne faisons-nous pas qu’anticiper ? Ne s’agit-il pas seulement d’anticipation ? Pourrions-nous d’ailleurs en arriver aux conclusions ? Il me semble que l’affaire est dans le sac !

Juge Mendernier :

Je ne sais pas si l’affaire est dans le sac, Maître, mais vous avez raison et comme vous semblez la perdre, il est temps de faire le point et de prendre une décision. Monsieur Eddy Bergson veuillez s’il vous plaît revenir à la barre, et décliner votre iden… Ha non, où avais-je la tête, vous avez déjà fait ça tout à l’heure. Bien, Monsieur Bergson, il a beaucoup été question de philosophie sans qu’aucun des chercheurs – que je remercie d’ailleurs d’être restés intègres en demeurant toujours dans leur domaine d’expertise – ne l’aborde réellement. Pouvez-vous en remettre une petite couche, sans toutefois vous éterniser, l’heure tourne et puis… vous me comprenez… Quelle est donc la réaction du philosophe, maintenant, à l’issue de ces débats ?

Eddy Bergson :

Ma réaction, elle est sur trois plans. Premièrement, elle se place sur un plan politique. Puisque Martin Nasmushe, ce n’était pas n’importe qui, c’était le président de la Macropole tout de même ! Il y a donc eu tromperie sur la marchandise. On a élu un humain, on a une machine qui prend les décisions. Ce point politique, il est pourtant plus large que ça, parce qu’au fond, pourquoi avons-nous ces débats ce soir ? Parce qu’on ne les a pas eus avant ! Parce qu’à aucun moment on ne s’est posé la question de « que fait-on de nos technologies ? » On fait des études d’impacts, on envisage, à un moment ou à un autre, ce que pourrait devenir une technologie mais à aucun moment on ne se demande, collectivement, « de quoi avons-nous besoin ? ». De ce point de vue, ça biaise complètement le rapport des citoyens aux décisions politiques à prendre. Au fond, le système démocratique permet-il vraiment d’assurer une sorte d’agrégation de nos volontés qui correspondrait à la volonté commune plus qu’à la volonté de la majorité ? C’est vraiment cette énorme question politique qui est à l’horizon de nos débats.

Je voudrais revenir ensuite sur un deuxième plan ou un deuxième point qui est celui de l’autonomie de l’intelligence artificielle. Au fond, ce que les débats ont bien montré c’est que la question des biais, la question des data, l’agrégation de toutes ces data, leur traitement par des algorithmes, par du machine learning, revenaient toutes à se demander sur quelle base décide et agit une intelligence artificielle. On a peur d’être pris en otage, d’être devenus à la fois la matière première et ceux qui sont gouvernés par l’IA. Mais si les données ce sont nous qui les fabriquons, si les données ce sont nous qui acceptons de les donner, nous acceptons, en même temps que nous produisons des données, d’être gouvernés par ces données. Donc cette autonomie, qu’on pourrait penser être transformée en hétéronomie, bizarrement se retourne à nouveau en autonomie mais d’un niveau beaucoup plus compliqué mais à laquelle on ne comprend plus rien, si vous me suivez toujours.

Enfin un dernier point, et je m’arrêterai là-dessus. J’aurais pourtant presque envie de remercier Martin Nasmushe, s’il était encore parmi nous, parce qu’il y a dans son tour de force, quelque chose d’extraordinaire pour les chercheurs en intelligence artificielle, en neurobiologie mais aussi pour le philosophe que je suis. Au fond, ce qu’il a réussi à faire, c’est ce dont je parlais tout à l’heure. Certes c’est dysfonctionnel mais il a réussi à incarner – à incorporer – une intelligence artificielle dans un corps et ce n’est plus seulement le corps dont parlait tout à l’heure notre collègue Carlos Plank. Ce n’est plus seulement ce système qui à la fois capte des données et agit ou interagit avec des humains par des systèmes plus ou moins compliqués mais complètement répartis partout sur la planète. Non là, c’est un corps humain. Bon, un petit peu trafiqué, un petit peu bidouillé, certes, mais un corps humain. Donc c’est une vraie expérience en pensée qui nous est offerte aujourd’hui de nous demander : quelles sont les limites que l’on doit, a priori, ne sachant pas ce que l’IA pourra faire demain, quelles sont les limites que l’on est prêt à imposer à notre propre développement technologique avant même qu’une catastrophe, ou au contraire, un miracle, arrive ?

Juge Mendernier :

Bien, merci, Monsieur Eddy Bergson de finir sur le thème du miracle, cela va certainement nous aider. Je clos donc les débats sur cette question ma foi, très ouverte… Chers Macropolitaintaines, cher Jury officiel, vous allez maintenant devoir trancher deux questions d’importance.

1. Un, Mademoiselle Faustus est-elle coupable d’avoir mis en danger la vie des Macropolitaintaines et au-delà ? En d’autres termes, peut-elle être tenue pour responsable du bug des sphincter-control ?

2. Et deux, êtes-vous pour ou contre la réactivation totale de l’EDIA ? Dit autrement, chers Macropolitaintaines, souhaitez-vous continuer à être gouvernés par cette intelligence artificielle ?

Avant d’entendre le réquisitoire de Madame la Procureure Denet et la plaidoirie de Maître Etalon, je vous rappelle les peines encourues par Marguerite Faustus.

Mademoiselle Faustus, vous encourrez, par ordre décroissant de pénibilité, les peines suivantes :

1. Mise en quarantaine civile et scientifique, à vie, au Pénit’ Club Montessori où vous serez condamnée à organiser, à vie, le tournoi national de tricotage « Mailles à partir », catégorie masculine.

1. Bannissement à vie de la communauté scientifique tout en gardant votre droit à la vie civile conditionné par le port, à vie, en public comme en privé, du poids de votre culpabilité.

2. Maintien de votre insertion dans la vie scientifique et civile mais, en guise de travaux d’intérêt général, la rédaction manuscrite à la main d’une lettre d’excuse personnalisée à chacune des 25 millions 8 cents sept mille deux cents vingt-neuf personnes affectées par le bug du sphincter-control.