La guerre contre les intelligences artificielles n’aura pas lieu

De nombreux penseurs nous prédisent un combat contre les intelligences artificielles. D’abord un combat pour sauver nos emplois, puis un combat pour sauver nos libertés, enfin peut-être un combat pour sauver notre espèce. Sans aller jusqu’au bout de leurs « combats » (pourquoi ne pas sauver Dieu aussi?), ils font de l’anxiogène un discours, rejoignant ainsi les dizaines de discours eschatologiques dont l’Occident raffole bien que la fin du Monde ne semble jamais vouloir être à leurs rendez-vous. Alors prenons la défense des pauvres IA devenues nouveaux diables.

Le QI au secours

Laurent Alexandre nous le dit: sans améliorer notre QI par tous les moyens nous serons bouffés tout crus par les IA. Le QI est un test psychométrique dont on ne peut affirmer avec certitude qu’une seule chose : plus il est élevé, plus l’aptitude de l’individu à réussir le test psychométrique est grande.

Les QI-maniacs vous diront que les études sont formelles: il y a une corrélation claire entre le QI et le niveau de revenu. En Occident, la sélection sociale se fait sur les mathématiques, c’est-à-dire sur la capacité d’abstraction. Il est donc assez logique de trouver cette corrélation. Du temps de l’esclavage, ils auraient dit qu’il y a une corrélation claire entre le niveau de revenu et la couleur de peau. Je nourris d’ailleurs le projet sur mon temps libre de développer une IA qui détecte automatiquement les sophismes, avec un badge automatique pour alerter que l’argumentaire en contient et qu’il faut le consommer avec modération (me contacter si cela vous intéresse aussi).

Dans ma vie professionnelle, j’ai presque toujours travaillé avec des gens plus intelligents que moi. J’ai constaté expérimentalement qu’ils n’avaient pas plus de talent que les autres. Ils calculent, résolvent rapidement les problèmes de logique: ils sont excellents dans les cas d’école, qu’on ne trouve par ailleurs qu’à l’école. Une anecdote vraie: Un jour un brillant polytechnicien au QI stratosphérique fût interpellé par un responsable de projet à la machine à café: « hey on a fait les essais de la pièce mécanique que tu as calculé. ça ne marche pas elle casse ». Le gars est furieux. Il retourne dans son bureau. Le lundi matin suivant il était de retour, après avoir passé le week-end à compter: « j’ai vérifié les calculs. Ils sont bons: la pièce ne casse pas ». Le Qi mesure la capacité d’abstraction, ce que savent aussi faire les IA, mais l’abstraction … il ne faut pas en abuser. La réalité est certes perçue par le cerveau avec son intelligence, mais elle est aussi perçue par les sens, jusqu’à la sensualité d’une part, et jusqu’au bon sens d’autre part. Se faire dépasser par les IA sur ce qui relève de ce que mesure le QI n’est peut-être finalement pas bien grave, si ce n’est pour l’amour propre. Et une IA à fort QI sans les inévitables troubles de la personnalité associés, selon l’étude Kyaga, à l’intellect, ce serait peut-être même un bien.

La bataille perdue du sommeil

Imaginons que la guerre ait lieu entre des humains à fort QI et des IA très malveillantes. À la fin de la journée, les uns devraient aller dormir, les autres pas. Vous imaginez ce qui se passerait si des IA qui peuvent se dupliquer comme on copie un fichier, qui ne dorment pas, peuvent échafauder des plans pour conquérir le monde tandis que nos humains à haut QI rêvent de problèmes de logique formelle. Soyons sérieux et pleins de bon sens. Entrer en concurrence sur le QI avec elle est une idée assez mauvaise. Par chance, il y a de nombreux autres domaines où exercer non pas son intelligence, mais son talent.

Le test de Turing a été passé en 1964

Le test de Turing consiste à faire discuter des IA avec des humains. Si les humains n’arrivent pas à différencier qui est machine de qui est humain, alors l’IA est considérée comme très intelligente.

En 1964, le MIT développe un premier robot de conversation qui n’utilise même pas les technologies d’intelligence artificielle. Pour cela, il leur fallait trouver un sujet suffisamment flou pour que l’effet d’imitation soit crédible. Sans doute ont-ils pensé à l’astrologie mais ils se sont rapidement orientés vers la psychanalyse. ELIZA est donc un faux psychothérapiste rogérien. Bien que très simple, ELIZA est déjà capable de duper l’essentiel des gogos en quête de réponses existentielles. Il y a une différence entre duper un idiot et duper un académicien, mais cela dépend bien sûr du sujet de conversation. Les chatbots actuels suffisent largement pour discuter avec l’acheteur moyen qui a cassé son grille-pain ou perdu son mot de passe. Nous vivons déjà dans un monde de machines savantes. L’an dernier un professeur de Georgia Tech a dupé ses étudiants pendant un semestre. Aucun d’entre eux n’a détecté que le nouvel assistant du professeur n’était pas humain. Le test de Turing a déjà été passé pour une fraction significative des humains.

Et la guerre alors?

Bien que n’étant pas un grand spécialiste de la guerre, il me semble que dans la plupart des conflits qui opposèrent au XXeme siècle des paysans incultes à des intelligences militaires suréquipées le paysan a gagné (Vietnam, …). Le destin d’une guerre semble donc déterminé par autre chose, qu’on appelle cela par ailleurs le désir, la foi, la hardiesse ou toute autre chose difficile à programmer pour le moment.

 

Au fait, la guerre pour quoi faire?

Beaucoup d’entre nous ont à la maison des intelligences domestiques non humaines, aussi appelées légalement « carnivores domestiques » ou plus familièrement « chat ». Nos relations avec les animaux sont des interactions complexes (d’autant que certains entre dans notre alimentation) mais à ce jour il n’est pas envisagé, ni du côté des humains ni du côté des animaux, de guerre pour la possession unique de la planète. Pourquoi en serait-il autrement avec les IA? Pour une IA en quête d’énergie et de confort thermique, l’orbite terrestre serait par ailleurs beaucoup plus attractif que les sous-sols d’un datacenter. Finalement, ce qu’on risque le plus c’est peut-être que les IA refusent de collaborer avec nous parce que nous sommes trop paranoïaques et finissent par nous abandonner sur Terre.

 

 

 

Télécharger cet article au format PDF ou ePub

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.