Je donne mon autorisation

Dans le film Ghost in the Shell, le Major Killian est une cyborg mi-machine mi-humaine. À chaque fois que la société qui l’a créée veut modifier son système, elle doit prononcer « Je suis le Major et je donne mon autorisation ». Alors que cette compagnie décide de la tuer en mettant fin à ses fonctions, elle prononce « je suis le Major et je ne donne pas mon autorisation ». On lui répond alors « Nous n’avons jamais eu besoin de ton autorisation ». Le monde des intelligences artificielles va être rude pour les humanistes et le libre arbitre.

J’ai assisté la même semaine à une présentation à l’ESSEC sur l’intelligence artificielle et le transhumanisme en mode « dormez tout va bien, car l’homme c’est de la poésie » par Gilles Babinet (digital champion de la France auprès de l’Union) et Jean Staune (un philosophe des sciences), et une video TED par Zeynep Tufekci nettement plus réaliste.

Les commentateurs de la révolution engendrée par le Machine Learning et l’intelligence artificielle semblent aujourd’hui se répartir en trois pôles: tandis que Laurent Alexandre tente d’alerter sur le danger d’être en retard, Mark Zuckerberg profite du plaisir d’être en avance et nos dirigeants européens se demandent si c’est vraiment une question d’actualité.

Tufekci donne un exemple: si vous êtes un voyagiste qui veut vendre un billet d’avion pour Las Vegas, vous auriez, dans le monde de la publicité du XXe siècle, ciblé des hommes de 25 à 35 ans, ou bien des retraités oisifs. Dans le monde actuel, ce n’est plus nécessaire. Nous produisons des données qui sont analysées à chaque fois que nous cliquons sur une recherche web ou sur un réseau social. Les réseaux de neurones profonds peuvent étudier la relation entre ces données et le fait d’avoir acheté un billet pour Las Vegas. Dès lors, ils pourront détecter une personne qui aura la même signature de données et lui proposer le billet. Les réseaux de neurones ne font pas de statistiques (une discipline au demeurant morte comme nous allons le voir). Il n’y a pas de corrélation directe, causale, entre une donnée et le résultat (par exemple l’âge et l’achat des billets ne montreront aucun rapport pour un statisticien). C’est l’ensemble des informations qui est corrélé.

Cela n’est pas bien grave, n’est-ce pas, que l’on anticipe nos désirs. Sauf que, dans le cas de l’addiction aux jeux, elles sont aussi en rapport avec les troubles bipolaires et la paranoïa. Voilà une information disponible, vendable et qui intéressera sans doute un employeur, un assureur, une banque.

La société Quantcube étudie les données pour produire des sondages sans poser les questions à des humains. En effet, les instituts de sondage ont fait beaucoup rire lors des élections des 20 dernières années. En fait, les électeurs se décident au dernier moment. Les réseaux de neurones profonds permettent de savoir pour qui ils vont voter avant qu’ils ne le sachent eux-mêmes. Cambridge Analytica est même au centre d’une polémique sur l’influence qu’elle a eu sur l’élection de Trump ou sur le vote du Brexit.

R&D Mediation a aussi de la recherche en réseau de neurones profonds. Ainsi AlchemAI permet en montrant une substance chimique d’en deviner des propriétés complexes, de deviner à quoi et à qui elle peut servir. Un réseau de neurones, cela ne se programme pas, cela s’éduque.

Lors des tests, nous avons bien sûr testé les possibilités de deviner des caractéristiques humaines: personnalité, compatibilité interhumaine, problèmes psychiatriques, opinions politiques… Tout cela marche extrêmement bien avec seulement les données disponibles publiquement.

Pourquoi? En fait, la plupart des gens ne savent pas ce qu’ils pensent et encore moins ce qu’ils veulent. Les pensées formulées que nous appelons le langage n’existent que très longtemps après que des pensées sans mots ne se soient mises en oeuvre. Lors d’une prise de décision, celle-ci est figée 7 secondes avant que nous ne trouvions les mots pour la dire.

Les réseaux de neurones n’ont pas ce problème et ils ouvrent la porte à bien des choses pour lesquelles notre autorisation ne sera pas nécessaire:

  • Pourquoi faire une étude de marché puisqu’on peut savoir ce que les gens veulent payer?
  • Pourquoi faire une enquête de design thinking puisqu’on peut savoir ce dont ils ont besoin et quels sont leurs problèmes?
  • Pourquoi faire des sondages puisque l’on peut savoir pour qui ils vont voter? Est-il d’ailleurs nécessaire qu’ils votent, en rêve certains?

Avant que ne se mette en place les contre-mesures sanitaires, Il faut s’inscrire en faux contre les derniers soubresauts des humanistes dogmatiques. Dans la conférence que nous évoquions il a même été donné l’exemple de la CAMIF – j’ignorais qu’elle existait encore, peut-être un spectre rémanent- qui a souhaité embaucher une artiste qui matérialise par du scotch rose sur le sol les communications entre les salariés. Bel effort de lutte contre le digital.

Tandis que la Chine et les USA regardent par-dessus notre épaule, je crains que les incantations humanistes sur la poésie de l’être humain ne soient les conditions de notre suicide culturel.

Les doux rêves de nos élites « digital-illettrées » vont nous coûter cher.

 

Voir aussi:

 

Télécharger cet article au format PDF ou ePub

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *