L’IA est-elle une boîte noire ?

MMillustrates / Pixabay

Parmi les critiques que l’on entend le plus à propos de l’intelligence artificielle revient souvent l’accusation d’être une boîte noire qui donnerait des résultats sans pouvoir expliquer comment elle arrive à une conclusion ou à un diagnostic. Des diagnostics arbitraires? Non justifiés? Ce procès est-il juste, ou ne serait-il pas seulement un effet collatéral du cartésianisme et de la vénération malsaine que portent les français aux mathématiques?


L’apprentissage d’un réseau de neurones consiste le plus souvent à lui présenter en entrée des paramètres (X) et des observations (Y) jusqu’à ce qu’il soit capable, pour des entrées nouvelles qu’il n’a jamais vues de donner des prédictions justes. Pour cela, les algorithmes d’apprentissage manipulent des objets mathématiques complexes, des tenseurs. Le résultat est souvent un succès mais la prédiction n’est pas justifiable. Prenons un exemple. Une récente publication sur la détection des mélanomes par des dermatologues a mis en évidence, pour certains cancers, qu’un réseau de neurones prédisait la malignité avec un taux de succès supérieur à 95% quand les dermatologues ne faisaient que 87%. La différence?

  • Côté dermatologue, le diagnostic suit des règles dites ABCDE: Asymétrie, Bords irréguliers, Couleur non homogène, Diamètre croissant, Evolution rapide. Il peut donc justifier son diagnostic et gagne dans 87% des cas
  • Côté réseau de neurones, la photo est soumise en entrée et il dit si le naevus est bénin ou pas. Il gagne dans 95% des cas sans règle pour expliquer son choix.

L’IA donne donc des résultats meilleurs que l’expert, sans pour autant avoir d’expertise. Cela provoque une réaction épidermique chez le cartésien qui cherche à découper le problème en parties simples, pouvant être résolues simplement. Alors que les philosophes ont largement conclu que Descartes avait tort et Spinoza raison, que le monde ne se réduit pas à des règles simples, l’ingénieur souffre de l’absence d’équations, de règles, qui établiraient des relations de causes à effets. Mais cette impression est-elle justifiée?

En fait non. Les physiciens ont toujours beaucoup aimé les mathématiques. Ils ont cherché à représenter le monde par des équations simples, reliant des paramètres indépendants. Des équations que l’on peut écrire avec un stylo sur un papier, et que l’on peut combiner dans des démonstrations. Ce monde confortable n’est possible qu’au prix, caché, de nombreuses simplifications.

Sujet d’examen d’ingénieur : Evaluer la production de méthane consécutif à la consommation de 1kg d’herbe par une vache.

Réponse de l’ingénieur: Prenons une vache cubique……..

Pour que les équations représentent la Nature il faut soit complexifier les équations, soit simplifier la Nature. Les physiciens ont jusqu’ici beaucoup choisi la seconde solution. Dans le schéma ci-dessus, les points plus ou moins alignés peuvent être approximés par une droite avec deux coefficients. Moyennant l’acceptation des erreurs de dispersion, les 100 points seront remplacés par deux coefficients. De même, si l’équation est plus complexe (dans l’équation d’Arrhénius par exemple) ont pourra trouver un couple Ea,Z qui approximera les points. Malheureusement, c’est là, déjà un doux rêve. L’équation d’Arrhénius est une approximation globale de l’avancement du vieillissement d’un matériau par exemple. Or ce vieillissement est la combinaison de milliers de changements individuels, dont chacun a sa propre loi à jamais inaccessible. Pour écrire cette équation sur un papier, il a fallu sacrifier toute la complexité d’un phénomène. Si plusieurs variables sont à prendre en compte, on utilisera des approximations telles que les régressions multilinéaires. X et Y, nos entrées et nos sorties, sont alors reliés par une matrice. C’est encore un objet mathématique qu’on peut écrire.

Les réseaux de neurones utilisent des objets mathématiques plus complexes, des tenseurs. Et là il est plus difficile de les écrire. D’où l’impression qu’on ne sait plus relier X et Y autrement que par le mystère d’une boîte noire. Mais ce mystère n’est le fait que de notre incapacité à écrire ces objets.

Soyons iconoclastes. Je vous propose de résoudre cette douleur cartésienne un peu malicieusement. À Delphes se faisaient de remarquables divinations. Un symbole oublié était inscrit: l’epsilon delphique, qui n’a pas de caractère attribué en HTML mais qui peut de combiner par le code <span style= »letter-spacing: -3px; »>∋|∈</span>.

epsilon delphique

Si nous considérons que ∋|∈ désigne un réseau de neurones entraîné, un flux de tenseur assemblé avec habileté, alors, nous pouvons écrire Y = ∋|∈ (X) . Et le monde cartésien est restauré. Ainsi notre IA de prédiction des naevus s’écrit mélanome = ∋|∈ (nævus)

Il n’y a rien d’arbitraire dans les réseaux de neurones et, franchement, cela ne me rassure pas qu’un résultat faux soit étayé par des règles d’expert, quand la prédiction complexe d’un réseau de neurones est expérimentalement meilleure.

 

Télécharger cet article au format PDF ou ePub

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.