Comment et pourquoi leurrer les intelligences artificielles?

Dans un article précédent, j’évoquais un nouveau métier qui consisterait à leurrer les IA et les algorithmes trop efficaces. Les IA permettent d’ores et déjà de connaître très facilement vos opinions politiques, votre orientation sexuelle, vos préférences alimentaires, vos orientations éthiques et morales. Alors comment jeter le trouble dans tous ces algorithmes?

Dans le secteur de la défense, le leurrage et et le camouflage sont des champs de recherche anciens et stratégiques regroupés sous le terme de contremesures. Le leurrage consiste à envoyer un objet ou un signal susceptible de faire croire à une arme qu’elle a trouvé une cible afin de la détourner de vous. Le camouflage consiste à saturer les capteurs, avec une fumée par exemple, afin que l’arme ne puisse pas vous localiser précisément.

Ces concepts sont applicables aux IA, toujours plus performantes dans le profilage des clients.

Pourquoi leurrer les IA?

Lorsqu’une IA étudie votre profil facebook, le site de votre entreprise ou bien votre CV, cela peut être pour une bonne cause. Mais quoiqu’il en soit, vous ne pouvez pas savoir qui regarde et analyse vos données. De plus ses intentions, sa stratégie, ses clients, ne vous sont pas connus et sont inconnaissables. Vous êtes donc dans une situation d’incertitude. Par ailleurs, si vous êtes en Chine ou dans un pays ayant une vision très souple de la liberté d’opinion, cela peut même être une question de vie ou de mort.

Qu’utilisent les IA pour profiler les humains?

Actuellement, c’est encore essentiellement le texte et les métadatas qui sont utilisés, mais dans le futur les vidéos et d’autres données pourront l’être. Le texte est la somme de ce que vous écrivez en fonction du temps et du média (twitter, facebook, linkedIN, mail). Les métadatas sont des données telles que des images que vous aimez (par exemple certains groupes de rock vous classent hétérosexuel, d’autres pas, certains articles vous classeront à gauche ou pas).

Un exemple sur le texte

Ci-après vous trouverez un petit algorithme qui analyse un texte que vous écrivez et mettra automatiquement des smileys ou des tags en fonction de son contenu. En fonction de vos écrits les résultats peuvent être transparents ou pas du point de vue de l’algorithme.

Ansi la phrase : « cette idée est horrible » générera des smiley négatifs alors que la phrase « Cette idée est une joyeuse horreur ignoble et je refuse d’y penser » apportera de la confusion à l’algorithme. De manière générale, plus le texte est inventif et littéraire plus les IA peineront à en comprendre le double, voire le triple sens (mais beaucoup d’humains aussi).

Voici donc une petite webapp pour analyser l’impression laissée par vos twits.

Le début de la guerre

Pour en revenir au secteur de la défense, la problématique dite « du glaive et du bouclier » traduit le fait que plus les contremesures progressent plus l’attaquant s’améliore. Nous n’en sommes pas là tant les entreprises, mais aussi les personnes, sont dans un dénuement quasi total vis-à-vis de ces algorithmes.

Par exemple, nous avons développé une IA qui devine à quoi servent des molécules ou des substances.  Bien sûr elle peut trouver de nouvelles applications à des substances anciennes, mais elle peut aussi découvrir l’application d’une substance gardée confidentielle. On le voit, les secrets deviennent chaque jour plus difficile à garder. La contremesure sera donc une activité d’avenir.

Télécharger cet article au format PDF ou ePub

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *