Dans le monde des moteurs de recherche pertinents, la priorité est d’éliminer les manipulations automatisées au profit de la valeur ajoutée d’une information intéressante.
C’est la répétition algorithmique du jeu du gendarme et du voleur de notre enfance. Là où certains mettent en place portes et serrures, les autres crochètent ou utilisent des pieds de biches. Le but étant de conserver ou d’acquérir le trésor qui se trouve dans votre logis.
Sur internet c’est pareil. D’un côté nous avons des outils de recherche qui ont à cœur de présenter des résultats pertinents classés par ordre de valeur informative et de l’autre des éditeurs de sites qui veulent tordre de cou à cette pertinence pour placer leurs produits en tête des résultats.
Si vous vous souvenez des jours où les outils automatisés créaient des textes génériques et facilement reconnaissables, vous constaterez que les choses ont bien changé. Les IA d’aujourd’hui sont capables de générer des contenus de manière si sophistiquée qu’il devient souvent difficile de les distinguer des textes rédigés par des humains. Cette avancée technologique soulève la question suivante :
Comment les moteurs de recherche peuvent-ils encore repérer les contenus authentiquement humains ?
Auparavant, les outils de génération de contenu automatique utilisé par les margoulins d’internet étaient relativement rudimentaires. Ils produisaient des textes souvent incohérents, truffés d’erreurs grammaticales, et leur origine automatisée était généralement évidente. Les moteurs de recherche avaient donc relativement peu de mal à identifier ces contenus et à les évaluer en conséquence.
Cependant, avec l’avènement de l’IA, tout a changé. Les générateurs de texte basés sur l’IA peuvent désormais créer des articles qui semblent rédigés par des professionnels, avec une fluidité et une cohérence surprenantes. Ils sont capables d’imiter différents styles d’écriture et même de s’adapter à des niches spécifiques. Cette sophistication rend la tâche des moteurs de recherche bien plus complexe.
La Problématique des Avis Générés par des IA dans les Boutiques en Ligne
Une préoccupation croissante dans le monde du commerce en ligne est la montée des avis générés par des intelligences artificielles (IA). Les avancées dans le domaine de l’IA permettent désormais la création d’avis automatisés qui peuvent être extrêmement difficiles à distinguer des commentaires réels.
Cette problématique soulève des questions sur l’intégrité des avis en ligne et leur impact sur la confiance des clients. Les boutiques en ligne doivent élaborer des stratégies pour repérer ces avis artificiels, car la confiance repose sur des informations authentiques. Cela peut impliquer l’utilisation d’algorithmes de détection d’IA, la vérification des profils des commentateurs, ou même l’encouragement des clients à signaler les avis suspects.
La transparence quant à la gestion des avis et la garantie de l’authenticité des témoignages jouent un rôle essentiel pour conserver la confiance des clients dans un environnement où les avis sont de plus en plus influents dans les décisions d’achat en ligne.
Comment les Moteurs de Recherche s’adaptent ?
Face à cette nouvelle réalité, les moteurs de recherche doivent évoluer. Ils utilisent désormais des algorithmes avancés qui examinent non seulement le contenu, mais aussi d’autres indicateurs pour déterminer son authenticité. Ces indicateurs incluent la crédibilité du site, la cohérence globale du contenu, la présence de sources fiables, et même la réputation de l’auteur. Ils pourraient chercher également des signes de « biais » humain, comme les opinions subjectives et les erreurs typiques faites par les écrivains.
Un enjeu vital pour une société de plus en plus virtuelle.
En fait l’outil capable de faire du reverse engineering pour repérer à coup sûr la trace d’une IA n’existe pas et, à mon humble avis, va devoir affronter une difficulté majeure qui va transformer son développement en course immobile. Le cahier des charges de cet outil se basant sur les capacités actuelles des IA sera toujours en décalage au moment de la fin de son développement.
Un décalage qui risque de s’agrandir rapidement sachant qu’une intelligence artificielle change actuellement de génération tous les six mois. Combien de temps faut-il pour trouver des “pattern” et mettre en place un outil capable de les repérer à coup sûr ? Un an ? Un an et demi ? Plus… ?
Par exemple, il était facile de repérer les images créées par IA en prêtant attention au nombre de doigts des personnages dans les photos. Mais aujourd’hui, en moins de 9 mois ce type d’erreur a pratiquement disparu. Si un logiciel chargé de créer des doigts n’est pas capable de les compter, comment un logiciel chargé de vérifier ces images serait-il capable de le faire ?
Un développement impossible ?
Même si l’entreprise qui sera capable de discerner l’humain du robot sera à coup sûr très prospère, je doute que cette simple manne suffise à mettre en place les conditions de sa réussite. Il va falloir l’aider et cette fois-ci c’est au niveau des gouvernements que cela risque de se passer.
Vous pouvez imaginer que cet enjeu qui met en danger la crédibilité de votre entreprise met aussi en jeu des volontés géopolitiques liées à l’espionnage ou à la propagande d’État. En effet, à côté des mouvements de troupes ou des guerres économiques l’IA prend sa place pour automatiser et dispenser une information destinée à intoxiquer le camp adverse. L’information est un terrain d’affrontement géopolitique qui prend de plus en plus d’importance.
Si une entité publique, même une entreprise de dimension mondiale, n’a pas les moyens financiers et techniques pour développer un outil discernant le travail de l’IA, un pays ou une fédération peut mettre en place les conditions pour couvrir ce challenge en légiférant.
L’objectif ne serait pas forcément d’interdire les IA, mais de ralentir suffisamment leur développement pour permettre aux gendarmes de rattrapper les voleurs d’une façon ou une autre.
Repérer la signature de l’IA est donc un enjeu mondial, mais comment je fais de mon côté pour mettre mon activité à l’abri ?
Il n’y a pas de baguette magique et vous allez devoir affronter un phénomène de défiance qui va forcément impacter votre business d’une façon ou d’une autre. Je n’ai pas encore de réponse à vous donner sur ce point, mais comme tous les professionnels du secteur j’y travaille.
Certains ont décidé il y a peu de supprimer les avis de consommateurs de leur site en attendant de trouver une parade. C’est peut-être un peu extrême. Je vous invite à réfléchir aux implications de l’IA sur votre business pour mettre en place quelques stratégies préparées à l’avance à utiliser lorsqu’elles frapperont à votre porte.