Le Ciel est Cafetière

Ce que nous appelons “Intelligence Artificielle générative” (genre ChatGPT) n’est rien d’autre qu’un système de prédiction sur probabilité.
En simplifiant, si je débute une phrase par « le ciel est », le système va établir une liste de mots probables, dans laquelle le mot bleu sera à disons 72 %, gris à 20 %, nuageux à 5 %, étoilé à 2 % et cafetière à 0 %.

Comment le système sait-il cela ?
Parce qu’on lui a fait “étudier” un très grand volume de textes divers et qu’à chaque fois qu’il a rencontré « le ciel est » quelque chose, le quelque chose s’est vu attribuer la probabilité d’apparition correspondante.
C’est “aussi simple que ça” (sur le principe).

Ce qui veut dire que les corpus de textes formant la base de travail du système sont d’une importance absolue.
Or ces textes sont issus de cerveaux humains, avec leurs biais.

Pire ! ces textes correspondent à des “environnements” : c’est le contexte.
Ainsi, je n’écris pas de la même manière sur Facebook, que lorsque j’écris un rapport administratif, une liste de courses, un roman, un texte de réclamation à mon assurance, ou une lettre à l’être aimé (le percepteur).

Par exemple, actuellement, le sémillant Elon Musk utilise son réseau social X/Twitter pour entraîner sa propre IA générative.
…
Ça promet du joli question biais !

Comme on le voit, l’IA n’a d’intelligence que le nom puisqu’elle est incapable de “comprendre” de quoi il est question, de lire un sous-texte et de faire montre de la moindre créativité : avec elle, aucun risque de lire un jour « le ciel est cafetière ».

Bon, ok… et ?
Et nous mettons actuellement toutes nos billes dans l’IA pour faire avancer l’Humanité vers… vers quoi au fait ?
Dès lors que l’IA a les mêmes biais que ses créateurs et se base uniquement sur ce que ces mêmes créateurs ont déjà fait, elle ne peut rien apporter de neuf, si ce n’est de la puissance de calcul et de l’automatisation.
Mais du coup, plus aucune pensée hors cadre n’est possible : c’est la loi du grand nombre qui prime ! le summum démocratique ! sauf que le plus grand nombre n’a pas toujours raison, sinon nous en serions toujours au fait que le Soleil tourne autour de la Terre.

Bref, l’IA est tout sauf une avancée et ne devrait pas être prise pour autre chose que ce qu’elle est : un bête automate, certes rapide, mais con comme une b*te.

Car le ciel est cafetière.