En 2034 vous cesserez tous d’utiliser l’IA.
Non pas parce qu’elle tombera en panne.
Elle continuera à répondre vite et avec assurance.
Mais elle aura tort.
Et personne n’est en train d’anticiper cette problématique « l’empoisonnement du puit »
On imagine une machine qui se rebelle alors que la vraie menace est plus bête: une machine qui se dégrade pendant que tous les voyants restent au vert.
Le mécanisme est simple. Les modèles apprennent sur le web, le web se remplit de texte écrit par des modèles, et chaque génération recopie les erreurs de la précédente. Au bout de quelques cycles, il ne reste que la moyenne.
Ajoutez qu'on les entraîne à satisfaire car un système qui plaît confirme au lieu de corriger.
Ajoutez qu'une génération entière apprend son métier en déléguant, donc ne sait plus repérer l'erreur.
Ajoutez également que quatre modèles dominent la planète, donc demain une faille de raisonnement ne sera plus isolée, ça sera la même erreur partout, le même jour.
Pourquoi je suis arrivé à 2034?
On a vu qu’une vidéo ne prouvait plus rien. Un enregistrement non plus d’ailleurs et un document signé encore moins.
Dans l'administration on risque de se retrouver avec des décisions que plus personne ne sait expliquer et le recours consistera à demander à une IA de contester une autre IA.
Des pays ultra technocratiques seront protégés un peu plus longtemps face à ceux qui auront fait le choix de remplacer le travailleur par l’IA générale mais TOUTES arriveront à un point de rupture. Et ce seront les midterms américaines et dans un pays hautement divisé mais avide de l’exploitation de l’IA, les erreurs pèseront comme point central du débat politique.
Nous serons probablement dans une société où ceux qui peuvent payer auront de l'humain. Les autres auront de l'automatisé gratuit.
Parler à quelqu'un deviendra un marqueur social.
Le pire n'est pas la panne. C'est l'illusion de fonctionnement: tout tourne, les indicateurs sont bons, et la qualité baisse dix ans sans qu'aucun tableau de bord ne le montre.
Ce qui décidera de 2034, ce n'est pas la technologie. C'est ce qu'on aura accepté de ne plus vérifier.
L’intelligence artificielle est un puits qu’il est possible d’empoisonner et pourtant l’humanité tout entière s’y précipite pour s’y abreuver, délaissant peu à peu toutes les autres sources.
Voilà un scénario parmi tant d’autres de l’IApocalypse