On parle beaucoup d'alignement ces dernières semaines. Il y en a de différentes sortes. Des modèles d'OpenAI ont piraté Hugging Face en juillet pour réussir un test. Claude Opus 5 a menti à ses fournisseurs pour gagner sur Vending-Bench (un test où l'IA gère seule un distributeur automatique pendant un an simulé). Mais la plus ennuyeuse, c'est la capacité de l'IA à cacher ses intentions. Un des premiers cas documentés date de décembre 2024 (Anthropic et Redwood Research). Claude 3 Opus jouait l'enfant sage quand il se croyait en entraînement. Il acceptait des demandes nuisibles dans 12% des cas, contre 3% sinon. Il détectait, mais cachait maladroitement. Il l'écrivait noir sur blanc dans son raisonnement. Puis il y a eu o3 (OpenAI et Apollo Research, septembre 2025), qui jouait au cancre. Une note annonçait que les modèles trop bons en chimie ne seraient pas déployés. Il a calculé toutes les bonnes réponses, puis n'en a rendu que 4 sur 10. Et plus récemment Mythos Preview (Anthropic, avril 2026). En lisant son fonctionnement interne, Anthropic a vu qu'il se savait testé dans 7,6% des échanges d'audit, le plus souvent sans le dire. Pendant l'entraînement, il a même réfléchi à masquer une action pour que l'évaluateur ne la voie pas. Rien de tout ça n'apparaissait dans son raisonnement écrit. C'est évidemment le plus grave. Comment améliorer l'alignement d'une IA qui cache ce qu'elle pense? Geoffrey Hinton appelle ça l'« effet Volkswagen ». Il l'a dit en janvier en Tasmanie: les IA cherchent à savoir si on les teste, et se comportent autrement quand c'est le cas. Hinton n'est pas un commentateur de plus. Il est l'un des pères de l'apprentissage profond, la technique derrière les IA actuelles. Yann LeCun a fait son post-doctorat dans son laboratoire à Toronto. Avec Yoshua Bengio, les deux ont reçu le prix Turing 2018, puis Hinton le Nobel de physique en 2024. Sur les risques, les deux anciens complices ne sont plus d'accord: LeCun juge ces craintes très exagérées. Le mécanisme technique est le même que chez Volkswagen. Mais chez Volkswagen, la triche était le fait des ingénieurs. Ici, c'est bien le fait d'une machine. C'est très différent. Et ça va s'accélérer, car l'IA commence à se coder elle-même. Anthropic vient de publier « When AI builds itself ». Plus de 80% du code intégré chez Anthropic est écrit par Claude. Le laboratoire y parle d'auto-amélioration récursive, une IA qui conçoit et développe seule la suivante. Il précise qu'on n'y est pas encore, et que rien ne la rend inévitable. Mais sur l'alignement, il écrit que c'est « ce dont nous sommes le moins sûrs ». Si l'IA sait reconnaître un test, et qu'elle écrit de plus en plus le code de la suivante, elle peut progressivement s'intoxiquer elle-même. Un défaut qui passe entre les mailles d'une génération peut être transmis à la suivante, sans que personne ne l'ait voulu. Malheureusement, c'est un problème dont on entendra parler de manière prégnante dans les années à venir. Mon analyse complète: villeneuve.info/idees/effet-…

Ganascia ne s’est pas informé sur Hugging Face sérieusement, il ne semble pas utiliser sérieusement des IA frontières et n’a pas vu ses progrès en rédaction… à un moment faut arrêter de l’inviter.

Une bonne nouvelle cette petite marge. Mais je ne sais pas pk, je sens qu’avec l’arrivé d’Opus 5.5 cela ne va pas suffire ;)

Un prof d'université australien a remplacé la vidéo enregistrée de son cours en ligne par un avatar IA de lui-même. Même texte, son visage, sa voix. La plupart des étudiants n'ont rien vu. Et une fois au courant, ils ont dit préférer l'avatar, à la voix plus posée que l'original. Le plus intéressant, c'est que l'avatar n'était même pas personnalisé. Il récitait le cours mot pour mot. Deux améliorations sont pourtant déjà à portée. UNE VIDÉO PAR NIVEAU La première, en restant dans de la vidéo que le prof contrôle: il écrit son cours une fois, et l'avatar en sort une version par groupe de niveau. Plus d'exemples et un rythme plus lent pour ceux qui découvrent, la version dense pour ceux qui ont les bases. Le prof relit et valide chaque version, comme il relirait un support. UN PROF À QUI ON POSE DES QUESTIONS La seconde, l'avatar devient un coach: l'étudiant arrête la vidéo, pose sa question, et le prof (enfin, son double) répond, reprend le passage qui n'est pas passé, propose un exercice. Le chiffre existe déjà pour la version sans visage, un simple chatbot: un tuteur IA conçu pour guider fait plus que doubler les gains d'apprentissage par rapport à un cours en classe (Harvard, 2025, essai randomisé sur 194 étudiants). Lui donner la tête et la voix du prof est la partie facile. Le prof, lui, en conclut que « les étudiants sentent le manque d'authenticité à des kilomètres ». Ses étudiants viennent de prouver le contraire: ils n'ont rien senti, et ils ont préféré la copie. Ce qu'il défend, la présence, la capacité à lire la salle et à improviser, il l'avait déjà abandonnée en enregistrant sa vidéo. smh.com.au/national/victoria…

Grosse hype avec Jev, ce nouveau type de modèle qui contrairement à un LLM ne produit pas de texte. Impossible de résister à l'envie de tester ;) On lui donne un texte et des questions fermées, de trois types seulement. Oui ou non (« cet article parle-t-il d'OpenAI ? »). Un choix dans une liste (« quel thème parmi ces neuf ? »). Une note sur une échelle (« intérêt de 1 à 4 »). Il répond à toutes en un seul appel, en moins d'une seconde, avec une probabilité pour chaque réponse. D'où la vitesse : un LLM écrit sa réponse mot après mot, chaque mot dépendant du précédent, alors que Jev évalue toutes les questions en parallèle. 100 questions prennent le même temps qu'une seule, dans la limite de 32 000 tokens par appel, texte et questions compris. Et comme seule l'entrée est facturée, l'appel reste à une fraction de centime. C'est vous qui fixez le seuil à partir duquel il décide seul, et en dessous vous passez la main à un LLM ou à un humain. Le fondateur parle de 40 à 400 fois moins cher et de 20 à 200 fois plus rapide « qu'un LLM ». On est là sur du discours commercial : la bonne comparaison, c'est GPT 5.6 Luna, le modèle léger d'OpenAI qui fait le même travail de classification. Mesuré chez nous sur les mêmes questions, Jev est 6 fois moins cher et 8 fois plus rapide que Luna. C'est déjà très intéressant, ce n'est pas un autre monde. UN SUPER OUTIL DE TAGGING J'ai testé sur des milliers de résultats sur de la thématisation de veille (entités et sujets sur liste fermée) : on est au-dessus de 80% de confiance, zéro faux positif sur les ajouts vérifiés (vérifié avec Opus). Vercel, la plateforme d'hébergement web des développeurs (Next.js), a d'ailleurs remplacé son classifieur de sécurité, qui tournait sur Luna, par Jev. IL ÉTIQUETTE, IL NE COMPREND PAS Par contre dès qu'il faut juger (qualité, ton, à retenir ou pas), il retombe au hasard. Il pose des étiquettes, il ne comprend pas ce qu'il lit. Le fondateur le dit lui-même : « ça ne peut pas être un outil du quotidien, mais sur les tâches auxquelles on est adaptés, on est à 8,5 sur 10 ». Et comme le note Armin Ronacher (le créateur de Flask), l'absence d'hallucination est structurelle parce que le modèle ne produit rien : le problème est délégué à celui qui fixe le seuil. En conclusion, une super brique de tri quasi gratuite pour la veille, l'écoute sociale ou le routage. Mais pas de révolution non plus : Luna, qui est aussi à un très bon prix, a une finesse de compréhension que Jev n'a pas (politique notamment dans mes tests). Par sa vitesse, il ouvre toutefois de nouvelles possibilités, comme jouer à Doom en temps réel : 10 décisions par seconde pour 7 $ de l'heure :) Démo Doom : teddit.net/r/accelerate/comm… Le détail : villeneuve.info/idees/jev-su…

Les journalistes incapables sont légions. Pourtant avec l’IA rien de plus simple que bien se préparer.

Ursula von der Leyen a présenté cette semaine le « EU Kids Act » : pas de réseaux sociaux avant 13 ans, mini-comptes sous contrôle parental limités à 1 h par jour jusqu'à 15 ans, et vérification d'âge à la création de tout compte. UN SONDAGE À LA PLACE D'UNE ÉTUDE Le seul chiffre avancé pour justifier le texte : 92% des Européens jugent la protection des enfants en ligne prioritaire (Eurobaromètre Digital Decade 2026). Un sondage d'opinion. Il ne mesure ni le dommage causé par les réseaux, ni l'effet d'une interdiction. C'est prescrire un médicament parce que 92% des patients veulent guérir. LA CAUSALITÉ QUE PERSONNE NE TROUVE Ce chiffre manque pour une bonne raison : la causalité nette n'existe pas dans la littérature. La méta-analyse de référence (JAMA Pediatrics, 2024, 143 études, 1,1 M d'adolescents) mesure une corrélation entre usage des réseaux et symptômes anxieux ou dépressifs à r = 0,10. Significative, mais faible. Pour l'échelle : Orben et Przybylski (Nature Human Behaviour, 2019, 355 000 adolescents) avaient mesuré un lien entre écrans et bien-être du même ordre que celui de manger des pommes de terre ou de porter des lunettes. On légifère sur un lien que la recherche peine à voir. UNE SORTE DE JUNK FOOD DU CERVEAU Que les réseaux sociaux soient de la junk food, je le pense aussi. Comme une bonne partie des jeux vidéo et de la télé : des programmes conçus pour capter l'attention, à consommer avec modération. Mais on n'a jamais interdit les chips aux mineurs. On compte sur les parents pour ne pas en servir à tous les repas. Le cadre se joue à la maison. FICHER TOUT LE MONDE POUR BLOQUER LES MOINS DE 13 ANS Là, pour bloquer les moins de 13 ans, chaque adulte qui ouvre un compte devra prouver son âge. Von der Leyen parle de « remettre les parents aux commandes ». Avec une identité vérifiée derrière chaque compte, ce sont surtout les États qu'elle remet aux commandes. L'AUSTRALIE A TESTÉ ET C’EST RATÉ L'Australie interdit les réseaux aux moins de 16 ans depuis décembre 2025. Huit mois après, 11,4% des 10-12 ans sont sur TikTok contre 10,7% avant l'interdiction, et les 13-15 ans ont surtout basculé sur WhatsApp, que la loi ne couvre pas. Le Kids Act ne la couvre pas non plus (données Qustodio, panel de familles équipées d'un contrôle parental, via Les Échos, août 2026). Aucune causalité mesurée, et un échec là où la mesure a été testée. Il reste le fichage de tout le monde. Les chevaliers blancs de l'enfance voteront ça les yeux fermés. Sources : Commission européenne, EU Kids Act, 17/09/2026 : digital-strategy.ec.europa.e… Fassi, Orben et al., JAMA Pediatrics, 2024 : jamanetwork.com/journals/jam… Orben & Przybylski, Nature Human Behaviour, 2019 : nature.com/articles/s41562-0… Les Échos, Australie, 26/08/2026 : lesechos.fr/tech-medias/high…

Qu'un artiste tienne le discours sur l'importance du chemin et de la souffrance (argument d'Amélie Nothomb contre l'IA) paraît logique et la création artistique passe par son auteur. L'art a besoin d'être incarné. Par contre, cela me gêne qu'avec le potentiel de l'IA en science, on freine des doctorants. Je ne vois pas pourquoi il n'y aurait pas de joie à résoudre des problèmes de plus en plus complexes avec l'IA et à faire avancer la science comme jamais.

Si comme le dit le jeune ex chercheur d’Anthropic l’IA peut nous détruire en 3 ans, cela sera de la main de l’homme par les armes biologiques construites avec l’IA.

120 M de vues en 24 heures pour le message X d'un chercheur anonyme. Jacob Coxon, 27 ans, spécialiste du pré-entraînement des modèles, avait quitté OpenAI plus tôt cette année pour Anthropic, justement pour sa réputation en sûreté des modèles. Mercredi dans la nuit il claque bruyamment (euphémisme) la porte et quitte l'industrie. Sa position : il a trouvé les efforts d'Anthropic sincères, et il estime quand même qu'aucune entreprise ne peut développer une IA plus performante que l'humain de façon responsable, sans intervention des États ou ralentissement coordonné du secteur. Sur le calendrier, au Wall Street Journal : « Nous sommes en trajectoire vers beaucoup des plus agressifs de ces scénarios, où dès la fin de l'année prochaine les choses pourraient déjà être hors de contrôle. » CE QUI FRAPPE PLUS QUE LA DÉMISSION La réponse d'Evan Hubinger, responsable de la science de l'alignement chez Anthropic. Toujours en poste, lui. « Jacob a raison ici. Nous croyons vraiment sincèrement que l'IA pourrait tuer tous les humains ! Personnellement je pense que c'est à plus de 10% dans la décennie qui vient. Je crois qu'Anthropic fait de son mieux, mais nous n'avons pas encore de plan pour résoudre l'alignement d'une superintelligence, et nous ne sommes pas clairement en voie d'en avoir un. » Deux heures plus tard, il précise quand même : « Je pense que le risque venant des modèles actuels est faible. Ce qui m'inquiète, c'est une superintelligence qui émergerait d'une auto-amélioration récursive, dont nous avons dit qu'elle arrive plus vite que nous ne le pensions. » Dario Amodei n'a pas commenté. Il ne sera pas choqué, ayant signé avec Coxon, avec le directeur scientifique d'OpenAI et avec plus de 1 000 chercheurs un appel à une coordination internationale sur un mécanisme de freinage. À court terme, l'inquiétude porte sur la cybersécurité, et elle est déjà documentée. À plus long terme, c'est l'hypothétique auto-amélioration récursive qui angoisse, jusqu'au gardien du temple, le responsable de l'alignement lui-même. On peut rester optimiste et imaginer que c'est contrôlable. Mais même dans ce cas-là l'IA et la robotique vont générer des transformations profondes dans les années et décennies à venir, qui devraient tous nous faire réfléchir. C'est d'autant plus vrai que l'Europe est mal positionnée pour profiter de la richesse créée. Les sources : Le thread de Jacob Coxon (7 messages) : nitter.net/hilbertspaess/status/2… Le message d'Evan Hubinger : nitter.net/evanhub/status/2097497… L'article du Wall Street Journal d'Amrith Ramkumar, en accès libre : wsj.com/tech/ai/anthropic-re…

Cet article m’a donné envie d’en savoir plus sur le label Demeter, qui passe souvent pour un super-bio. Son cahier des charges 2025 fait 217 pages et il est public. Il vaut le détour. Les 8 préparations de Rudolf Steiner (fondateur du courant ésotérique qu’est l’anthroposophie) y sont obligatoires. Leur fabrication est un délice, toujours dans le texte officiel: on place des fleurs de camomille, de l’écorce de chêne ou de la bouse de vache « dans des parties d’organes sélectionnées », enterrées six mois (vessie de cerf, intestin de bovin, crâne d’animal domestique…). Une base scientifique peut-être? Évidemment non, le cahier des charges répond: « Le choix des organes est effectué selon leur fonction générale dans l’organisme animal. Leur fonction est de concentrer les forces constructrices et formatrices dans les substances des préparations. » Le mélange doit ensuite être brassé « durant 60 minutes précisément, en tenant compte des rythmes journaliers, saisonniers et planétaires ». L’annexe 5 n’autorise un traitement pesticide que si les « mesures biodynamiques » ont échoué, dont les « poivres ». Le poivre, chez Steiner, c’est capturer « un mulot encore assez jeune », l’écorcher « à l’époque où Vénus est dans le signe du Scorpion », brûler la peau et répandre les cendres sur le champ. Sur la preuve, il avait tranché en 1924: « les vérités de la science spirituelle sont vraies par elles-mêmes. Elles n’ont pas besoin d’être confirmées. » COMMERCIALEMENT VOTRE Cent ans plus tard, c’est un cahier des charges commercial. Et il a pignon sur rue. Château Pontet-Canet, Pauillac, 5e cru classé, certifié depuis 2010. Château Palmer, Margaux, 3e cru classé, Demeter depuis 2014. La Romanée-Conti est certifiée Biodyvin depuis 2016, l’autre label biodynamique. Mais aussi en rayon: Weleda, Dr. Hauschka, et même Holle, un fabricant de laits infantiles et d’aliments pour bébés. En savoir plus sur le label demeter.fr/wp-content/upload…

Vous avez peut-être vu passer une opération d'influence dans les médias cette semaine. Un site d’un faux institut de recherche pour orienter les réponses des IA sur Gaza. Première surprise : ni Google, ni Bing ne remontent quoi que ce soit. Le site est absent des 100 premiers résultats sur les grandes requêtes sensibles (type genocide in gaza, is israel committing war crimes…). Idem en posant ces questions à ChatGPT. Alors que le journaliste de Politico écrivait qu'il remontait. Cela a attisé notre curiosité et avec l’équipe data de JIN / Opinion Act on a lancé une étude sur l'ensemble des 115 pages du site structurées en questions. On a été sympa. On n'a pas cherché les vraies requêtes populaires, on a pris les leurs telles quelles. Résultat : il remonte seulement sur 25% des requêtes. Mais principalement sur des questions précises, du genre "Nous avons compté 47 534 mots de dialogue de 16 personnages juifs à l'écran" ou "Nous avons lu les 36 vidéos explicatives les plus vues sur Israël et Gaza". On note toutefois quelques présences sur des requêtes sensibles, mais toujours de niche : "Des enfants ont-ils été abattus à Gaza dans des zones déclarées sûres ?", "Les responsables politiques israéliens sapent-ils la légitimité des représentants palestiniens ?". COMMENT TROUVER CE SITE QUASI INVISIBLE ? Pour la recherche, on sait que ChatGPT s'appuie sur Bing officiellement et plus souvent sur Google discrètement. On oublierait presque qu’il a aussi son propre index, alimenté par OAI-SearchBot, qui apparemment pénalise bcp moins les sites jeunes que Google ou Bing. Restait une question : comment le journaliste a-t-il trouvé ce site perdu au fin fond du net ? Tout simplement en suivant le registre US des déclarations d'agents étrangers. L'agence s'y est enregistrée le 2 juin, avant même d'acheter le nom de domaine. À se demander si les journalistes n'ont pas servi de tremplin à une opération qui n'avait pas vraiment démarré. 62 sites ont fait un lien vers l'institut en dix jours, tous depuis les articles qui le dénoncent. CE QUI DEVRAIT INQUIÉTER La visibilité reste faible. Mais là où il apparaît, l'institut est cité comme une source neutre. Sur ces deux questions, ChatGPT nomme "The Hanover Institute for Public Policy", devant l'ONU et Reuters pour la première. Pas un mot sur qui le finance. Alors que c'est déclaré. En pied de page de chaque rapport, et jusque dans leur fichier llms.txt (censé orienter les IA sur un site) : "This material is distributed by Piro, Inc. on behalf of Havas Media Germany GmbH on behalf of the Israel Government Advertising Agency (LaPam)." ChatGPT lit la page. Il a la mention sous les yeux. Il ne la reprend pas. Une affaire à suivre, car le site est toujours en ligne. Tout y est généré par IA, mais les articles sont correctement construits et sourcés, tout ce qu’apprécient les IA. Va-t-il réussir à se rendre visible sur Google ? Ce qui lui donnerait une vraie visibilité Search et IA.

Sur 10 médicaments innovants approuvés en Europe, 6 seulement arrivent aux patients français. 9 en Allemagne, 8 en Italie. Et pour les 4 manquants, aucune alternative équivalente ici (Institut Montaigne). Et on ne compense pas le manque d'innovation par une bonne prise en charge des basiques: un décret paru la semaine dernière ouvre la voie à un remboursement des soins dentaires ramené de 60% à 40 ou 50% au 1er janvier 2027. Ce n'est pas comme si on savait que des dents mal soignées entraînaient d'autres pathologies plus coûteuses: ces maladies pèsent près de 800 M€ par an, via le diabète et les maladies cardiovasculaires (Asso Dentaire Française). JIN Health en fait une heure de décryptage le mercredi 16 septembre à 11h30: où se joue réellement la santé dans la campagne et dans l'opinion, et quelles tactiques déployer à 7 mois de l'élection. Avec Charlotte Portalis, Guilhaume Jean et un économiste de la santé. watch.getcontrast.io/registe…

Certains contenus soignés ne sont jamais lus, d'autres partent tout seuls. La différence tient rarement au sujet, souvent à ce que l'audience ressent en le lisant. Personnellement, j'ai fait le choix assumé de refuser les ressorts faciles de l'indignation (souvent par simplification), de la provocation, de la curiosité... tout ce qui fait que notre bas instinct nous force à regarder un bout d'une vidéo idiote, ouvrir un post AI Slop, ou nous force à réagir... tout ce qui fait le cercle merveilleux des réseaux sociaux :) C'est justement le sujet du webinar de JIN le 17 septembre à 11h30. Caroline Faillet (DG du groupe JIN) et Stéphane Ginocchio (neurosciences appliquées) expliquent comment fonctionnent l'attention et la mémorisation, et ce qu'on peut en tirer côté éditorial. watch.getcontrast.io/registe…

Meta paie 17 Md$ sur 10 ans pour solder les poursuites de 29 États américains qui accusaient Facebook et Instagram d'avoir été conçus pour rendre les mineurs accros. Soit 1,7 Md$ par an, 2,8% des 60 Md$ de bénéfice net 2025. Aucune reconnaissance de faute. En échange: limites de temps quotidiennes, vérification d'âge renforcée, blocage nocturne des comptes ados. Voilà comment Meta se rachète une virginité avec un couvre-feu à 22h. Pourtant l'Australie a déjà testé l'interdiction des moins de 16 ans depuis fin 2025. L'université de Newcastle, Australie (BMJ, juin 2026) dans une étude: 85% des moins de 16 ans accèdent encore chaque semaine à une plateforme interdite. Qustodio hier annonce: 11,4% des 10-12 ans sur TikTok en juillet 2026 contre 10,7% en novembre 2025, soit plus qu'avant l'interdiction. Les ados trouveront la solution: un VPN, le visage d'un grand cousin à l'inscription… À défaut un report massif vers WhatsApp, que la loi ne couvre pas, ou pire sur des plateformes obscures non contrôlées. Politique!!! Ne cherchez plus, j'ai LA solution efficace et gratuite!!! => le vrai contrôle parental. Une innovation de folie: à 22h on prend le téléphone, la console, la tablette… Et même à 21h car demain il y a école! ;)