Pietro Fischetto

Produire beaucoup ne signifie pas créer du matériel de mauvaise qualité ni manipuler Google : voici pourquoi ces trois phénomènes doivent être distingués

Textes prolixes, images non pertinentes, vidéos de mauvaise qualité : production automatisée sans soin qui envahit Internet

Dos coupé, reliure retirée et pages acquises une par une : une méthode rapide et efficace, mais totalement irréversible

Bug, jailbreak, injection de prompt. Trois problèmes différents, une racine commune : un LLM ne suit pas les règles écrites dans le code — il a appris des comportements à partir de milliards d'exemples. C'est pourquoi le corriger est beaucoup plus complexe que d'appliquer un simple correctif.

Parmi les techniques utilisées pour manipuler le comportement d'un LLM, l'injection de prompt est l'une des plus difficiles à détecter. Il suffit de cacher les instructions au bon endroit — et d'attendre qu'il les exécute tout seul.

Un LLM ne se trompe pas seulement à cause de lui-même. Parfois, il se trompe parce que quelqu'un le pousse à le faire intentionnellement. Le jailbreak n'est pas une attaque informatique comme nous l'entendons habituellement : personne n'entre dans un serveur, personne ne force un mot de passe, perso

Il se trompe parce qu'il n'a pas de moteur de vérité en lui. Il a seulement un moteur statistique du langage. Lorsqu'il répond, il n'affirme pas ce qui est vrai : il complète une phrase de la manière la plus probable sur la base de milliards d'exemples.