AI slop, contenu à grande échelle et abus : quelles sont les différences
Produire beaucoup ne signifie pas créer du matériel de mauvaise qualité ni manipuler Google : voici pourquoi ces trois phénomènes doivent être distingués
BreakingAI
AI slop : qu'est-ce que les nouveaux déchets numériques générés par l'IA
Textes prolixes, images non pertinentes, vidéos de mauvaise qualité : production automatisée sans soin qui envahit Internet
Numérisation destructrice : numériser en sacrifiant le livre
Dos coupé, reliure retirée et pages acquises une par une : une méthode rapide et efficace, mais totalement irréversible
Bug, jailbreak et injection de prompt : ce qu'ils ont vraiment en commun
Bug, jailbreak, injection de prompt. Trois problèmes différents, une racine commune : un LLM ne suit pas les règles écrites dans le code — il a appris des comportements à partir de milliards d'exemples. C'est pourquoi le corriger est beaucoup plus complexe que d'appliquer un simple correctif.
Injection de prompt : le truc utilisé pour manipuler un LLM
Parmi les techniques utilisées pour manipuler le comportement d'un LLM, l'injection de prompt est l'une des plus difficiles à détecter. Il suffit de cacher les instructions au bon endroit — et d'attendre qu'il les exécute tout seul.
Comment convaincre un LLM d'ignorer ses règles
Un LLM ne se trompe pas seulement à cause de lui-même. Parfois, il se trompe parce que quelqu'un le pousse à le faire intentionnellement. Le jailbreak n'est pas une attaque informatique comme nous l'entendons habituellement : personne n'entre dans un serveur, personne ne force un mot de passe, perso
Pourquoi un LLM se trompe-t-il même lorsqu'il semble sûr de lui ? Parce qu'il ne sait pas, il prédit.
Il se trompe parce qu'il n'a pas de moteur de vérité en lui. Il a seulement un moteur statistique du langage. Lorsqu'il répond, il n'affirme pas ce qui est vrai : il complète une phrase de la manière la plus probable sur la base de milliards d'exemples.