BreakingAI

Bug, jailbreak, injection de prompt. Trois problèmes différents, une racine commune : un LLM ne suit pas les règles écrites dans le code — il a appris des comportements à partir de milliards d'exemples. C'est pourquoi le corriger est beaucoup plus complexe que d'appliquer un simple correctif.

Parmi les techniques utilisées pour manipuler le comportement d'un LLM, l'injection de prompt est l'une des plus difficiles à détecter. Il suffit de cacher les instructions au bon endroit — et d'attendre qu'il les exécute tout seul.

Un LLM ne se trompe pas seulement à cause de lui-même. Parfois, il se trompe parce que quelqu'un le pousse à le faire intentionnellement. Le jailbreak n'est pas une attaque informatique comme nous l'entendons habituellement : personne n'entre dans un serveur, personne ne force un mot de passe, perso

Il se trompe parce qu'il n'a pas de moteur de vérité en lui. Il a seulement un moteur statistique du langage. Lorsqu'il répond, il n'affirme pas ce qui est vrai : il complète une phrase de la manière la plus probable sur la base de milliards d'exemples.