BreakingAI

Bug, jailbreak, prompt injection. Tre problemi diversi, una radice comune: un LLM non segue regole scritte nel codice — ha imparato comportamenti da miliardi di esempi. Per questo correggerlo è molto più complesso che applicare una semplice patch.

Tra le tecniche usate per manipolare il comportamento di un LLM, la prompt injection è una delle più difficili da individuare. Basta nascondere le istruzioni nel posto giusto — e aspettare che le esegua da solo.

Un LLM non sbaglia soltanto per colpa sua. A volte sbaglia perché qualcuno glielo fa fare volutamente. Il jailbreak non è un attacco informatico come lo intendiamo di solito: nessuno entra in un server, nessuno forza una password, nessuno rompe una serratura digitale.

Sbaglia perché non ha un motore della verità dentro di sé. Ha solo un motore statistico del linguaggio. Quando risponde, non sta affermando ciò che è vero: sta completando una frase nel modo più probabile sulla base di miliardi di esempi.