AI slop: cos'è la nuova spazzatura digitale generata dall'IA
Testi prolissi, immagini irrilevanti, video scadenti: produzione automatizzata senza cura che invade Internet
More:
Perché un LLM sbaglia anche quando sembra sicuro di sé? Perché non sa, predice.
Sbaglia perché non ha un motore della verità dentro di sé. Ha solo un motore statistico del linguaggio. Quando risponde, non sta affermando ciò che è vero: sta completando una frase nel modo più probabile sulla base di miliardi di esempi.
Come si convince un LLM a ignorare le sue regole
Un LLM non sbaglia soltanto per colpa sua. A volte sbaglia perché qualcuno glielo fa fare volutamente. Il jailbreak non è un attacco informatico come lo intendiamo di solito: nessuno entra in un server, nessuno forza una password, nessuno rompe una serratura digitale.
Prompt Injection: il trucco usato per manipolare un LLM
Tra le tecniche usate per manipolare il comportamento di un LLM, la prompt injection è una delle più difficili da individuare. Basta nascondere le istruzioni nel posto giusto — e aspettare che le esegua da solo.
Bug, jailbreak e prompt injection: cosa hanno davvero in comune
Bug, jailbreak, prompt injection. Tre problemi diversi, una radice comune: un LLM non segue regole scritte nel codice — ha imparato comportamenti da miliardi di esempi. Per questo correggerlo è molto più complesso che applicare una semplice patch.
Destructive scanning: digitalizzare sacrificando il libro
Dorso tagliato, rilegatura rimossa e pagine acquisite una a una: un metodo rapido ed efficiente, ma del tutto irreversibile