BreakingAI

Bug, Jailbreak, Prompt-Injection. Drei verschiedene Probleme, eine gemeinsame Wurzel: Ein LLM folgt keinen im Code geschriebenen Regeln – es hat Verhaltensweisen aus Milliarden von Beispielen gelernt. Deshalb ist es viel komplexer, es zu korrigieren, als einfach einen Patch anzuwenden.

Unter den Techniken, die verwendet werden, um das Verhalten eines LLM zu manipulieren, ist die Prompt Injection eine der schwersten zu erkennen. Man muss die Anweisungen nur an der richtigen Stelle verstecken — und warten, bis es sie von selbst ausführt.

Ein LLM macht nicht nur Fehler wegen seiner eigenen Schuld. Manchmal macht es Fehler, weil jemand es absichtlich dazu bringt. Der Jailbreak ist kein Cyberangriff, wie wir ihn normalerweise verstehen: Niemand dringt in einen Server ein, niemand knackt ein Passwort, niemand bricht ein digitales Schlos

Es macht Fehler, weil es keinen Wahrheitsmotor in sich trägt. Es hat nur einen statistischen Sprachmotor. Wenn es antwortet, behauptet es nicht, was wahr ist: Es vervollständigt einen Satz auf die wahrscheinlichste Weise basierend auf Milliarden von Beispielen.