Prompt Injection versucht, ein KI-System durch widersprüchliche Befehle in Nutzereingaben oder abgerufenem Inhalt zum Ignorieren seiner Vorgaben zu bringen. Externer Text ist nicht vertrauenswürdig; Rechte müssen außerhalb des Modells begrenzt werden.
Prompt Injection
Prompt Injection versucht, ein KI-System durch widersprüchliche Befehle in Nutzereingaben oder abgerufenem Inhalt zum Ignorieren seiner Vorgaben zu bringen. Externer Text ist nicht vertrauenswürdig; Rechte müssen außerhalb des Modells begrenzt werden.