Prompt injection püüab panna AI-süsteemi eirama juhiseid, lisades vastuolulisi käske kasutaja sisendisse või leitud sisusse. Käsitle välist teksti ebausaldusväärsena ja piira õigusi mudelist sõltumatult.
Prompt injection
Prompt injection püüab panna AI-süsteemi eirama juhiseid, lisades vastuolulisi käske kasutaja sisendisse või leitud sisusse. Käsitle välist teksti ebausaldusväärsena ja piira õigusi mudelist sõltumatult.