Prompt injection próbuje skłonić system AI do zignorowania instrukcji przez sprzeczne polecenia w danych użytkownika lub pobranej treści. Traktuj zewnętrzny tekst jako niezaufany i ograniczaj uprawnienia poza modelem.
Prompt injection
Prompt injection próbuje skłonić system AI do zignorowania instrukcji przez sprzeczne polecenia w danych użytkownika lub pobranej treści. Traktuj zewnętrzny tekst jako niezaufany i ograniczaj uprawnienia poza modelem.