surfup

提示注入(Prompt injection)

提示注入試圖在使用者輸入或檢索內容中放入互相衝突的命令,讓 AI 系統忽略原本指令。應將外部文字視為不可信內容,並在模型之外強制執行權限。

提示注入試圖在使用者輸入或檢索內容中放入互相衝突的命令,讓 AI 系統忽略原本指令。應將外部文字視為不可信內容,並在模型之外強制執行權限。