surfup

提示词注入(Prompt injection)

提示词注入试图通过在用户输入或检索内容中放入相冲突的命令,让 AI 系统忽略预设指令。应将外部文本视为不可信内容,并在模型之外执行权限控制。

提示词注入试图通过在用户输入或检索内容中放入相冲突的命令,让 AI 系统忽略预设指令。应将外部文本视为不可信内容,并在模型之外执行权限控制。