surfup

プロンプトインジェクション

プロンプトインジェクションは、ユーザー入力や検索したコンテンツに相反する指示を含め、AIシステムに本来の指示を無視させようとする攻撃です。外部テキストは信頼できないものとして扱い、権限の適用はモデルの外で行ってください。

プロンプトインジェクションは、ユーザー入力や検索したコンテンツに相反する指示を含め、AIシステムに本来の指示を無視させようとする攻撃です。外部テキストは信頼できないものとして扱い、権限の適用はモデルの外で行ってください。