Prompt injection — попытка заставить AI-систему нарушить заданные инструкции через команды во вводе или найденных документах. Считайте внешний текст недоверенным, а права ограничивайте вне модели.
Prompt injection (инъекция промпта)
Prompt injection — попытка заставить AI-систему нарушить заданные инструкции через команды во вводе или найденных документах. Считайте внешний текст недоверенным, а права ограничивайте вне модели.