Prompt injection yrittää saada tekoälyn sivuuttamaan ohjeensa ristiriitaisilla käyttäjäsyötteeseen tai haettuun sisältöön sijoitetuilla komennoilla. Käsittele ulkoista tekstiä epäluotettavana ja rajaa oikeudet mallin ulkopuolella.
Prompt injection -hyökkäys
Prompt injection yrittää saada tekoälyn sivuuttamaan ohjeensa ristiriitaisilla käyttäjäsyötteeseen tai haettuun sisältöön sijoitetuilla komennoilla. Käsittele ulkoista tekstiä epäluotettavana ja rajaa oikeudet mallin ulkopuolella.