surfup

Distinguer les robots d’IA, l’accès et les sources citées

Vous saurez distinguer les paramètres des robots OpenAI, vérifier les preuves réseau d’un véritable crawl et consigner séparément si une page a été citée comme source.

Explication

La documentation d’OpenAI distingue les rôles de ces User-Agent :

  • OAI-SearchBot explore le contenu en vue de son affichage dans les fonctions de recherche de ChatGPT.
  • GPTBot explore du contenu susceptible d’être utilisé pour entraîner des modèles. Ce paramètre est indépendant de OAI-SearchBot.
  • ChatGPT-User correspond à une requête déclenchée par une action utilisateur dans ChatGPT/Custom GPTs ; ce n’est ni un robot automatique ni un signal permettant de contrôler l’apparition dans la recherche. Les règles de robots.txt peuvent ne pas s’y appliquer.

Un User-Agent peut être usurpé et ne prouve pas qu’une requête provient d’un robot OpenAI. Pour vérifier les requêtes, consultez les journaux d’accès et l’adresse IP source, puis comparez-la aux plages officielles actuelles de searchbot.json ou à un signal de robot vérifié fourni par votre CDN/WAF. Consignez le statut de réponse, l’URL, l’heure et la décision du système de protection. Ne modifiez pas les règles WAF sur la seule base d’un User-Agent correspondant. Un accès autorisé rend la page potentiellement accessible au système, mais ne garantit ni sa sélection ni sa citation.

Exemple fictif

Un journal d’accès fictif à la page de formation /robots contient des requêtes avec le User-Agent OAI-SearchBot, mais leurs adresses IP ne correspondent pas aux plages publiées. Il s’agit d’un robot non vérifié : notez « User-Agent déclaré OAI-SearchBot ; source non vérifiée » et n’autorisez pas l’accès sur cette seule base. Plus tard, une requête provenant d’une IP de la plage officielle actuelle reçoit un 403 du WAF. Cela prouve qu’une source réseau vérifiée a été bloquée à ce moment-là ; le propriétaire peut examiner cette règle séparément.

Le domaine fictif .test ne peut pas servir à une véritable vérification dans ChatGPT Search. Lancez une requête uniquement si vous disposez de votre propre domaine de test public que le système peut récupérer. Si cette vérification est impossible, si le service est indisponible ou si aucune requête n’a été effectuée, indiquez « non vérifié », et non « aucune source ». Seule une requête effectuée avec sa réponse enregistrée permet d’établir si l’URL a été citée dans ce résultat précis.

Avec de vrais journaux d’accès, ne conservez les adresses IP sources que pendant la durée nécessaire à l’exercice et respectez les règles applicables de confidentialité et de conservation.

Exercice

  1. Lisez la documentation officielle de la plateforme et identifiez le robot associé à sa fonction de recherche.
  2. Dans le journal fictif, comparez le User-Agent à l’IP source et à la plage officielle actuelle, ou au signal de robot vérifié de votre CDN/WAF. Consignez le statut HTTP et la décision du système de protection. N’envoyez pas de requête avec un User-Agent usurpé en la présentant comme preuve d’un robot.
  3. Pour une vérification en direct, utilisez uniquement votre propre domaine de test public. Si vous n’en avez pas ou si la recherche par IA est indisponible, indiquez « non vérifié ». Si la vérification est possible, posez trois questions neutres dans la langue et la région définies ; conservez la question, la date, le mode, la réponse complète et les URL des sources.
  4. Ne déduisez pas une visibilité durable d’une seule réponse.

Liste de contrôle

  • OAI-SearchBot, GPTBot et ChatGPT-User ne sont pas confondus.
  • Le User-Agent n’est pas utilisé comme authentification.
  • L’IP source est comparée à la liste officielle actuelle ou au signal de robot vérifié du CDN.
  • L’accès au site et la présence d’une citation dans une réponse sont des observations distinctes.
  • Une recherche indisponible est consignée comme « non vérifié ».

Erreur fréquente

Conclure « nous avons autorisé GPTBot, donc le site est cité dans ChatGPT » ou considérer tout User-Agent OAI-SearchBot dans un journal comme authentique. OpenAI désigne OAI-SearchBot pour l’exploration liée à la recherche ; les requêtes réseau doivent être vérifiées par IP/plateforme et les citations doivent être observées dans de vraies réponses.

Sources principales

Un projet ? Décrivez brièvement le projet — nous préciserons les détails.

Derniers contenus

Tous les contenus

Articles pratiques et guides de SurfUp.

Guide · 10 min

Pages « qu’est-ce que… » et réponses d’IA : clics perdus ?

La rubrique de référence d’une banque a perdu 24 % de visites pour −13 % de demande. Bloc d’IA ou demande en baisse : comment trancher et mesurer.

Lire
Guide · 8 min

Baisse du trafic après une mise à jour Google

Comment déterminer si une baisse du trafic vient d’une mise à jour Google, de la saisonnalité ou d’un problème du site. Chronologie des mises à jour de 2026, questionnaire en six points et plan pour les 14 premiers jours.

Lire
Guide · 9 min

Demande en baisse ou site en perte : réconcilier trafic et Wordstat

Dépôts : demande −75 %, trafic −37 % ; cartes : demande −35 %, trafic −63 %. Réconcilier trafic et demande sans imputer au site les torts du marché.

Lire