surfup

Yapay zekâ tarama botlarını, erişimi ve kaynak gösterimini ayırın

OpenAI tarayıcı ayarlarını birbirinden ayırabilecek, gerçek bir tarama için ağ kanıtlarını kontrol edebilecek ve bir sayfanın kaynak olarak gösterilip gösterilmediğini ayrıca kaydedebileceksiniz.

Açıklama

OpenAI belgeleri bu kullanıcı aracılarını amaçlarına göre ayırır:

  • OAI-SearchBot, ChatGPT arama özelliklerinde görünmek üzere tarama yapar.
  • GPTBot, modelleri eğitmek için kullanılabilecek içeriği tarar. Bu ayar OAI-SearchBot ayarından bağımsızdır.
  • ChatGPT-User, ChatGPT/Custom GPT'lerde kullanıcının başlattığı isteği temsil eder; otomatik tarayıcı veya Arama'da görünmeyi kontrol etme sinyali değildir. robots.txt kuralları buna uygulanmayabilir.

Bir User-Agent metni taklit edilebilir ve isteğin OpenAI tarayıcısından geldiğini kanıtlamaz. İstekleri kontrol etmek için erişim günlüklerindeki kaynak IP'yi kullanın ve yayımlanmış güncel searchbot.json aralıklarıyla veya CDN/WAF'in doğrulanmış bot sinyaliyle karşılaştırın. Yanıt durumunu, URL'yi, zamanı ve güvenlik sisteminin kararını kaydedin. Yalnızca User-Agent eşleşti diye WAF kurallarını değiştirmeyin. Erişime izin verilmesi, sayfanın sistem için erişilebilir olabileceğini gösterir; seçileceğini veya kaynak gösterileceğini garanti etmez.

Kurgusal örnek

/robots eğitim sayfası için sentetik bir erişim günlüğünde OAI-SearchBot User-Agent'ine sahip istekler vardır, ancak IP'leri yayımlanan aralıklarla eşleşmez. Bu doğrulanmamış bir tarayıcıdır: “OAI-SearchBot User-Agent'i iddia ediyor; kaynak doğrulanmadı” diye kaydedin ve bu temelde erişim izni vermeyin. Daha sonra güncel resmi aralıktaki bir IP'den gelen istek WAF'ten 403 alır. Bu, doğrulanmış bir ağ kaynağının o sırada engellendiğine dair kanıttır; sahibi kuralı ayrıca değerlendirebilir.

Sentetik .test alan adı gerçek ChatGPT Search kontrolünde kullanılamaz. Yalnızca sistemin erişebileceği, herkese açık kendi test alan adınız varsa bir sorgu çalıştırın. Böyle bir kontrol mümkün değilse, ürün kullanılamıyorsa veya sorgu çalıştırılmadıysa “kaynak yok” değil, “kontrol edilmedi” yazın. URL'nin o belirli sonuçta kaynak gösterildiğini yalnızca yanıtı kaydedilmiş tamamlanmış bir sorgu ortaya koyabilir.

Gerçek erişim günlüklerini kullanırken kaynak IP'leri yalnızca görev için gerektiği süre boyunca saklayın ve geçerli gizlilik ve saklama politikasına uyun.

Uygulama

  1. Platformun resmi belgelerini okuyun ve arama özelliğiyle hangi tarayıcının ilişkili olduğunu belirleyin.
  2. Kurgusal günlükteki User-Agent'i kaynak IP ve güncel resmi aralıkla ya da CDN/WAF'in doğrulanmış bot sinyaliyle karşılaştırın. HTTP durumunu ve koruma kararını kaydedin. Taklit edilmiş User-Agent ile istek gönderip bunu tarayıcı kanıtı saymayın.
  3. Canlı kontrol için yalnızca herkese açık kendi test alan adınızı kullanın. Böyle bir alan adınız yoksa veya yapay zekâ Arama kullanılamıyorsa “kontrol edilmedi” yazın. Kontrol mümkünse belirtilen dil ve bölgede üç tarafsız soru sorun; sorguyu, tarihi, modu, tam yanıtı ve kaynak URL'lerini kaydedin.
  4. Tek bir yanıttan kalıcı görünürlük sonucu çıkarmayın.

Kontrol listesi

  • OAI-SearchBot, GPTBot ve ChatGPT-User birbirine karıştırılmadı.
  • User-Agent kimlik doğrulama olarak kullanılmadı.
  • Kaynak IP güncel resmi listeyle veya CDN'in doğrulanmış bot sinyaliyle kontrol edildi.
  • Siteye erişim ile yanıtta kaynak gösterilmesi ayrı tutuldu.
  • Kullanılamayan Arama “kontrol edilmedi” olarak kaydedildi.

Sık yapılan hata

“GPTBot'a izin verdik, demek ki site ChatGPT'de kaynak gösteriliyor” sonucuna varmak veya günlüklerdeki her OAI-SearchBot metnini gerçek saymak. OpenAI arama taraması için OAI-SearchBot adını kullanır; ağ istekleri IP/platform ile doğrulanmalıdır ve kaynak gösterimi gerçek yanıtlarda kontrol edilmelidir.

Birincil kaynaklar

Bir ihtiyacınız mı var? Birkaç ayrıntı paylaşın; sonraki adımları birlikte belirleyelim.

En yeni içerikler

Tüm içerikler

SurfUp’tan uygulamalı makaleler ve rehberler.

Rehber · 10 dk.

“Nedir?” sayfaları ve AI yanıtları: tıklama kaybı mı, talep düşüşü mü?

Bankanın bilgi bölümünde ziyaretler talep −%13 iken %24 düştü. AI bloğundan kaynaklanan tıklama kaybını talep düşüşünden ayırmayı ve kendi verilerinizde ölçmeyi öğrenin.

Oku
Rehber · 8 dk.

Google güncellemesinden sonra trafik düştü

Trafik düşüşünün Google güncellemesinden mi, mevsimsellikten mi yoksa teknik arızadan mı kaynaklandığını anlayın. 2026 güncelleme çizelgesi, altı soruluk kontrol ve ilk 14 günün planı.

Oku
Rehber · 9 dk.

Talep mi düştü, site mi kayıp yaşadı: trafiği Wordstat ile nasıl karşılaştırırsınız?

Mevduat talebi %75, trafik %37 düştü; kartlarda talep −%35, trafik −%63. Trafiği taleple karşılaştırıp piyasa hareketini site sorunu sanmayın.

Oku