SEO & GEO
Arama motoru botlarına hangi alanların taranabileceği hakkında yönerge veren dosyadır.
Robots.txt taramayı yönlendirir ancak tek başına indeks engeli olarak düşünülmemelidir. Hassas sayfaları gizlemek için güvenlik aracı değildir.
İlgili rehber: Yapay Zeka Aramalarında Görünürlük: GEO, AI Botları, Schema ve llms.txt Rehberi
Örnek Kullanım
/cart veya /checkout gibi alanlar robots.txt ile engellenebilir.