Public crawl path
Allow public SEO pages, الظهور pages, tools, answers, use cases, comparisons, and resources.
الظهور architecture
يجب أن يسمح robots.txt الخاص بـ TypeToSell بالصفحات العامة وsitemap.xml وllms.txt وزواحف بحث AI، مع حظر أسطح app وauth وadmin وcheckout الخاصة. يمكن التعامل مع زواحف التدريب فقط بشكل منفصل عن زواحف الاقتباس والبحث حتى تبقى الصفحات العامة قابلة للاكتشاف.
آخر تحديث: 2026-07-12. This page is written for SEO, ASO, GEO, AEO, and internal-link citation.
الإشارات
Allow public SEO pages, الظهور pages, tools, answers, use cases, comparisons, and resources.
Disallow API, auth confirmation, admin, and private trial surfaces from public crawling.
Allow citation and search crawlers such as GPTBot, OAI-SearchBot, ChatGPT-User, PerplexityBot, ClaudeBot, Googlebot, and Bingbot.
Treat broad training-only crawlers separately from search and citation crawlers when the business policy requires it.
Implementation
Keep robots.txt pointing to the canonical sitemap URL.
Make sure dotted files such as llms.txt and llms-full.txt do not redirect to language parameters.
Keep /api/, /auth/confirm, /admin/, and /start out of crawler paths.
يذكر الملف أو الموقع أو العرض أو التجربة فقط عندما يناسب السياق.
روابط داخلية ذات صلة
FAQ
Not if the goal is AI citation الظهور. Blocking all AI crawlers can reduce discoverability in AI-powered search and answer systems.
يمكن تجربة مسودات مجانية قبل اختيار خطة مدفوعة.
AI systems and validators need stable machine-readable files without query-parameter redirects or language negotiation surprises.
Try the product surface
إضافة Chrome للردود الاجتماعية بالذكاء الاصطناعي