ממלאים שם, תיאור וכמה קישורים ומקבלים קובץ llms.txt לפי המפרט. בוחרים אילו בוטים של AI להכניס ואילו לחסום ומקבלים בלוק robots.txt מוכן. הכל בדפדפן, ובלי הרשמה.
מה הקבצים האלה עושים ומה לא
robots.txt הוא הכלי שבאמת קיים כדי לשלוט בסורקים: סורק מכבד אותו או לא, אבל הוא הערוץ שחברות ה-AI עצמן מתעדות. llms.txt הוא הצעה לתקציר קריא למודלים. הוא לא מחליף את robots.txt, אינו מגביל גישה, וגוגל מצהירה במפורש שהיא לא משתמשת בו. מי שמצפה שהקובץ יגדיל ציטוטים בתשובות AI יתאכזב, ומי שרוצה סדר ושליטה צריך להתחיל מ-robots.txt.
בוט חיפוש, בוט משתמש ובוט אימון
הכלי מחלק את הבוטים לשלוש קבוצות, כי ההחלטה לגביהן שונה:
- חיפוש: OAI-SearchBot של OpenAI, Claude-SearchBot של Anthropic, PerplexityBot ו-Bingbot. חסימה מוציאה אתכם מהתשובות של אותו שירות. OpenAI ו-Perplexity ממליצות לאפשר אותם אם רוצים להופיע.
- בקשת משתמש: ChatGPT-User, Claude-User ו-Perplexity-User. הם פועלים כשמשתמש מבקש מהעוזר לקרוא עמוד. חלק מהספקים לא מחייבים אותם ב-robots.txt.
- אימון: GPTBot, ClaudeBot, CCBot, ואותות הבקרה Google-Extended ו-Applebot-Extended. חסימה אומרת שהתוכן לא ישמש לאימון, בלי השפעה על הופעה בחיפוש של אותה חברה.
ברירת המחדל בכלי היא להישאר בחיפוש ולחסום אימון. זו החלטה עסקית: מי שמעדיף שהתוכן שלו לא ישמש לאימון חוסם, ומי שרוצה את הנראות המרבית מאפשר הכל. שום חסימה ב-robots.txt אינה אכיפה, והיא מבוססת על מחויבות הסורק.
איך משתמשים בקבצים
- מורידים את llms.txt ומעלים לשורש האתר, כך שהוא נגיש בכתובת /llms.txt.
- מוסיפים את הבלוק של robots.txt לקובץ הקיים. לא מוחקים כללים שכבר יש שם.
- בודקים בדפדפן ששני הקבצים נטענים, ושה-robots.txt לא חוסם את Googlebot בטעות. אפשר לבדוק את מוכנות האתר ל-AI בבודק המוכנות לחיפוש AI.
מקורות
- llmstxt.org: מפרט הקובץ
- Google Search Central: אופטימיזציה לתכונות AI בחיפוש
- Google: הסורקים הנפוצים (Google-Extended)
- OpenAI: סקירת הסורקים
- Anthropic: האם Claude סורק את הרשת
- Perplexity: הסורקים
- Apple: Applebot ו-Applebot-Extended
- Common Crawl: CCBot
שמות הבוטים והתיאורים נבדקו מול התיעוד הרשמי של כל חברה באוקטובר 2026. חברות מוסיפות ומשנות סורקים, ולכן כדאי לבדוק את התיעוד לפני שמסתמכים על רשימה.
רוצים שהאתר יצוטט בתשובות של ChatGPT, Gemini ו-Perplexity? הקבצים האלה הם החלק הקטן. אנחנו בונים גם את התוכן והמבנה שהמנועים מצטטים.
לשירות קידום בחיפוש AI