דלגו לתוכן הראשי

כלי חינמי

מחולל llms.txt ו-robots.txt לבוטים של AI

עודכן ונבדק מול המקורות:

llms.txt: על האתר

משפט או שניים שמסבירים מה האתר ולמי הוא מיועד. זה יופיע כציטוט מתחת לכותרת.

שפות, אזורי שירות, איך לפרש את הקישורים. בלי כותרות.

שורה לכל דף, בצורה: כותרת | כתובת | תיאור קצר. אפשר גם כתובת בלבד, ונתיב שמתחיל ב-/ יושלם לפי כתובת האתר.

לפי המפרט, הסעיף Optional מיועד למידע משני שאפשר לדלג עליו כשצריך הקשר קצר יותר. אותו פורמט שורות.

robots.txt: מי נכנס
חיפוש ואינדוקס

סורקים שבונים אינדקס כדי להציג ולצטט אתרים בתשובות של מנועי חיפוש ועוזרי AI. חסימה מוציאה אתכם מהתשובות האלה.

  • OAI-SearchBotOpenAI

    מציג אתרים בתוצאות החיפוש של ChatGPT. OpenAI ממליצה לאפשר אותו כדי להופיע בחיפוש של ChatGPT. מקור

  • Claude-SearchBotAnthropic

    משפר את איכות תוצאות החיפוש של Claude. חסימה מונעת אינדוקס של התוכן ועלולה לפגוע בנראות בתשובות. מקור

  • PerplexityBotPerplexity

    מציג ומקשר אתרים בתוצאות החיפוש של Perplexity. לדברי Perplexity הוא לא משמש לאימון מודלי בסיס. מקור

  • BingbotMicrosoft

    הסורק של מנוע החיפוש Bing. חסימה מוציאה את האתר מהאינדקס של Bing. מקור

בקשה של משתמש

ניגשים לעמוד כשמשתמש מבקש מהעוזר לקרוא אותו. לא סורקים את האתר בצורה אוטומטית.

  • ChatGPT-UserOpenAI

    נכנס לעמוד כשמשתמש ב-ChatGPT או ב-GPT מותאם מבקש זאת. OpenAI מציינת שכללי robots.txt אולי לא יחולו עליו, ושהוא לא קובע הופעה בחיפוש. מקור

  • Claude-UserAnthropic

    נכנס לאתרים כשמשתמש ב-Claude שואל שאלה. חסימה מונעת שליפה של התוכן בתשובה לשאלה כזו. מקור

  • Perplexity-UserPerplexity

    נכנס לעמוד כשמשתמש שואל את Perplexity. Perplexity מציינת שהוא בדרך כלל מתעלם מ-robots.txt, כי המשתמש ביקש את הגישה. מקור

אימון מודלים

אוספים תוכן כדי לאמן מודלים. חסימה אומרת שהתוכן לא ישמש לאימון, ואינה משפיעה על הופעה בתוצאות חיפוש.

  • GPTBotOpenAI

    אוסף תוכן שעשוי לשמש לאימון מודלי הבסיס של OpenAI. חסימה מסמנת שהתוכן לא ישמש לאימון. מקור

  • ClaudeBotAnthropic

    אוסף תוכן שעשוי לתרום לאימון מודלי Claude. חסימה מסמנת שתוכן עתידי יוחרג ממאגרי האימון. מקור

  • Google-ExtendedGoogle

    אות בקרה ב-robots.txt, בלי סורק נפרד. קובע אם תוכן ששאב Googlebot ישמש לאימון מודלי Gemini ולביסוס תשובות באפליקציית Gemini וב-Vertex AI. לפי גוגל הוא לא משפיע על הכללה או דירוג בחיפוש גוגל. מקור

  • Applebot-ExtendedApple

    לא סורק עמודים בעצמו. קובע אם התוכן ש-Applebot אסף ישמש לאימון מודלי הבסיס של Apple. עמוד שחוסם אותו יכול להופיע בחיפוש, ב-Siri וב-Spotlight. מקור

  • CCBotCommon Crawl

    הסורק של Common Crawl, ארגון ללא כוונת רווח שמפרסם ארכיון ציבורי של דפי אינטרנט. הארכיון משמש גם חוקרים וגם מפתחי מודלי שפה. מקור

נתיב בשורה, למשל /admin/. הנתיבים יתווספו לכל סורק שאתם מאפשרים. סורק שיש לו קבוצה משלו לא קורא את הכללים של User-agent: * שבקובץ הקיים.

הקבצים

llms.txt

# שם האתר

robots.txt

User-agent: OAI-SearchBot
Allow: /

User-agent: GPTBot
Disallow: /

User-agent: ChatGPT-User
Allow: /

User-agent: ClaudeBot
Disallow: /

User-agent: Claude-SearchBot
Allow: /

User-agent: Claude-User
Allow: /

User-agent: PerplexityBot
Allow: /

User-agent: Perplexity-User
Allow: /

User-agent: Google-Extended
Disallow: /

User-agent: Applebot-Extended
Disallow: /

User-agent: CCBot
Disallow: /

User-agent: Bingbot
Allow: /

הקבצים נוצרים בדפדפן ולא נשלחים לשום מקום. את llms.txt מעלים לשורש האתר, בכתובת /llms.txt. את בלוק ה-robots.txt מוסיפים לקובץ הקיים ולא מחליפים בו את מה שכבר כתוב, כדי לא לדרוס כללים של Googlebot, של מערכת הניהול או של תוסף האבטחה.

שתפו את הכלי

הכלי נבנה ומתוחזק בידי AITERRA, סוכנות דיגיטל ישראלית. מי אנחנו · יצירת קשר

ממלאים שם, תיאור וכמה קישורים ומקבלים קובץ llms.txt לפי המפרט. בוחרים אילו בוטים של AI להכניס ואילו לחסום ומקבלים בלוק robots.txt מוכן. הכל בדפדפן, ובלי הרשמה.

מה הקבצים האלה עושים ומה לא

robots.txt הוא הכלי שבאמת קיים כדי לשלוט בסורקים: סורק מכבד אותו או לא, אבל הוא הערוץ שחברות ה-AI עצמן מתעדות. llms.txt הוא הצעה לתקציר קריא למודלים. הוא לא מחליף את robots.txt, אינו מגביל גישה, וגוגל מצהירה במפורש שהיא לא משתמשת בו. מי שמצפה שהקובץ יגדיל ציטוטים בתשובות AI יתאכזב, ומי שרוצה סדר ושליטה צריך להתחיל מ-robots.txt.

בוט חיפוש, בוט משתמש ובוט אימון

הכלי מחלק את הבוטים לשלוש קבוצות, כי ההחלטה לגביהן שונה:

  • חיפוש: OAI-SearchBot של OpenAI, Claude-SearchBot של Anthropic, PerplexityBot ו-Bingbot. חסימה מוציאה אתכם מהתשובות של אותו שירות. OpenAI ו-Perplexity ממליצות לאפשר אותם אם רוצים להופיע.
  • בקשת משתמש: ChatGPT-User, Claude-User ו-Perplexity-User. הם פועלים כשמשתמש מבקש מהעוזר לקרוא עמוד. חלק מהספקים לא מחייבים אותם ב-robots.txt.
  • אימון: GPTBot, ClaudeBot, CCBot, ואותות הבקרה Google-Extended ו-Applebot-Extended. חסימה אומרת שהתוכן לא ישמש לאימון, בלי השפעה על הופעה בחיפוש של אותה חברה.

ברירת המחדל בכלי היא להישאר בחיפוש ולחסום אימון. זו החלטה עסקית: מי שמעדיף שהתוכן שלו לא ישמש לאימון חוסם, ומי שרוצה את הנראות המרבית מאפשר הכל. שום חסימה ב-robots.txt אינה אכיפה, והיא מבוססת על מחויבות הסורק.

איך משתמשים בקבצים

  1. מורידים את llms.txt ומעלים לשורש האתר, כך שהוא נגיש בכתובת /llms.txt.
  2. מוסיפים את הבלוק של robots.txt לקובץ הקיים. לא מוחקים כללים שכבר יש שם.
  3. בודקים בדפדפן ששני הקבצים נטענים, ושה-robots.txt לא חוסם את Googlebot בטעות. אפשר לבדוק את מוכנות האתר ל-AI בבודק המוכנות לחיפוש AI.

מקורות

שמות הבוטים והתיאורים נבדקו מול התיעוד הרשמי של כל חברה באוקטובר 2026. חברות מוסיפות ומשנות סורקים, ולכן כדאי לבדוק את התיעוד לפני שמסתמכים על רשימה.

רוצים שהאתר יצוטט בתשובות של ChatGPT, Gemini ו-Perplexity? הקבצים האלה הם החלק הקטן. אנחנו בונים גם את התוכן והמבנה שהמנועים מצטטים.

לשירות קידום בחיפוש AI

שאלות נפוצות על מחולל llms.txt ו-robots.txt לבוטים של AI