מה זה תקציב סריקה?
תקציב סריקה (crawl budget) הוא קבוצת הכתובות שגוגל גם יכולה וגם רוצה לסרוק באתר, ונקבע לפי קיבולת הסריקה וביקוש הסריקה.
ההגדרה של גוגל מחלקת את תקציב הסריקה לשני רכיבים. “יכולה” היא קיבולת הסריקה, התקרה על כמות הבקשות שהאתר סופג. “רוצה” היא ביקוש הסריקה, כמה התוכן בכלל מעניין את גוגל. באתרים קטנים התקציב כמעט אף פעם לא מגבלה; בגדולים הוא קובע אילו עמודים נסרקים היום ואילו מחכים. המונח והחלוקה הזאת הם המסגרת של גוגל; מנועים אחרים מנהלים סריקה בכלים משלהם, כמו Crawl Control של בינג.
איך תקציב סריקה עובד
קיבולת הסריקה נקבעת גם אצלכם וגם אצל גוגל: תגובות מהירות ויציבות מרימות את התקרה, שגיאות 5xx ו-429 מורידות אותה, וגם המשאבים של גוגל עצמה סופיים ומתחלקים בין כל האתרים ברשת. ביקוש הסריקה נקבע לפי התוכן: גודל מלאי הכתובות, הפופולריות של העמודים וכמה התוכן התיישן. הסריקה בפועל היא מה שגוגל גם יכולה וגם רוצה: שרת מהיר לא מזיז אתר שלא מעניין את גוגל, ותוכן מבוקש לא נסרק מעבר למה שהשרת סופג.
שני דברים שקל לפספס: גוגל מגדירה אתר לצורך תקציב כ-hostname ייחודי, ולכן ל-www.example.com ול-code.example.com יש תקציבים נפרדים. והתקרה משותפת לכל הסורקים של גוגל, כך שביקוש גבוה מסורק אחד שלה משאיר פחות קיבולת לאחרים.
ההנחיות של גוגל בנושא מכוונות לאתרים גדולים: מיליון עמודים ייחודיים ומעלה שמתעדכנים בערך פעם בשבוע, או עשרת אלפים ומעלה שמתעדכנים יומיום, ולפי גוגל אלה אומדנים גסים ולא ספים מדויקים. רוב האתרים לא מתקרבים לגדלים האלה.
דוגמה לבזבוז תקציב סריקה
מנוע חיפוש מוציא את רוב הסריקה באתר על שליפה מחדש של כתובות מוכרות ועל גילוי כתובות חדשות. בקטלוג מסחר זה נשבר: כל שילוב של סינון ומיון מייצר כתובת נוספת, כך ש-?color=red&sort=price ו-?sort=price&color=red הן שתי כתובות של אותו עמוד. Googlebot שורף את רוב הביקורים על הווריאציות, והמוצרים החדשים מחכים בתור. זה בדיוק מה שגוגל מונה במסמך שלה כבזבוז: תוכן משוכפל, אותו עמוד בגרסאות מיון שונות, שגיאות soft 404 ושרשראות הפניות.
איך תקציב סריקה קשור ל-SEO ול-GEO
עמוד שלא נסרק לא נכנס לאינדקס של אף מנוע חיפוש, ומה שלא באינדקס לא קיים בתוצאות. באתר גדול תקציב הסריקה קובע את הקצב: ההבדל בין כתבה שנכנסת לאינדקס תוך דקות לכתבה שמחכה ימים הוא לרוב תקציב שנשרף על כתובות חסרות ערך. אותו מלאי כתובות עומד גם מול הסורקים שבונים את אינדקסי החיפוש של מנועי ה-AI, כמו OAI-SearchBot של OpenAI: עמוד שהם לא הגיעו אליו לא נכנס לאינדקס שהתשובות נשענות עליו.
מה תקציב סריקה הוא לא
תקציב סריקה הוא לא ציון איכות ולא גורם דירוג. הוא הדרך של גוגל לחלק את זמן הסריקה שלה בין אתרים, נגזר מקיבולת הסריקה ומביקוש הסריקה, ואי אפשר להגדיל אותו ישירות. אפשר לבזבז תקציב ענק על אתר מצוין ואפשר לנצל ביעילות תקציב קטן. מה שקובע הוא על מה גוגל מוציאה את הביקורים שיש לה: אתר עם תקציב קטן שמנוהל נכון נסרק טוב יותר מאתר עם תקציב גדול שנשרף על פרמטרים.
שאלות על תקציב סריקה
האם תקציב סריקה הוא גורם דירוג?▼
תקציב סריקה הוא לא גורם דירוג. הוא קובע אילו עמודים גוגל מגיעה אליהם ומתי, לא איפה הם ידורגו. אבל עמוד שלא נסרק לא נכנס לאינדקס, ומה שלא באינדקס לא מדורג בכלל.
מתי צריך לדאוג לתקציב סריקה?▼
לפי ההנחיות של גוגל, תקציב סריקה נהיה שיקול באתרים של מיליון עמודים ייחודיים ומעלה שהתוכן שלהם משתנה בערך פעם בשבוע, או באתרים של עשרת אלפים עמודים ומעלה עם תוכן שמשתנה יומיום. גוגל עצמה מסייגת שאלה אומדנים גסים, לא ספים מדויקים.
סימן מוקדם שרלוונטי בכל גודל אתר הוא נתח גדול של כתובות בסטטוס Discovered - currently not indexed ב-Search Console: גוגל מכירה את הכתובות האלה ובוחרת לדחות את הסריקה שלהן.
איך מזהים בזבוז של תקציב סריקה?▼
בזבוז של תקציב סריקה מזהים בלוגים של השרת ובדוח Crawl Stats: עמודי פרמטרים, שרשראות הפניות, שגיאות soft 404 וכתובות כפולות שנסרקות שוב ושוב. באתר שכבר נמצא בתקרת הקיבולת שלו, כל בקשה כזאת באה על חשבון עמוד שחשוב באמת.
איך מגדילים תקציב סריקה?▼
את תקציב הסריקה מגדילים דרך שני המנופים שגוגל מתעדת, ואין דרך לבקש ממנה עוד סריקה ישירות. את קיבולת הסריקה מרימים דרך השרת: תגובות מהירות ויציבות מעלות את התקרה, ושגיאות 5xx ו-429 מורידות אותה.
את ביקוש הסריקה מעלים דרך התוכן: עמודים פופולריים יותר, תוכן שבאמת מתעדכן, ומלאי כתובות נקי מכפילויות.
האם שרת איטי מקטין את תקציב הסריקה?▼
שרת איטי מקטין את תקציב הסריקה, וזה מתועד: גוגל כותבת שכשהאתר מאט או מחזיר שגיאות שרת, תקרת הקיבולת יורדת והיא סורקת פחות. הכיוון ההפוך מתועד באותה מידה, והתקרה מתעדכנת אוטומטית לאורך זמן, ולכן זמן התגובה הוא המנוף הישיר ביותר בצד השרת.
האם noindex חוסך תקציב סריקה?▼
noindex לא חוסך תקציב סריקה: גוגל חייבת לשלוף את העמוד כדי לראות את התגית, ורק אז מוותרת עליו, וגוגל עצמה מתארת את זה כבזבוז זמן סריקה. חסימה ב-robots.txt כן מונעת את השליפה עצמה.
גוגל מוסיפה סייג חשוב: תקציב שהתפנה מחסימות לא עובר אוטומטית לעמודים אחרים. הוא עוזר רק אם האתר כבר עומד בתקרת הקיבולת שלו, ולכן robots.txt הוא כלי לניקוי מלאי כתובות, לא כלי להאצת הסריקה של תוכן חשוב.