بازدید ربات های گوگل از سایت و ایندکس کردن تغییرات جدید

جهت ایندکس کردن تغییرات جدید گوگل یکسری ربات به نام crawler دارد که وظیفه آن ها ایندکس‌کردن سایت‌ها است. رتبه گرفتن سایت و صفحات و تغییراتی که در سایت داده‌اید به عملکرد این ربات‌ها وابسته است.توجه داشته باشید که حتی اگر از گوگل بخواهید صفحه‌ای را ایندکس نکند ولی آن صفحه بصورت گسترده‌ای در شبکه‌های مجازی به اشتراک گذارده‌شود و کاربران زیادی بصورت روزانه از کانال‌های بازاریابی محتوا وارد آن صفحه شوند. گوگل به احتمال زیاد درخواست شما را نادیده گرفته و صفحه را ایندکس می‌کند.ایندکس شدن یک صفحه به شدت به میزان بازاریابی محتوا و مخاطب آن صفحه وابسته است.

گوگل پیشنهاد می‌دهد تنها در صورتی به سراغ ایندکس دستی بروید که مشکل خاصی در آن صفحه رخ داده‌باشد. مثلاً اگر شما در صفحه خود یک شماره تلفن را اشتباه نوشته باشید بعد از اصلاح می‌خواهید که گوگل بلافاصله صفحه را ایندکس کند و تغییرات جدید را ثبت کند. این موضوع در سایت‌هایی که به صورت AMP تولید شده‌اند بسیار حیاتی خواهد بود. دلیل آن هم روشن است سایت‌های AMP بر روی دو سرور ذخیره می‌شوند و ایندکس نشدن تغییرات به معنی ظاهر متفاوت سایت برای بازدیدکنندگان سایت از موبایل و Pc خواهد بود.

گوگل چگونه یک صفحه را ایندکس می کند؟

گفتیم که گوگل برای ایندکس کردن صفحات به تبلیغات آن صفحه وابسته است. اما اگر سایتی تازه ایجاد شده باشد. و شما بخواهید سایت توسط گوگل بسرعت ایندکس شود می توانید در وبمستر گوگل ثبت نام کنید و سپس آدرس نقشه سایت خود را به گوگل بدهید. اصولاً اگر نقشه سایت با نام Sitemap.xml در ریشه سایت ذخیره شده‌باشد. گوگل با ثبت سایت در وبمستر براحتی می‌تواند نقشه سایت را بیابد. ولی اگر به هر دلیلی گوگل نتوانسته‌بود که نقشه سایت شما را بیابد می‌توانید در پنل کاربری وبمستر به صورت دستی آدرس نقشه سایت را به گوگل اعلام کنید.بعد از ایجاد و ساخت نقشه سایت در وبمستر گوگل وارد قسمت Crawl و سپس Sitemaps شوید. سپس آدرس نقشه سایت را بصورت کامل همراه با آدرس سایت درج کنید و دکمه Submit را بزنید.

سرعت ایندکس شدن صفحات سایت به چه عواملی وابسته است؟

اگر سایت شما به تازگی ایجاد شده‌باشد شما می‌توانید با ثبت سایت در وبمستر گوگل و همچنین ثبت نام در گوگل آنالیتیکس به افزایش سرعت ایندکس شدن صفحات جدید سایت خود کمک کنید.همانطور که در بالا گفته شد وجود نقشه سایت و اطمینان از شناخته‌شدن نقشه سایت در وبمستر گوگل نیز در افزایش سرعت ایندکس شدن صفحات موثر است. اختلالات گوگل در شناسایی تغییرات سایت اغلب به دلیل مشکلات موجود در نقشه سایت یا نحوه تعامل گوگل با نقشه سایت است.تولید محتوای کاربر پسند و جذاب و تبلیغ آن در کانال‌های مختلف بازاریابی محتوا از هر تکنیکی در افزایش سرعت ایندکس شدن صفحات توسط گوگل موثرتر است.

ایندکس دستی صفحات در شرایط اضطراری

در وبمستر گوگل از ابزار Fetch as Google استفاده کنید:

این ابزار در زیر مجموعه ابزارهای Crawl قرار دارد. شما می‌توانید گزینه Fetch یا Fetch and render را استفاده کنید. اگر ایندکس صفحه سایت شما با مشکل روبرو است و نمی‌توانید دلیل این مشکل را دریابید Fetch and render به شما اطلاعات کاملی از قابلیت در دسترس بودن منابع صفحه برای گوگل می‌دهد. اگر صفحه شما در جستجو با کامپیوتر در صفحه نتایج گوگل هست ولی در موبایل و سایر ابزارها نمی‌توانید صفحه خود را در گوگل بیابید، می توانید Fetch and render را برای دستگاه مشخصی اعمال کنید. بنابراین می‌توانید از این گزینه برای بررسی تمام منابع صفحه و ایندکس‌شدن این منابع در Pc و گوشی‌های هوشمند استفاده‌کنید.

چه عواملی مانع ایندکس شدن صفحات سایت شما می شوند؟

زمانی که صفحات سایت به درستی ایندکس نمی‌شوند، نقشه سایت یکی از اولین عواملی است که باید بررسی شود.عواملی وجود دارد که مانع ایندکس شدن صفحات سایت می‌شود. برخی صفحات سایت که برای مخاطبان سایت بسیار جذاب هستند و باعث ماندگاری طولانی‌تر آنها در سایت می‌شوند، صفحاتی مانند صفحات جستجو و صفحات تگ‌ها (کلیک روی یک تگ مجموعه‌ای از صفحاتی که آن تگ در آنها به کار رفته را به نمایش می‌گذارد)، صفحات مرتبط با دسته‌بندی کالاها که مجموعه‌ای از کالاهای مرتبط به یک دسته‌بندی را به نمایش می‌گذارند. اما این صفحات برای کاربران گوگل چندان جذاب نیستند. آنها مایلند که دقیقاً به صفحه‌ای منتقل شوند که حاوی اطلاعات مد نظر آنها است نه آنکه صفحه‌ای با چندین لینک به صفحات دیگر برایشان ظاهر شود. بنابراین مدیران سایت‌ها از ایندکس شدن چنین صفحاتی توسط گوگل جلوگیری می‌کنند. گاهی در این فرایند ممکن است که در اثر یک اشتباه صفحاتی ناخواسته را از ایندکس شدن حذف کنید. بنابراین یکی از عواملی که هنگام مشکل ایندکس باید بررسی شود حذف دستی سایت از ایندکس شدن توسط گوگل است.

جهت حذف دستی سایت از ایندکس شدن توسط گوگل دو مرحله وجود دارد:

فایل Robots.txt

یک فایل متنی با فرمت txt  است که می‌تواند ایندکس شدن صفحات سایت را با اختلال جدی روبرو کند. برای بررسی فایل Robots.txt مراحل زیر را انجام دهید.

در مرورگر خود آدرس https://www.google.com/webmasters/tools/robots-testing-tool را کپی کنید.

اگر در وبمستر وارد نشده‌اید با اکانت خود وارد شوید.

انتخاب نوع رباتی که می‌خواهید دسترسی آن را به منابع چک کنید مثلا Googlebot-Image به تصاویر سایت دسترسی دارد.

درج آدرسی که ایندکس آن با مشکل روبرو است در ابزار تست

بررسی syntax warnings و logic errors ها در ابزار تست

انتخاب user-agent و کلیک روی دکمه Test برای بررسی محدویت‌های مربوطه

بررسی منابعی که به صورت BLOCKED هستند و برطرف کردن مشکل آنها

نکته شما باید تغییراتی که در این ویرایشگر می‌دهید را به صورت دستی بر فایل robots.txt در سرور اعمال کنید.

متا تگ Robots

همانطور که می‌دانید متاتگ ها بر روی نحوه مشاهده صفحات سایت توسط موتورهای جستجو موثر هستند. متا تگ Robots یکی از این متا تگ ها است که وظیفه آن تنظیم قابلیت ایندکس و فالو شدن صفحه توسط موتورهای جستجو است. اگر این تگ را در صفحات نگذارید به‌صورت پیشفرض گوگل صفحات را ایندکس و فالو فرض خواهد کرد.

نمونه ای از به کارگیری این تگ در صفحه :