Индексация

Googlebot сканирует несуществующие URL — как остановить?

Александр Тригуб — частный SEO-специалист
Александр Тригуб Частный SEO-специалист · с 2010 · 500+ аудитов · 1092 заказа · 4.9★

Googlebot посещает URL, которых нет на сайте — это нормальное поведение, но при массовых 404 нужно разобраться.

Почему это происходит

  • Старые ссылки: внешние сайты ссылаются на удалённые страницы
  • Сканирование JavaScript: Googlebot обнаружил URL в JS-коде
  • Параметры: робот комбинирует обнаруженные параметры, создавая новые URL
  • Hacked content: если сайт был взломан — могли создаться мусорные URL
  • Sitemap: старый sitemap содержит удалённые URL

Когда беспокоиться

  • Тысячи 404-ошибок в GSC → тратится краулинговый бюджет
  • URL имеют паттерн взлома: /casino/, /viagra/, /wp-content/uploads/shell.php
  • Новые 404 появляются ежедневно в нарастающем количестве

Как остановить

  • Обновите sitemap.xml: удалите несуществующие URL
  • 301-редиректы: для URL с внешними ссылками → на релевантную страницу
  • 410 Gone: для URL, которые точно не вернутся. Google быстрее прекратит сканировать
  • Robots.txt: закройте паттерны мусорных URL: Disallow: /old-section/
  • Попросите вебмастеров обновить ссылки (если это важные доноры)

Не нашли ответ? Спросите!

Отвечаю лично в течение 24 часов. Лучшие вопросы публикую в этом разделе.

Другие вопросы

Кто ведёт проект

Александр Тригуб - частный SEO-специалист. В поисковом маркетинге с 2010 года, предприниматель с 2001-го. Строил сайты клиентам с 2007-го - понимаю сайт изнутри, не только как продвигать, но и как он устроен. В SEO пришёл из собственного бизнеса - знаю, как устроены продажи не из учебников, а из собственной выручки и расходов.

Публичные примеры разработки: royal-pier.ru · monolitkapstroy.ru · med-expres.ru · arnikacenter.ru · kairoscity.ru

1 000+заказов · 728 отзывов 4.9★
300+сайтов разработано
500+видео-аудитов в открытом доступе
13+лет - самые долгие проекты
27+модулей аналитики и мониторинга