Индексация

Googlebot сканирует несуществующие URL — как остановить?

Александр Тригуб — частный SEO-специалист
Александр Тригуб Частный SEO-специалист · с 2010 · 500+ аудитов · 1092 заказа · 4.9★

Googlebot посещает URL, которых нет на сайте — это нормальное поведение, но при массовых 404 нужно разобраться.

Почему это происходит

  • Старые ссылки: внешние сайты ссылаются на удалённые страницы
  • Сканирование JavaScript: Googlebot обнаружил URL в JS-коде
  • Параметры: робот комбинирует обнаруженные параметры, создавая новые URL
  • Hacked content: если сайт был взломан — могли создаться мусорные URL
  • Sitemap: старый sitemap содержит удалённые URL

Когда беспокоиться

  • Тысячи 404-ошибок в GSC → тратится краулинговый бюджет
  • URL имеют паттерн взлома: /casino/, /viagra/, /wp-content/uploads/shell.php
  • Новые 404 появляются ежедневно в нарастающем количестве

Как остановить

  • Обновите sitemap.xml: удалите несуществующие URL
  • 301-редиректы: для URL с внешними ссылками → на релевантную страницу
  • 410 Gone: для URL, которые точно не вернутся. Google быстрее прекратит сканировать
  • Robots.txt: закройте паттерны мусорных URL: Disallow: /old-section/
  • Попросите вебмастеров обновить ссылки (если это важные доноры)

Не нашли ответ? Спросите!

Отвечаю лично в течение 24 часов. Лучшие вопросы публикую в этом разделе.

Другие вопросы

Кто ведёт проект

Александр Тригуб — частный SEO-специалист. В поисковом маркетинге с 2010 года, предприниматель с 2001-го. В SEO пришёл из собственного бизнеса — знаю, как устроены продажи не из учебников, а из собственной выручки и расходов.

  • Специализация: медицина, B2B, e-commerce и локальные услуги — ниши, где каждый лид стоит дорого.
  • Подтверждённый опыт: 500+ видео-аудитов в разных тематиках, 1092 заказа (рейтинг 4.9 / 5). Отзывы · Видео-аудиты.
  • Профили с отзывами: 728 отзывов на Kwork (4.9★) · Profi.ru (5.0★) · ORCID 0009-0009-0106-6136.
  • Формат: работаю напрямую, один специалист на проект — без менеджеров и субподрядных цепочек.
  • Отчётность: KPI по лидам и деньгам. Ежемесячный план/факт, а не PDF на 50 страниц.
15+лет в маркетинге
500+видео-аудитов
1092заказов
4.9★728 отзывов