Как ИИ-агенты видят 2gis.ru
Все 12 проверенных ИИ-ботов могут открыть главную 2gis.ru и им это разрешено. Серьёзных проблем не нашли.
- Доступ для ботов
- 39/40
- Правила robots.txt
- 20/20
- Контент без JavaScript
- 10/20
- Разметка
- 7/10
- Служебные файлы
- 7/10
Главные проблемы
-
Важно
Сайт не пускает тех, кто только называет себя поисковиком
Запросы с подписями поисковых роботов без их IP-адресов отклонены: Bingbot — заблокирован (ответ 403). Скорее всего, защита сверяет подлинность ботов по IP — тогда настоящие Googlebot и YandexBot проходят. Проверьте в Яндекс Вебмастере и Google Search Console, что ошибок обхода нет.
Как исправить. Если в панелях вебмастера есть ошибки доступа, добавьте поисковых роботов в исключения защиты.
-
Важно
Часть контента видна только после JavaScript
Без JavaScript 51 слов, после рендера — 79 (65%). Остальное ИИ-боты, скорее всего, не увидят.
Как исправить. Проверьте, какие блоки подгружаются скриптами, и отдавайте важный текст сразу в HTML.
-
Мелочь
Нет структурированных данных
На главной нет разметки schema.org (JSON-LD). Она помогает ИИ понять, что это за организация и что она предлагает.
Как исправить. Добавьте JSON-LD: Organization или LocalBusiness, для магазина — Product.
-
Мелочь
Нет Markdown-версии для ИИ-агентов
Агенты всё чаще просят страницы в Markdown (заголовок Accept: text/markdown): так им проще и дешевле читать текст без вёрстки. Сайт на такой запрос отдаёт HTML, файла /index.md тоже нет.
Как исправить. Настройте отдачу Markdown по заголовку Accept: text/markdown на сервере или CDN — или хотя бы положите /index.md с текстом главной.
-
Мелочь
Нет llms.txt
Файл llms.txt — новый и необязательный формат: краткое описание сайта для языковых моделей. Пока его поддерживают не все, но он дешёвый.
Как исправить. Добавьте /llms.txt с описанием сайта и ссылками на главные разделы.
Доступ по ботам
Мы зашли на главную под подписью (User-Agent) каждого бота и сравнили ответ с тем, что получает обычный браузер. Колонка robots.txt — что разрешают правила сайта.
| Бот | robots.txt | Доступ к главной | Ответ сервера |
|---|---|---|---|
| Поисковики | |||
GooglebotGoogle |
Разрешенообщее правило |
Видит страницу |
200 |
YandexBotЯндекс |
Разрешеногруппа Yandex |
Видит страницу |
200 |
BingbotMicrosoft |
Разрешенообщее правило |
Заблокирован |
403 |
| ИИ-поиск | |||
YandexAdditionalBotЯндекс |
Разрешеногруппа Yandex |
Видит страницу |
200 |
OAI-SearchBotOpenAI |
Разрешенообщее правило |
Видит страницу |
200 |
Claude-SearchBotAnthropic |
Разрешенообщее правило |
Видит страницу |
200 |
PerplexityBotPerplexity |
Разрешенообщее правило |
Видит страницу |
200 |
| Агенты по запросу пользователя | |||
ChatGPT-UserOpenAI |
Разрешенообщее правило |
Видит страницу |
200 |
Claude-UserAnthropic |
Разрешенообщее правило |
Видит страницу |
200 |
Perplexity-UserPerplexity |
Разрешенообщее правило |
Видит страницу |
200 |
| Обучение моделей | |||
GPTBotOpenAI |
Разрешенообщее правило |
Видит страницу |
200 |
ClaudeBotAnthropic |
Разрешенообщее правило |
Видит страницу |
200 |
CCBotCommon Crawl |
Разрешенообщее правило |
Видит страницу |
200 |
BytespiderByteDance |
Разрешенообщее правило |
Видит страницу |
200 |
Разрешенообщее правило |
Видит страницу |
200 |
|
Google-ExtendedGoogle |
Разрешенообщее правило |
нет своего робота |
|
Applebot-ExtendedApple |
Разрешенообщее правило |
нет своего робота |
|
Для сравнения обычный браузер получил: ответ 200, 52 слов.
JavaScript: что видит бот без браузера
GPTBot, ClaudeBot, PerplexityBot и большинство ИИ-агентов не выполняют JavaScript: они читают только HTML, который отдал сервер. Мы сравнили HTML, который получил YandexAdditionalBot, со страницей после рендера в браузере.
Часть контента — только после JavaScript — бот видит 65% текста.
Разметка главной
Так главную видит YandexAdditionalBot — без JavaScript.
- Title
- Карта городов России: подробные карты с поиском по адресу — 2ГИС
- Description
- Подробная карта городов России: поиск по адресу, телефоны, отзывы, фото, часы работы фирм и удобный поиск проезда
- Язык
- ru
- Canonical
- https://2gis.ru/
- Schema.org
- нет
- Meta robots
- не задано
Служебные файлы
- robots.txt
- есть 1193 байт, упомянуты: YandexBot, YandexAdditionalBot
- Sitemap
- есть индекс карт, 154 ссылки, указан в robots.txt
- Markdown для агентов
- нет на запрос Markdown сайт отдаёт HTML
- llms.txt
- нет необязательный файл для языковых моделей
Показать robots.txt
User-agent: * Host: https://2gis.ru Sitemap: https://2gis.ru/sitemap.xml Disallow: /_/* Disallow: /maps_action Disallow: /*printmode= Disallow: /*login_token= Disallow: /*reference= Disallow: /*stat= Disallow: */my$ Disallow: */my?* Disallow: */my/* Disallow: */user* Disallow: */geolocation* Disallow: *?refHash* Disallow: /geo/70030076128110973 # Yandex-only Clean-param: m Clean-param: ruler Clean-param: my Clean-param: mapview Clean-param: addOrg Clean-param: feedback Clean-param: floor Clean-param: stat Clean-param: writeReview Clean-param: utm_medium&utm_campaign&utm_source&utm_content&utm_term&utm_from Clean-param: queryState Clean-param: reference Clean-param: gclid Clean-param: refHash Clean-param: utm_referrer Clean-param: fa821dba_ipp_key Clean-param: fa821dba_ipp_uid Clean-param: fa821dba_ipp_uid2 Clean-param: fa821dba_ipp_uid1 Clean-param: fa821dba_ipp_uid_tst Clean-param: fa821dba_static_key Clean-param: sa&ved Clean-param: af_xp Clean-param: rating Clean-param: pmv Clean-param: clckid Clean-param: immersive Clean-param: rel_scan User-agent: Yandex Disallow: /search/%D0%A0/rubricId User-agent: Mail.Ru Crawl-delay: 0.2 User-agent: GoogleOther Disallow: /
История проверок
| Дата | Балл | ИИ-ботов видят |
|---|---|---|
| 30 октября в 22:44 | 83 | 12 |
| 15 октября в 23:27 | 82 | 11 |
| 15 октября в 23:21 | 82 | 11 |
Как мы проверяли
Мы подставляем подпись бота, но не его IP-адрес. Поэтому отчёт показывает, как сайт видит агент без проверки IP. Если антибот пропускает ботов по IP-адресам (так часто делают для Googlebot и YandexBot), реальная картина для этих ботов может быть лучше. Точную картину дают только логи сервера.
Проверяли с сервера в России. Наш сканер представляется как AICrawl/1.0 (+https://ai-crawl.app/about) и соблюдает robots.txt. Подписи ИИ-ботов используются только для одного запроса к главной странице. Капчи и защиту мы не обходим, а только фиксируем. Подробнее о методике.
Другие проверенные сайты
- 83 rendez-vous.ruИИ видят 8 из 12 · 30 окт
- 83 vc.ruИИ видят 12 из 12 · 30 окт
- 84 sohoshop.ruИИ видят 12 из 12 · 30 окт
- 84 2moodstore.comИИ видят 12 из 12 · 30 окт
- 41 sberbank.ruИИ видят 1 из 12 · 30 окт
- 94 pikabu.ruИИ видят 12 из 12 · 30 окт
- 97 ingate.ruИИ видят 12 из 12 · 30 окт
- 91 amdg.ruИИ видят 12 из 12 · 30 окт
Это ваш сайт? Вы можете убрать эту страницу или запретить наш сканер в robots.txt.