Как ИИ-агенты видят ekonika.ru
ekonika.ru закрыт антибот-защитой Qrator от любых автоматических клиентов: ни один из 12 ИИ-ботов не получил страницу. Поисковики, вероятно, проходят по IP-адресам.
- Доступ для ботов
- 0/40
- Правила robots.txt
- 20/20
- Контент без JavaScript
- 0/20
- Разметка
- 0/10
- Служебные файлы
- 7/10
Главные проблемы
-
Серьёзно
Сайт закрыт от любых автоматических клиентов
Антибот-защита Qrator отказывает и программным запросам (ответ 401), и браузеру без интерфейса (ответ 401). ИИ-агенты, которые открывают страницы по запросу пользователя, почти наверняка тоже получают отказ. Поисковых роботов такие системы обычно пропускают по IP-адресам — это мы проверить не можем.
Как исправить. Если ИИ-ассистенты должны читать сайт, добавьте их в исключения антибота. У крупных систем защиты есть списки проверенных ботов (verified bots).
Доступ по ботам
Мы зашли на главную под подписью (User-Agent) каждого бота и сравнили ответ с тем, что получает обычный браузер. Колонка robots.txt — что разрешают правила сайта.
| Бот | robots.txt | Доступ к главной | Ответ сервера |
|---|---|---|---|
| Поисковики | |||
GooglebotGoogle |
Разрешеногруппа Googlebot |
Упирается в проверку антибота |
401 · Qrator |
YandexBotЯндекс |
Разрешеногруппа Yandex |
Упирается в проверку антибота |
401 · Qrator |
BingbotMicrosoft |
Разрешенообщее правило |
Упирается в проверку антибота |
401 · Qrator |
| ИИ-поиск | |||
YandexAdditionalBotЯндекс |
Разрешеногруппа Yandex |
Упирается в проверку антибота |
401 · Qrator |
OAI-SearchBotOpenAI |
Разрешенообщее правило |
Упирается в проверку антибота |
401 · Qrator |
Claude-SearchBotAnthropic |
Разрешенообщее правило |
Упирается в проверку антибота |
401 · Qrator |
PerplexityBotPerplexity |
Разрешенообщее правило |
Упирается в проверку антибота |
401 · Qrator |
| Агенты по запросу пользователя | |||
ChatGPT-UserOpenAI |
Разрешенообщее правило |
Упирается в проверку антибота |
401 · Qrator |
Claude-UserAnthropic |
Разрешенообщее правило |
Упирается в проверку антибота |
401 · Qrator |
Perplexity-UserPerplexity |
Разрешенообщее правило |
Упирается в проверку антибота |
401 · Qrator |
| Обучение моделей | |||
GPTBotOpenAI |
Разрешенообщее правило |
Упирается в проверку антибота |
401 · Qrator |
ClaudeBotAnthropic |
Разрешенообщее правило |
Упирается в проверку антибота |
401 · Qrator |
CCBotCommon Crawl |
Разрешенообщее правило |
Упирается в проверку антибота |
401 · Qrator |
BytespiderByteDance |
Разрешенообщее правило |
Упирается в проверку антибота |
401 · Qrator |
Разрешенообщее правило |
Упирается в проверку антибота |
401 · Qrator |
|
Google-ExtendedGoogle |
Разрешенообщее правило |
нет своего робота |
|
Applebot-ExtendedApple |
Разрешенообщее правило |
нет своего робота |
|
Для сравнения обычный браузер получил: ответ 401.
JavaScript: что видит бот без браузера
GPTBot, ClaudeBot, PerplexityBot и большинство ИИ-агентов не выполняют JavaScript: они читают только HTML, который отдал сервер. Мы сравнили HTML, который получил бот, со страницей после рендера в браузере.
Не удалось сравнить.
Разметка главной
Так главную видит бот — без JavaScript.
- Title
- нет
- Description
- нет
- Язык
- нет
- Canonical
- нет
- Schema.org
- нет
- Meta robots
- не задано
Служебные файлы
- robots.txt
- есть 3849 байт, упомянуты: Googlebot, YandexBot, YandexAdditionalBot
- Sitemap
- есть индекс карт, 6 ссылок, указан в robots.txt
- Markdown для агентов
- нет на запрос Markdown сайт отдаёт HTML
- llms.txt
- нет необязательный файл для языковых моделей
Показать robots.txt
User-Agent: * Disallow: /*index.php$ Disallow: /bitrix/ Disallow: /auth/ Disallow: /personal/ Disallow: /ajax/ Disallow: /upload/ Disallow: */*search Disallow: /*/slide_show/ Disallow: /*/gallery/*order=* Disallow: /*print= Disallow: /*register= Disallow: /*password= Disallow: /*login= Disallow: /*logout= Disallow: /*auth= Disallow: /*?action= Disallow: /*action=* Disallow: /*bitrix_*= Disallow: /*backurl=* Disallow: /*back_url* Disallow: /*COURSE_ID= Disallow: /*?COURSE_ID= Disallow: /*PAGEN_* Disallow: /*SHOWALL Disallow: /*show_all= Disallow: /js/ Disallow: /img/ Disallow: /css/ Disallow: /*_openstat Disallow: /*from=adwords Disallow: /*gclid= Disallow: */cart/* Disallow: *?city=* Disallow: *?available=* Disallow: *?popup=stores* Disallow: *?type=* Disallow: *sort_by* Disallow: *sort_dir* Disallow: *?per_page=* Disallow: *.html Disallow: */href= Disallow: *?_escaped_fragment_=* Allow: /stores?city= Allow: /resize/ Allow: /css/style.css* Allow: /js/libs.js Allow: /js/main.js Allow: /bitrix/js/main/core/css Allow: /bitrix/js/main/json Allow: /bitrix/js/main/session.js Allow: /bitrix/js/main/core/core_popup.js Allow: /upload/*.jpg Allow: /upload/*.JPG Allow: /img/*.png Allow: /img/*.svg User-Agent: Yandex Disallow: /*index.php$ Disallow: /bitrix/ Disallow: /auth/ Disallow: /personal/ Disallow: /ajax/ Disallow: /upload/ Disallow: */*search Disallow: /*/slide_show/ Disallow: /*/gallery/*order=* Disallow: /*print= Disallow: /*register= Disallow: /*password= Disallow: /*login= Disallow: /*logout= Disallow: /*auth= Disallow: /*?action= Disallow: /*action=* Disallow: /*bitrix_*= Disallow: /*backurl=* Disallow: /*back_url* Disallow: /*COURSE_ID= Disallow: /*?COURSE_ID= Disallow: /*PAGEN_* Disallow: /*SHOWALL Disallow: /*show_all= Disallow: /js/ Disallow: /img/ Disallow: /css/ Disallow: /*_openstat Disallow: /*from=adwords Disallow: /*gclid= Disallow: */cart/* Disallow: *?city=* Disallow: *?available=* Disallow: *?popup=stores* Disallow: *?type=* Disallow: *sort_by* Disallow: *sort_dir* Disallow: *?per_page=* Disallow: *.html Disallow: */href= Disallow: *?_escaped_fragment_=* Allow: /stores?city= Allow: /resize/ Allow: /css/style.css* Allow: /js/libs.js Allow: /js/main.js Allow: /bitrix/js/main/core/css Allow: /bitrix/js/main/json Allow: /bitrix/js/main/session.js Allow: /bitrix/js/main/core/core_popup.js Allow: /upload/*.jpg Allow: /upload/*.JPG Allow: /img/*.png Allow: /img/*.svg Clean-param: utm_source&utm_medium&utm_term&utm_content&utm_campaign&utm_referrer&yclid&gclid&from&_openstat&ref&filter_params&sort&iitt&openPopup&shop&collection&open_city / User-Agent: Googlebot Disallow: /*index.php$ Disallow: /bitrix/ Disallow: /auth/ Disallow: /personal/ Disallow: /ajax/ Disallow: /upload/ Disallow: */*search Disallow: /*/slide_show/ Disallow: /*/gallery/*order=* Disallow: /*print= Disallow: /*register= Disallow: /*password= Disallow: /*login= Disallow: /*logout= Disallow: /*auth= Disallow: /*?action= Disallow: /*action=* Disallow: /*bitrix_*= Disallow: /*backurl=* Disallow: /*back_url* Disallow: /*COURSE_ID= Disallow: /*?COURSE_ID= Disallow: /*PAGEN_* Disallow: /*SHOWALL Disallow: /*show_all= Disallow: /js/ Disallow: /img/ Disallow: /css/ Disallow: /*_openstat Disallow: /*from=adwords Disallow: /*gclid= Disallow: */cart/* Disallow: *?city=* Disallow: *?available=* Disallow: *?popup=stores* Disallow: *?type=* Disallow: *sort_by* Disallow: *sort_dir* Disallow: *?per_page=* Disallow: *.html Disallow: */href= Disallow: *?_escaped_fragment_=* Allow: /stores?city= Allow: /css/style.css* Allow: /js/libs.js Allow: /js/main.js Allow: /bitrix/js/main/core/css Allow: /bitrix/js/main/json Allow: /bitrix/js/main/session.js Allow: /bitrix/js/main/core/core_popup.js Allow: /resize/ Allow: /upload/*.jpg Allow: /upload/*.JPG Allow: /img/*.png Allow: /img/*.svg Sitemap: https://ekonika.ru/sitemap.xml
История проверок
| Дата | Балл | ИИ-ботов видят |
|---|---|---|
| 30 октября в 22:52 | 27 | 0 |
| 15 октября в 23:50 | 28 | 0 |
Как мы проверяли
Мы подставляем подпись бота, но не его IP-адрес. Поэтому отчёт показывает, как сайт видит агент без проверки IP. Если антибот пропускает ботов по IP-адресам (так часто делают для Googlebot и YandexBot), реальная картина для этих ботов может быть лучше. Точную картину дают только логи сервера.
Проверяли с сервера в России. Наш сканер представляется как AICrawl/1.0 (+https://ai-crawl.app/about) и соблюдает robots.txt. Подписи ИИ-ботов используются только для одного запроса к главной странице. Капчи и защиту мы не обходим, а только фиксируем. Подробнее о методике.
Другие проверенные сайты
- 27 ozon.ruИИ видят 0 из 12 · 30 окт
- 30 avito.ruИИ видят 0 из 12 · 30 окт
- 24 snowqueen.ruИИ видят 0 из 12 · 30 окт
- 24 lamoda.ruИИ видят 0 из 12 · 30 окт
- 41 sberbank.ruИИ видят 1 из 12 · 30 окт
- 94 pikabu.ruИИ видят 12 из 12 · 30 окт
- 97 ingate.ruИИ видят 12 из 12 · 30 окт
- 91 amdg.ruИИ видят 12 из 12 · 30 окт
Это ваш сайт? Вы можете убрать эту страницу или запретить наш сканер в robots.txt.