Как ИИ-агенты видят kari.com
Защита kari.com не пускает обычные автоматические запросы, но по подписи пропускает 4 из 12 ИИ-ботов.
- Доступ для ботов
- 18/40
- Правила robots.txt
- 20/20
- Контент без JavaScript
- 0/20
- Разметка
- 10/10
- Служебные файлы
- 0/10
Главные проблемы
-
Серьёзно
ИИ-ассистенты не могут открыть сайт
Браузеру главная открывается, а ИИ-агентам нет: ChatGPT-User, YandexAdditionalBot, OAI-SearchBot — заблокирован (ответ 403). Когда пользователь спросит ChatGPT, Claude или Perplexity о вашем сайте, они не смогут его прочитать.
Как исправить. Найдите правило, которое режет запросы по User-Agent: в WAF, антиботе, настройках хостинга или nginx — и добавьте исключение для нужных ботов.
-
Важно
Сайт пускает только тех, кто представился ботом
Защита сайта отказывает обычным автоматическим клиентам и браузеру без интерфейса, но по подписи пропускает Googlebot, Claude-SearchBot, PerplexityBot, Claude-User, Perplexity-User. Остальным ботам — отказ.
Как исправить. Проверьте правила защиты: каких ботов вы пропускаете по User-Agent и всех ли нужных включили.
-
Важно
Сайт не пускает тех, кто только называет себя поисковиком
Запросы с подписями поисковых роботов без их IP-адресов отклонены: YandexBot, Bingbot — заблокирован (ответ 403). Скорее всего, защита сверяет подлинность ботов по IP — тогда настоящие Googlebot и YandexBot проходят. Проверьте в Яндекс Вебмастере и Google Search Console, что ошибок обхода нет.
Как исправить. Если в панелях вебмастера есть ошибки доступа, добавьте поисковых роботов в исключения защиты.
-
Мелочь
Боты для обучения моделей заблокированы на уровне сервера
GPTBot, ClaudeBot, CCBot, Bytespider, meta-externalagent — заблокирован (ответ 403). Если это сознательное решение — всё в порядке, на ответы ИИ-поиска это почти не влияет.
Как исправить. Если блокировка случайная, проверьте правила антибота. Если нет — лучше дополнительно закрыть этих ботов в robots.txt: так правило будет явным.
-
Мелочь
robots.txt не отдаётся сканеру
Запрос /robots.txt получил ответ 403. Боты, которым robots.txt недоступен, обычно считают, что ограничений нет, — но и ваших правил они не узнают.
Как исправить. Отдавайте robots.txt всем без проверок антибота.
Доступ по ботам
Мы зашли на главную под подписью (User-Agent) каждого бота и сравнили ответ с тем, что получает обычный браузер. Колонка robots.txt — что разрешают правила сайта.
| Бот | robots.txt | Доступ к главной | Ответ сервера |
|---|---|---|---|
| Поисковики | |||
GooglebotGoogle |
Разрешенонет файла |
Видит страницу |
200 |
YandexBotЯндекс |
Разрешенонет файла |
Заблокирован |
403 |
BingbotMicrosoft |
Разрешенонет файла |
Заблокирован |
403 |
| ИИ-поиск | |||
YandexAdditionalBotЯндекс |
Разрешенонет файла |
Заблокирован |
403 |
OAI-SearchBotOpenAI |
Разрешенонет файла |
Заблокирован |
403 |
Claude-SearchBotAnthropic |
Разрешенонет файла |
Видит страницу |
200 |
PerplexityBotPerplexity |
Разрешенонет файла |
Видит страницу |
200 |
| Агенты по запросу пользователя | |||
ChatGPT-UserOpenAI |
Разрешенонет файла |
Заблокирован |
403 |
Claude-UserAnthropic |
Разрешенонет файла |
Видит страницу |
200 |
Perplexity-UserPerplexity |
Разрешенонет файла |
Видит страницу |
200 |
| Обучение моделей | |||
GPTBotOpenAI |
Разрешенонет файла |
Заблокирован |
403 |
ClaudeBotAnthropic |
Разрешенонет файла |
Заблокирован |
403 |
CCBotCommon Crawl |
Разрешенонет файла |
Заблокирован |
403 |
BytespiderByteDance |
Разрешенонет файла |
Заблокирован |
403 |
Разрешенонет файла |
Заблокирован |
403 |
|
Google-ExtendedGoogle |
Разрешенонет файла |
нет своего робота |
|
Applebot-ExtendedApple |
Разрешенонет файла |
нет своего робота |
|
Для сравнения обычный браузер получил: ответ 403.
JavaScript: что видит бот без браузера
GPTBot, ClaudeBot, PerplexityBot и большинство ИИ-агентов не выполняют JavaScript: они читают только HTML, который отдал сервер. Мы сравнили HTML, который получил Claude-SearchBot, со страницей после рендера в браузере.
Не удалось сравнить.
Разметка главной
Так главную видит Claude-SearchBot — без JavaScript.
- Title
- kari - интернет-магазин обуви и аксессуаров
- Description
- Сеть из 1200 магазинов обуви и аксессуаров для женщин, мужчин и детей. Товары для мам и малышей. Онлайн-заказ. Возможность оплаты частями. Адреса магазинов.
- Язык
- ru
- Canonical
- https://kari.com/
- Schema.org
- WebSite
- Meta robots
- не задано
Служебные файлы
- robots.txt
- нет ответ 403
- Sitemap
- нет ответ 403
- Markdown для агентов
- нет на запрос Markdown сайт отдаёт HTML
- llms.txt
- нет необязательный файл для языковых моделей
История проверок
| Дата | Балл | ИИ-ботов видят |
|---|---|---|
| 30 октября в 22:58 | 48 | 4 |
| 30 октября в 22:26 | 48 | 4 |
| 15 октября в 23:51 | 88 | 7 |
Как мы проверяли
Мы подставляем подпись бота, но не его IP-адрес. Поэтому отчёт показывает, как сайт видит агент без проверки IP. Если антибот пропускает ботов по IP-адресам (так часто делают для Googlebot и YandexBot), реальная картина для этих ботов может быть лучше. Точную картину дают только логи сервера.
Проверяли с сервера в России. Наш сканер представляется как AICrawl/1.0 (+https://ai-crawl.app/about) и соблюдает robots.txt. Подписи ИИ-ботов используются только для одного запроса к главной странице. Капчи и защиту мы не обходим, а только фиксируем. Подробнее о методике.
Другие проверенные сайты
- 41 sberbank.ruИИ видят 1 из 12 · 30 окт
- 55 ostin.comИИ видят 5 из 12 · 30 окт
- 41 tinkoff.ruИИ видят 1 из 12 · 30 окт
- 37 hh.ruИИ видят 1 из 12 · 30 окт
- 94 pikabu.ruИИ видят 12 из 12 · 30 окт
- 97 ingate.ruИИ видят 12 из 12 · 30 окт
- 91 amdg.ruИИ видят 12 из 12 · 30 окт
- 30 avito.ruИИ видят 0 из 12 · 30 окт
Это ваш сайт? Вы можете убрать эту страницу или запретить наш сканер в robots.txt.