robots.txt для ИИ-ботов

Находим правила, которые закрывают сайт от ИИ-поиска. Показываем конкретную группу и строку robots.txt; запрет обучения рассматриваем отдельно.

Как пользоваться

  1. Введите адрес сайта — читать robots.txt вручную не нужно.
  2. Посмотрите результат для каждого поискового ИИ-бота.
  3. Откройте исходный файл и номер строки спорного правила.

Проверка бесплатная. Мы используем подпись бота, но не его IP-адрес. Неудачный замер обозначаем отдельно.

Как работает robots.txt →

Другие инструменты