RU

Разобрал логи сервера: какие ИИ-боты реально ходят по сайту и что они запрашивают

Про ИИ-ботов пишут в основном пересказами документации вендоров: этот собирает данные для обучения, тот ходит за содержанием по запросу пользователя…

ИИ-ботыGPTBotClaudeBotPerplexityBotлоги сервераrobots.txtllms.txtUser-Agentпарсерыанализ трафика
Habr
RU

Написал валидатор llms.txt на 64 тестах — и проверил, читают ли этот файл боты

Файл llms.txt предлагают класть в корень сайта с 2024 года: считается, что языковые модели прочитают его вместо того, чтобы разбирать вёрстку. Я нап…

llms.txtвалидатор llms.txtгенератор llms.txtGPTBotИИ-ботыспецификация llmstxtпарсер markdownnode testrobots.txtнейропоиск
Habr
RU

AI-краулеры в 2026: кого пускать в robots.txt, чтобы попадать в ответы ИИ

Полгода назад ко мне постучался один из будущих клиентов с вопросом, почему ChatGPT не знает про его компанию, хотя сайт в топ-3 Google по нужному з…

AI-краулерыrobots.txtGPTBotAEOGEOAI-видимостьнейросетиAIOYandexBotяндекс.вебмастер
Habr
RU

Google добавил AI-отчёты в Search Console. Я разобрался, что они реально показывают

Google начал разворачивать в Search Console отчётность по своим AI-поверхностям: трафик и показы стало видно с учётом AI Overviews и AI Mode. До это…

AEOGEOAI-трафикSearch Consoleсерверные логиGPTBotChatGPTPerplexityнейропоиск