RU

Cloudflare изменил доступ ИИ-ботов к сайтам: как проверить настройки и не закрыть поиск

15 сентября Cloudflare обновил правила доступа ИИ-ботов к сайтам. Блокируя сбор данных для обучения, можно заодно закрыть поиск: некоторые боты выпо…

CloudflareGPTBotClaudeBotOAI-SearchBotrobots.txtИИ-краулерыблокировка ботовWAFCloudflare AIuser agent
Habr
RU

Почему ИИ для программирования выбирает одни и те же библиотеки: я просканировал 30 сайтов документации

Я собираю фидбэк по проекту, который советую людям как альтернативу тяжёлому фреймворку. Вставляю его в диалог с ассистентом кода и прошу подсказать…

сезон Код будущегоии для программированиянейросеть для программированияllms txtllms-full.txtopen sourceдокументацияGPTBotAI-краулерыrobots.txt
Habr
RU

ChatGPT не открывает страницу в 93% быстрых ответов: что видит модель и что чинить на сайте

В инстант-режиме (быстром, без нажатой кнопки «Think») ChatGPT читает страницу живьём только в 7% ответов. Остальные 93% модель работает с тем, что…

ChatGPTпоиск ChatGPTrobots.txtOAI-SearchBotGPTBotJSON-LDкэш страницAI-поискиндексацияаналитика
Habr
RU

Разобрал логи сервера: какие ИИ-боты реально ходят по сайту и что они запрашивают

Про ИИ-ботов пишут в основном пересказами документации вендоров: этот собирает данные для обучения, тот ходит за содержанием по запросу пользователя…

ИИ-ботыGPTBotClaudeBotPerplexityBotлоги сервераrobots.txtllms.txtUser-Agentпарсерыанализ трафика
Habr
RU

Написал валидатор llms.txt на 64 тестах — и проверил, читают ли этот файл боты

Файл llms.txt предлагают класть в корень сайта с 2024 года: считается, что языковые модели прочитают его вместо того, чтобы разбирать вёрстку. Я нап…

llms.txtвалидатор llms.txtгенератор llms.txtGPTBotИИ-ботыспецификация llmstxtпарсер markdownnode testrobots.txtнейропоиск
Habr
RU

AI-краулеры в 2026: кого пускать в robots.txt, чтобы попадать в ответы ИИ

Полгода назад ко мне постучался один из будущих клиентов с вопросом, почему ChatGPT не знает про его компанию, хотя сайт в топ-3 Google по нужному з…

AI-краулерыrobots.txtGPTBotAEOGEOAI-видимостьнейросетиAIOYandexBotяндекс.вебмастер
Habr
RU

Google добавил AI-отчёты в Search Console. Я разобрался, что они реально показывают

Google начал разворачивать в Search Console отчётность по своим AI-поверхностям: трафик и показы стало видно с учётом AI Overviews и AI Mode. До это…

AEOGEOAI-трафикSearch Consoleсерверные логиGPTBotChatGPTPerplexityнейропоиск