Outils
GuidesBlogTracker IATarifs
FR
Données et étudesL’équipe BotReady

Blocage des crawlers IA en hausse : données T3 2026

De plus en plus de sites bloquent les crawlers IA, que ce soit via le fichier robots.txt ou au niveau du pare-feu. Les chiffres varient selon les études, mais la tendance est la même.

De nouvelles études portant sur le troisième trimestre 2026 vont dans le même sens : de plus en plus de sites web bloquent les crawlers IA.

Ce qui s’est passé

  • Une analyse a révélé que 13,47 % des requêtes de bots IA ont reçu une réponse 403 (Accès interdit) au troisième trimestre 2026, contre 5,98 % un an plus tôt. Une erreur 403 indique généralement un pare-feu ou une règle de gestion des bots, et non un problème de robots.txt.
  • Une étude des 10 000 sites les plus populaires de Tranco a révélé que 14,3 % des fichiers robots.txt valides bloquent GPTBot sur l’ensemble du site, et 13,4 % bloquent ClaudeBot.
  • Cloudflare a revu sa classification des bots d’entraînement et de recherche en octobre 2026 ; les comparaisons annuelles des parts de chaque type de bot doivent donc être effectuées avec prudence.

Ces chiffres proviennent de fournisseurs indépendants, et non d’OpenAI, d’Anthropic ou de Cloudflare.

Ce que cela signifie pour vous

Le risque est de bloquer plus de contenu que prévu. Les bots d’entraînement (GPTBot, ClaudeBot, Google-Extended) et les bots de recherche ou déclenchés par l’utilisateur (OAI-SearchBot, Claude-SearchBot, ChatGPT-User, PerplexityBot) sont distincts. Bloquer les premiers empêche votre contenu d’être utilisé pour l’entraînement. Bloquer les seconds vous exclut des réponses de l’IA.

Vérifiez également votre pare-feu. Une règle CDN peut renvoyer une erreur 403 à un bot que votre robots.txt autorise.

Le Vérificateur de visibilité IA teste robots.txt et les réponses du pare-feu pour chaque bot IA majeur.

Sources

  1. TechnologyChecker.io, robots.txt AI crawler report
  2. AI Crawler Check, top 10,000 study
  3. TechnologyChecker.io, Cloudflare Radar trends

Vérifiez votre site

Vérificateur de crawlers IAVoyez lesquels des 21 bots IA votre robots.txt autorise ou bloque, avec la règle exacte qui décide.Générateur de robots.txt pour l’IAAutorisez la recherche IA, bloquez l’entraînement. Créez un robots.txt pour 21 bots IA en quelques clics.Vérificateur de visibilité IAChatGPT, Claude, Perplexity, Gemini et Copilot peuvent-ils voir votre page ? Une seula vérification pour tous les moteurs.