Blocage des crawlers IA en hausse : données T3 2026
De plus en plus de sites bloquent les crawlers IA, que ce soit via le fichier robots.txt ou au niveau du pare-feu. Les chiffres varient selon les études, mais la tendance est la même.
De nouvelles études portant sur le troisième trimestre 2026 vont dans le même sens : de plus en plus de sites web bloquent les crawlers IA.
Ce qui s’est passé
- Une analyse a révélé que 13,47 % des requêtes de bots IA ont reçu une réponse 403 (Accès interdit) au troisième trimestre 2026, contre 5,98 % un an plus tôt. Une erreur 403 indique généralement un pare-feu ou une règle de gestion des bots, et non un problème de robots.txt.
- Une étude des 10 000 sites les plus populaires de Tranco a révélé que 14,3 % des fichiers robots.txt valides bloquent GPTBot sur l’ensemble du site, et 13,4 % bloquent ClaudeBot.
- Cloudflare a revu sa classification des bots d’entraînement et de recherche en octobre 2026 ; les comparaisons annuelles des parts de chaque type de bot doivent donc être effectuées avec prudence.
Ces chiffres proviennent de fournisseurs indépendants, et non d’OpenAI, d’Anthropic ou de Cloudflare.
Ce que cela signifie pour vous
Le risque est de bloquer plus de contenu que prévu. Les bots d’entraînement (GPTBot, ClaudeBot, Google-Extended) et les bots de recherche ou déclenchés par l’utilisateur (OAI-SearchBot, Claude-SearchBot, ChatGPT-User, PerplexityBot) sont distincts. Bloquer les premiers empêche votre contenu d’être utilisé pour l’entraînement. Bloquer les seconds vous exclut des réponses de l’IA.
Vérifiez également votre pare-feu. Une règle CDN peut renvoyer une erreur 403 à un bot que votre robots.txt autorise.
Le Vérificateur de visibilité IA teste robots.txt et les réponses du pare-feu pour chaque bot IA majeur.