Les trois crawlers d’Anthropic expliqués
Bloquer ClaudeBot ne vous empêche plus d’apparaître dans les réponses de recherche de Claude, contrairement à Claude-SearchBot. Voici comment fonctionnent les bots d’Anthropic.
La documentation d’Anthropic sur ses crawlers répertorie trois bots distincts, chacun avec son propre user-agent que vous pouvez autoriser ou bloquer dans le robots.txt. Selon plusieurs sources, cette mise à jour de la documentation date de fin février 2026. La version précédente ne décrivait que ClaudeBot.
Ce qui s’est passé
- ClaudeBot collecte du contenu web public pour entraîner les modèles d’Anthropic.
- Claude-SearchBot explore le web pour indexer le contenu en vue de la recherche, afin que Claude puisse trouver et citer des pages dans ses réponses. Anthropic avertit que bloquer ce bot peut réduire votre visibilité et la précision des résultats de recherche de Claude.
- Claude-User récupère une page lorsqu’un utilisateur interroge Claude à ce sujet.
Les anciens user-agents, Claude-Web et anthropic-ai, sont obsolètes. Anthropic publie les plages d’adresses IP utilisées par ses bots, ce qui vous permet de vérifier qu’une requête prétendant provenir de Claude provient bien d’Anthropic.
Ce que cela signifie pour vous
- Bloquez l’entraînement, conservez la recherche : interdisez
ClaudeBotet autorisezClaude-SearchBotetClaude-User. - Vérifiez les anciennes règles. Un robots.txt qui bloque uniquement
anthropic-aiest aujourd’hui inopérant. - Vérifiez avant de faire confiance. Les scrapers se font souvent passer pour ClaudeBot. Comparez les adresses IP des requêtes avec les plages publiées par Anthropic.
Le Vérificateur d’IP des bots IA vous indique si une adresse IP appartient réellement au bot qu’elle prétend être.