Crawl Lab
Toutes les fiches crawlers

Claude-SearchBot : le crawler de recherche d'Anthropic

Claude-SearchBot est l'agent d'Anthropic dédié à la recherche : il explore le web pour améliorer la qualité et la pertinence des résultats que Claude propose quand il cherche des sources pour ses utilisateurs. Il est distinct de ClaudeBot (entraînement des modèles) et de Claude-User (consultation en direct) — trois agents, trois jetons robots.txt, trois décisions indépendantes.

Fiche technique

Opérateur
Anthropic
Rôle
Qualité des résultats de recherche
Jeton robots.txt
Claude-SearchBot
User-agent (exemple)
Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; Claude-SearchBot/1.0; +Claude-SearchBot@anthropic.com)
Respecte robots.txt
Oui (documenté par Anthropic)
Plages IP officielles
Non publiées par l'opérateur (vérification par IP impossible)
Documentation officielle
Documentation Anthropic sur le crawl

Sa place dans la recherche de Claude

Quand Claude effectue une recherche web pour répondre, il s'appuie sur des résultats dont la qualité est travaillée par Claude-SearchBot. Autoriser cet agent, c'est maximiser les chances que vos pages soient bien comprises, correctement classées et proposées comme sources dans les réponses de Claude — l'équivalent Anthropic du rôle d'OAI-SearchBot chez OpenAI.

Pour un site qui vise la visibilité GEO, c'est donc un bot à laisser passer : il appartient à la famille « citation », celle qui peut renvoyer des lecteurs vers vous, par opposition à la famille « entraînement » qui n'en renvoie pas.

Claude-SearchBot dans vos logs

Sa signature « Claude-SearchBot » apparaît dans le champ user-agent de vos logs serveur. Son volume est généralement plus faible que celui de ClaudeBot : il cible la compréhension de pages utiles à la recherche plutôt que la collecte large. Comme pour les autres agents Anthropic, aucune plage d'IP officielle n'est publiée pour le vérifier formellement.

Ce que nos logs montrent : aucune visite en huit jours

Claude-SearchBot n'apparaît pas une seule fois dans nos 1 722 requêtes de robots, alors que ClaudeBot, l'autre robot d'Anthropic, en a produit 224 sur la même période et le même site. L'écart est net et mérite d'être pris pour ce qu'il est : une observation sur une fenêtre courte, pas une loi générale.

L'explication la plus économique tient à la finalité des deux robots. La collecte destinée à l'entraînement passe partout, tôt, sans condition préalable. La collecte destinée à la citation dans les réponses n'a de raison de venir que si le site est susceptible d'être cité — ce qui suppose une notoriété, des liens, un historique. Un domaine de treize jours ne remplit encore aucune de ces conditions.

Pour un praticien, cela veut dire qu'il ne faut pas conclure trop vite à un blocage ou à une erreur technique en constatant zéro passage. L'absence d'un robot de citation sur un site neuf est le comportement par défaut, pas un symptôme.

Mesuré sur nos propres logs serveur, du 20 au 27 juillet 2026 (1 722 requêtes de robots retenues après vérification). Protocole complet et jeu de données : notre étude de cas sur le budget de crawl d'un site neuf.

Vérifier que c'est vraiment Claude-SearchBot

Anthropic ne publiant pas de plages d'IP officielles, un hit « Claude-SearchBot » ne peut pas être formellement authentifié. Classez-le en « non vérifiable » et jugez sur le comportement : volume modéré et crawl ciblé sont cohérents ; un déferlement de requêtes sous ce nom ne l'est pas. Notre analyseur applique exactement cette prudence.

Bloquer ou autoriser Claude-SearchBot (robots.txt)

Bloquer Claude-SearchBot dégrade votre visibilité potentielle dans les réponses sourcées de Claude, sans bénéfice en échange — l'opt-out d'entraînement passe par ClaudeBot, pas par lui. Sauf contenu à exclure de tout moteur, laissez-le accéder au site.

Pour le bloquer :

User-agent: Claude-SearchBot
Disallow: /

Pour l'autoriser explicitement :

User-agent: Claude-SearchBot
Allow: /

Questions fréquentes

Quelle différence entre Claude-SearchBot et ClaudeBot ?

ClaudeBot collecte du contenu pour entraîner les modèles Claude ; Claude-SearchBot améliore la qualité des résultats de recherche que Claude propose à ses utilisateurs. Le premier ne vous renvoie aucun lecteur, le second participe au circuit qui peut citer vos pages. Deux jetons robots.txt distincts, deux décisions indépendantes.

Faut-il bloquer Claude-SearchBot ?

Non, sauf si vous refusez toute visibilité dans les moteurs IA : le bloquer réduit vos chances d'apparaître comme source dans les réponses de Claude, sans rien vous faire gagner. Si votre objectif est un opt-out d'entraînement, bloquez ClaudeBot et laissez Claude-SearchBot passer.

Comment détecter Claude-SearchBot dans mes logs ?

Cherchez la sous-chaîne « Claude-SearchBot » dans le champ user-agent de vos access.log — ou glissez vos fichiers dans notre analyseur, qui isole chaque agent Anthropic, affiche les pages visitées et signale honnêtement que ces bots ne sont pas vérifiables par IP.

Sources

Chaque fait de cette fiche s'appuie sur une source primaire — la documentation officielle de l'opérateur et, quand elle existe, sa liste d'IP publiée.

Voyez ce que ce bot fait sur votre site

Glissez vos fichiers access.log dans l'analyseur de logs Crawl Lab : il isole Claude-SearchBot, vérifie son authenticité et liste les pages qu'il consulte — entièrement dans votre navigateur, sans upload.

Analyser mes logs

Autres fiches crawlers