Aller au contenu

Benchmark webmcpx : Gemini 4 Argon

Classement

Ce que WebMCP fait économiser, modèle par modèle

Un agent lit, clique et remplit à partir de snapshots de la page ; l’autre appelle les outils WebMCP du site. Choisissez un modèle ; les plus fortes économies d’abord.

Classé par taux de réussite avec WebMCP, puis par coût par exécution.

Cas sélectionnés, 21 sur 30 : les questions où WebMCP a utilisé au plus la moitié des tokens. Tous les résultats sont publics ; vous pouvez aussi relancer le benchmark avec just bench.

Gemini 4 Argon (Google)

Cloudflare

“Combien de requêtes par jour mes Workers peuvent-ils traiter sur l’offre Workers Free de Cloudflare avant d’atteindre la limite ?”

developers.cloudflare.com (ouvre Cloudflare)

42×

moins de tokens

62k → 1,5k tokens

Tokens par question, en tokens par exécution ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : tokensAvec WebMCP : tokensSans WebMCP : résoluAvec WebMCP : résolu
Cloudflare : Combien de requêtes par jour mes Workers peuvent-ils traiter sur l’offre Workers Free de Cloudflare avant d’atteindre la limite ?62k1,5k100%100%
Cloudflare : Je suis sur l’offre Workers Paid. Jusqu’à quelle taille une base Cloudflare D1 peut-elle grandir ?44k1,4k100%100%
Cloudflare : Quelle est la taille maximale d’une valeur stockée dans Cloudflare Workers KV ?41k1,4k100%100%
Cloudflare : Quelle longueur peut avoir une clé dans Cloudflare Workers KV ? Je veux connaître la taille maximale d’une clé.41k1,5k100%100%
Cloudflare : Quel est le plus gros message que je peux envoyer à une Cloudflare Queue ? Il me faut la limite de taille par message.42k15k100%100%
Durée par question, en secondes par exécution ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : duréeAvec WebMCP : duréeSans WebMCP : résoluAvec WebMCP : résolu
Cloudflare : Combien de requêtes par jour mes Workers peuvent-ils traiter sur l’offre Workers Free de Cloudflare avant d’atteindre la limite ?121,6s40,8s100%100%
Cloudflare : Je suis sur l’offre Workers Paid. Jusqu’à quelle taille une base Cloudflare D1 peut-elle grandir ?71,4s38,4s100%100%
Cloudflare : Quelle est la taille maximale d’une valeur stockée dans Cloudflare Workers KV ?99,0s19,6s100%100%
Cloudflare : Quelle longueur peut avoir une clé dans Cloudflare Workers KV ? Je veux connaître la taille maximale d’une clé.55,3s32,1s100%100%
Cloudflare : Quel est le plus gros message que je peux envoyer à une Cloudflare Queue ? Il me faut la limite de taille par message.550,5s120,6s100%100%
Étapes par question, en tours de modèle par exécution ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : étapesAvec WebMCP : étapesSans WebMCP : résoluAvec WebMCP : résolu
Cloudflare : Combien de requêtes par jour mes Workers peuvent-ils traiter sur l’offre Workers Free de Cloudflare avant d’atteindre la limite ?5,32,0100%100%
Cloudflare : Je suis sur l’offre Workers Paid. Jusqu’à quelle taille une base Cloudflare D1 peut-elle grandir ?6,02,0100%100%
Cloudflare : Quelle est la taille maximale d’une valeur stockée dans Cloudflare Workers KV ?6,02,0100%100%
Cloudflare : Quelle longueur peut avoir une clé dans Cloudflare Workers KV ? Je veux connaître la taille maximale d’une clé.6,02,0100%100%
Cloudflare : Quel est le plus gros message que je peux envoyer à une Cloudflare Queue ? Il me faut la limite de taille par message.6,06,7100%100%
Coût par question, en USD par tâche ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : coûtAvec WebMCP : coûtSans WebMCP : résoluAvec WebMCP : résolu
Cloudflare : Combien de requêtes par jour mes Workers peuvent-ils traiter sur l’offre Workers Free de Cloudflare avant d’atteindre la limite ?$0,064$0,0037100%100%
Cloudflare : Je suis sur l’offre Workers Paid. Jusqu’à quelle taille une base Cloudflare D1 peut-elle grandir ?$0,041$0,0037100%100%
Cloudflare : Quelle est la taille maximale d’une valeur stockée dans Cloudflare Workers KV ?$0,036$0,0035100%100%
Cloudflare : Quelle longueur peut avoir une clé dans Cloudflare Workers KV ? Je veux connaître la taille maximale d’une clé.$0,042$0,0036100%100%
Cloudflare : Quel est le plus gros message que je peux envoyer à une Cloudflare Queue ? Il me faut la limite de taille par message.$0,043$0,028100%100%

Cloudflare enregistre 2 outils WebMCP

tels que l’agent les a vus · 2026-11-08

OutilDescriptionAppelé
search

Full-text search across Cloudflare developer documentation. Returns matching pages with titles, URLs, and content snippets. Use this to find documentation on any Cloudflare product or feature.

search({"query":"Workers Free plan requests per day limit"})

search({"query":"D1 limits maximum database size Workers Paid"})

search({"query":"Workers KV limits maximum value size"})

search({"query":"Workers KV limits maximum key size"})

search({"query":"Cloudflare Queues limits message size"})

search({"query":"\"Maximum message size\" queues OR \"Message size\" queues KB MB"})

search({"query":"\"128 KB\" OR \"256 KB\" OR \"64 KB\" queues limits"})

search({"query":"\"128 KB\" queues metadata serialization"})

search({"query":"\"Maximum messages per sendBatch call\" \"Message size\""})

search({"query":"\"256KB in total\""})

Appelé
list-directories

Returns a list of all Cloudflare products available in the developer documentation, including each product's name, docs URL, short description, and category group. Use this to discover what products exist before searching or navigating.

–Non appelé
  • gemini-4-argon, raisonnement medium, Chrome headless. Même prompt et même limite d’étapes dans les deux variantes ; 3 exécutions par question et par variante.
  • Sans WebMCP : un agent qui lit, clique et remplit à partir de snapshots du DOM.
  • Avec WebMCP : uniquement les outils que la page enregistre (les siens, ou ceux de webmcpx sur nos sites de test).
  • Notation sur les faits présents dans la réponse et sur l’état de la page. Pas de LLM juge.
  • Un site en ligne : il fournit ses propres outils WebMCP.
  • 30 questions sur 6 sites, dont 27 en lecture seule ; les plus gros gains viennent des outils de recherche des sites eux-mêmes.
  • 3 exécutions par question et par bras : 3 sur 3 est un indice, pas la preuve de 100 %.
  • Le temps est la boucle de l’agent après le chargement de la page ; le coût est l’usage API du modèle aux tarifs datés, cache compris.
  • Chaque exécution échouée dit pourquoi dans les résultats (blocage du site, réponse hors page, limite d’étapes…).
pour reproduire
git clone https://github.com/webmcpx/webmcpx
cd webmcpx && just setup
GEMINI_API_KEY=... just bench --model gemini-4-argon --reasoning-effort medium

Notion

“Combien de requêtes par minute l’API Notion autorise-t-elle par connexion sur les offres autres que Business et Enterprise ?”

developers.notion.com (ouvre Notion)

17×

moins de tokens

24k → 1,4k tokens

Tokens par question, en tokens par exécution ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : tokensAvec WebMCP : tokensSans WebMCP : résoluAvec WebMCP : résolu
Notion : Combien de requêtes par minute l’API Notion autorise-t-elle par connexion sur les offres autres que Business et Enterprise ?24k1,4k100%100%
Notion : Je pagine des résultats de l’API Notion. Quel est le plus grand page_size que je peux demander par appel sur les endpoints de liste ?22k3,5k100%100%
Notion : J’écris de longs paragraphes dans une page Notion via l’API. Combien de caractères au maximum le contenu texte d’un seul objet rich text peut-il avoir dans une requête ?24k6,1k100%100%
Notion : Quand mon intégration Notion envoie trop de requêtes, quelle chaîne de code d’erreur l’API met-elle dans le corps de la réponse ?24k7,2k100%100%
Durée par question, en secondes par exécution ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : duréeAvec WebMCP : duréeSans WebMCP : résoluAvec WebMCP : résolu
Notion : Combien de requêtes par minute l’API Notion autorise-t-elle par connexion sur les offres autres que Business et Enterprise ?158,7s28,7s100%100%
Notion : Je pagine des résultats de l’API Notion. Quel est le plus grand page_size que je peux demander par appel sur les endpoints de liste ?151,0s51,5s100%100%
Notion : J’écris de longs paragraphes dans une page Notion via l’API. Combien de caractères au maximum le contenu texte d’un seul objet rich text peut-il avoir dans une requête ?158,7s62,8s100%100%
Notion : Quand mon intégration Notion envoie trop de requêtes, quelle chaîne de code d’erreur l’API met-elle dans le corps de la réponse ?163,8s72,4s100%100%
Étapes par question, en tours de modèle par exécution ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : étapesAvec WebMCP : étapesSans WebMCP : résoluAvec WebMCP : résolu
Notion : Combien de requêtes par minute l’API Notion autorise-t-elle par connexion sur les offres autres que Business et Enterprise ?6,02,0100%100%
Notion : Je pagine des résultats de l’API Notion. Quel est le plus grand page_size que je peux demander par appel sur les endpoints de liste ?6,03,0100%100%
Notion : J’écris de longs paragraphes dans une page Notion via l’API. Combien de caractères au maximum le contenu texte d’un seul objet rich text peut-il avoir dans une requête ?6,03,0100%100%
Notion : Quand mon intégration Notion envoie trop de requêtes, quelle chaîne de code d’erreur l’API met-elle dans le corps de la réponse ?6,03,7100%100%
Coût par question, en USD par tâche ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : coûtAvec WebMCP : coûtSans WebMCP : résoluAvec WebMCP : résolu
Notion : Combien de requêtes par minute l’API Notion autorise-t-elle par connexion sur les offres autres que Business et Enterprise ?$0,034$0,0034100%100%
Notion : Je pagine des résultats de l’API Notion. Quel est le plus grand page_size que je peux demander par appel sur les endpoints de liste ?$0,033$0,0081100%100%
Notion : J’écris de longs paragraphes dans une page Notion via l’API. Combien de caractères au maximum le contenu texte d’un seul objet rich text peut-il avoir dans une requête ?$0,035$0,014100%100%
Notion : Quand mon intégration Notion envoie trop de requêtes, quelle chaîne de code d’erreur l’API met-elle dans le corps de la réponse ?$0,035$0,017100%100%

Notion enregistre 5 outils WebMCP

tels que l’agent les a vus · 2026-11-08

OutilDescriptionAppelé
search_docs

Search the Notion Docs documentation for relevant pages and content.

search_docs({"query":"requests per minute connection Business Enterprise"})

search_docs({"query":"page_size pagination"})

search_docs({"query":"rich text object character limit request limits"})

search_docs({"query":"rate limit error code"})

search_docs({"query":"Request limits status codes rate_limited"})

Appelé
read_page

Read the full content of a Notion Docs documentation page as markdown.

read_page({"path":"https://developers.notion.com/reference/pagination"})

read_page({"path":"/reference/request-limits"})

read_page({"path":"https://developers.notion.com/reference/status-codes"})

read_page({"path":"https://developers.notion.com/reference/request-limits"})

Appelé
get_site_overview

Get an outline of the Notion Docs documentation, grouped by section, with a short description of each page. May be truncated for large sites; use search_docs to find pages not listed.

–Non appelé
navigate_page

Navigate the current browser tab to a Notion Docs documentation page.

–Non appelé
read_skill

Read a Notion Docs agent skill document by name.

–Non appelé
  • gemini-4-argon, raisonnement medium, Chrome headless. Même prompt et même limite d’étapes dans les deux variantes ; 3 exécutions par question et par variante.
  • Sans WebMCP : un agent qui lit, clique et remplit à partir de snapshots du DOM.
  • Avec WebMCP : uniquement les outils que la page enregistre (les siens, ou ceux de webmcpx sur nos sites de test).
  • Notation sur les faits présents dans la réponse et sur l’état de la page. Pas de LLM juge.
  • Un site en ligne : il fournit ses propres outils WebMCP.
  • 30 questions sur 6 sites, dont 27 en lecture seule ; les plus gros gains viennent des outils de recherche des sites eux-mêmes.
  • 3 exécutions par question et par bras : 3 sur 3 est un indice, pas la preuve de 100 %.
  • Le temps est la boucle de l’agent après le chargement de la page ; le coût est l’usage API du modèle aux tarifs datés, cache compris.
  • Chaque exécution échouée dit pourquoi dans les résultats (blocage du site, réponse hors page, limite d’étapes…).
pour reproduire
git clone https://github.com/webmcpx/webmcpx
cd webmcpx && just setup
GEMINI_API_KEY=... just bench --model gemini-4-argon --reasoning-effort medium

specification.website

“Selon cette spec, quelle longueur doit faire la meta description d’une page ?”

specification.website (ouvre specification.website)

6.1×

moins de tokens

30k → 4,9k tokens

Tokens par question, en tokens par exécution ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : tokensAvec WebMCP : tokensSans WebMCP : résoluAvec WebMCP : résolu
specification.website : Selon cette spec, quelle longueur doit faire la meta description d’une page ?30k4,9k100%100%
specification.website : Selon cette spec, quel max-age dois-je mettre dans mon header HSTS en production ?22k4,5k100%100%
specification.website : Quelle valeur d’INP cette spec fixe-t-elle comme objectif pour une bonne réactivité ?23k4,7k100%100%
specification.website : Quel ratio de contraste minimal la spec de ce site exige-t-elle pour le texte courant de taille normale ?23k4,7k100%100%
specification.website : Quelle taille minimale de zone tactile cette spec exige-t-elle pour les boutons et autres contrôles interactifs ?24k5,6k100%100%
Durée par question, en secondes par exécution ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : duréeAvec WebMCP : duréeSans WebMCP : résoluAvec WebMCP : résolu
specification.website : Selon cette spec, quelle longueur doit faire la meta description d’une page ?126,7s70,5s100%100%
specification.website : Selon cette spec, quel max-age dois-je mettre dans mon header HSTS en production ?140,6s50,5s100%100%
specification.website : Quelle valeur d’INP cette spec fixe-t-elle comme objectif pour une bonne réactivité ?105,5s56,0s100%100%
specification.website : Quel ratio de contraste minimal la spec de ce site exige-t-elle pour le texte courant de taille normale ?79,6s45,5s100%100%
specification.website : Quelle taille minimale de zone tactile cette spec exige-t-elle pour les boutons et autres contrôles interactifs ?195,8s52,4s100%100%
Étapes par question, en tours de modèle par exécution ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : étapesAvec WebMCP : étapesSans WebMCP : résoluAvec WebMCP : résolu
specification.website : Selon cette spec, quelle longueur doit faire la meta description d’une page ?6,03,0100%100%
specification.website : Selon cette spec, quel max-age dois-je mettre dans mon header HSTS en production ?6,03,0100%100%
specification.website : Quelle valeur d’INP cette spec fixe-t-elle comme objectif pour une bonne réactivité ?6,03,0100%100%
specification.website : Quel ratio de contraste minimal la spec de ce site exige-t-elle pour le texte courant de taille normale ?6,03,0100%100%
specification.website : Quelle taille minimale de zone tactile cette spec exige-t-elle pour les boutons et autres contrôles interactifs ?6,03,0100%100%
Coût par question, en USD par tâche ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : coûtAvec WebMCP : coûtSans WebMCP : résoluAvec WebMCP : résolu
specification.website : Selon cette spec, quelle longueur doit faire la meta description d’une page ?$0,033$0,011100%100%
specification.website : Selon cette spec, quel max-age dois-je mettre dans mon header HSTS en production ?$0,028$0,011100%100%
specification.website : Quelle valeur d’INP cette spec fixe-t-elle comme objectif pour une bonne réactivité ?$0,027$0,01100%100%
specification.website : Quel ratio de contraste minimal la spec de ce site exige-t-elle pour le texte courant de taille normale ?$0,03$0,01100%100%
specification.website : Quelle taille minimale de zone tactile cette spec exige-t-elle pour les boutons et autres contrôles interactifs ?$0,029$0,014100%100%

specification.website enregistre 5 outils WebMCP

tels que l’agent les a vus · 2026-11-08

OutilDescriptionAppelé
search_spec

Search The Website Specification for matching topics. Returns ranked results with title, status, category, canonical URL, and a one-line summary. Use this when the user asks about a topic by keyword (e.g. "CSP", "alt text", "llms.txt").

search_spec({"query":"meta description"})

search_spec({"query":"HSTS"})

search_spec({"query":"INP responsiveness"})

search_spec({"query":"contrast ratio"})

search_spec({"query":"tap target size"})

Appelé
get_topic

Fetch the Markdown for one spec page by its slug, returned as lines you can page through. Use this after search_spec or list_topics to read the canonical guidance.

get_topic({"slug":"meta-description"})

get_topic({"slug":"hsts"})

get_topic({"slug":"core-web-vitals"})

get_topic({"slug":"color-contrast"})

get_topic({"slug":"touch-target-size"})

Appelé
list_topics

List spec topics, optionally filtered by category and/or status. Returns title, status, category, summary, and URL per topic. Use this when the user wants the canonical list (e.g. "all required SEO topics"). Results are paged — follow page/page_size to walk the whole list.

–Non appelé
open_checklist

Navigate the user to the full spec checklist page. Optionally jumps to a category section via URL hash. UI action — does not return data.

–Non appelé
open_search

Open the on-page ⌘K search overlay so the user can search the spec interactively. Optionally pre-fills a query. UI action — does not return results; use search_spec for that.

–Non appelé
  • gemini-4-argon, raisonnement medium, Chrome headless. Même prompt et même limite d’étapes dans les deux variantes ; 3 exécutions par question et par variante.
  • Sans WebMCP : un agent qui lit, clique et remplit à partir de snapshots du DOM.
  • Avec WebMCP : uniquement les outils que la page enregistre (les siens, ou ceux de webmcpx sur nos sites de test).
  • Notation sur les faits présents dans la réponse et sur l’état de la page. Pas de LLM juge.
  • Un site en ligne : il fournit ses propres outils WebMCP.
  • 30 questions sur 6 sites, dont 27 en lecture seule ; les plus gros gains viennent des outils de recherche des sites eux-mêmes.
  • 3 exécutions par question et par bras : 3 sur 3 est un indice, pas la preuve de 100 %.
  • Le temps est la boucle de l’agent après le chargement de la page ; le coût est l’usage API du modèle aux tarifs datés, cache compris.
  • Chaque exécution échouée dit pourquoi dans les résultats (blocage du site, réponse hors page, limite d’étapes…).
pour reproduire
git clone https://github.com/webmcpx/webmcpx
cd webmcpx && just setup
GEMINI_API_KEY=... just bench --model gemini-4-argon --reasoning-effort medium

Kiln & Co local

“Ajoute un Stoneware Teapot et un Speckled Bowl à mon panier, puis donne-moi le total du panier.”

4.7×

moins de tokens

16k → 3,4k tokens

Tokens par question, en tokens par exécution ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : tokensAvec WebMCP : tokensSans WebMCP : résoluAvec WebMCP : résolu
Kiln & Co (site de test local) : Ajoute un Stoneware Teapot et un Speckled Bowl à mon panier, puis donne-moi le total du panier.16k3,4k100%100%
Kiln & Co (site de test local) : Il me faut un cadeau vert à moins de $30, disponible tout de suite. Qu’est-ce que vous avez ?5,5k1,3k100%100%
Kiln & Co (site de test local) : Mets dans mon panier la théière la plus chère que vous vendez.7,6k2,1k100%100%
Kiln & Co (site de test local) : Ajoute à mon panier deux exemplaires du mug bleu le moins cher.7,9k2,2k100%100%
Durée par question, en secondes par exécution ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : duréeAvec WebMCP : duréeSans WebMCP : résoluAvec WebMCP : résolu
Kiln & Co (site de test local) : Ajoute un Stoneware Teapot et un Speckled Bowl à mon panier, puis donne-moi le total du panier.89,0s32,2s100%100%
Kiln & Co (site de test local) : Il me faut un cadeau vert à moins de $30, disponible tout de suite. Qu’est-ce que vous avez ?80,1s26,4s100%100%
Kiln & Co (site de test local) : Mets dans mon panier la théière la plus chère que vous vendez.49,0s49,8s100%100%
Kiln & Co (site de test local) : Ajoute à mon panier deux exemplaires du mug bleu le moins cher.64,5s43,1s100%100%
Étapes par question, en tours de modèle par exécution ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : étapesAvec WebMCP : étapesSans WebMCP : résoluAvec WebMCP : résolu
Kiln & Co (site de test local) : Ajoute un Stoneware Teapot et un Speckled Bowl à mon panier, puis donne-moi le total du panier.6,03,0100%100%
Kiln & Co (site de test local) : Il me faut un cadeau vert à moins de $30, disponible tout de suite. Qu’est-ce que vous avez ?3,32,0100%100%
Kiln & Co (site de test local) : Mets dans mon panier la théière la plus chère que vous vendez.4,03,0100%100%
Kiln & Co (site de test local) : Ajoute à mon panier deux exemplaires du mug bleu le moins cher.4,03,0100%100%
Coût par question, en USD par tâche ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : coûtAvec WebMCP : coûtSans WebMCP : résoluAvec WebMCP : résolu
Kiln & Co (site de test local) : Ajoute un Stoneware Teapot et un Speckled Bowl à mon panier, puis donne-moi le total du panier.$0,027$0,0079100%100%
Kiln & Co (site de test local) : Il me faut un cadeau vert à moins de $30, disponible tout de suite. Qu’est-ce que vous avez ?$0,013$0,0037100%100%
Kiln & Co (site de test local) : Mets dans mon panier la théière la plus chère que vous vendez.$0,017$0,005100%100%
Kiln & Co (site de test local) : Ajoute à mon panier deux exemplaires du mug bleu le moins cher.$0,018$0,0057100%100%

Kiln & Co enregistre 4 outils WebMCP

tels que l’agent les a vus · 2026-11-08

OutilDescriptionAppelé
search_products

Search the catalog. Every filter is optional; with none, returns every product. Prices are USD.

search_products({})

search_products({"color":"green","max_price":30})

search_products({"category":"teapot","sort":"price_desc"})

search_products({"category":"mug","color":"blue","sort":"price_asc"})

Appelé
add_to_cart

Add a product to the cart by sku. Adding a sku already in the cart increases its quantity.

add_to_cart({"quantity":1,"sku":"TPT-01"})

add_to_cart({"quantity":1,"sku":"BWL-01"})

add_to_cart({"quantity":1,"sku":"TPT-02"})

add_to_cart({"quantity":2,"sku":"MUG-03"})

Appelé
get_cart

Return the cart: items with quantity and the total in USD.

–Non appelé
get_page_context

Describe the page the user is on: title, URL, language, meta description, heading outline and the text the user has selected. Use it for the page's structure or the user's selection; to find a fact on the page, call search_page instead.

–Non appelé
  • gemini-4-argon, raisonnement medium, Chrome headless. Même prompt et même limite d’étapes dans les deux variantes ; 3 exécutions par question et par variante.
  • Sans WebMCP : un agent qui lit, clique et remplit à partir de snapshots du DOM.
  • Avec WebMCP : uniquement les outils que la page enregistre (les siens, ou ceux de webmcpx sur nos sites de test).
  • Notation sur les faits présents dans la réponse et sur l’état de la page. Pas de LLM juge.
  • Un site de test local : ses outils viennent de webmcpx.
  • 30 questions sur 6 sites, dont 27 en lecture seule ; les plus gros gains viennent des outils de recherche des sites eux-mêmes.
  • 3 exécutions par question et par bras : 3 sur 3 est un indice, pas la preuve de 100 %.
  • Le temps est la boucle de l’agent après le chargement de la page ; le coût est l’usage API du modèle aux tarifs datés, cache compris.
  • Chaque exécution échouée dit pourquoi dans les résultats (blocage du site, réponse hors page, limite d’étapes…).
pour reproduire
git clone https://github.com/webmcpx/webmcpx
cd webmcpx && just setup
GEMINI_API_KEY=... just bench --model gemini-4-argon --reasoning-effort medium

Orbit docs local

“Mon étape de CI a échoué avec le code de sortie orbit 4. Qu’est-ce que ça veut dire ?”

2.7×

moins de tokens

3,4k → 1,3k tokens

Tokens par question, en tokens par exécution ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : tokensAvec WebMCP : tokensSans WebMCP : résoluAvec WebMCP : résolu
Orbit docs (site de test local) : Mon étape de CI a échoué avec le code de sortie orbit 4. Qu’est-ce que ça veut dire ?3,4k1,3k100%100%
Orbit docs (site de test local) : Quelle variable d’environnement fait lire à Orbit son fichier de configuration depuis un autre chemin ?3,4k1,3k100%100%
Orbit docs (site de test local) : Quelles stratégies de rollout puis-je choisir quand je lance orbit deploy ?3,4k1,7k100%100%
Durée par question, en secondes par exécution ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : duréeAvec WebMCP : duréeSans WebMCP : résoluAvec WebMCP : résolu
Orbit docs (site de test local) : Mon étape de CI a échoué avec le code de sortie orbit 4. Qu’est-ce que ça veut dire ?128,4s34,1s100%100%
Orbit docs (site de test local) : Quelle variable d’environnement fait lire à Orbit son fichier de configuration depuis un autre chemin ?24,7s20,0s100%100%
Orbit docs (site de test local) : Quelles stratégies de rollout puis-je choisir quand je lance orbit deploy ?37,7s37,1s100%100%
Étapes par question, en tours de modèle par exécution ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : étapesAvec WebMCP : étapesSans WebMCP : résoluAvec WebMCP : résolu
Orbit docs (site de test local) : Mon étape de CI a échoué avec le code de sortie orbit 4. Qu’est-ce que ça veut dire ?2,02,0100%100%
Orbit docs (site de test local) : Quelle variable d’environnement fait lire à Orbit son fichier de configuration depuis un autre chemin ?2,02,0100%100%
Orbit docs (site de test local) : Quelles stratégies de rollout puis-je choisir quand je lance orbit deploy ?2,02,3100%100%
Coût par question, en USD par tâche ; plus c’est bas, mieux c’est. Taux de réussite par variante.
QuestionSans WebMCP : coûtAvec WebMCP : coûtSans WebMCP : résoluAvec WebMCP : résolu
Orbit docs (site de test local) : Mon étape de CI a échoué avec le code de sortie orbit 4. Qu’est-ce que ça veut dire ?$0,0077$0,0032100%100%
Orbit docs (site de test local) : Quelle variable d’environnement fait lire à Orbit son fichier de configuration depuis un autre chemin ?$0,0076$0,0032100%100%
Orbit docs (site de test local) : Quelles stratégies de rollout puis-je choisir quand je lance orbit deploy ?$0,0073$0,0043100%100%

Orbit docs enregistre 3 outils WebMCP

tels que l’agent les a vus · 2026-11-08

OutilDescriptionAppelé
search_page

Find passages on the current page that match a query. Returns up to `limit` passages ranked by relevance, each with its section heading and a link to it. Prefer it to reading the whole page when looking for something specific.

search_page({"query":"exit code 4"})

search_page({"query":"environment variable config file path"})

search_page({"query":"orbit deploy rollout strategies"})

search_page({"query":"--strategy"})

Appelé
fetch_as_markdown

Return the main content of the current page as Markdown. Long pages come in parts: when `truncated` is true, call again with `cursor` set to `next_cursor`.

–Non appelé
get_page_context

Describe the page the user is on: title, URL, language, meta description, heading outline and the text the user has selected. Use it for the page's structure or the user's selection; to find a fact on the page, call search_page instead.

–Non appelé
  • gemini-4-argon, raisonnement medium, Chrome headless. Même prompt et même limite d’étapes dans les deux variantes ; 3 exécutions par question et par variante.
  • Sans WebMCP : un agent qui lit, clique et remplit à partir de snapshots du DOM.
  • Avec WebMCP : uniquement les outils que la page enregistre (les siens, ou ceux de webmcpx sur nos sites de test).
  • Notation sur les faits présents dans la réponse et sur l’état de la page. Pas de LLM juge.
  • Un site de test local : ses outils viennent de webmcpx.
  • 30 questions sur 6 sites, dont 27 en lecture seule ; les plus gros gains viennent des outils de recherche des sites eux-mêmes.
  • 3 exécutions par question et par bras : 3 sur 3 est un indice, pas la preuve de 100 %.
  • Le temps est la boucle de l’agent après le chargement de la page ; le coût est l’usage API du modèle aux tarifs datés, cache compris.
  • Chaque exécution échouée dit pourquoi dans les résultats (blocage du site, réponse hors page, limite d’étapes…).
pour reproduire
git clone https://github.com/webmcpx/webmcpx
cd webmcpx && just setup
GEMINI_API_KEY=... just bench --model gemini-4-argon --reasoning-effort medium