Benchmark de webmcpx: Claude Opus 5.5
Ranking
Cuánto ahorra WebMCP, modelo a modelo
Un agente lee, hace clic y rellena a partir de snapshots de la página; el otro llama a las herramientas WebMCP del sitio. Elige un modelo; primero, los mayores ahorros.
Ordenado por acierto con WebMCP y, en empate, por coste por ejecución.
Casos seleccionados: 20 de 30 preguntas, en las que WebMCP usó como máximo la mitad de los tokens. Todos los resultados son públicos, o ejecútalo tú mismo con just bench.
Claude Opus 5.5 (Anthropic)
Cloudflare
“¿Cuántas solicitudes al día pueden atender mis Workers en el plan Workers Free de Cloudflare antes de llegar al límite?”
developers.cloudflare.com (abre Cloudflare)24×
menos tokens
69k → 2,9k tokens
| Pregunta | Sin WebMCP: tokens | Con WebMCP: tokens | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| Cloudflare: ¿Cuántas solicitudes al día pueden atender mis Workers en el plan Workers Free de Cloudflare antes de llegar al límite? | 69k | 2,9k | 100% | 100% |
| Cloudflare: Estoy en el plan Workers Paid. ¿Hasta qué tamaño puede crecer una sola base de datos de Cloudflare D1? | 31k | 2,7k | 100% | 100% |
| Cloudflare: ¿Qué tan larga puede ser una clave en Cloudflare Workers KV? Quiero saber el tamaño máximo de clave. | 28k | 2,9k | 100% | 100% |
| Cloudflare: ¿Cuál es el tamaño máximo de un solo valor guardado en Cloudflare Workers KV? | 21k | 2,7k | 100% | 100% |
| Cloudflare: ¿Cuál es el mensaje más grande que puedo enviar a una Cloudflare Queue? Necesito el límite de tamaño por mensaje. | 22k | 5,6k | 100% | 100% |
| Pregunta | Sin WebMCP: tiempo | Con WebMCP: tiempo | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| Cloudflare: ¿Cuántas solicitudes al día pueden atender mis Workers en el plan Workers Free de Cloudflare antes de llegar al límite? | 6,3s | 4,5s | 100% | 100% |
| Cloudflare: Estoy en el plan Workers Paid. ¿Hasta qué tamaño puede crecer una sola base de datos de Cloudflare D1? | 5,0s | 4,7s | 100% | 100% |
| Cloudflare: ¿Qué tan larga puede ser una clave en Cloudflare Workers KV? Quiero saber el tamaño máximo de clave. | 4,7s | 5,4s | 100% | 100% |
| Cloudflare: ¿Cuál es el tamaño máximo de un solo valor guardado en Cloudflare Workers KV? | 4,0s | 3,8s | 100% | 100% |
| Cloudflare: ¿Cuál es el mensaje más grande que puedo enviar a una Cloudflare Queue? Necesito el límite de tamaño por mensaje. | 5,4s | 8,2s | 100% | 100% |
| Pregunta | Sin WebMCP: pasos | Con WebMCP: pasos | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| Cloudflare: ¿Cuántas solicitudes al día pueden atender mis Workers en el plan Workers Free de Cloudflare antes de llegar al límite? | 4,0 | 2,0 | 100% | 100% |
| Cloudflare: Estoy en el plan Workers Paid. ¿Hasta qué tamaño puede crecer una sola base de datos de Cloudflare D1? | 4,0 | 2,0 | 100% | 100% |
| Cloudflare: ¿Qué tan larga puede ser una clave en Cloudflare Workers KV? Quiero saber el tamaño máximo de clave. | 4,0 | 2,0 | 100% | 100% |
| Cloudflare: ¿Cuál es el tamaño máximo de un solo valor guardado en Cloudflare Workers KV? | 3,0 | 2,0 | 100% | 100% |
| Cloudflare: ¿Cuál es el mensaje más grande que puedo enviar a una Cloudflare Queue? Necesito el límite de tamaño por mensaje. | 3,0 | 3,0 | 100% | 100% |
| Pregunta | Sin WebMCP: costo | Con WebMCP: costo | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| Cloudflare: ¿Cuántas solicitudes al día pueden atender mis Workers en el plan Workers Free de Cloudflare antes de llegar al límite? | $0,11 | $0,014 | 100% | 100% |
| Cloudflare: Estoy en el plan Workers Paid. ¿Hasta qué tamaño puede crecer una sola base de datos de Cloudflare D1? | $0,057 | $0,012 | 100% | 100% |
| Cloudflare: ¿Qué tan larga puede ser una clave en Cloudflare Workers KV? Quiero saber el tamaño máximo de clave. | $0,03 | $0,01 | 100% | 100% |
| Cloudflare: ¿Cuál es el tamaño máximo de un solo valor guardado en Cloudflare Workers KV? | $0,036 | $0,011 | 100% | 100% |
| Cloudflare: ¿Cuál es el mensaje más grande que puedo enviar a una Cloudflare Queue? Necesito el límite de tamaño por mensaje. | $0,055 | $0,021 | 100% | 100% |
2 herramientas WebMCP registradas por Cloudflare
tal como las vio el agente · 2026-11-08
| Herramienta | Descripción | Llamada |
|---|---|---|
search | Full-text search across Cloudflare developer documentation. Returns matching pages with titles, URLs, and content snippets. Use this to find documentation on any Cloudflare product or feature. search({"limit":5,"query":"Workers Free plan requests per day limit"}) search({"query":"D1 limits maximum database size Workers Paid"}) search({"query":"Workers KV limits maximum key size"}) search({"query":"Workers KV limits maximum value size"}) search({"limit":5,"query":"Queues limits message size"}) search({"limit":3,"query":"Queues message size 128 KB footnote metadata overhead"}) | Llamada |
list-directories | Returns a list of all Cloudflare products available in the developer documentation, including each product's name, docs URL, short description, and category group. Use this to discover what products exist before searching or navigating. | –No llamada |
- claude-opus-5-5, razonamiento medium, Chrome headless. Mismo prompt y mismo límite de pasos en ambas variantes; 3 ejecuciones por pregunta y variante.
- Sin WebMCP: un agente basado en snapshots del DOM que lee, hace clic y rellena.
- Con WebMCP: solo las herramientas que registra la página (las suyas o, en nuestros sitios de prueba, las de webmcpx).
- Evaluado según los hechos de la respuesta y el estado de la página. Sin LLM como juez.
- Un sitio real: publica sus propias herramientas WebMCP.
- 30 preguntas en 6 sitios, 27 de solo lectura; los mayores ahorros vienen de las herramientas de búsqueda de los propios sitios.
- 3 ejecuciones por pregunta y brazo: 3 de 3 es evidencia, no prueba del 100%.
- El tiempo es el bucle del agente tras cargar la página; el coste es el uso de API del modelo a precios de lista fechados, con caché.
- Cada ejecución fallida dice por qué en los resultados (bloqueo del sitio, respuesta fuera de la página, límite de pasos…).
git clone https://github.com/webmcpx/webmcpx
cd webmcpx && just setup
ANTHROPIC_API_KEY=... just bench --model claude-opus-5-5 --reasoning-effort mediumNotion
“Estoy escribiendo párrafos largos en una página de Notion a través de la API. ¿Cuántos caracteres puede tener como máximo el contenido de texto de un solo objeto rich text en una solicitud?”
developers.notion.com (abre Notion)7.0×
menos tokens
19k → 2,7k tokens
| Pregunta | Sin WebMCP: tokens | Con WebMCP: tokens | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| Notion: Estoy escribiendo párrafos largos en una página de Notion a través de la API. ¿Cuántos caracteres puede tener como máximo el contenido de texto de un solo objeto rich text en una solicitud? | 19k | 2,7k | 100% | 100% |
| Notion: Estoy paginando resultados de la API de Notion. ¿Cuál es el page_size más grande que puedo pedir por llamada en los endpoints de listado? | 22k | 4,9k | 100% | 100% |
| Notion: ¿Cuál es el archivo más grande que puedo enviar a la API de Notion en una subida de una sola parte antes de tener que pasar a una subida multiparte? | 19k | 4,9k | 100% | 100% |
| Pregunta | Sin WebMCP: tiempo | Con WebMCP: tiempo | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| Notion: Estoy escribiendo párrafos largos en una página de Notion a través de la API. ¿Cuántos caracteres puede tener como máximo el contenido de texto de un solo objeto rich text en una solicitud? | 8,9s | 4,0s | 100% | 100% |
| Notion: Estoy paginando resultados de la API de Notion. ¿Cuál es el page_size más grande que puedo pedir por llamada en los endpoints de listado? | 11,7s | 5,7s | 100% | 100% |
| Notion: ¿Cuál es el archivo más grande que puedo enviar a la API de Notion en una subida de una sola parte antes de tener que pasar a una subida multiparte? | 9,4s | 5,1s | 100% | 100% |
| Pregunta | Sin WebMCP: pasos | Con WebMCP: pasos | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| Notion: Estoy escribiendo párrafos largos en una página de Notion a través de la API. ¿Cuántos caracteres puede tener como máximo el contenido de texto de un solo objeto rich text en una solicitud? | 4,0 | 2,0 | 100% | 100% |
| Notion: Estoy paginando resultados de la API de Notion. ¿Cuál es el page_size más grande que puedo pedir por llamada en los endpoints de listado? | 5,0 | 2,7 | 100% | 100% |
| Notion: ¿Cuál es el archivo más grande que puedo enviar a la API de Notion en una subida de una sola parte antes de tener que pasar a una subida multiparte? | 3,7 | 3,0 | 100% | 100% |
| Pregunta | Sin WebMCP: costo | Con WebMCP: costo | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| Notion: Estoy escribiendo párrafos largos en una página de Notion a través de la API. ¿Cuántos caracteres puede tener como máximo el contenido de texto de un solo objeto rich text en una solicitud? | $0,054 | $0,0076 | 100% | 100% |
| Notion: Estoy paginando resultados de la API de Notion. ¿Cuál es el page_size más grande que puedo pedir por llamada en los endpoints de listado? | $0,047 | $0,017 | 100% | 100% |
| Notion: ¿Cuál es el archivo más grande que puedo enviar a la API de Notion en una subida de una sola parte antes de tener que pasar a una subida multiparte? | $0,051 | $0,011 | 100% | 100% |
5 herramientas WebMCP registradas por Notion
tal como las vio el agente · 2026-11-08
| Herramienta | Descripción | Llamada |
|---|---|---|
search_docs | Search the Notion Docs documentation for relevant pages and content. search_docs({"query":"rich text object text content character limit request"}) search_docs({"query":"pagination page_size maximum"}) search_docs({"query":"file upload size limit single-part multi-part"}) search_docs({"query":"upload files larger than 20 MB multi-part"}) | Llamada |
get_site_overview | Get an outline of the Notion Docs documentation, grouped by section, with a short description of each page. May be truncated for large sites; use search_docs to find pages not listed. | –No llamada |
navigate_page | Navigate the current browser tab to a Notion Docs documentation page. | –No llamada |
read_page | Read the full content of a Notion Docs documentation page as markdown. | –No llamada |
read_skill | Read a Notion Docs agent skill document by name. | –No llamada |
- claude-opus-5-5, razonamiento medium, Chrome headless. Mismo prompt y mismo límite de pasos en ambas variantes; 3 ejecuciones por pregunta y variante.
- Sin WebMCP: un agente basado en snapshots del DOM que lee, hace clic y rellena.
- Con WebMCP: solo las herramientas que registra la página (las suyas o, en nuestros sitios de prueba, las de webmcpx).
- Evaluado según los hechos de la respuesta y el estado de la página. Sin LLM como juez.
- Un sitio real: publica sus propias herramientas WebMCP.
- 30 preguntas en 6 sitios, 27 de solo lectura; los mayores ahorros vienen de las herramientas de búsqueda de los propios sitios.
- 3 ejecuciones por pregunta y brazo: 3 de 3 es evidencia, no prueba del 100%.
- El tiempo es el bucle del agente tras cargar la página; el coste es el uso de API del modelo a precios de lista fechados, con caché.
- Cada ejecución fallida dice por qué en los resultados (bloqueo del sitio, respuesta fuera de la página, límite de pasos…).
git clone https://github.com/webmcpx/webmcpx
cd webmcpx && just setup
ANTHROPIC_API_KEY=... just bench --model claude-opus-5-5 --reasoning-effort mediumKiln & Co local
“Agrega un Stoneware Teapot y un Speckled Bowl a mi carrito y luego dime el total del carrito.”
4.4×
menos tokens
19k → 4,3k tokens
| Pregunta | Sin WebMCP: tokens | Con WebMCP: tokens | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| Kiln & Co (sitio de prueba local): Agrega un Stoneware Teapot y un Speckled Bowl a mi carrito y luego dime el total del carrito. | 19k | 4,3k | 100% | 100% |
| Kiln & Co (sitio de prueba local): Pon en mi carrito la tetera más cara que venden. | 12k | 3,7k | 100% | 100% |
| Kiln & Co (sitio de prueba local): Agrega a mi carrito dos unidades de la taza azul más barata. | 7,7k | 3,8k | 100% | 100% |
| Pregunta | Sin WebMCP: tiempo | Con WebMCP: tiempo | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| Kiln & Co (sitio de prueba local): Agrega un Stoneware Teapot y un Speckled Bowl a mi carrito y luego dime el total del carrito. | 6,3s | 3,5s | 100% | 100% |
| Kiln & Co (sitio de prueba local): Pon en mi carrito la tetera más cara que venden. | 6,2s | 3,1s | 100% | 100% |
| Kiln & Co (sitio de prueba local): Agrega a mi carrito dos unidades de la taza azul más barata. | 10,5s | 3,2s | 100% | 100% |
| Pregunta | Sin WebMCP: pasos | Con WebMCP: pasos | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| Kiln & Co (sitio de prueba local): Agrega un Stoneware Teapot y un Speckled Bowl a mi carrito y luego dime el total del carrito. | 5,0 | 3,0 | 100% | 100% |
| Kiln & Co (sitio de prueba local): Pon en mi carrito la tetera más cara que venden. | 4,0 | 3,0 | 100% | 100% |
| Kiln & Co (sitio de prueba local): Agrega a mi carrito dos unidades de la taza azul más barata. | 3,0 | 3,0 | 100% | 100% |
| Pregunta | Sin WebMCP: costo | Con WebMCP: costo | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| Kiln & Co (sitio de prueba local): Agrega un Stoneware Teapot y un Speckled Bowl a mi carrito y luego dime el total del carrito. | $0,028 | $0,011 | 100% | 100% |
| Kiln & Co (sitio de prueba local): Pon en mi carrito la tetera más cara que venden. | $0,024 | $0,0068 | 100% | 100% |
| Kiln & Co (sitio de prueba local): Agrega a mi carrito dos unidades de la taza azul más barata. | $0,021 | $0,0074 | 100% | 100% |
4 herramientas WebMCP registradas por Kiln & Co
tal como las vio el agente · 2026-11-08
| Herramienta | Descripción | Llamada |
|---|---|---|
search_products | Search the catalog. Every filter is optional; with none, returns every product. Prices are USD. search_products({"query":"Stoneware Teapot"}) search_products({"query":"Speckled Bowl"}) search_products({"category":"teapot","sort":"price_desc"}) search_products({"category":"mug","color":"blue","sort":"price_asc"}) | Llamada |
add_to_cart | Add a product to the cart by sku. Adding a sku already in the cart increases its quantity. add_to_cart({"sku":"TPT-01"}) add_to_cart({"sku":"BWL-01"}) add_to_cart({"sku":"TPT-02"}) add_to_cart({"quantity":2,"sku":"MUG-03"}) | Llamada |
get_cart | Return the cart: items with quantity and the total in USD. | –No llamada |
get_page_context | Describe the page the user is on: title, URL, language, meta description, heading outline and the text the user has selected. Use it for the page's structure or the user's selection; to find a fact on the page, call search_page instead. | –No llamada |
- claude-opus-5-5, razonamiento medium, Chrome headless. Mismo prompt y mismo límite de pasos en ambas variantes; 3 ejecuciones por pregunta y variante.
- Sin WebMCP: un agente basado en snapshots del DOM que lee, hace clic y rellena.
- Con WebMCP: solo las herramientas que registra la página (las suyas o, en nuestros sitios de prueba, las de webmcpx).
- Evaluado según los hechos de la respuesta y el estado de la página. Sin LLM como juez.
- Un sitio de prueba local: sus herramientas vienen de webmcpx.
- 30 preguntas en 6 sitios, 27 de solo lectura; los mayores ahorros vienen de las herramientas de búsqueda de los propios sitios.
- 3 ejecuciones por pregunta y brazo: 3 de 3 es evidencia, no prueba del 100%.
- El tiempo es el bucle del agente tras cargar la página; el coste es el uso de API del modelo a precios de lista fechados, con caché.
- Cada ejecución fallida dice por qué en los resultados (bloqueo del sitio, respuesta fuera de la página, límite de pasos…).
git clone https://github.com/webmcpx/webmcpx
cd webmcpx && just setup
ANTHROPIC_API_KEY=... just bench --model claude-opus-5-5 --reasoning-effort mediumspecification.website
“¿Qué relación de contraste mínima exige la spec de este sitio para el texto de cuerpo de tamaño normal?”
specification.website (abre specification.website)3.5×
menos tokens
25k → 7,3k tokens
| Pregunta | Sin WebMCP: tokens | Con WebMCP: tokens | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| specification.website: ¿Qué relación de contraste mínima exige la spec de este sitio para el texto de cuerpo de tamaño normal? | 25k | 7,3k | 100% | 100% |
| specification.website: Según esta spec, ¿qué largo debe tener la meta description de una página? | 24k | 7,3k | 100% | 100% |
| specification.website: Según esta spec, ¿qué max-age debo poner en mi header HSTS para producción? | 22k | 7,4k | 100% | 100% |
| specification.website: ¿Cuál es el tamaño mínimo de área táctil que exige esta spec para botones y otros controles interactivos? | 23k | 8,5k | 100% | 100% |
| specification.website: ¿Qué valor de INP fija esta spec como objetivo para una buena capacidad de respuesta? | 15k | 6,6k | 100% | 100% |
| Pregunta | Sin WebMCP: tiempo | Con WebMCP: tiempo | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| specification.website: ¿Qué relación de contraste mínima exige la spec de este sitio para el texto de cuerpo de tamaño normal? | 6,3s | 5,2s | 100% | 100% |
| specification.website: Según esta spec, ¿qué largo debe tener la meta description de una página? | 6,4s | 5,1s | 100% | 100% |
| specification.website: Según esta spec, ¿qué max-age debo poner en mi header HSTS para producción? | 17,2s | 6,0s | 100% | 100% |
| specification.website: ¿Cuál es el tamaño mínimo de área táctil que exige esta spec para botones y otros controles interactivos? | 7,4s | 6,7s | 100% | 100% |
| specification.website: ¿Qué valor de INP fija esta spec como objetivo para una buena capacidad de respuesta? | 4,9s | 3,7s | 100% | 100% |
| Pregunta | Sin WebMCP: pasos | Con WebMCP: pasos | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| specification.website: ¿Qué relación de contraste mínima exige la spec de este sitio para el texto de cuerpo de tamaño normal? | 4,7 | 3,0 | 100% | 100% |
| specification.website: Según esta spec, ¿qué largo debe tener la meta description de una página? | 5,0 | 3,0 | 100% | 100% |
| specification.website: Según esta spec, ¿qué max-age debo poner en mi header HSTS para producción? | 4,0 | 3,0 | 100% | 100% |
| specification.website: ¿Cuál es el tamaño mínimo de área táctil que exige esta spec para botones y otros controles interactivos? | 4,7 | 3,0 | 100% | 100% |
| specification.website: ¿Qué valor de INP fija esta spec como objetivo para una buena capacidad de respuesta? | 4,0 | 3,0 | 100% | 100% |
| Pregunta | Sin WebMCP: costo | Con WebMCP: costo | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| specification.website: ¿Qué relación de contraste mínima exige la spec de este sitio para el texto de cuerpo de tamaño normal? | $0,041 | $0,015 | 100% | 100% |
| specification.website: Según esta spec, ¿qué largo debe tener la meta description de una página? | $0,033 | $0,018 | 100% | 100% |
| specification.website: Según esta spec, ¿qué max-age debo poner en mi header HSTS para producción? | $0,064 | $0,02 | 100% | 100% |
| specification.website: ¿Cuál es el tamaño mínimo de área táctil que exige esta spec para botones y otros controles interactivos? | $0,038 | $0,018 | 100% | 100% |
| specification.website: ¿Qué valor de INP fija esta spec como objetivo para una buena capacidad de respuesta? | $0,02 | $0,013 | 100% | 100% |
5 herramientas WebMCP registradas por specification.website
tal como las vio el agente · 2026-11-08
| Herramienta | Descripción | Llamada |
|---|---|---|
search_spec | Search The Website Specification for matching topics. Returns ranked results with title, status, category, canonical URL, and a one-line summary. Use this when the user asks about a topic by keyword (e.g. "CSP", "alt text", "llms.txt"). search_spec({"limit":3,"query":"color contrast ratio text"}) search_spec({"limit":3,"query":"meta description length"}) search_spec({"limit":3,"query":"HSTS max-age"}) search_spec({"query":"tap target size"}) search_spec({"limit":3,"query":"INP Interaction to Next Paint"}) search_spec({"limit":5,"query":"Core Web Vitals responsiveness"}) | Llamada |
get_topic | Fetch the Markdown for one spec page by its slug, returned as lines you can page through. Use this after search_spec or list_topics to read the canonical guidance. get_topic({"slug":"color-contrast"}) get_topic({"slug":"meta-description"}) get_topic({"slug":"hsts"}) get_topic({"slug":"touch-target-size"}) | Llamada |
list_topics | List spec topics, optionally filtered by category and/or status. Returns title, status, category, summary, and URL per topic. Use this when the user wants the canonical list (e.g. "all required SEO topics"). Results are paged — follow page/page_size to walk the whole list. | –No llamada |
open_checklist | Navigate the user to the full spec checklist page. Optionally jumps to a category section via URL hash. UI action — does not return data. | –No llamada |
open_search | Open the on-page ⌘K search overlay so the user can search the spec interactively. Optionally pre-fills a query. UI action — does not return results; use search_spec for that. | –No llamada |
- claude-opus-5-5, razonamiento medium, Chrome headless. Mismo prompt y mismo límite de pasos en ambas variantes; 3 ejecuciones por pregunta y variante.
- Sin WebMCP: un agente basado en snapshots del DOM que lee, hace clic y rellena.
- Con WebMCP: solo las herramientas que registra la página (las suyas o, en nuestros sitios de prueba, las de webmcpx).
- Evaluado según los hechos de la respuesta y el estado de la página. Sin LLM como juez.
- Un sitio real: publica sus propias herramientas WebMCP.
- 30 preguntas en 6 sitios, 27 de solo lectura; los mayores ahorros vienen de las herramientas de búsqueda de los propios sitios.
- 3 ejecuciones por pregunta y brazo: 3 de 3 es evidencia, no prueba del 100%.
- El tiempo es el bucle del agente tras cargar la página; el coste es el uso de API del modelo a precios de lista fechados, con caché.
- Cada ejecución fallida dice por qué en los resultados (bloqueo del sitio, respuesta fuera de la página, límite de pasos…).
git clone https://github.com/webmcpx/webmcpx
cd webmcpx && just setup
ANTHROPIC_API_KEY=... just bench --model claude-opus-5-5 --reasoning-effort mediumOrbit docs local
“Mi paso de CI falló con el código de salida 4 de orbit. ¿Qué significa?”
2.3×
menos tokens
5,6k → 2,4k tokens
| Pregunta | Sin WebMCP: tokens | Con WebMCP: tokens | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| Orbit docs (sitio de prueba local): Mi paso de CI falló con el código de salida 4 de orbit. ¿Qué significa? | 5,6k | 2,4k | 100% | 100% |
| Orbit docs (sitio de prueba local): Por defecto, ¿cuántas releases anteriores guarda Orbit para hacer rollback? | 5,4k | 2,4k | 100% | 100% |
| Orbit docs (sitio de prueba local): ¿Qué variable de entorno hace que Orbit lea su archivo de configuración desde otra ruta? | 5,4k | 2,4k | 100% | 100% |
| Orbit docs (sitio de prueba local): ¿Qué estrategias de rollout puedo elegir al ejecutar orbit deploy? | 5,5k | 2,4k | 100% | 100% |
| Pregunta | Sin WebMCP: tiempo | Con WebMCP: tiempo | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| Orbit docs (sitio de prueba local): Mi paso de CI falló con el código de salida 4 de orbit. ¿Qué significa? | 4,0s | 4,4s | 100% | 100% |
| Orbit docs (sitio de prueba local): Por defecto, ¿cuántas releases anteriores guarda Orbit para hacer rollback? | 2,4s | 2,5s | 100% | 100% |
| Orbit docs (sitio de prueba local): ¿Qué variable de entorno hace que Orbit lea su archivo de configuración desde otra ruta? | 2,5s | 2,5s | 100% | 100% |
| Orbit docs (sitio de prueba local): ¿Qué estrategias de rollout puedo elegir al ejecutar orbit deploy? | 3,2s | 7,4s | 100% | 100% |
| Pregunta | Sin WebMCP: pasos | Con WebMCP: pasos | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| Orbit docs (sitio de prueba local): Mi paso de CI falló con el código de salida 4 de orbit. ¿Qué significa? | 2,0 | 2,0 | 100% | 100% |
| Orbit docs (sitio de prueba local): Por defecto, ¿cuántas releases anteriores guarda Orbit para hacer rollback? | 2,0 | 2,0 | 100% | 100% |
| Orbit docs (sitio de prueba local): ¿Qué variable de entorno hace que Orbit lea su archivo de configuración desde otra ruta? | 2,0 | 2,0 | 100% | 100% |
| Orbit docs (sitio de prueba local): ¿Qué estrategias de rollout puedo elegir al ejecutar orbit deploy? | 2,0 | 2,0 | 100% | 100% |
| Pregunta | Sin WebMCP: costo | Con WebMCP: costo | Sin WebMCP: resuelta | Con WebMCP: resuelta |
|---|---|---|---|---|
| Orbit docs (sitio de prueba local): Mi paso de CI falló con el código de salida 4 de orbit. ¿Qué significa? | $0,013 | $0,01 | 100% | 100% |
| Orbit docs (sitio de prueba local): Por defecto, ¿cuántas releases anteriores guarda Orbit para hacer rollback? | $0,011 | $0,0095 | 100% | 100% |
| Orbit docs (sitio de prueba local): ¿Qué variable de entorno hace que Orbit lea su archivo de configuración desde otra ruta? | $0,017 | $0,0058 | 100% | 100% |
| Orbit docs (sitio de prueba local): ¿Qué estrategias de rollout puedo elegir al ejecutar orbit deploy? | $0,012 | $0,0071 | 100% | 100% |
3 herramientas WebMCP registradas por Orbit docs
tal como las vio el agente · 2026-11-08
| Herramienta | Descripción | Llamada |
|---|---|---|
search_page | Find passages on the current page that match a query. Returns up to `limit` passages ranked by relevance, each with its section heading and a link to it. Prefer it to reading the whole page when looking for something specific. search_page({"query":"exit code 4"}) search_page({"query":"past releases kept for rollback default"}) search_page({"query":"environment variable config file path"}) search_page({"query":"orbit deploy rollout strategy"}) | Llamada |
fetch_as_markdown | Return the main content of the current page as Markdown. Long pages come in parts: when `truncated` is true, call again with `cursor` set to `next_cursor`. | –No llamada |
get_page_context | Describe the page the user is on: title, URL, language, meta description, heading outline and the text the user has selected. Use it for the page's structure or the user's selection; to find a fact on the page, call search_page instead. | –No llamada |
- claude-opus-5-5, razonamiento medium, Chrome headless. Mismo prompt y mismo límite de pasos en ambas variantes; 3 ejecuciones por pregunta y variante.
- Sin WebMCP: un agente basado en snapshots del DOM que lee, hace clic y rellena.
- Con WebMCP: solo las herramientas que registra la página (las suyas o, en nuestros sitios de prueba, las de webmcpx).
- Evaluado según los hechos de la respuesta y el estado de la página. Sin LLM como juez.
- Un sitio de prueba local: sus herramientas vienen de webmcpx.
- 30 preguntas en 6 sitios, 27 de solo lectura; los mayores ahorros vienen de las herramientas de búsqueda de los propios sitios.
- 3 ejecuciones por pregunta y brazo: 3 de 3 es evidencia, no prueba del 100%.
- El tiempo es el bucle del agente tras cargar la página; el coste es el uso de API del modelo a precios de lista fechados, con caché.
- Cada ejecución fallida dice por qué en los resultados (bloqueo del sitio, respuesta fuera de la página, límite de pasos…).
git clone https://github.com/webmcpx/webmcpx
cd webmcpx && just setup
ANTHROPIC_API_KEY=... just bench --model claude-opus-5-5 --reasoning-effort medium