Benchmark do webmcpx: Claude Haiku 5.5
Ranking
Quanto o WebMCP economiza, modelo a modelo
Um agente lê, clica e preenche a partir de snapshots da página; o outro chama as ferramentas WebMCP do site. Escolha um modelo; as maiores economias vêm primeiro.
Ordenado pelo acerto com WebMCP e, no empate, pelo custo por execução.
Casos selecionados: 20 de 30 perguntas, em que o WebMCP usou no máximo metade dos tokens. Todos os resultados são públicos, ou rode você mesmo com just bench.
Claude Haiku 5.5 (Anthropic)
Cloudflare
“Quantas requisições por dia meus Workers aguentam no plano Workers Free da Cloudflare antes de bater no limite?”
developers.cloudflare.com (abre Cloudflare)18×
menos tokens
49k → 2,7k tokens
| Pergunta | Sem WebMCP: tokens | Com WebMCP: tokens | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| Cloudflare: Quantas requisições por dia meus Workers aguentam no plano Workers Free da Cloudflare antes de bater no limite? | 49k | 2,7k | 100% | 100% |
| Cloudflare: Qual é a maior mensagem que posso enviar para uma Cloudflare Queue? Preciso do limite de tamanho por mensagem. | 25k | 2,6k | 100% | 100% |
| Cloudflare: Estou no plano Workers Paid. Até que tamanho um único banco de dados do Cloudflare D1 pode crescer? | 23k | 2,7k | 100% | 100% |
| Cloudflare: Qual é o tamanho máximo de um único valor guardado no Cloudflare Workers KV? | 21k | 2,5k | 100% | 100% |
| Cloudflare: Qual o tamanho máximo de uma chave no Cloudflare Workers KV? Quero saber o limite de tamanho da chave. | 21k | 2,9k | 100% | 100% |
| Pergunta | Sem WebMCP: tempo | Com WebMCP: tempo | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| Cloudflare: Quantas requisições por dia meus Workers aguentam no plano Workers Free da Cloudflare antes de bater no limite? | 4,5s | 3,6s | 100% | 100% |
| Cloudflare: Qual é a maior mensagem que posso enviar para uma Cloudflare Queue? Preciso do limite de tamanho por mensagem. | 3,5s | 3,5s | 100% | 100% |
| Cloudflare: Estou no plano Workers Paid. Até que tamanho um único banco de dados do Cloudflare D1 pode crescer? | 2,9s | 3,2s | 100% | 100% |
| Cloudflare: Qual é o tamanho máximo de um único valor guardado no Cloudflare Workers KV? | 2,9s | 2,8s | 100% | 100% |
| Cloudflare: Qual o tamanho máximo de uma chave no Cloudflare Workers KV? Quero saber o limite de tamanho da chave. | 3,2s | 3,3s | 100% | 100% |
| Pergunta | Sem WebMCP: passos | Com WebMCP: passos | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| Cloudflare: Quantas requisições por dia meus Workers aguentam no plano Workers Free da Cloudflare antes de bater no limite? | 3,7 | 2,0 | 100% | 100% |
| Cloudflare: Qual é a maior mensagem que posso enviar para uma Cloudflare Queue? Preciso do limite de tamanho por mensagem. | 3,3 | 2,0 | 100% | 100% |
| Cloudflare: Estou no plano Workers Paid. Até que tamanho um único banco de dados do Cloudflare D1 pode crescer? | 3,0 | 2,0 | 100% | 100% |
| Cloudflare: Qual é o tamanho máximo de um único valor guardado no Cloudflare Workers KV? | 3,0 | 2,0 | 100% | 100% |
| Cloudflare: Qual o tamanho máximo de uma chave no Cloudflare Workers KV? Quero saber o limite de tamanho da chave. | 3,0 | 2,0 | 100% | 100% |
| Pergunta | Sem WebMCP: custo | Com WebMCP: custo | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| Cloudflare: Quantas requisições por dia meus Workers aguentam no plano Workers Free da Cloudflare antes de bater no limite? | $0,0034 | $0,00029 | 100% | 100% |
| Cloudflare: Qual é a maior mensagem que posso enviar para uma Cloudflare Queue? Preciso do limite de tamanho por mensagem. | $0,0017 | $0,00031 | 100% | 100% |
| Cloudflare: Estou no plano Workers Paid. Até que tamanho um único banco de dados do Cloudflare D1 pode crescer? | $0,0009 | $0,00029 | 100% | 100% |
| Cloudflare: Qual é o tamanho máximo de um único valor guardado no Cloudflare Workers KV? | $0,0014 | $0,00024 | 100% | 100% |
| Cloudflare: Qual o tamanho máximo de uma chave no Cloudflare Workers KV? Quero saber o limite de tamanho da chave. | $0,00099 | $0,00033 | 100% | 100% |
As 2 ferramentas WebMCP que Cloudflare registra
como o agente as viu · 2026-11-08
| Ferramenta | Descrição | Chamada |
|---|---|---|
search | Full-text search across Cloudflare developer documentation. Returns matching pages with titles, URLs, and content snippets. Use this to find documentation on any Cloudflare product or feature. search({"limit":5,"query":"Workers Free plan daily request limit"}) search({"limit":5,"query":"Cloudflare Queues maximum message size limit"}) search({"limit":5,"query":"D1 database maximum size limits Workers Paid"}) search({"limit":3,"query":"Workers KV maximum value size limit"}) search({"limit":5,"query":"Workers KV maximum key size limits"}) | Chamada |
list-directories | Returns a list of all Cloudflare products available in the developer documentation, including each product's name, docs URL, short description, and category group. Use this to discover what products exist before searching or navigating. | –Não chamada |
- claude-haiku-5-5, raciocínio medium, Chrome headless. Mesmo prompt e mesmo limite de passos nos dois cenários; 3 execuções por pergunta e cenário.
- Sem WebMCP: um agente baseado em snapshots do DOM, que lê, clica e preenche.
- Com WebMCP: só as ferramentas que a página registra (as dela, ou as do webmcpx nos nossos sites de teste).
- Avaliado pelos fatos na resposta e pelo estado da página. Sem LLM como juiz.
- Um site no ar: ele publica as próprias ferramentas WebMCP.
- 30 perguntas em 6 sites, 27 só de leitura; as maiores economias vêm das ferramentas de busca dos próprios sites.
- 3 execuções por pergunta e braço: 3 de 3 é evidência, não prova de 100%.
- Tempo é o loop do agente depois de a página carregar; custo é o uso de API do modelo a preços de tabela datados, com cache.
- Cada execução que falhou diz o motivo nos resultados (bloqueio do site, resposta fora da página, limite de passos…).
git clone https://github.com/webmcpx/webmcpx
cd webmcpx && just setup
ANTHROPIC_API_KEY=... just bench --model claude-haiku-5-5 --reasoning-effort mediumNotion
“Estou escrevendo parágrafos longos numa página do Notion pela API. Qual o número máximo de caracteres que o conteúdo de texto de um único objeto rich text pode ter numa requisição?”
developers.notion.com (abre Notion)16×
menos tokens
43k → 2,7k tokens
| Pergunta | Sem WebMCP: tokens | Com WebMCP: tokens | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| Notion: Estou escrevendo parágrafos longos numa página do Notion pela API. Qual o número máximo de caracteres que o conteúdo de texto de um único objeto rich text pode ter numa requisição? | 43k | 2,7k | 100% | 100% |
| Notion: Estou paginando resultados da API do Notion. Qual o maior page_size que posso pedir por chamada nos endpoints de listagem? | 37k | 2,8k | 100% | 100% |
| Notion: Quantas requisições por minuto a API do Notion permite por conexão nos planos que não são Business e Enterprise? | 17k | 2,6k | 100% | 100% |
| Notion: Quando minha integração do Notion envia requisições demais, qual string de código de erro a API coloca no corpo da resposta? | 17k | 5,9k | 100% | 100% |
| Pergunta | Sem WebMCP: tempo | Com WebMCP: tempo | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| Notion: Estou escrevendo parágrafos longos numa página do Notion pela API. Qual o número máximo de caracteres que o conteúdo de texto de um único objeto rich text pode ter numa requisição? | 5,7s | 3,0s | 100% | 100% |
| Notion: Estou paginando resultados da API do Notion. Qual o maior page_size que posso pedir por chamada nos endpoints de listagem? | 5,2s | 3,7s | 100% | 100% |
| Notion: Quantas requisições por minuto a API do Notion permite por conexão nos planos que não são Business e Enterprise? | 3,5s | 2,0s | 100% | 100% |
| Notion: Quando minha integração do Notion envia requisições demais, qual string de código de erro a API coloca no corpo da resposta? | 5,3s | 5,5s | 100% | 100% |
| Pergunta | Sem WebMCP: passos | Com WebMCP: passos | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| Notion: Estou escrevendo parágrafos longos numa página do Notion pela API. Qual o número máximo de caracteres que o conteúdo de texto de um único objeto rich text pode ter numa requisição? | 4,3 | 2,0 | 100% | 100% |
| Notion: Estou paginando resultados da API do Notion. Qual o maior page_size que posso pedir por chamada nos endpoints de listagem? | 4,3 | 2,0 | 100% | 100% |
| Notion: Quantas requisições por minuto a API do Notion permite por conexão nos planos que não são Business e Enterprise? | 3,3 | 2,0 | 100% | 100% |
| Notion: Quando minha integração do Notion envia requisições demais, qual string de código de erro a API coloca no corpo da resposta? | 3,7 | 2,7 | 100% | 100% |
| Pergunta | Sem WebMCP: custo | Com WebMCP: custo | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| Notion: Estou escrevendo parágrafos longos numa página do Notion pela API. Qual o número máximo de caracteres que o conteúdo de texto de um único objeto rich text pode ter numa requisição? | $0,003 | $0,00026 | 100% | 100% |
| Notion: Estou paginando resultados da API do Notion. Qual o maior page_size que posso pedir por chamada nos endpoints de listagem? | $0,0022 | $0,00027 | 100% | 100% |
| Notion: Quantas requisições por minuto a API do Notion permite por conexão nos planos que não são Business e Enterprise? | $0,0011 | $0,00015 | 100% | 100% |
| Notion: Quando minha integração do Notion envia requisições demais, qual string de código de erro a API coloca no corpo da resposta? | $0,0012 | $0,00056 | 100% | 100% |
As 5 ferramentas WebMCP que Notion registra
como o agente as viu · 2026-11-08
| Ferramenta | Descrição | Chamada |
|---|---|---|
search_docs | Search the Notion Docs documentation for relevant pages and content. search_docs({"query":"rich text maximum character length text content limit"}) search_docs({"query":"page_size pagination list endpoints maximum"}) search_docs({"query":"Notion API rate limits requests per minute plans"}) search_docs({"query":"rate limit error code response body"}) | Chamada |
get_site_overview | Get an outline of the Notion Docs documentation, grouped by section, with a short description of each page. May be truncated for large sites; use search_docs to find pages not listed. | –Não chamada |
navigate_page | Navigate the current browser tab to a Notion Docs documentation page. | –Não chamada |
read_page | Read the full content of a Notion Docs documentation page as markdown. | –Não chamada |
read_skill | Read a Notion Docs agent skill document by name. | –Não chamada |
- claude-haiku-5-5, raciocínio medium, Chrome headless. Mesmo prompt e mesmo limite de passos nos dois cenários; 3 execuções por pergunta e cenário.
- Sem WebMCP: um agente baseado em snapshots do DOM, que lê, clica e preenche.
- Com WebMCP: só as ferramentas que a página registra (as dela, ou as do webmcpx nos nossos sites de teste).
- Avaliado pelos fatos na resposta e pelo estado da página. Sem LLM como juiz.
- Um site no ar: ele publica as próprias ferramentas WebMCP.
- 30 perguntas em 6 sites, 27 só de leitura; as maiores economias vêm das ferramentas de busca dos próprios sites.
- 3 execuções por pergunta e braço: 3 de 3 é evidência, não prova de 100%.
- Tempo é o loop do agente depois de a página carregar; custo é o uso de API do modelo a preços de tabela datados, com cache.
- Cada execução que falhou diz o motivo nos resultados (bloqueio do site, resposta fora da página, limite de passos…).
git clone https://github.com/webmcpx/webmcpx
cd webmcpx && just setup
ANTHROPIC_API_KEY=... just bench --model claude-haiku-5-5 --reasoning-effort mediumspecification.website
“Segundo esta spec, qual deve ser o tamanho da meta description de uma página?”
specification.website (abre specification.website)4.2×
menos tokens
32k → 7,6k tokens
| Pergunta | Sem WebMCP: tokens | Com WebMCP: tokens | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| specification.website: Segundo esta spec, qual deve ser o tamanho da meta description de uma página? | 32k | 7,6k | 100% | 100% |
| specification.website: Segundo esta spec, que max-age devo colocar no meu header HSTS em produção? | 28k | 7,4k | 100% | 100% |
| specification.website: Qual taxa de contraste mínima a spec deste site exige para texto corrido de tamanho normal? | 23k | 7,7k | 100% | 100% |
| specification.website: Qual valor de INP esta spec define como meta para uma boa responsividade? | 15k | 7,1k | 100% | 100% |
| Pergunta | Sem WebMCP: tempo | Com WebMCP: tempo | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| specification.website: Segundo esta spec, qual deve ser o tamanho da meta description de uma página? | 5,0s | 2,8s | 100% | 100% |
| specification.website: Segundo esta spec, que max-age devo colocar no meu header HSTS em produção? | 7,1s | 5,5s | 100% | 100% |
| specification.website: Qual taxa de contraste mínima a spec deste site exige para texto corrido de tamanho normal? | 3,6s | 2,7s | 100% | 100% |
| specification.website: Qual valor de INP esta spec define como meta para uma boa responsividade? | 3,3s | 3,0s | 100% | 100% |
| Pergunta | Sem WebMCP: passos | Com WebMCP: passos | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| specification.website: Segundo esta spec, qual deve ser o tamanho da meta description de uma página? | 5,7 | 3,0 | 100% | 100% |
| specification.website: Segundo esta spec, que max-age devo colocar no meu header HSTS em produção? | 5,3 | 3,0 | 100% | 100% |
| specification.website: Qual taxa de contraste mínima a spec deste site exige para texto corrido de tamanho normal? | 4,0 | 3,0 | 100% | 100% |
| specification.website: Qual valor de INP esta spec define como meta para uma boa responsividade? | 3,3 | 3,0 | 100% | 100% |
| Pergunta | Sem WebMCP: custo | Com WebMCP: custo | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| specification.website: Segundo esta spec, qual deve ser o tamanho da meta description de uma página? | $0,0015 | $0,00033 | 100% | 100% |
| specification.website: Segundo esta spec, que max-age devo colocar no meu header HSTS em produção? | $0,0016 | $0,00049 | 100% | 100% |
| specification.website: Qual taxa de contraste mínima a spec deste site exige para texto corrido de tamanho normal? | $0,0014 | $0,00053 | 100% | 100% |
| specification.website: Qual valor de INP esta spec define como meta para uma boa responsividade? | $0,0012 | $0,00053 | 100% | 100% |
As 5 ferramentas WebMCP que specification.website registra
como o agente as viu · 2026-11-08
| Ferramenta | Descrição | Chamada |
|---|---|---|
search_spec | Search The Website Specification for matching topics. Returns ranked results with title, status, category, canonical URL, and a one-line summary. Use this when the user asks about a topic by keyword (e.g. "CSP", "alt text", "llms.txt"). search_spec({"limit":5,"query":"meta description length"}) search_spec({"limit":5,"query":"HSTS max-age"}) search_spec({"limit":5,"query":"contrast ratio body text"}) search_spec({"limit":5,"query":"INP Interaction to Next Paint responsiveness"}) search_spec({"limit":5,"query":"Core Web Vitals performance targets"}) | Chamada |
get_topic | Fetch the Markdown for one spec page by its slug, returned as lines you can page through. Use this after search_spec or list_topics to read the canonical guidance. get_topic({"slug":"meta-description"}) get_topic({"limit":200,"slug":"hsts"}) get_topic({"slug":"color-contrast"}) | Chamada |
list_topics | List spec topics, optionally filtered by category and/or status. Returns title, status, category, summary, and URL per topic. Use this when the user wants the canonical list (e.g. "all required SEO topics"). Results are paged — follow page/page_size to walk the whole list. | –Não chamada |
open_checklist | Navigate the user to the full spec checklist page. Optionally jumps to a category section via URL hash. UI action — does not return data. | –Não chamada |
open_search | Open the on-page ⌘K search overlay so the user can search the spec interactively. Optionally pre-fills a query. UI action — does not return results; use search_spec for that. | –Não chamada |
- claude-haiku-5-5, raciocínio medium, Chrome headless. Mesmo prompt e mesmo limite de passos nos dois cenários; 3 execuções por pergunta e cenário.
- Sem WebMCP: um agente baseado em snapshots do DOM, que lê, clica e preenche.
- Com WebMCP: só as ferramentas que a página registra (as dela, ou as do webmcpx nos nossos sites de teste).
- Avaliado pelos fatos na resposta e pelo estado da página. Sem LLM como juiz.
- Um site no ar: ele publica as próprias ferramentas WebMCP.
- 30 perguntas em 6 sites, 27 só de leitura; as maiores economias vêm das ferramentas de busca dos próprios sites.
- 3 execuções por pergunta e braço: 3 de 3 é evidência, não prova de 100%.
- Tempo é o loop do agente depois de a página carregar; custo é o uso de API do modelo a preços de tabela datados, com cache.
- Cada execução que falhou diz o motivo nos resultados (bloqueio do site, resposta fora da página, limite de passos…).
git clone https://github.com/webmcpx/webmcpx
cd webmcpx && just setup
ANTHROPIC_API_KEY=... just bench --model claude-haiku-5-5 --reasoning-effort mediumKiln & Co local
“Coloque um Stoneware Teapot e um Speckled Bowl no meu carrinho e depois me diga o total do carrinho.”
3.5×
menos tokens
22k → 6,2k tokens
| Pergunta | Sem WebMCP: tokens | Com WebMCP: tokens | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| Kiln & Co (site de teste local): Coloque um Stoneware Teapot e um Speckled Bowl no meu carrinho e depois me diga o total do carrinho. | 22k | 6,2k | 100% | 100% |
| Kiln & Co (site de teste local): Coloque duas unidades da caneca azul mais barata no meu carrinho. | 10k | 3,9k | 100% | 100% |
| Kiln & Co (site de teste local): Coloque no meu carrinho o bule mais caro que vocês vendem. | 8,7k | 3,7k | 100% | 100% |
| Pergunta | Sem WebMCP: tempo | Com WebMCP: tempo | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| Kiln & Co (site de teste local): Coloque um Stoneware Teapot e um Speckled Bowl no meu carrinho e depois me diga o total do carrinho. | 4,7s | 3,4s | 100% | 100% |
| Kiln & Co (site de teste local): Coloque duas unidades da caneca azul mais barata no meu carrinho. | 4,3s | 2,5s | 100% | 100% |
| Kiln & Co (site de teste local): Coloque no meu carrinho o bule mais caro que vocês vendem. | 2,7s | 2,2s | 100% | 100% |
| Pergunta | Sem WebMCP: passos | Com WebMCP: passos | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| Kiln & Co (site de teste local): Coloque um Stoneware Teapot e um Speckled Bowl no meu carrinho e depois me diga o total do carrinho. | 5,7 | 4,0 | 100% | 100% |
| Kiln & Co (site de teste local): Coloque duas unidades da caneca azul mais barata no meu carrinho. | 3,3 | 3,0 | 100% | 100% |
| Kiln & Co (site de teste local): Coloque no meu carrinho o bule mais caro que vocês vendem. | 3,0 | 3,0 | 100% | 100% |
| Pergunta | Sem WebMCP: custo | Com WebMCP: custo | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| Kiln & Co (site de teste local): Coloque um Stoneware Teapot e um Speckled Bowl no meu carrinho e depois me diga o total do carrinho. | $0,00088 | $0,00032 | 100% | 100% |
| Kiln & Co (site de teste local): Coloque duas unidades da caneca azul mais barata no meu carrinho. | $0,00083 | $0,00022 | 100% | 100% |
| Kiln & Co (site de teste local): Coloque no meu carrinho o bule mais caro que vocês vendem. | $0,00049 | $0,00018 | 100% | 100% |
As 4 ferramentas WebMCP que Kiln & Co registra
como o agente as viu · 2026-11-08
| Ferramenta | Descrição | Chamada |
|---|---|---|
search_products | Search the catalog. Every filter is optional; with none, returns every product. Prices are USD. search_products({"query":"Stoneware Teapot"}) search_products({"query":"Speckled Bowl"}) search_products({"category":"mug","color":"blue","sort":"price_asc"}) search_products({"category":"teapot","sort":"price_desc"}) | Chamada |
add_to_cart | Add a product to the cart by sku. Adding a sku already in the cart increases its quantity. add_to_cart({"sku":"TPT-01"}) add_to_cart({"sku":"BWL-01"}) add_to_cart({"quantity":2,"sku":"MUG-03"}) add_to_cart({"sku":"TPT-02"}) | Chamada |
get_cart | Return the cart: items with quantity and the total in USD. get_cart({}) | Chamada |
get_page_context | Describe the page the user is on: title, URL, language, meta description, heading outline and the text the user has selected. Use it for the page's structure or the user's selection; to find a fact on the page, call search_page instead. | –Não chamada |
- claude-haiku-5-5, raciocínio medium, Chrome headless. Mesmo prompt e mesmo limite de passos nos dois cenários; 3 execuções por pergunta e cenário.
- Sem WebMCP: um agente baseado em snapshots do DOM, que lê, clica e preenche.
- Com WebMCP: só as ferramentas que a página registra (as dela, ou as do webmcpx nos nossos sites de teste).
- Avaliado pelos fatos na resposta e pelo estado da página. Sem LLM como juiz.
- Um site de teste local: as ferramentas vêm do webmcpx.
- 30 perguntas em 6 sites, 27 só de leitura; as maiores economias vêm das ferramentas de busca dos próprios sites.
- 3 execuções por pergunta e braço: 3 de 3 é evidência, não prova de 100%.
- Tempo é o loop do agente depois de a página carregar; custo é o uso de API do modelo a preços de tabela datados, com cache.
- Cada execução que falhou diz o motivo nos resultados (bloqueio do site, resposta fora da página, limite de passos…).
git clone https://github.com/webmcpx/webmcpx
cd webmcpx && just setup
ANTHROPIC_API_KEY=... just bench --model claude-haiku-5-5 --reasoning-effort mediumOrbit docs local
“Por padrão, quantas releases anteriores o Orbit guarda para rollback?”
2.2×
menos tokens
5,4k → 2,4k tokens
| Pergunta | Sem WebMCP: tokens | Com WebMCP: tokens | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| Orbit docs (site de teste local): Por padrão, quantas releases anteriores o Orbit guarda para rollback? | 5,4k | 2,4k | 100% | 100% |
| Orbit docs (site de teste local): Qual variável de ambiente faz o Orbit ler o arquivo de configuração de outro caminho? | 5,4k | 2,4k | 100% | 100% |
| Orbit docs (site de teste local): Meu passo de CI falhou com o código de saída 4 do orbit. O que isso significa? | 5,5k | 2,4k | 100% | 100% |
| Orbit docs (site de teste local): Quais estratégias de rollout posso escolher ao rodar orbit deploy? | 5,5k | 2,5k | 100% | 100% |
| Pergunta | Sem WebMCP: tempo | Com WebMCP: tempo | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| Orbit docs (site de teste local): Por padrão, quantas releases anteriores o Orbit guarda para rollback? | 2,1s | 2,5s | 100% | 100% |
| Orbit docs (site de teste local): Qual variável de ambiente faz o Orbit ler o arquivo de configuração de outro caminho? | 1,6s | 1,7s | 100% | 100% |
| Orbit docs (site de teste local): Meu passo de CI falhou com o código de saída 4 do orbit. O que isso significa? | 1,7s | 3,7s | 100% | 100% |
| Orbit docs (site de teste local): Quais estratégias de rollout posso escolher ao rodar orbit deploy? | 2,3s | 2,1s | 100% | 100% |
| Pergunta | Sem WebMCP: passos | Com WebMCP: passos | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| Orbit docs (site de teste local): Por padrão, quantas releases anteriores o Orbit guarda para rollback? | 2,0 | 2,0 | 100% | 100% |
| Orbit docs (site de teste local): Qual variável de ambiente faz o Orbit ler o arquivo de configuração de outro caminho? | 2,0 | 2,0 | 100% | 100% |
| Orbit docs (site de teste local): Meu passo de CI falhou com o código de saída 4 do orbit. O que isso significa? | 2,0 | 2,0 | 100% | 100% |
| Orbit docs (site de teste local): Quais estratégias de rollout posso escolher ao rodar orbit deploy? | 2,0 | 2,0 | 100% | 100% |
| Pergunta | Sem WebMCP: custo | Com WebMCP: custo | Sem WebMCP: resolvida | Com WebMCP: resolvida |
|---|---|---|---|---|
| Orbit docs (site de teste local): Por padrão, quantas releases anteriores o Orbit guarda para rollback? | $0,00031 | $0,00019 | 100% | 100% |
| Orbit docs (site de teste local): Qual variável de ambiente faz o Orbit ler o arquivo de configuração de outro caminho? | $0,0006 | $0,00015 | 100% | 100% |
| Orbit docs (site de teste local): Meu passo de CI falhou com o código de saída 4 do orbit. O que isso significa? | $0,0003 | $0,00017 | 100% | 100% |
| Orbit docs (site de teste local): Quais estratégias de rollout posso escolher ao rodar orbit deploy? | $0,00047 | $0,00019 | 100% | 100% |
As 3 ferramentas WebMCP que Orbit docs registra
como o agente as viu · 2026-11-08
| Ferramenta | Descrição | Chamada |
|---|---|---|
search_page | Find passages on the current page that match a query. Returns up to `limit` passages ranked by relevance, each with its section heading and a link to it. Prefer it to reading the whole page when looking for something specific. search_page({"limit":5,"query":"past releases rollback default keep"}) search_page({"limit":5,"query":"environment variable config file path"}) search_page({"limit":5,"query":"exit code 4"}) search_page({"limit":5,"query":"orbit deploy rollout strategy"}) | Chamada |
fetch_as_markdown | Return the main content of the current page as Markdown. Long pages come in parts: when `truncated` is true, call again with `cursor` set to `next_cursor`. | –Não chamada |
get_page_context | Describe the page the user is on: title, URL, language, meta description, heading outline and the text the user has selected. Use it for the page's structure or the user's selection; to find a fact on the page, call search_page instead. | –Não chamada |
- claude-haiku-5-5, raciocínio medium, Chrome headless. Mesmo prompt e mesmo limite de passos nos dois cenários; 3 execuções por pergunta e cenário.
- Sem WebMCP: um agente baseado em snapshots do DOM, que lê, clica e preenche.
- Com WebMCP: só as ferramentas que a página registra (as dela, ou as do webmcpx nos nossos sites de teste).
- Avaliado pelos fatos na resposta e pelo estado da página. Sem LLM como juiz.
- Um site de teste local: as ferramentas vêm do webmcpx.
- 30 perguntas em 6 sites, 27 só de leitura; as maiores economias vêm das ferramentas de busca dos próprios sites.
- 3 execuções por pergunta e braço: 3 de 3 é evidência, não prova de 100%.
- Tempo é o loop do agente depois de a página carregar; custo é o uso de API do modelo a preços de tabela datados, com cache.
- Cada execução que falhou diz o motivo nos resultados (bloqueio do site, resposta fora da página, limite de passos…).
git clone https://github.com/webmcpx/webmcpx
cd webmcpx && just setup
ANTHROPIC_API_KEY=... just bench --model claude-haiku-5-5 --reasoning-effort medium