Ramp lança Router, seu próprio roteador de modelos de IA para otimizar uso e custo

A Ramp, conhecida por suas soluções de gestão de despesas corporativas, acaba de lançar o Router. Este é um serviço que permite a empresas e usuários alternarem entre diversos modelos de linguagem grandes (LLMs) através de uma única API. A própria Ramp já utilizava essa ferramenta internamente há três anos para suas necessidades de inteligência artificial.

Na prática, o Router simplifica a vida de quem precisa testar ou usar múltiplos LLMs sem ter que integrar cada um separadamente. É uma forma de otimizar o uso e o custo da inteligência artificial, um desafio crescente para muitos negócios e profissionais que dependem dessas tecnologias.

Como funciona o Router

O Router oferece acesso a modelos de fornecedores como OpenAI, Anthropic, DeepSeek, Nvidia e xAI. Ele vem com 'estratégias' de roteamento, que permitem ao usuário definir suas preferências. Por exemplo, pode-se escolher usar modelos mais caros apenas para problemas complexos ou priorizar tiers de uso específicos para economizar.

• Roteamento baseado em benchmarks definidos pelo usuário.
• Priorizar modelos mais econômicos para tarefas simples e rotineiras.
• Testar modelos novos e alternativos sem precisar mudar toda a configuração.

Custos e Limitações Iniciais

O serviço é gratuito para uso até o final de 2026, com um crédito inicial de US$ 26. É importante notar que os custos de inferência dos modelos de IA, ou seja, o uso dos LLMs em si, não estão inclusos nessa gratuidade e ainda serão cobrados. Por enquanto, o Router está disponível apenas nos Estados Unidos e o preço para depois de 2026 não foi divulgado.

Uma característica notável é a política de retenção de dados: por padrão, inputs e outputs dos modelos são gravados por um ano. No entanto, a Ramp afirma remover informações de identificação pessoal antes de usar esses dados para melhorar o produto. O Router é similar a outras opções no mercado, como o OpenRouter, mas atualmente oferece menos opções de modelos.