Execute agentes em modelos de fronteira geridos hoje mesmo — ou alugue capacidade de GPU, implemente os seus próprios pesos e reencaminhe tarefas Digio para endpoints privados no mesmo espaço de trabalho.
Atribua um modelo padrão por agente ou substitua por tarefa. A utilização é medida em Digio Tokens a partir do saldo do seu plano – a mesma carteira, quer o agente ligue para a Sonnet, GPT-4o ou Gemini Flash.
Model list and token economics evolve with provider releases. Your workspace shows live options when you assign a model to an agent; Digio Tokens debit from the same balance as in pricing.
O Coordenador pode recomendar Sonnet vs Opus vs um modelo flash mais barato com base no tipo de tarefa. Os utilizadores avançados definem os padrões por função de agente: pesquisa no Sonnet, revisão final no Opus, marcação em massa no Haiku ou Gemini Flash.
Per agent — default model in agent settings; override in To do or chat when needed.
Metered fairly — input, output, and cached tokens map to Digio Token charges (see usage in your wallet).
Skills stay the same — tools and integrations work across models; only latency and cost profile change.
Plan limits — more agents and monthly Digio Tokens on higher tiers; top up anytime on the pricing page.
Precisa de um ajuste fino, de um ponto de verificação isolado ou de preços de inferência previsíveis? Adicione capacidade de GPU dedicada ao seu espaço de trabalho Digio, instale a pilha de serviços da sua preferência e aponte os agentes para o seu endpoint privado.
Nós GPU por hora ou por mês (classe A100, H100, L40S) anexados ao seu tenant, isolados de outros clientes.
Faça o upload de safetensors, GGUF ou extraia do seu registo; execute Llama, Mistral, Qwen e ajustes finos personalizados.
vLLM, TGI, Ollama ou imagens de contentor que mantém – os agentes Digio chamam um URL base compatível com OpenAI.
Para o fazer, o chat em equipa, as competências e a colaboração permanecem inalterados – apenas o back-end de inferência é seu.
Envie etapas confidenciais para GPU privada e utilize Claude ou GPT para pesquisas públicas num único fluxo de trabalho.
peering VPC, saída estática, registos de auditoria e listas de permissões de modelos para equipas reguladas.
Configuração típica de zero até agentes que ligam para o seu endpoint:
Escolha VRAM, região e tempo de atividade (intermitente versus sempre ativo). O armazenamento para os pesos é enviado com a instância ou montado no seu bucket.
Inicie uma imagem de serviço ou SSH, instale controladores CUDA e carregue pontos de verificação. As verificações de integridade confirmam que o modelo está pronto.
Adicione URL base, chave API e ID do modelo nas definições do espaço de trabalho. Digio valida a latência e o formato do token antes de entrar em funcionamento.
Escolha o seu modelo privado como padrão para os agentes selecionados; os modelos Claude/GPT geridos permanecem disponíveis lado a lado.
O aluguer da GPU é cobrado separadamente das subscrições do plano Digio. Contacte-nos para planeamento de capacidade, SLAs e migração de um cluster de inferência existente.
Escolhendo APIs geridas versus inferência auto-hospedada no Digio.
A sua subscrição Digio cobre a infraestrutura, agentes e Digio Tokens incluídos. Débitos de utilização do modelo gerido que são equilibrados por tokens de entrada/saída reais. O aluguer de GPU é um complemento às máquinas que controla.
Sim, cada agente pode ter o seu próprio padrão. As tarefas e os chats podem ser substituídos numa única execução sem alterar o padrão global.
O Opus está sintonizado para raciocínios mais difíceis e planos mais coerentes; O Sonnet é mais rápido e mais barato para loops diários de agentes. Os modelos Haiku e da classe flash são melhores para subtarefas de volume.
Os espaços de trabalho empresariais podem restringir os fornecedores de modelos de saída e encaminhar todo o tráfego do agente para o endpoint da GPU. O modo híbrido é o padrão para a maioria das equipas.
As ofertas dependem da região e da procura – geralmente níveis de VRAM de 24 a 80 GB para modelos de classe 7B a 70B e nós multi-GPU para pilhas maiores. Ajudamos a dimensionar a VRAM a partir da contagem e quantização de parâmetros.
A orquestração (agentes, tarefas, armazenamento) mantém-se no seu plano. A inferência na sua GPU é cobrada como tempo de GPU; opcionalmente, pode medir a utilização em formato de token para estorno interno.
Agentes, tarefas e competências: o espaço de trabalho em torno do modelo que escolher.
Comece hoje mesmo com o Claude e o GPT e, em seguida, adicione GPU dedicada quando estiver pronto para alojar pesos personalizados — os mesmos agentes, as mesmas tarefas, a sua inferência.
