Käivitage agente hallatud piirimudelitel juba täna või rentige GPU võimsust, juurutage oma kaalud ja suunake Digio ülesanded privaatsetesse lõpp-punktidesse samas tööruumis.
Määrake iga agendi jaoks vaikemudel või alistage iga ülesande kohta. Kasutust mõõdetakse Digio žetoonides teie plaani saldost – sama rahakotti, olenemata sellest, kas agent helistab Sonnetile, GPT-4o-le või Gemini Flashile.
Model list and token economics evolve with provider releases. Your workspace shows live options when you assign a model to an agent; Digio Tokens debit from the same balance as in pricing.
Koordinaator võib soovitada Sonnet vs Opus vs odavamat välklambi mudelit ülesande tüübi alusel. Võimsad kasutajad määravad vaikeväärtused agendirolli kohta – uurimine Sonnetis, viimane ülevaade Opusel, hulgisildistamine Haiku või Gemini Flashi puhul.
Per agent — default model in agent settings; override in To do or chat when needed.
Metered fairly — input, output, and cached tokens map to Digio Token charges (see usage in your wallet).
Skills stay the same — tools and integrations work across models; only latency and cost profile change.
Plan limits — more agents and monthly Digio Tokens on higher tiers; top up anytime on the pricing page.
Kas vajate peenhäälestust, õhuvahega kontrollpunkti või prognoositavat hinnakujundust? Lisage oma Digio tööruumi spetsiaalne GPU võimsus, installige eelistatud teeninduspinn ja suunake agendid oma privaatsesse lõpp-punkti.
Tunni- või kuupõhised GPU-sõlmed (A100, H100, L40S klass), mis on teie rentnikuga ühendatud – teistest klientidest isoleeritud.
Laadige üles seifid, GGUF või tõmmake oma registrist üles; käivitada Llama, Mistral, Qwen ja kohandatud peenhäälestused.
VLLM-, TGI-, Ollama- või konteinerkujutised, mida hooldate – Digio agendid kutsuvad OpenAI-ga ühilduva põhi-URL-i.
Selleks, meeskonnavestlus, oskused ja koostöö muutumatuna – teie päralt on ainult järelduste taustaprogramm.
Saatke tundlikud sammud privaatsesse GPU-sse ja kasutage Claude'i või GPT-d avalikuks uurimistööks ühes töövoos.
VPC peering, staatiline väljapääs, auditi logid ja mudelite lubatud loendid reguleeritud meeskondade jaoks.
Tüüpiline seadistus nullist teie lõpp-punkti helistavate agentideni:
Valige VRAM, piirkond ja tööaeg (sarivõte vs alati sees). Raskuste hoidla tarnitakse koos eksemplariga või kinnitatakse kopp.
Käivitage esituspilt või SSH, installige CUDA draiverid ja laadige kontrollpunktid. Tervisekontroll kinnitab, et mudel on valmis.
Lisage tööruumi seadetesse baas-URL, API võti ja mudeli ID. Digio kontrollib latentsust ja märgi vormingut enne avaldamist.
Valige valitud agentide jaoks vaikemudeliks oma privaatmudel; hallatavad Claude/GPT mudelid jäävad kõrvuti kättesaadavaks.
GPU rentimisel arveldatakse Digio plaani tellimustest eraldi. Võtke meiega ühendust võimsuse planeerimise, SLA-de ja olemasolevast järeldusklastrist üleminekuks.
Hallatud API-de ja isehostitud järelduste valimine Digios.
Teie Digio tellimus hõlmab infrastruktuuri, agente ja kaasasolevaid Digio märke. Hallatud mudelikasutus debiteerib selle märgi saldo tegelike sisend-/väljundlubade kaupa. GPU rentimine on teie juhitavate masinate lisandmoodul.
Jah – igal agendil võib olla oma vaikeseade. Ülesanded ja vestlused võivad alistada ühe töökorra jaoks ilma globaalset vaikeseadet muutmata.
Opus on häälestatud raskema arutluskäigu ja pikemate sidusate plaanide jaoks; Sonet on igapäevaste agendisilmuste jaoks kiirem ja odavam. Helitugevuse alamülesannete jaoks sobivad kõige paremini haiku- ja flash-klassi mudelid.
Ettevõtte tööruumid võivad piirata väljaminevaid mudelipakkujaid ja suunata kogu agendiliikluse teie GPU lõpp-punkti. Hübriidrežiim on enamiku meeskondade jaoks vaikerežiim.
Pakkumised sõltuvad piirkonnast ja nõudlusest – tavaliselt 24–80 GB VRAM-i tasemed 7B–70B klassi mudelite jaoks ja mitme GPU sõlmed suuremate virnade jaoks. Aitame määrata VRAM-i suurust teie parameetrite loendamisest ja kvantifitseerimisest.
Orkestreerimine (agendid, ülesanded, salvestusruum) jääb teie plaani juurde. Teie GPU kohta tehtud järelduste eest arvestatakse GPU aega; saate sisemise tagasimakse jaoks valikuliselt mõõta märgikujulist kasutust.
Agendid, ülesanded ja oskused – tööruum teie valitud mudeli ümber.
Alustage Claude'i ja GPT-ga juba täna, seejärel lisage spetsiaalne GPU, kui olete valmis majutama kohandatud kaalusid – samad agendid, samad ülesanded, teie järeldus.
