A CoreWeave saját mérése szerint az élre került
A CoreWeave közlése alapján a vállalatnál fut a leggyorsabban a Moonshot AI Kimi K2.6 modellje az azt kínáló szolgáltatók között. A cég állítása szerint egyszerre biztosítja a legmagasabb kimeneti tokensebességet és a legalacsonyabb késleltetést. Az eredményt az Artificial Analysis külső méréseire, valamint a CoreWeave saját optimalizációira alapozza. A részletekről az aihirek.info beszámolója szerint a vállalat többféle futtatási megoldással is igyekszik kiszolgálni az eltérő ügyféligényeket.
A bejelentés azért is érdekes, mert a Kimi K2.6 a nyílt súlyú modellek között rövid idő alatt jelentős figyelmet kapott. A CoreWeave szerint a modell az OpenRouter ranglistáján a második helyet foglalja el, és a széles körben használt nyílt súlyú rendszerek közé tartozik.
Egymillió millió paraméter, széles körű feladatokra
A Moonshot AI zászlóshajóként mutatta be a Kimi K2.6-ot, amely 2026. április 20-án jelent meg. A rendszer egy 1 billió paraméteres, szakértőkeveréses, vagyis Mixture-of-Experts modell. Tokenenként 32 milliárd aktív paraméterrel dolgozik, natív multimodális bemenetet kezel, és 262 ezer tokenes kontextusablakkal rendelkezik.
A nagy kontextusméret és a multimodális működés mellett a modell több, eltérő jellegű teszten is eredményesen szerepelt. A CoreWeave által idézett adatok szerint a Kimi K2.6 a következő pontszámokat érte el:
- BrowseComp: 86,3 pont
- SWE-Bench Verified: 80,2 pont
- Terminal-Bench 2.0: 66,7 pont
A vállalat úgy látja, hogy a modell különösen gyorsan terjed a kódolási ügynökök és a több lépésből álló ügynöki keretrendszerek körében. Ezekben az alkalmazásokban a válaszidő és a folyamatos feldolgozás sebessége közvetlenül befolyásolhatja a használhatóságot.
205 kimeneti token másodpercenként
Az Artificial Analysis 11 szolgáltató Kimi K2.6-inferenciáját vetette össze a kimeneti sebesség és az ár alapján. A közzétett grafikonon a CoreWeave 205 kimeneti token/másodperc értékkel szerepel. A következő adat 158, a harmadik pedig 125 token/másodperc volt.
Az elemzés nem pusztán a nyers sebességet vizsgálja. Az ár és a teljesítmény együttes értékelésénél a gyorsaságot és a tokenenkénti költséget is figyelembe veszik. Az ár összehasonlítása 7:2:1 arányban számol a gyorsítótár-találatokkal, a bemeneti tokenekkel és a kimeneti tokenekkel. A CoreWeave szerint ebben, a sebesség és az ár alapján meghatározott legkedvezőbb negyedben is vezető helyet szerzett.
A vállalat hangsúlyozza, hogy az eredmény független, külső mérésből származik, és 2026. május 11-én volt érvényes. A számok tehát egy adott időpontban rögzített állapotot mutatnak, nem pedig minden körülmények között garantált teljesítményt.
Kvantálás és háromféle használati modell
A CoreWeave szerint a teljesítménynövekedésben fontos szerepet játszott az egyedi, NVFP4 formátumra kvantált modell, valamint az EAGLE3 spekulatív dekódolás együttes alkalmazása. A vállalat Applied Training csapata NVIDIA GB300 és GB200 NVL72 klasztereken dolgozik, többek között az NVIDIA Model Optimizer PTQ használatával.
A fejlesztéseket a közlés szerint a Weights & Biases és korszerű tesztkeretrendszerek segítségével értékelték. A kvantált modell minőségét a Terminal-Bench 2.0, a SWE-Bench Verified, a SWE-Bench Pro, a GPQA Diamond, az AIME 2026 és a LiveCodeBench v6 teszteken is ellenőrizték. A CoreWeave célja az volt, hogy a gyorsabb működés ne járjon a modell minőségének romlásával.
Az ügyfelek háromféle módon férhetnek hozzá az inferenciaszolgáltatáshoz:
- A Serverless Inference egységes API-n keresztül ad hozzáférést több modellhez.
- A Dedicated Inference nagyobb rugalmasságot kínál a GPU, a futási konfiguráció és az automatikus skálázás beállításában, miközben az infrastruktúrát a CoreWeave kezeli.
- A CoreWeave Kubernetes Service, vagyis a CKS futtatási környezetében az ügyfelek közvetlenül kezelhetik a GPU-kat, a környezetet, a vezérlést és a kapacitást.
A választási lehetőségek révén a felhasználók a tokenalapú fogyasztás és a GPU-alapú skálázás között dönthetnek. Így a költség és a teljesítmény a konkrét munkafolyamathoz igazítható.
