Az Intel és a SambaNova új, többkomponensű architektúrát jelentett be, amely a mesterséges intelligencia inferencia feladatainak hatékonyabb kiszolgálását célozza. A megközelítés lényege, hogy nem egyetlen chiptípusra épít, hanem a feladatokat különböző hardverek között osztja szét.
A rendszerben a GPU-k végzik az úgynevezett előfeldolgozási lépéseket, ahol a bemeneti promptokból kulcs-érték struktúrák készülnek. Ezt követően a SambaNova saját fejlesztésű RDUs egységei felelősek a tokenek generálásáért, alacsony késleltetés és nagy áteresztőképesség mellett. A folyamat központi irányítását az Intel Xeon 6 processzorai látják el.
A koncepció egyik kulcseleme, hogy a CPU nem háttérszereplőként jelenik meg, hanem a teljes rendszer működésének irányító rétegeként. A Xeon processzorok felelnek a feladatok elosztásáért, a kódok végrehajtásáért, valamint az egyes folyamatok közötti kommunikációért. Ide tartozik a fordítás, az eredmények ellenőrzése és az egyidejű műveletek koordinálása is.
A megközelítés különösen az úgynevezett agent-alapú AI rendszerek esetében válik fontossá, ahol egyszerre több ezer folyamat fut párhuzamosan. Ezek során különböző lekérdezések, kódgenerálási feladatok és rendszerszintű műveletek zajlanak, amelyek összehangolt működést igényelnek.
A fejlesztők szerint az új Xeon 6 processzorok jelentős teljesítménynövekedést kínálnak bizonyos feladatoknál. A mérések alapján a fordítási műveletek akár 50 százalékkal gyorsabbak lehetnek egyes Arm-alapú szerverprocesszorokhoz képest, míg vektoralapú adatbázis-kezelésnél akár 70 százalékos előnyt is elérhetnek más x86 rendszerekkel szemben.
A rendszer egyik fontos gyakorlati előnye, hogy meglévő adatközponti infrastruktúrában is használható. Nem igényel speciális hűtési megoldásokat vagy teljesen új környezetet, ami csökkentheti a bevezetés költségeit és gyorsíthatja a skálázást.
A megoldás várhatóan 2026 második felében válik elérhetővé vállalati, felhős és állami felhasználók számára. A cél, hogy alternatívát kínáljon az egyre inkább GPU-központú megközelítésekkel szemben.
A bejelentés egy olyan időszakban érkezik, amikor a mesterséges intelligencia számítási feladatai körül egyre erősebb a verseny. Az Nvidia és más szereplők a teljesítmény növelésére és a késleltetés csökkentésére koncentrálnak, miközben új architektúrák jelennek meg. Az Intel és a SambaNova együttműködése azt jelzi, hogy a jövőben a heterogén rendszerek válhatnak meghatározóvá az AI-inferencia területén.
