A cél: nagy nyelvi modellek (LLM) futtatása bizalmas környezetben – a felhő használata nélkül.
A Phison Electronics – a NAND flash és AI infrastruktúra technológiák egyik vezető szereplője – és a RedData (az RPI-CS, Inc. leányvállalata) bejelentették közös fejlesztésük, az aiDAPTIV+ technológia integrálását a RedData biztonságos AI-megoldásaiba.
A fejlesztés az Egyesült Államok szövetségi és titkosított programjai számára készült, és választ ad a „America’s AI Action Plan” által meghatározott új biztonsági és infrastrukturális kihívásokra.
A kihívás: biztonságos AI telepítés a felhő nélkül
A kormányzati szervek és a hírszerzési ügynökségek előtt álló legnagyobb akadály az, hogy biztonságos, on-premises (helyi) AI infrastruktúrát építsenek ki, amely nem függ a kereskedelmi felhőszolgáltatóktól.
A GPU-alapú rendszerek azonban drágák és nehezen skálázhatók – itt jön képbe a Phison új technológiája.
Mit tud az aiDAPTIV+ technológia?
A Phison aiDAPTIV+ egy innovatív GPU-memóriabővítő megoldás, amely NAND-flash alapú gyorsítótárakathasznál a VRAM kiterjesztésére. Ennek előnyei:
- Biztonságos, helyi AI-futtatás a felhő elhagyásával, akár titkosított környezetben.
- Támogatja az akár 671 milliárd paraméteres LLM-modelleket – például nagy nyelvi modellek vagy ügynökalapú AI rendszerek tanítását.
- Gyorsabb inferencia és válaszidő, mivel csökkenti a GPU KV cache szűk keresztmetszetét.
- Jelentős költségmegtakarítás, hiszen olcsóbb NAND-alapú memóriával bővíti a GPU-kat, így kevesebb drága hardverre van szükség.
A cél: ügynökalapú (Agentic) AI és LLM modellek a hírszerzésben
Az új megoldás lehetővé teszi, hogy az amerikai kormányzati ügynökségek és nemzetbiztonsági laborok a legérzékenyebb műveletek során is használhassanak AI-t, anélkül hogy adatokat kellene külső szolgáltatókra bízniuk.
„Az aiDAPTIV+ technológiát arra terveztük, hogy a GPU-k valódi teljesítményét szabadítsa fel a memóriahatárok átlépésével” – nyilatkozta Michael Wu, a Phison US elnöke.
„A RedDatával együttműködve közvetlenül az amerikai szövetségi ügyfelek számára biztosítjuk ezt a biztonságos, titkosított AI környezetet.”
A RedData alelnöke, Bill Downer, hozzátette:
„Ügyfeleink a legérzékenyebb feladatokra keresnek megbízható, bevethető AI-megoldásokat. A Phison integrációval most nagyobb modelleket taníthatnak, miközben teljesítik a szigorú titkosítási előírásokat.”
Mikor és hol lesz látható?
A Phison aiDAPTIV+-alapú RedData megoldások bemutatkoznak a NVIDIA GTC D.C. konferencián (2025. október 27–29.), a #667-es standon.
A rendszer már azonnal elérhető az Egyesült Államok szövetségi titkosított AI-programjai számára.
