A mesterséges intelligencia felpörgette az igényt a gyorsabb és nagyobb kapacitású memóriarendszerek iránt, de a mai hardverek még mindig arra kényszerítik a tervezőket, hogy egyensúlyozzanak a sebesség, a kapacitás és a költség között. A Sandisk és az SK hynix szerint a High Bandwidth Flash (HBF) segíthet áthidalni ezt a szakadékot, és most fontos lépést tettek afelé, hogy a technológia valósággá váljon.

A két cég bejelentette az első High Bandwidth Flash műszaki specifikáció kiadását az Open Compute Projecten keresztül. Nem egy kész terméket mutattak be, hanem egy közös keretrendszert, amelyre a hardvergyártók támaszkodhatnak, amikor a jövőbeli, HBF-re épülő AI-rendszereiket tervezik.

A szabványosítás során a Google és a Tenstorrent is csatlakozott a konzorciumhoz, így a két memóriagyártón túl további iparági szereplők is támogatják a kezdeményezést.

A hagyományos SSD-kkel ellentétben a HBF-et úgy tervezték, hogy sokkal közelebb helyezkedjen el az AI processzorokhoz, egy új réteget képezve a drága High Bandwidth Memory és a hagyományos flash tároló között. A cél, hogy jóval nagyobb kapacitást nyújtson, mint a HBM, miközben lényegesen nagyobb sávszélességet biztosít, mint egy SSD. Így az AI-inferencia rendszerek egy újabb lehetőséget kapnak a nagy nyelvi modellekhez szükséges hatalmas adathalmazok tárolására.

A közzétett specifikáció leírja a host interfészt, az elektromos követelményeket, a megbízhatósági iránymutatásokat, a csomagolási ajánlásokat és a szoftveres viselkedést, amelyek a HBF-eszközök támogatásához szükségesek. Az SK hynix további technikai részleteket is megosztott, például hogy akár 512 GB kapacitást is támogatnak 8 és 16 rétegű NAND stackekkel, valamint hogy a sávszélességi szintek nagyjából 0,4 TB/s és 3,0 TB/s között mozognak.

A specifikáció az iparági szabványnak számító UCIe chiplet interfészt használja, így a HBF különféle processzortípusokhoz, többek között CPU-khoz és GPU-khoz is csatlakozhat.

Mivel a specifikáció az OCP-n keresztül jelenik meg, az iparág szereplői egymással kompatibilis termékeket fejleszthetnek, a saját, zárt megvalósítások helyett. Ha a HBF hasznosnak bizonyul a valós AI-infrastruktúrákban, ez felgyorsíthatja az elterjedését.

Most azonban elsősorban a szabványosításról van szó, nem a teljesítményről. Egyik cég sem jelentett be kereskedelmi HBF-terméket, nem tettek közzé független benchmarkokat, és nem mutattak be éles rendszereket, amelyek már használják a technológiát. Az, hogy a HBF végül általános építőelemmé válik-e az AI-szerverekben, attól függ, mennyire karolják fel a hardvergyártók a szabványt a következő években.

A HBF-bejelentéssel párhuzamosan az SK hynix előzetesen bemutatta közelgő, tizedik generációs, 375 rétegű V10 4D NAND technológiáját a Future of Memory and Storage konferencián. A cég szerint az új NAND 2,5-szeresére javítja az energiahatékonyságot az előző generációhoz képest, és a tervek szerint a jövő év elején kezdi meg az erre épülő vállalati SSD-k tömeggyártását.

Ha a HBF valóban teret nyer, alapjaiban alakíthatja át az AI-szerverek memóriaszervezését azzal, hogy új réteget ad a mai, rendkívül gyors HBM és a hagyományos flash tároló közé. Ez az ígéret még nem bizonyított, de egy nyílt specifikáció közzététele fontos első lépés egy, a technológia köré épülő ökoszisztéma felé.