La nuova architettura dell’acceleratore Marvell AI (XPU) consente connessioni fabric scalabili con maggiore larghezza di banda e portata più estesa per server AI personalizzati.
Marvell Technology ha annunciato oggi la disponibilità della sua architettura XPU personalizzata con tecnologia co-packaged optics (CPO). Basandosi sulla sua architettura di elaborazione personalizzata con memoria ad elevata larghezza di banda (HBM) recentemente annunciata, Marvell sta ora estendendo la sua leadership nel silicio personalizzato consentendo ai clienti di integrare senza problemi CPO nelle loro XPU personalizzate di nuova generazione e di aumentare le dimensioni dei loro server AI da decine a centinaia di XPU all’interno di un rack che attualmente utilizza interconnessioni in rame utilizzando la tecnologia ottica CPO.
L’architettura innovativa consente agli hyperscaler cloud di sviluppare XPU personalizzate che raggiungono una maggiore densità di larghezza di banda e forniscono connessioni XPU-XPU a portata più lunga all’interno di un singolo server AI, con latenza ed efficienza energetica ottimali. L’architettura è ora disponibile per i progetti XPU personalizzati di nuova generazione dei clienti Marvell.
L’architettura dell’acceleratore AI personalizzato Marvell combina silicio di calcolo XPU, HBM e altri chiplet con motori Marvell 3D SiPho sullo stesso substrato utilizzando SerDes ad alta velocità, interfacce die-to-die e tecnologie di packaging avanzate. Questo approccio elimina la necessità che i segnali elettrici lascino il package XPU in cavi di rame o attraverso un circuito stampato. Con l’ottica integrata, le connessioni tra XPU possono raggiungere velocità di trasferimento dati più elevate e distanze 100 volte superiori rispetto al cablaggio elettrico. Ciò consente una connettività scalabile all’interno di server AI che si estendono su più rack con latenza e dissipazione di potenza ottimali.
La tecnologia CPO integra componenti ottici direttamente in un singolo pacchetto, riducendo al minimo la lunghezza del percorso elettrico. Questo accoppiamento ravvicinato riduce significativamente la perdita di segnale, migliora l’integrità del segnale ad alta velocità e riduce al minimo la latenza.
La tecnologia CPO migliora la produttività dei dati sfruttando motori ottici fotonici al silicio ad alta larghezza di banda, che forniscono velocità di trasferimento dati più elevate e sono meno suscettibili alle interferenze elettromagnetiche rispetto alle tradizionali connessioni in rame. Questa integrazione migliora anche l’efficienza energetica riducendo la necessità di driver elettrici ad alta potenza, ripetitori e retimer. Abilitando connessioni XPU-XPU a maggiore portata e densità, la tecnologia CPO facilita lo sviluppo di server AI scalabili ad alte prestazioni e alta capacità, ottimizzando sia le prestazioni di elaborazione che il consumo energetico per l’infrastruttura accelerata di prossima generazione.
Dimostrato per la prima volta all’OFC 2024, il primo Marvell 3D SiPho Engine del settore, che supporta interfacce elettriche e ottiche da 200 Gbps, è un elemento fondamentale per l’integrazione di CPO in XPU. Il Marvell 6.4T 3D SiPho Engine è un motore ottico altamente integrato con 32 canali di interfacce elettriche e ottiche da 200 G, centinaia di componenti come modulatori, fotodetector, driver di modulatori, amplificatori di trans-impedenza, microcontrollori e una serie di altri componenti passivi in un singolo dispositivo unificato per fornire 2 volte la larghezza di banda, 2 volte la densità di larghezza di banda in ingresso/uscita e il 30% di potenza in meno per bit rispetto a dispositivi comparabili con interfacce elettriche e ottiche da 100 G
Per oltre otto anni, Marvell ha fornito tecnologia fotonica al silicio per generazioni successive di moduli ottici di interconnessione per data center COLORZ ad alte prestazioni e bassa potenza . Questa tecnologia è stata qualificata e distribuita in produzione ad alto volume da numerosi hyperscaler per soddisfare le loro crescenti esigenze di larghezza di banda da data center a data center. I dispositivi fotonici al silicio Marvell hanno registrato oltre 10 miliardi di ore sul campo.
Marvell è stata pioniera nella trasformazione della tecnologia di interconnessione per migliorare le prestazioni, la scalabilità e l’economia delle infrastrutture. Il portafoglio di interconnessioni Marvell include SerDes ad alte prestazioni e IP di tecnologia die-to-die per comunicazioni ad alte prestazioni all’interno di XPU personalizzate, retimer PCIe per connessioni efficienti a corto raggio tra CPU e XPU sulla stessa scheda, dispositivi CXL innovativi per superare le sfide della memoria, processori di segnale digitale Active Electrical Cable e Active Optical Cable per connessioni a corto raggio all’interno di un rack, una gamma in espansione di DSP ottici PAM per connessioni rack-to-rack all’interno di data center e DSP coerenti e moduli di interconnessione per data center per collegare data center separati da migliaia di chilometri.
“L’acceleratore AI personalizzato Marvell con architettura CPO consente agli hyperscaler cloud di sviluppare XPU personalizzate che aumenteranno significativamente la densità e le prestazioni dei loro server AI“, ha affermato Will Chu, vicepresidente senior e direttore generale del Custom, Compute and Storage Group di Marvell. “L’integrazione dell’ottica direttamente nelle XPU porta l’infrastruttura accelerata personalizzata al livello successivo di scalabilità e ottimizzazione che gli hyperscaler devono fornire per soddisfare le crescenti richieste delle applicazioni AI”.
“I server AI scale-up richiedono connettività con velocità di segnalazione più elevate e distanze maggiori per supportare dimensioni di cluster XPU senza precedenti”, ha affermato Nick Kucharewski, vicepresidente senior e direttore generale della Network Switching Business Unit presso Marvell. “L’integrazione di ottiche co-confezionate in XPU personalizzate è il passo logico successivo per scalare le prestazioni con larghezze di banda di interconnessione più elevate e una portata maggiore”.
“La fotonica al silicio è fondamentale per scalare la connettività accelerata delle infrastrutture per rispondere alle crescenti richieste di larghezza di banda, distanze di interconnessione, consumo energetico e costo totale di proprietà”, ha affermato Radha Nagarajan, vicepresidente senior e responsabile della tecnologia di Optical Platforms presso Marvell. “Dal 2017, Marvell è stata pioniera nella fornitura di dispositivi fotonici al silicio ad alto volume ai principali hyperscaler e ha sfruttato questa competenza per creare un’architettura CPO all’avanguardia per il caso d’uso CPO killer della connettività XPU personalizzata”.
“Gli hyperscaler cloud integreranno la tecnologia CPO nelle loro XPU personalizzate di prossima generazione e nei server scale-up per soddisfare le crescenti richieste di prestazioni dell’IA. Prevediamo che CPO crescerà da meno di 50 mila spedizioni di porte oggi a oltre 18 milioni di porte CPO entro il 2029, con la maggior parte delle porte distribuite per le connessioni all’interno dei server“, ha affermato Vlad Kozlov, fondatore e CEO di LightCounting. “Con la sua esperienza nella tecnologia ottica e nelle XPU personalizzate, Marvell è nella posizione ideale per consentire agli hyperscaler di sbloccare il potenziale di CPO e renderlo parte integrante della loro infrastruttura”.
){kind=link}