Casa - Esplorare - Dettagli

Ricetrasmettitore ottico 800G

Oggi abbiamo qualcosa di molto interessante: uno sguardo più da vicino al COBTELCOLORZ 800 (ricetrasmettitore in fibra ottica di precisione OSFP112-DR8). Si tratta di un volo-ZR+ 800G a lunga percorrenzaricetrasmettitore ottico, utilizzando il fattore di forma collegabile OSFP standard, ma può raggiungere velocità di 800 Gbps su distanze di 500 chilometri o anche più di 1000 chilometri. Può anche essere configurato per supportare la comunicazione a 400 Gbps su distanze fino a 2500 chilometri. Abbiamo dato uno sguardo all'interno delCOBTELlab per capire come funziona questa tecnologia ottica coerente e volevo mostrarvi come riescono a raggiungere questo obiettivo.

COBTEL COLORZ 800. This is a long-distance 800G ZR+ optical module, using the standard OSFP pluggable form factor, but it can achieve speeds of 800Gbps over distances of 500 kilometers or even more than 1000 kilometers.

1.COBTEL COLORZ 800 può raggiungere velocità di 800 Gbps su 1000 chilometri.

 

Al giorno d'oggi, la regola nei data center è fondamentalmente: utilizzare il più possibile cavi in ​​rame e, quando la distanza è eccessiva, utilizzare la fibra ottica. Se guardi prodotti come NVIDIA GB200 NVL72, scoprirai che la sua più grande innovazione è la possibilità di utilizzare cavi in ​​rame sul backend per interconnettere 72 GPU e switch.

the rule in data centers is basically: use copper cables as much as possible, and when the distance is too far, use fiber optics.

Oltre la lunghezza del cavo di circa 3 metri, le linee ad alta-velocità e i cavi in ​​rame non possono essere utilizzati insieme a causa di problemi di integrità del segnale.

003

Mentre i cavi in ​​rame solitamente possono raggiungere i rack adiacenti, i ricetrasmettitori ottici possono essere utilizzati per coprire distanze maggiori. Tuttavia, c'è un problema. I ricetrasmettitori ottici utilizzano tecnologie diverse per coprire distanze diverse a velocità diverse.

While copper cables can usually reach within and adjacent racks, optical modules can be used to span longer distances. However, there's a catch. Optical modules use different technologies to span different distances at different speeds.

I ricetrasmettitori ottici a corto-raggio operanti a 10 Gbps o 100 Gbps sono molto più economici da produrre rispetto ai ricetrasmettitori ottici a lungo-raggio operanti a 400 Gbps o 800 Gbps, soprattutto perché la complessità della tecnologia è in aumento.

Short-range optical modules operating at 10Gbps or 100Gbps are much cheaper to manufacture than long-range optical modules operating at 400Gbps or 800Gbps, largely because the complexity of the technology is increasing.

Un altro aspetto è il fattore di forma (la dimensione fisica e la forma del modulo) delricetrasmettitore ottico.
I moduli con fattore di forma in stile CFP- sono più comuni nelle applicazioni di telecomunicazioni. Nei data center, tendiamo a vedere moduli SFP di piccole dimensioni per applicazioni di fascia bassa-e moduli QSFP e OSFP più grandi per applicazioni ad alta-velocità. Anche le comuni schede NIC per infrastrutture IA, come l'adattatore NVIDIA ConnectX-7 400GbE, utilizzanoOSFP. Oggi parliamo del modulo COBTEL COLORZ III 800G ZR+ OSFP. OSFP fornisce un modulo standard più grande con alimentazione, raffreddamento e, cosa più importante, lo spazio necessario per gestire tutti i componenti. Sembra questo:

SFP provides a larger module standard with power, cooling, and more importantly, the space needed to handle all the components. It looks like this

 

In poche parole, da un lato, il modulo riceve i segnali elettrici dal dispositivo.

on one side, the module receives electrical signals from the device.

Dall'altra estremità, abbiamo le porte ottiche di trasmissione e ricezione in cui sono inseriti i cavi in ​​fibra ottica.

On the other end, we have the optical transmit and receive ports where the fiber optic cables are inserted.

Anche se sembra semplice, all'interno dell'involucro metallico accade qualcosa di straordinario. I segnali elettrici vengono convertiti in segnali ottici e i segnali ottici vengono riconvertiti in segnali elettrici. Spiegheremo cosa succede all'interno ad alto livello in modo che la maggior parte delle persone possa capire.
Successivamente, daremo uno sguardo all'interno dell'involucro OSFP e spiegheremo come funziona.

 

2. Il Laboratorio Ottico COBTEL è attrezzato internamente con l'ottica COLORZ 800 ZR+ricetrasmettitore.

 

È stato dimostrato che il posizionamento dei componenti all'interno del ricetrasmettitore ottico è fondamentale. Anche una deviazione di un-millimetro nel posizionamento dei componenti può influire in modo significativo sulle sue prestazioni. In genere, le aziende scoraggiano lo smontaggio di questi moduli-di fascia alta. Invece, abbiamo assistito a una dimostrazione nel laboratorio di COBTEL, che era essenzialmente una versione ingrandita-di ciò che c'è all'interno di quel piccolo contenitore metallico OSFP.

a large circuit board laid out like this is not suitable for networking devices, so another impressive aspect is not just the ability to create 400Gbps 2500km or 800Gbps 1000km communication modules, but also to package them into standard pluggable form factor modules.

Naturalmente, un circuito stampato di grandi dimensioni disposto in questo modo non è adatto per dispositivi di rete, quindi un altro aspetto impressionante non è solo la capacità di creare moduli di comunicazione da 400 Gbps 2500 km o 800 Gbps 1000 km, ma anche di impacchettarli in moduli con fattore di forma collegabile standard.
Guardando questa piattaforma, la prima cosa che noterai è il cortoDAC (cavo a collegamento diretto). Questa è l'interfaccia del segnale elettrico da 800 Gbps.

the first thing you'll notice is the short DAC (Direct Attach Cable). This is the 800Gbps electrical signal interface.

Questa è una vista della scheda di sviluppo dall'altro lato.

This is a view of the development board from the other side.

Puoi considerarlo come il lato elettrico del modulo che vedi qui:

You can think of this as the electrical side of the module you see here

La prima tappa avviene attraverso il COBTEL Orion DSP. Questo è il componente tra le estremità elettriche e ottiche, utilizzato per ripulire il segnale.

The first stop is through the COBTEL Orion DSP. This is the component between the electrical and optical ends, used to clean up the signal.

Per darti un'idea di cosa c'è dentro, ecco il DSP COBTEL Orion e il modulo COLORZ III 800G ZR+ in cui è alloggiato. QuestoModulo OSFPsi trova sopra i moduli collegabili COLORZ II (400G) e COLORZ I (100G) di vecchia generazione.

here's the COBTEL Orion DSP and the COLORZ III 800G ZR+ module it's housed in. This OSFP module sits above the older generation COLORZ II (400G) and COLORZ I (100G) pluggable modules.

Questi DSP sono impressionanti perché devono gestire attività di elaborazione significative all'interno di uno spazio e di un budget energetico altamente limitati. Mentre i normali chip NIC da 10 Gbps o 25 Gbps sono realizzati utilizzando tecnologie di processo significativamente più vecchie, questi DSP sono realizzati utilizzando un processo a 5 nm per gestire i vincoli di potenza e spazio all'interno dell'ingombro del modulo OSFP.
Partendo dal DSP, il segnale di trasmissione viene instradato al CDM, o Coherent Driver Module, che è il più piccolo dei due box dorati/ottone sottostanti, dove è collegata una singola fibra.

Starting from the DSP, the transmission signal is routed to the CDM, or Coherent Driver Module, which is the smaller of the two golden/brass boxes below, where a single fiber is connected.

Per brevità, non entreremo nei dettagli di come funziona il PIC, ma in quella piccola scatola abbiamo i componenti necessari per convertire i segnali elettrici in segnali ottici utilizzando una sorgente laser, modulatori e altri componenti. A un'estremità della scatola immettiamo segnali elettrici e all'altra estremità emettiamo luce sul fascio di fibre. Questa è l'estremità della trasmissione su questa scheda demo.
A questo punto, potresti aver intuito che la casella leggermente più grande a sinistra è l'estremità ricevente, nota come ICR, o ricevitore coerente integrato. Se utilizzi spesso cavi LC e ottiche monomodali-, noterai immediatamente: ci sono due cavi in ​​fibra sull'estremità ricevente. È qui che questa tecnologia è leggermente più complessa rispetto alle ottiche a basso-costo e a bassa{{4}velocità che eseguono solo il rilevamento diretto (tipo di analisi "c'è luce o no").

the slightly larger box on the left is the receiving end, known as the ICR, or Integrated Coherent Receiver. If you often use single-mode LC cables and optics, you'll immediately notice: there are two fiber cables on the receiving end. This is where this technology is slightly more complex than low-cost and low-speed optics that only perform direct detection

Sul circuito stampato non solo è presente una fibra terminale di ricezione, ma è presente anche un oscillatore locale che alimenta un secondo segnale nell'ICR. Consideratelo come un segnale di riferimento per il confronto di fase. All'interno dell'ICR è presente un ibrido a 90 gradi, un componente passivo che aiuta, tra le altre cose, a mantenere le informazioni su fase e ampiezza. L'ICR è inoltre dotato di fotorilevatori per ricevere segnali ottici e quindi produrre uscite elettriche all'altra estremità. I segnali elettrici sono generalmente deboli, quindi utilizziamo un TIA, o amplificatore a transimpedenza, per convertire la debole corrente proveniente dal fotorilevatore in una tensione misurabile. Pensatelo come un amplificatore sul lato elettrico.

there is also a local oscillator that feeds a second signal into the ICR. Think of it as a reference signal for phase comparison. Inside the ICR is a 90-degree hybrid, a passive component that helps maintain phase and amplitude information, among other things. The ICR is also equipped with photodetectors to receive optical signals and then produce electrical outputs at the other end

In genere, anche questi componenti richiedono raffreddamento, quindi la scheda di riferimento assomiglia più a questa:

these components also require cooling, so the reference board looks more like this:

Anche la sorgente laser di riferimento richiede un dissipatore di calore per il raffreddamento. Quando dico che siamo riusciti a entrare nel laboratorio, è chiaro che si tratta di un vero e proprio ambiente di laboratorio.

Even the reference laser source requires a heat sink for cooling. When I mention that we managed to get into the lab, it's clear that this is a true lab setting.

Quindi, i segnali elettrici dall'ICR possono essere immessi nel DSP Orion dal lato elettrico.

the electrical signals from the ICR can be fed into the Orion DSP on the electrical side.

Ciò completa l'intero ciclo di elaborazione del segnale, coprendo sia il dominio elettrico che quello ottico.

This completes the full cycle of signal processing, covering both the electrical and optical domains.

È importante notare che ciascun lato di questa piattaforma di sviluppo è in definitiva assemblato e gestito termicamente all'interno del fattore di forma OSFP.

Each side of this development platform is ultimately packaged and thermally managed within the OSFP form factor.

Al di là dell'hardware, discutiamo brevemente la necessità di un segnale laser di riferimento e la distinzione tra rilevamento diretto e rilevamento coerente.

 

3. Rilevazione diretta e rilevazione coerente

 

Nell'ambito dell'articolo, una delle mie idee è esplorare le differenze tra rilevamento diretto e rilevamento coerente, comunemente utilizzati nei dispositivi ottici di fascia bassa e a basso costo.
Coloro che hanno bisogno di approfondire la matematica e la fisica potrebbero già averne familiarità. Molti metodi di rilevamento del segnale si concentrano sulla semplice questione se un segnale sia presente o meno. In un modulo da 10 Gbps molto semplice, questo può essere inquadrato come "C'è luce o no?" Questo può essere rappresentato in molti modi 2D abbastanza semplici, nonché attraverso schemi di codifica più complessi. In laboratorio, vediamo spesso diagrammi a occhio-rappresentazioni grafiche della qualità del segnale-come quello mostrato di seguito (dalla divisione Silicon Photonics di Intel del 2019, che Intel ha venduto quello stesso anno).

we often see eye diagrams-graphical representations of signal quality-like the one shown below

Il rilevamento coerente è molto più complesso, poiché consente tecniche più avanzate che utilizzano la luce. Invece di rilevare solo la presenza della luce, possiamo osservare la "costellazione" del segnale. Entrambi i diagrammi mostrano la polarizzazione X e Y, risultando in 16 possibili costellazioni.

Both diagrams display X and Y polarization, resulting in 16 possible constellations.

Questo è il motivo per cui è fondamentale avere un riferimento all'oscillatore locale. Per codifiche più complesse, abbiamo bisogno delle informazioni aggiuntive fornite da quel riferimento.
Se sei curioso di conoscere le differenze tra rilevamento diretto e rilevamento coerente, sono disponibili numerosi articoli dettagliati sull'argomento. Per gli spettatori STH, il punto chiave è che mentre il modulo 800G ZR+ OSFP può sembrare un modulo 100G SR4 QSFP28 leggermente più grande, i suoi interni sono molto diversi.
Quindi, la grande domanda è: "Perché tutto questo è importante?" Un motivo semplice è che l’implementazione di data center in più regioni può essere vantaggiosa in termini di costi e resilienza. La connessione diretta da uno switch a un data center distante 1.000 chilometri o più consente alle organizzazioni di ospitare più infrastrutture in luoghi stabili e a costi inferiori-. Inoltre, se disponi di due campus geograficamente distanti, collegarli con una larghezza di banda da 400 Gbps a 800 Gbps potrebbe-cambiare le regole del gioco.

the key takeaway is that while the 800G ZR+ OSFP module may look like a slightly larger 100G SR4 QSFP28 module, its internals are vastly different.

Ma in realtà, uno dei maggiori fattori trainanti dell’ottica collegabile oggi è la costruzione di data center AI. Questa costruzione è vincolata alla disponibilità di energia, quindi gli operatori dei data center si stanno concentrando sulla sicurezza dell'energia. I piani includono la costruzione di grandi data center accanto alle centrali elettriche esistenti, la creazione di nuove fonti di energia per i data center e altro ancora. Ridurre al minimo le perdite di trasmissione aiuta a massimizzare la potenza disponibile per l'elaborazione. La sfida è che i cluster richiedono così tanta potenza che fare affidamento su un unico sito potrebbe non essere più fattibile.

Pluggable optical modules

Sentiamo spesso l'idea di collocare più data center vicino a fonti di alimentazione anziché concentrare l'elaborazione in un unico campus. È interessante notare che questo è anche ciò che molti minatori di criptovalute stavano esplorando tra la metà-e la-fine degli anni 2010. La differenza è che le mining farm non richiedono accesso reciproco ad alta-larghezza di banda e bassa-latenza, a differenza dei cluster AI.
L'idea è che la creazione di cluster su-scala su più siti vicino a fonti di energia disponibili può far risparmiare sulle perdite e sui costi di trasmissione dell'energia e potrebbe anche essere più semplice. Invece di concedere licenze e costruire grandi fonti di energia, le organizzazioni possono accendere la fibra spenta-cavi in ​​fibra ottica non utilizzati-o posare fibra aggiuntiva per collegare cluster a diverse fonti di energia più piccole.

these modules allow organizations to use common pluggable optical modules (rather than dedicated DCI boxes) to establish fast links spanning long distances in a relatively cheap and easy way.

Quindi, la risposta semplice è che questi moduli consentono alle organizzazioni di utilizzare comuni ricetrasmettitori ottici collegabili (piuttosto che box DCI dedicati) per stabilire collegamenti veloci su lunghe distanze in modo relativamente economico e semplice. Ciò che è ancora più entusiasmante è il potenziale di una distribuzione geografica su larga-scala delle risorse AI.
I moduli collegabili appaiono spesso come semplici gusci metallici. Da questo punto di vista, è difficile dire perché uno sia più complesso dell’altro.

Pluggable modules often appear as simple metal shells. From this perspective, it's hard to tell why one is more complex than the other.

Esaminando le parti interne dei moduli-di fascia alta, possiamo comprendere meglio la complessità di queste ottiche collegabili. Abbiamo esaminato un ricetrasmettitore ottico 100G SR4 semplice e a basso-costo, molto diverso dal ricetrasmettitore ottico 800G ZR+. Il motivo è che, nonostante sembrino simili, il modulo COLORZ III può trasmettere dati ad una velocità 8 volte superiore su distanze 10.000 volte maggiori. Questo è probabilmente il motivo per cui ho pensato che fosse una demo così interessante quando l'ho vista per la prima volta.

 

4. 100Smontaggio rapido della struttura interna del DAC G QSFP28

 

Alcuni potrebbero aver notato dal contesto precedente che abbiamo anche smontato un DAC QSFP28 da 100G e un ricetrasmettitore ottico SR4 QSFP28 da 100G. Pensiamo che sia importante mostrarti cosa c'è all'interno del modulo, quindi questo articolo rivelerà cosa c'è all'interno dell'involucro del DAC.
Il cavo che stiamo per aprire è etichettato come DAC Intel. Questo è abbastanza tipicoDAC QSFP, con un connettore elettrico da un lato e un cavo dall'altro.

This is a fairly typical QSFP28 DAC, with an electrical connector on one end and a cable on the other.

L'apertura della custodia è abbastanza semplice. Alcuni involucri, come questo, utilizzano semplici viti per tenerli insieme. Altri utilizzano metodi di connessione-più{2}}da{3}}aprire. Ti consigliamo, se apri tu stesso l'involucro, di provare a usarne uno con viti facilmente serrabili. Inoltre, tieni presente che il meccanismo di fissaggio QSFP28 solitamente ha una molla. È noto che aprendo questi involucri la molla può fuoriuscire dall'involucro.

Some casings, like this one, use simple screws to hold them together. Others use more difficult-to-open connection methods. We recommend that if you are opening the casing yourself, try to use one with easily tightened screws.

All'interno dell'involucro possiamo vedere che il PCB è molto semplice. Infatti si possono vedere molte tracce tra il connettore QSFP28 ed i fili interni del cavo.

Inside the casing, we can see that the PCB is very simple. In fact, you can see many traces between the QSFP28 connector and the internal wires of the cable.

 
Il modulo ha fili schermati spessi, della stessa lunghezza del DAC. Ogni filo ha un numero, che potrebbe essere utile per la produzione. Le connessioni e le estremità dei cavi sono rivestite con resina o resina epossidica per fissarle ai punti di saldatura del PCB. Successivamente otteniamo del nastro di rame e un'uscita del cavo flessibile con supporti curvi. Entrambe le parti sembrano molto simili.

, here's what the inside of a low-cost QSFP28 100G SR4 DAC looks like, specifically the PIC (Photonic Integrated Circuit) side. The alignment of the optical fibers must be more precise, and the photon-to-circuit interface is much more complex than the internal structure of the DAC.

Giusto per darti un'idea, ecco come appare l'interno di un DAC QSFP28 100G SR4 a basso costo, in particolare il lato PIC (circuito integrato fotonico). L'allineamento delle fibre ottiche deve essere più preciso e l'interfaccia fotone-a-circuito è molto più complessa della struttura interna del DAC.
La maggior parte delle persone non avrà mai bisogno di sbirciare all'interno di un DAC. Sono progettati per essere plug{1}}and-play e non richiedono manutenzione. Tuttavia, riteniamo che valga la pena aprire un'estremità del case per mostrare come funzionano questi cavi. Dovremmo almeno sottolineare che si tratta di cavi passivi. Esistono AEC (cavi elettrici attivi), che dispongono di chip di risincronizzazione attivi nei connettori dei cavi che aiutano a migliorare la qualità del segnale, consentendo ai segnali ad alta-velocità di viaggiare più lontano sul rame. Gli AEC sono più complessi,- assetati di energia e costosi. Detto questo, per quanto riguarda la semplicità del design del DAC, speriamo che queste foto vi diano un'idea migliore.

Invia la tua richiesta

Potrebbe piacerti anche