Cad é NVLink? Conas a Oibríonn Sé, Bandwidth, agus Úsáidí GPU
2026-07-31 263

Braitheann córais il-GPU nua-aimseartha ar níos mó ná feidhmíocht GPU amh. Conas a mhalartaíonn próiseálaithe sonraí go tapa, conas a rochtainíonn siad ar chuimhne, agus conas a oibríonn siad le chéile d'fhéadfadh éifeacht mhór a bheith acu ar luas iomlán. Leagann an t-alt seo amach bandwidth NVLink agus glúine, déanann sé comparáid idir NVLink agus PCIe agus NVSwitch, clúdaíonn sé rochtain ar chuimhne GPU agus NVLink-C2C, agus taispeánann sé conas a úsáidtear NVLink i gcomhoibrithe AI agus HPC. Cuidíonn sé leat freisin cinneadh a dhéanamh cathain is féidir le NVLink feidhmíocht a fheabhsú agus cathain a d'fhéadfadh PCIe a bheith go leor cheana.

Catalóg

Cad é NVLink?

Is teicneolaíocht NVIDIA interconnect ardluais é NVLink le haghaidh aistriú sonraí idir GPUanna agus próiseálaithe eile i gcórais ríomhaireachta gasta. Is é an príomhaidhm atá aige ná an botún cumarsáide a laghdú nuair a bhíonn gá le hainmhithe éagsúla a chur san áireamh méid mór sonraí a mhalartú agus iad ag obair le chéile.

I gcórais il-ghníomhaire, d'fhéadfadh an feidhmíocht a bheith teoranta cé chomh tapaidh a chuaigh sonraí idir na gléasanna. Soláthraíonn NVLink comhoibriú ardbandwidth, íseal-latency a laghdaíonn moilleanna aistriú agus cuireann sé ar chumas na próiseálaithe atá ceangailte sonraí a mhalartú níos éifeachtaí.

Conas a Oibríonn NVLink?

Figiúir 2. Conradh GPU-go-GPU NVLink

Cruthaíonn NVLink cosán cumarsáide ardluais idir GPUanna comhoiriúnacha agus próiseálaithe eile. Nuair a bhíonn gá le dhá GPU a mhalartú sonraí, is féidir le rochtain chomhoibrithe a cheadú go dtéann sonraí go díreach idir a spásanna cuimhne seachas an t-aon aistriú a sheoladh tríd an mhoill cuimhne CPU.

Tacaíonn NVLink le cumarsáid déthreoch, mar sin is féidir le sonraí bogadh i dhá threo idir na próiseálaithe atá ceangailte. Is féidir le mehreren na nasctha NVLink oibriú le chéile freisin, rud a sholáthraíonn cosán leathan do aistrithe sonraí idir próiseálaithe.

Soláthraíonn NVLink an cosán fisiciúla do seo comhoibriú, agus bíonn sé de dhíth ar an gcreat bogearraí a chinneadh conas agus cathain a úsáidtear an cosán. Déanann CUDA, tiománaithe gléas, NCCL, agus an t-aplann bainistíocht na n-aistriún. Nuair a bhíonn rochtain chomhoibrithe tacaíochta agus é ag úsáid, is féidir le GPU amháin a léamh, scríobh, nó cóipeáil sonraí chuig cuimhne GPU eile trí na comhoibríochtaí NVLink atá ar fáil.

Glúine agus Bandwidth NVLink

D'fhás bandwidth NVLink le gach ailtireacht GPU NVIDIA mór. Bhí NVLink giniúint chéad ag teacht le Tesla P100 atá bunaithe ar Pascal, a tacaigh le ceithre nasctha NVLink agus suas le 160 GB/s de bhanda iomlán déthreoch in aghaidh GPU. D'ardóigh Volta V100 é seo go sé nasctha agus 300 GB/s in aghaidh GPU.

Tháinig NVLink giniúint trí le Ampere A100. Tacaíonn an A100 le 12 nasctha NVLink agus suas le 600 GB/s de bhanda iomlán déthreoch in aghaidh GPU. D'ardóigh Hopper H100 an líon nasctha go 18, ag ardú bandwidth NVLink giniúint ceathrú go 900 GB/s in aghaidh GPU.

Tháinig NVLink giniúint cúig le Blackwell, ag ardú bandia iomlán déthreoch go 1.8 TB/s in aghaidh GPU. D'ardóigh NVLink giniúint sé, a bhaineann le hardán Rubin, an uasmhéid go 36 nasctha agus suas le 3.6 TB/s in aghaidh GPU.

Glúine NVLink	Ailtireacht NVIDIA	Sampla GPU nó Ardán	Uasmhéid Naisc in aghaidh GPU	Uasmhéid Bandáistíocht Dhíreach in aghaidh GPU
NVLink 1	Pascal	P100	4	160 GB/s
NVLink 2	Volta	V100	6	300 GB/s
NVLink 3	Ampere	A100	12	600 GB/s
NVLink 4	Hopper	H100	18	900 GB/s
NVLink 5	Blackwell	GPUs Blackwell	18	1.8 TB/s
NVLink 6	Rubin	Ardán Rubin	36	3.6 TB/s

Bandáistíocht Per-Link i gcomparáid le Bandáistíocht iomlán NVLink

Déanann bandáistíocht in aghaidh naisc agus bandáistíocht iomlán in aghaidh GPU cur síos ar luachanna difriúla. D’fhéadfadh GPU roinnt naisc NVLink a bheith ann, mar sin comhoibríonn bandáistíocht iomlán in aghaidh GPU le bandáistíocht atá ar fáil ó na naisc tacaíochta go léir.

Mar shampla, tá 18 conradh NVLink 4 ag H100. Soláthraíonn gach nasc 50 GB/s de bandáistíocht dhíreach, ag tabhairt suimiú uasta de 900 GB/s in aghaidh GPU. Úsáideann Blackwell 18 conradh NVLink 5 ag 100 GB/s bandáistíocht dhíreach in aghaidh na nascleanachtaí, ag táirgeadh suas le 1.8 TB/s in aghaidh GPU.

Léiríonn na figiúirí seo bandáistíocht uasta an chláir. D’fhéadfadh bandáistíocht laethúil idir dhá GPU a bheith níos ísle ag brath ar líon na n-onntrálacha gníomhacha idir na GPU-y, topolaíocht an chórais, agus configuraíocht na n-uirlisí. Nuair a léann tú sonraithe NVLink, seiceáil i gcónaí an dtugann an luach le fios do nasc amháin, GPU amháin, nó an fábraic iomlán NVLink.

NVLink vs PCIe vs NVSwitch

Fig. 3. Comparáid NVLink vs PCIe vs NVSwitch

Bogann NVLink, PCIe, agus NVSwitch sonraí isteach i gcórais GPU, ach déanann siad rólanna éagsúla. Is comhoiriúnacht ginearálta é PCIe a nascann GPUs agus feistí eile leis an gcóras aoiteach. Soláthraíonn NVLink comhoibriú ardluais idir próiseálaithe NVIDIA tacaíochta, agus bíonn NVSwitch ag obair le NVLink chun grúpaí níos mó de GPUs a nascadh trí fhábhrach comhoibríoch.

Gné	NVLink	PCIe	NVSwitch
Cad é é	Nasc próiseálaí ardluais	Comhoiriúnacht ginearálta an chórais	Fábhrach comhoibríoch a úsáidtear le NVLink
Príomhsprioc	Cumarsáid tapa idir GPUs agus próiseálaithe tacaíochta	Nasc GPUs, SSDs, NICs, agus feistí eile leis an gcóras	Nasc a lán GPUs NVLink-ábhartha trí fhábhrach amháin
Cumarsáid GPU-go-GPU	Soláthraíonn cumarsáid píocha ard-bandáistíochta	Tacaíonn sé le tarchur GPU-go-GPU, ach braitheann feidhmíochta ar thopolaíocht PCIe	Treoítear tráchtaí NVLink idir roinnt GPUs
Conair sonraí	Nascanna díreacha próiseálaí nó comhoibrithe trí NVSwitch	Bogann trachta tríd na comhoibrithe fréimhe PCIe agus na comhoibrithe	Soláthraíonn cosáin comhoibrithe idir GPUs nasctha NVLink
Laige	Déanta do chumarsáid próiseálaí le laige íseal	Oiriúnach do gnáth I/O, ach d’fhéadfadh conairí GPU-go-GPU a bheith ag teastáil ó níos mó infreastruchtúir córas	Cuirtear comhoibriú leis agus coinnitear GPUanna nasctha trí thrasnaí ardluais NVLink
Topolaíocht	Nascanna díreacha pointe-go-pointe nó nascleanachtaí go NVSwitch	Comhoibríochtaí fréimhe CPU agus comhoibríochtaí PCIe	Fábhrach GPU nasctha, comhoibrithe go mór
Comhoiriúnacht	Éilíonn sé crua-earraí NVIDIA tacaíochta	Tacaíocht leathana caighdeán na hiompar	Éilíonn sé ardáin NVLink NVIDIA tacaíochta
Is fearr le haghaidh	Córas il-GPU atá ag brath ar chumarsáid	Córas aon-GPU nó tascanna le trachta GPU-go-GPU teoranta	Córas mór nuair a theastaíonn cumarsáid go minic idir go leor GPUs
Príomhréime	Teoranta do crua-earraí agus ardáin NVIDIA comhoiriúnachtaí	D’fhéadfadh sé a bheith ina leibhéal tionchar laige i mbrúanna comhoibrithe níos troime	Cuireann sé le costais crua-earraí agus corrlach an chórais

I dtéarmaí simplí, nascthaítear PCIe le feistí leis an gcóras, soláthraíonn NVLink cumarsáid ardluais idir próiseálaithe, agus leathnaíonn NVSwitch NVLink tríd an gcomhoibriú GPU níos mó. Ní eascair NVSwitch in áit NVLink mar go bhfuil sé ag brath ar na conraitheanna NVLink chun tracht GPU a iompar.

D’fhéadfadh PCIe a bheith go leor nuair a bhíonn cumarsáid GPU-go-GPU teoranta. Éiríonn NVLink níos úsáideach nuair a mhuiríonn GPUs sonraí go minic, agus bíonn NVSwitch á úsáid go príomha nuair a theastaíonn cumarsáid scálaithe idir go leor GPUs a nasctha le NVLink.

An Comhoibríonn NVLink Cuimhne GPU?

Ní comhoibríonn NVLink go huathoibríoch VRAM roinnt GPUs isteach i leabhar cuimhne fisiceach níos mó amháin. Tá dhá GPU le 80 GB de chuimhne ag gach ceann acu fós ag baint úsáide as spásanna cuimhne 80 GB ar leith in ionad éirí ina GPU amháin le 160 GB de VRAM áitiúil.

Nuair a thacaíonn an crua-earraí agus an topology leis, ligeann rochtain chuimhne peer-to-peer CUDA do GPU amháin rochtain a fháil ar chuimhne ar GPU eile. Is féidir le GPU léamh, scríobh, nó cóip a dhéanamh ar shonraí chuig cuimhne peer gan an chéad dul i ngleic leis an gcuimhne CPU. Tugann NVLink cosán leathan leathan do na tarchuir nuair a bhaineann na GPUs úsáid as.

Fanann cuimhne GPU iargúlta, áfach, go fisiciúil ceangailte le GPU eile. Tá an bogearra fós freagrach as an áit a stórálann na sonraí, cé atá á rochtain aige, agus an gcuireann na sonraí cóip nó rochtain iargúlta orthu. Féadann Cuimhne Aontaithe CUDA rochtain chuimhne a shimpliú ar fud na feistí, ach ní faigheann sé réidh leis an gcoladh fisiciúil idir cuimhne GPU.

Ar fhoirneacha il-GPU, tá sé tábhachtach fós cá bhfuil an cuimhne suite. D’fhéadfadh rochtain churtha ar cuimhne GPU iargúlta tionchar a imirt ar fheidhmíocht fiú nuair a sholáthraíonn NVLink nasc níos tapúla.

Conas a shíneann NVLink-C2C NVLink go na Conneachtaí Chip-go-Chip

Figiúir 4. Ceangal NVLink-C2C Idir CPU agus GPU

Síneann NVLink-C2C NVLink NVIDIA ó cheangail próiseálaí leibhéal-boird go nascleanachtaí gearra chip-go-chip laistigh den phacáiste nó superchip. Is féidir leis CPUanna, GPUanna, agus aon dhí gníomhartha próiseálaí oiriúnach eile a nascadh, ag ligean dóibh sonraí a mhalartú trí cheangal go dtí an nasc.

Ar ardáin NVLink-C2C comhoiriúnacha tacaigh, is féidir leis na próiseálaithe ceangailte freisin dearcadh comhoiriúnach a chothabháil ar chuimhne. Mar shampla, úsáidtear NVLink-C2C idir CPU Grace agus GPU Hopper, ag ligean don dá phróiseálaí rochtain a fháil ar chuimhne ar fud an cheangail agus iad ag fanacht ar a gcuimhne fhisiciúil a bheith scoite.

Is é an príomhdhifríocht ná cén áit a n-úsáideann gach teicneolaíocht. Ceanglaítear NVLink caighdeánach go coitianta le GPUs éagsúla nó ceanglaítear GPUs le NVSwitch ag leibhéal na boird nó an chórais. Tugann NVLink-C2C an coincheap siompair ardluais céanna níos gaire do na próiseálaithe féin, ag déanamh é oiriúnach do cheangail chip-go-GPU, chip-go-chip, agus chip-to-chip atá comhtháite go dlúth.

NVLink do AI agus Ualach Oibre Il-GPU

Is éard atá i NVLink an chuid is fearr nuair a oibríonn roinnt GPUs ar an aon ualach oibre agus teastaíonn uathu sonraí a mhalartú go minic. I na córais seo, bíonn feidhmíocht ag brath ní hamháin ar luas ríomhaireachta GPU ach freisin ar cé chomh tapa agus a bhogann sonraí idir gníomhaithe.

Le linn oiliúna AI, d’fhéadfadh na GPUs grádta, paraiméadair, gníomhachtaí, agus torthaí eatramh a mhalartú. Déileálann NVIDIA NCCL le cuid mhaith de na tarchuir seo trí oibríochtaí cosúil le AllReduce, AllGather, ReduceScatter, Broadcast, agus cumarsáid pointe-go-pointe.

Cruthaíonn parailéisme tensor cumarsáid uaigneach mar go ritheann codanna den aon chómhacht ar GPUs éagsúla agus caithfidh torthaí páirteacha a bheith mhalartaithe sula bhféadfar an próiseáil a leanúint. Ritheann parailéisme samhlacha freisin sonraí a bhogadh idir GPUs agus é ag próiseáil codanna éagsúla den samhlacha.

Tá riachtanais similar ag déanamh tuairimí LLM il-GPU nuair a roinntear samhlacha móra ar roinnt GPUs. Más gá do GPU amháin fanacht ar shonraí ó GPU eile, d’fhéadfadh moill ghréasáin laghdú a dhéanamh ar an gcuair iomlán.

Malartóidh ualach oibre HPC cosúil le siméadrachta eolaíochta, dinimic shreabhach ríomhaireach, agus samhaltú móilín sonraí teorann, torthaí páirteacha, agus eolas comhoiriúnachta idir GPUs freisin. Is féidir le tarchuire GPU-go-GPU níos tapúla an t-am feithimh seo a laghdú agus cuidiú le hualach oibre a rith níos éifeachtaí.

Maidir le ualach oibre tromchúiseach cumarsáide, is féidir le NVLink an t-am a chaitheann GPUs ag mhalartú sonraí a laghdú agus cuidiú le córais il-GPU a leathnú go heifeachtach.

Cathain a theastaíonn uait NVLink?

Is éard atá i NVLink oiriúnach nuair a oibríonn roinnt GPUs ar an aon tasc agus mhalartaíonn siad sonraí go minic. Féadann sé cabhrú nuair atá cumarsáid GPU-go-GPU ag moilliú an ualach oibre agus tacaíonn an córas le NVLink.

Is rogha níos fearr é NVLink nuair:

• Oibríonn roinnt GPUs le chéile ar ualach oibre amháin

• Bogann laige sonraí idir GPUs

• Tá cumarsáid GPU ag teorannú feidhmíocht

• Tacaíonn na GPUs agus an t-ardán le NVLink

• Féadann an bogearra úsáideoirí a dhéanamh ar chumarsáid il-GPU

D’fhéadfadh PCIe a bheith leor nuair:

• Úsáideann an córas GPU amháin

• Déanann GPUs il tascanna ar leith

• Is ísle atá trácht GPU-go-GPU

• Tagann PCIe a bheidh freagrach as an bhfeidhmíocht a theastaíonn

• Tá costais ísle agus tacaíocht hardware níos leithne níos tábhachtaí

Tá costas agus dearadh an chórais tábhachtach freisin. D’fhéadfadh go mbeadh gá le GPUs tacaíochta ar chóras NVLink, an topology ceart, athdhearadh breise, agus níos mó cumhachta agus fuaraithe i gcruthanna níos mó.

Ar an gcoitinne, is é NVLink an chuid is fearr nuair a bhíonn cumarsáid idir GPUs ina teorann feidhmíochta soiléir. Más annamh a mhalartaíonn na GPUs sonraí nó má sholáthraíonn PCIe go leor leathan, d’fhéadfadh NVLink costais agus casta breise a chur leis gan brabús feidhmíochta soiléir.