Copyright © 1998-2024 CDR server s.r.o.
Všechna práva vyhrazena.
ISSN 1804-5405.
Copyright © 1998-2024 CDR server s.r.o.
Všechna práva vyhrazena.
ISSN 1804-5405.
Nová akce nVidie: Ke každému výkonnějšímu akcelerátoru, přidáme varnou desku zdarma!
2,7kW, tak na tom si už ohřeju i kafe.
Neviem prečo by to mali hnať až na 1KW, realny rozdiel vykonu medzi 350W a 1000W može biť nejakych cca 15% narast vykonu. Jedine čo by Nvidiu prinutilo hnať sa za každym % vykonu je konkurencia a tu prakticky nemaju, tak prečo by to hnali na 1KW?
Lebo by vykonovy posun oproti starsej generacii nevyzeral tak dobre.
Vaše smýšlení je nejspíš ovlivněné praktikami Intelu, který honí výkon přes frekvenci, protože jeho architektura to lépe neumí - a pak platí zhoršující se poměr výkon/watt.
Ovšem u Nvidie to může být jen o tom, že v tom čipu je faaaakt hodně transistorů a každý si něco vezme. V tomto případě bude nejspíš vývoj poměru výkon/watt lineárnější.
Člověk si to může představit, že si kupuje ne jednu GPU, ale dvě, tři. Výkon, cena a spotřeba tomu odpovídá, navíc se to vejde do menšího prostoru (i když reálně grafická karta přes 4 pozice ve skříni...).
To, že prodají vše neznamená, že nemají konkurenci. Musí myslet na roky dopředu a AMD ukázala, že umí dodat lepší čip. A jestli se díky nepokrytě poptávce nvidie AMD trochu víc chytne, tak to pro nvidii minimálně znamená konec nekonečných zisků.
Ale AMD má výkonější čipy dlouhodobě a zatím to k ničemu nebylo.
Nějaké eXperience a RTX remix nemá u superpočítačů (a datacenter obecně) moc velký význam.
Schopnost vysokého výpočetního výkonu v FP64 ano.
B100 a B200 snížily výkon v FP64 v prospěch FP16, BF16 a nižších přesností. Tím dost jednoznačně dávají na jevo, že na některé oblasti kašlou.
To jsou úplně jiné "grafiky" (CDNA vs. RDNA).
Tak na tom už uvaříš cokoliv :-) největší plotýnka na elektrickém vařiči mívá kolem 2,5kW.
Každopádně to bude výzva uchladit. Kapalinové chlazení bude nutnost a pokud si to připodobním k obdobné densitě, jaká je s výpočetními kartami dnes, tak ... Tak si to nedokážu ani představit. A to jsem byl ve Foxconnu a koukal na Cray EX ...
Tak se vrátí k přímému chlazení kapalinou, jak už Cray kdysi předvedl.
Blackwell B100 ma o 34% vyssi vykon nez AMD MI300X v FP8/INT8: 5.22 POPs vs 7 POPs.
VRAM je rovnakych 192GB. Pocet tranzistorov vyssi o 31%. Spotreba 750W vs 700W u B100. Proces 5+6nm vs 4nm.
Pri pouziti FP4/INT4 ma B100 14 POPs a MI300X 5.22, takze 2,68x vyssi vykon. Ale ten sa nepouziva na trening len na inferenciu a len v niektorych pripadoch a hlavnou vyhodou su polovicne naroky na VRAM.
Ten FP4/INT4 jsou už asi jen takový marketing "v tomto nepodstatném usecase máme vyšší výkon než konkurence". Inference je pak až na finálních zařízeních, kde se pouští naučený model. GPU slouží k učení modelu.
2700W už bude vyhazovat 10A jističe. V kombinaci s Intel processory 13A jističe. Za chvíli budou potřeba třífázové přívody :-D.
od kedy majú datacentrá prívod len na jednu fázu
P.S. to je karta do datacentier, nie do PC
tys tu prezentaci neviděl evidentně
nejedná se o grafickou kartu jako takovou, ale o rackové modulární řešení kdyz jednotlivé plástve s 4GPU zastrkáváš do racku
huang řekl že tohle https://imageio.forbes.com/specials-images/imageserve/65f8e0fb5b852dd61d... je pro něj GPU
bude to chlazený vodou a prý výkon na watt se zlepší oproti předchozímu řešení, ale o kolik těžko říct ty jeho hausnumera nemá cenu teď řešit
celkem úctyhodný jsou i přenové rychlosti jak mezi spojenýma čipama tak mezi jednotlivýma plástvema tak mezi jednotlivýma rackama
Vodou (H2O) určitě ne. Tím jejich "ironem" ...
O 30% vyšší densita? To je docela masivní posun na to,že jde o stejnou generaci.
https://twitter.com/kopite7kimi/status/1769903710849929570?t=42LcaVQHGB6...
Ten výkon je drsnej. Jistě nemá to malou spotřebu, ale datové centrum si s tím poradí. Poměr výkon/watt je ovšem poměrně dost příznivý.
Asi to bude trhák a snad ne až tak velikej, že by to oddálilo novou generaci herních grafik. (Jo, mě zajímají herní grafiky, výpočetní karty ne.)
Turing byl skvělý. Ampére masivní navýšení výkonu za cenu vysoké spotřeby(Samsung). Nic moc. Ada Lovelace trefa do černého. Špičkový výkon v ruku v ruce s výbornou efektivitou(TSMC 4nm). Blackwell stále na 4nm. Myslím, že u nastupující generace GPU od nVidie to bude stejný příběh jako s Ampére a právě představené GB100 to dokazuje. RTX5090 vs 4090 +~60%, ale 550-650W! Cena 3000$+.
Ampéra: RTX 3070 TDP 220W. Jako mě to nepřijde jako vysoká spotřeba díky Samsung procesu!
Jistě 3070Ti a 3080 už dost žraly, ale kromě toho, že byly vyšší frekvence možná nad limitem Samsung procesu, tak hlavně byly paměti DDR6X, které byly poprvé a zdá se, že se je podařilo zkrotit až na generaci Lovelace.
xx90 - nezájem, výkon bych bral, ale spotřebu a cenu nikoli. Když pominu ceny, protože se nám roztáčí inflační spirála a mohou být všelijaké, tak určitě TDP na 320W považuju do desktopu bez klimatizace za maximum možného.
Teoreticky 4080 bych tak stále mohl, stejně jako 3080, kde se TDP neměnilo a doufám, že ani 5080 nepůjde výš.
RTX5080 podle mě nebude tak efektivní jako 4080. Výkon +25-30% bude znamenat spotřebu výrazně nad 400W. To jsem tí chtěl napsat. Samozřejmě s novou řadou přijde zase nějaké překvapení. Každopádně bude velmi zajímavé porovnávat RTX5080 vs 4090 výkon/spotřeba.
Pomer spotřeba vykon se tu zlepsuje porad. Vykon ale roste rychleji než efektivita.
Priklad 980ti, 250w, 1080 o 20% vic vykonu, 180W
1080ti 250w, 2070S o trosku vic vykonu pri 215W. 3060ti o 15% vyssi vykon, 200w. 4060ti o chlup vykpnnejsi 165w. Tri generace a je tu cca 25% vykonu navic pri cca 66% spotrebe. To je cca 1.9x lepsi efektivita
Uvidíme, za mě jsou nízké prodeje grafik od AMD dané nejen chybějícími RT, ale také přehnanou spotřebou a nemyslím si, že by zákazníci NVidie byli v tomto ohledu tolerantnější. Jak u 5080 nebudou cílit někde okolo 300W, tak si myslím, že se to na prodejích podepíše.
Každopádně je mi to jedno, já na maximum těch 320W +- drobné cílit budu a netrvám na xx80 kartě, klidně může být nižší výkon, ale musí tam být zajímavý přírůstek ke 3080. :-)
S hodnocením bych si počkal až na hotové, zatím jde jen o část předpovědi.
Pro psaní komentářů se, prosím, přihlaste nebo registrujte.