Novinky · GeForce RTX 50: ceny, DLSS 5 a co se vyplatí koupit
Hack odemyká AI výkon starších GeForce RTX: RTX 3090 Ti až o 80 % víc
Vývojář s přezdívkou Zagitta zveřejnil na GitHubu nástroj gpu-unlock, který na herních grafikách GeForce ruší omezení výpočtů pro umělou inteligenci na poloviční rychlost. Podle měření uvedených v projektu zrychlí RTX 3090 Ti při maticových výpočtech v přesnosti BF16 až o 80 procent. Hráči z toho nic mít nebudou, lidé, kteří si doma spouštějí jazykové modely nebo generují obrázky, ano.
Co je jisté
Nvidia u herních karet GeForce záměrně brzdí jeden typ výpočtu na Tensor jádrech: násobení matic v přesnosti FP16 nebo BF16, kdy se mezivýsledky sčítají v přesnějším formátu FP32. Na herních kartách běží poloviční rychlostí oproti profesionálním kartám se stejným čipem. Přesně tenhle výpočet přitom používá většina trénování a velká část spouštění AI modelů. Nvidia tím odděluje levnější herní karty od dražších profesionálních.
Gpu-unlock je modul pro linuxové jádro. Podle popisu na GitHubu se spustí při startu počítače ještě dřív, než grafiku převezme ovladač Nvidia, upraví nastavení firmwaru karty a pak ji resetuje. Ovladač Nvidia zůstává neupravený, takže s každou novou verzí ovladače není potřeba nic záplatovat. Projekt popisuje úpravu za běhu, ne trvalé přepsání vBIOS karty. Odemčení vydrží restart počítače, po uspání do paměti se ale musí zopakovat.
Naměřené výsledky v projektu se týkají jen karet RTX 30 (čipy GA102, GA104 a GA106):
| Karta | Zrychlení BF16 |
|---|---|
| RTX 3090 Ti | 68 až 80 % |
| RTX 3090 | 25 až 67 % |
| RTX 3080 10 GB | 70 až 73 % |
| RTX 3070 | 73 až 81 % |
| RTX 3070 LHR | 77 až 84 % |
| RTX 3060 12 GB | zhruba 80 % |
U RTX 3090 Ti s limitem 450 W uvádí autor konkrétní čísla: FP16 z 87,5 na 118,4 TFLOPS, BF16 z 87,5 na 157,4 TFLOPS a TF32 z 42,6 na 82,6 TFLOPS. Výsledky výpočtů jsou podle projektu bit po bitu stejné jako před odemčením. Karta tedy nepočítá hůř, jen rychleji.
Jednu výjimku autor přiznává sám: OEM verze RTX 3080 Ti s 20 GB (čip GA102-250) odemčení projde, BF16 ale zůstane na poloviční rychlosti.
Co je únik nebo spekulace
Tom’s Hardware v titulku píše o odemčení karet RTX 20, 30 i 40 a o tom, že RTX 4090 díky tomu zdvojnásobí špičkový výkon Tensor jader. V samotném projektu gpu-unlock jsou ale seznam podporovaných čipů i měření jen pro RTX 30, RTX 20 ani RTX 40 tam nenajdeš. U RTX 4090 a starší RTX 20 proto ber tato čísla s rezervou, dokud je někdo nezměří na vlastní kartě. O současné generaci RTX 50 nemluví projekt ani Tom’s Hardware.
Nvidia se k nástroji zatím nevyjádřila. Není jasné, jestli omezení nevrátí v novém ovladači nebo firmwaru. U omezení těžby kryptoměn na kartách LHR v minulosti také zasahovala přes ovladače.
Co to znamená pro tebe
Pokud na grafice hraješ, nemusíš dělat nic. Nástroj zrychluje jen maticové výpočty pro AI, ne vykreslování her. Na výkon ve hrách ani na DLSS podle dostupných informací vliv nemá a ve Windows stejně nefunguje.
Pokud doma spouštíš AI na Linuxu, zisk záleží na tom, co děláš. Podle projektu roste hlavně zpracování promptu u jazykových modelů (o 14 až 36 procent) a generování obrázků, kde rozhoduje výpočetní výkon. Samotné psaní odpovědi (generování tokenů) se skoro nezrychlí, protože tam brzdí propustnost paměti, ne výpočty. Beze změny zůstávají i výpočty v přesnosti INT8.
Pokud zvažuješ starší kartu z bazaru, RTX 3090 s 24 GB videopaměti byla pro lokální AI oblíbená už dřív a tenhle nástroj její výhodu ještě zvětšuje. Pozor ale na podvody: u drahých karet z druhé ruky se objevují i atrapy, jak jsme psali ve zprávě o falešné RTX 4090.
Riziko a záruka. Jde o neoficiální zásah do firmwaru za běhu, který Nvidia nepodporuje. Projekt žádné varování před poškozením karty neuvádí, to ale neznamená, že je riziko nulové. Před reklamací karty v záruce nástroj odinstaluj, stejně jako u jiných úprav typu Vix Loader. Počítej také s tím, že karta, která při AI výpočtech zvládne víc práce, při nich může víc hřát a brát víc energie, takže chlazení i zdroj by měly mít rezervu.
Ceny aktuálních karet, úniky o RTX 60 a další zprávy sbíráme v hubu GeForce RTX. Všechny novinky ze světa hardwaru a mobilů najdeš v sekci Novinky.
Jak to vidíme
Pro majitele RTX 3090, kteří si doma pouštějí modely, je to velmi dobrá zpráva. Dostanou zadarmo výpočetní výkon, který Nvidia prodává v dražších kartách. Kupovat kvůli tomu starší kartu naslepo ale nedoporučujeme: nástroj je pár dní starý, běží jen na Linuxu a Nvidia ho může kdykoli zablokovat.
Časté otázky
Zrychlí gpu-unlock hry?
Ne. Mění jen rychlost maticových výpočtů pro AI v přesnosti FP16, BF16 a TF32. Herní výkon zůstává stejný.
Funguje to ve Windows?
Ne. Jde o modul pro linuxové jádro, který se zavádí při startu systému. Verzi pro Windows projekt neuvádí.
Funguje to na RTX 4090 nebo RTX 5090?
Projekt gpu-unlock uvádí měření jen pro karty RTX 30. Tom’s Hardware píše i o RTX 4090, přesné ověření zatím chybí. O RTX 50 nemluví nikdo.
Zdroje
- Tom's Hardware: GeForce RTX 20, 30 a 40 bez polovičního AI omezení tomshardware.com
- GitHub: projekt gpu-unlock (Zagitta) github.com
Našel jsi chybu? Napiš nám na ahoj@vyberomat.cz.