» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 261 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
NVIDIA:s nya AI GPU sätter prestandarekord
NVIDIA har nyligen presenterat sin nästa generations Blackwell B200 AI GPU, men det är det uppgraderade Hopper H200 AI GPU som slår prestandarekord i de senaste MLPerf 4.0-resultaten. NVIDIA:s optimeringar på TensorRT-LLM har varit en ständig kedja av framsteg sedan företaget släppte sin AI-programsvit förra året. Med dessa nya TensorRT-LLM-optimeringar har NVIDIA uppnått en enorm prestandaökning på 2,4x med sin nuvarande H100 AI GPU i MLPerf Inference 3.1 till 4.0 med GPT-J-tester. H200 AI GPU och TensorRT-LLM satte ett nytt MLPerf-rekord. H200 är 45% snabbare i Llama 70B inference i MLPerf, vilket sätter ett nytt världsrekord. NVIDIA visade också upp Intel Gaudi2 AI-acceleratorn, som Hopper H100 AI GPU krossar, och sedan fortsätter det uppgraderade H200 AI GPU att skjuta i höjden samma AI-dominans.
har gått vår kurs "AI på jobbet".
