» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 44 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
Intels Arc A770 16GB överträffar NVIDIA GeForce RTX 4060 i AI-prestanda
Med lanseringen av Metas nästa generations Llama 3 LLM visar Intel att övergripande AI-prestanda på Intel Arc A770 16GB gör den till bäst i klassen. Generativ AI och övergripande LLM-prestanda kommer att bli betydande element vid mätning av CPU- och GPU-prestanda de kommande åren. Intel jämför sin AI-prestanda mot NVIDIAs GeForce RTX 4060 8GB grafikkort, som är dess närmaste pris-konkurrent. Intels test inkluderar olika modeller som kör med IPEX-LLM, ett LLM-bibliotek för PyTorch. Detta bibliotek innehåller optimeringar för Intel-hårdvara och använder XMX AI-acceleration som finns på Arc-grafikkort för att öka prestanda. Med INT4 viktkomprimering, FP16-exekvering och en maxutgång på 1024 tokens överträffar Intel Arc A770 16GB GeForce RTX 4060 8GB när det gäller tokens-per-sekund-prestanda. Övergripande är prestandan upp till 70% snabbare på Arc A770 än GeForce RTX 4060.
har gått vår kurs "AI på jobbet".
