» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 254 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
SambaNova Systems presterar med sitt AI-chip Samba-CoE v0.2
AI-chiptillverkaren SambaNova Systems har annonserat en betydande prestation med sin Samba-CoE v0.2 Large Language Model (LLM). Modellen, som opererar med imponerande 330 tokens per sekund, överträffar flera framstående modeller från konkurrenter som den helt nya DBRX från Databricks, MistralAI:s Mixtral-8x7B och Grok-1 av Elon Musks xAI, bland andra. Modellen uppnår dessa hastigheter utan att kompromissa med precision och kräver endast 8 uttag för att fungera istället för alternativ som kräver 576 uttag och fungerar med lägre bitrater. SambaNova betonar användningen av ett mindre antal uttag samtidigt som man bibehåller höga bitrater, vilket tyder på en betydande framsteg inom datorns effektivitet och modellprestanda. Företaget planerar också att släppa Samba-CoE v0.3 i samarbete med LeptonAI.
har gått vår kurs "AI på jobbet".
