» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 115 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
AI21 Labs revolutionerar generativ AI med sin nya modell Jamba
AI21 Labs, en ledande aktör inom generativ AI, revolutionerar kapabiliteterna hos gen AI transformers genom sin senaste integration kallad Jamba. Jamba kombinerar Mamba-modellen, baserad på Structured State Space-modellen (SSM), med en transformerarkitektur för att skapa en optimerad gen AI-modell. Jamba är inte avsedd att ersätta nuvarande transformerbaserade stora språkmodeller (LLM), men förväntas komplettera dem inom vissa områden. AI21 Labs har ett starkt fokus på gen AI för företagsanvändningsfall och har samlat in 155 miljoner dollar i finansiering för att stödja sina ansträngningar. Jamba-modellen erbjuder ett 256K-kontextfönster och ger tre gånger genomströmningen på långa sammanhang jämfört med Mixtral 8x7B. Jamba utnyttjar en Mixture of Experts (MoE) -modell, liknande Mixtral, men med en extrem nivå av optimering.
har gått vår kurs "AI på jobbet".
