» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 165 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
Skapandet av en röstassistent som kör lokalt på Raspberry Pi
En röstassistent som använder en öppen källkodsmodell för stora språk (LLM) har skapats och kan köras helt lokalt på en Raspberry Pi. Assistenten, kallad ´Världens enklaste GPT-liknande röstassistent´, behöver ingen internetanslutning eller molnbaserade tjänster. När en knapp trycks in, spelas ljud in via en USB-mikrofon. Ljudet skickas sedan till Whisper-programvaran för automatisk taligenkänning, som genererar en transkription av ljudet. Transkriptionen används för att uppmana en TinyLlama-1.1B (1,1 miljarder parametrar) LLM som har paketerats som en llamatfil. Svaret från LLM skickas sedan till den gratis och öppna källkodsprogramvaran eSpeak för att producera ljud som spelas upp på en högtalare ansluten till Raspberry Pi.
har gått vår kurs "AI på jobbet".
