» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 161 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
Microsoft upptäcker ny metod för att ´jailbreaka´ AI-verktyg
Microsoft har upptäckt en ny metod, kallad ´Crescendo´, för att ´jailbreaka´ stora språkmodells (LLM) AI-verktyg. Metoden innebär att en angripare kan skicka en serie till synes oskyldiga uppmaningar till en chatbot, som OpenAI´s ChatGPT, Google´s Gemini, Meta´s LlaMA eller Anthropic´s Claude, för att få den att producera ett utdata som normalt skulle filtreras bort och nekas av LLM-modellen. Microsoft har rapporterat sårbarheterna till de berörda LLM-leverantörerna och förklarat i ett blogginlägg hur företaget har förbättrat sina LLM-försvar mot Crescendo och andra attacker med hjälp av nya verktyg.
har gått vår kurs "AI på jobbet".
