» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 223 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
Microsoft introducerar nya Azure AI-verktyg för säker och tillförlitlig användning av generativ AI
Microsoft adresserar oro kring säker och tillförlitlig implementering av generativ AI genom att introducera nya Azure AI-verktyg. Dessa verktyg syftar till att mildra risker som automatiska hallucinationer och säkerhetsbrister i stora språkmodellsapplikationer (LLM). En av de största oroarna med LLM är promptinjektionsattacker, där en angripare manipulerar modellen för att generera personligt eller skadligt innehåll. Microsofts lösning på detta problem är Prompt Shields, en omfattande funktion som analyserar prompts och tredjepartsdata för illvilligt syfte och blockerar dem från att nå modellen. Denna funktion kommer att integreras med Azure OpenAI Service, Azure AI Content Safety och Azure AI Studio. Microsoft fokuserar också på tillförlitligheten hos gen AI-appar. De har introducerat förbyggda mallar för säkerhetscentrerade systemmeddelanden och en ny funktion som kallas ´Groundedness Detection´. Systemmeddelandena vägleder modellens beteende mot säkra och ansvarsfulla utdata, medan Groundedness Detection använder en anpassad språkmodell för att upptäcka hallucinationer eller felaktigt material i textutdata. För att säkerställa säkerheten och tillförlitligheten hos gen AI-appar kommer Microsoft att tillhandahålla mätvärden för att mäta möjligheten till jailbreak-attacker eller produktion av olämpligt innehåll. Dessa mätvärden kommer att åtföljas av automatiserade utvärderingar och naturliga språkförklaringar för att vägleda utvecklare i att bygga lämpliga mildringsåtgärder. Microsoft kommer att erbjuda realtidsövervakning för att hjälpa utvecklare att spåra indata och utdata som utlöser säkerhetsfunktioner. Denna synlighet kommer att ge utvecklare möjlighet att förstå skadliga förfrågningstrender över tid och göra nödvändiga justeringar för förbättrad säkerhet. Genom att tillhandahålla utvecklare med dessa nya verktyg strävar Microsoft efter att erbjuda ett säkrare sätt att bygga gen AI-applikationer på sina modeller, vilket i slutändan lockar fler kunder.
har gått vår kurs "AI på jobbet".
