» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 259 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
Microsoft introducerar nya säkerhetsverktyg för Azure AI Studio
Microsoft har introducerat en uppsättning nya verktyg för att göra modeller i Azure AI Studio mer exakta och säkra. Uppdateringen innefattar fem säkerhetsverktyg, inklusive Prompt Shields, som ska förhindra promptinjektionsattacker. Två andra verktyg fokuserar på risker som är inneboende i AI-modeller. Groundedness detections upptäcker faktiska felaktigheter i utdata (hallucinationer) så att utvecklare kan förbättra sina LLM. En ny säkerhetsevaluering låter AI-utvecklare upptäcka om modeller kan jailbreakas och potentiellt läcka data. Ett nytt risk- och säkerhetsövervakningsverktyg ger en mer konkret bild av LLM-input och -output. Dessa verktyg svarar på kravet på fler AI-säkerhetsåtgärder.
har gått vår kurs "AI på jobbet".
