» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 131 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
Microsoft förbättrar säkerheten för Azure OpenAI Service och Azure AI Content Safety med ´Prompt Shields´
Microsoft har meddelat en betydande säkerhetsförbättring för sina Azure OpenAI Service och Azure AI Content Safety-plattformar. Den nya funktionen, kallad ´Prompt Shields´, erbjuder ett robust försvar mot alltmer sofistikerade attacker riktade mot stora språkmodeller (LLM). Prompt Shields skyddar mot direkta attacker, även kända som jailbreak-attacker, och indirekta attacker. Tack vare avancerade maskininlärningsalgoritmer och naturligt språkbehandling kan Prompt Shields identifiera och neutralisera potentiella hot i användarpromenader och tredjepartsdata. Microsoft introducerade också ´Spotlighting´, en specialiserad promptteknik utformad för att motverka indirekta attacker. Prompt Shields är för närvarande i offentlig förhandsgranskning som en del av Azure AI Content Safety och kommer att finnas tillgänglig inom Azure OpenAI Service den 1 april. Integration i Azure AI Studio planeras inom en snar framtid.
har gått vår kurs "AI på jobbet".
