» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 212 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
Microsoft introducerar Prompt Shields för att skydda AI-chatbots mot attacker
Om du planerar att använda en AI-chatbot för oärliga ändamål, se upp. Microsoft har tagit sig an ärendet. I ett blogginlägg som publicerades idag, meddelade företaget en ny funktion som kommer till dess Azure AI Studio och Azure OpenAI Service, som människor använder för att skapa generativa AI-applikationer och anpassade Copilots. Tekniken, känd som Prompt Shields, är utformad för att skydda mot två olika typer av attacker för att utnyttja AI-chatbots. Den första typen av attack är känd som en direkt attack, eller en ´jailbreak´. I det här scenariot skriver personen som använder chatboten en uppmaning direkt utformad för att manipulera AI:et att göra något som strider mot dess normala regler och begränsningar. Den andra typen av attack kallas en indirekt attack. Här skickar en hacker eller annan illvillig person information till en chatbotanvändare med avsikt att genomföra någon typ av cyberattack. Prompt Shields är för närvarande tillgängligt i förhandsgranskningsläge för Azure AI Content Safety, kommer snart till Azure AI Studio och kommer att finnas tillgängligt för Azure OpenAI Service den 1 april.
har gått vår kurs "AI på jobbet".
