» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 260 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
Microsoft introducerar verktyg för att skydda AI-chattbotar från skadliga attacker
Microsoft har introducerat verktyg för att förhindra att användare lurar artificiell intelligens (AI) chattbotar för skadliga ändamål. Teknikjätten har lanserat en rad erbjudanden för sitt Azure AI-system, inklusive ett verktyg för att blockera så kallade ´prompt injection´-attacker. Dessa attacker har framstått som en betydande utmaning där illvilliga aktörer försöker manipulera ett AI-system till att göra något utanför dess avsedda syfte, såsom att producera skadligt innehåll eller exfiltrera konfidentiell information. Bland de verktyg som nu är tillgängliga eller snart ska släppas finns prompt-sköldar för att upptäcka och blockera promptinjektionsattacker, samt ´groundedness´-detektering för att upptäcka AI ´hallucinationer´.
har gått vår kurs "AI på jobbet".
