» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 218 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
AI-chattbotar riskerar säkerheten genom ´prompt injection´-attacker
AI-chattbotar, som drivs av stora språkmodeller, riskerar att bli utnyttjade genom en typ av attack kallad ´prompt injection´. Dessa botar kan skriva e-post, söka filer och sammanfatta webbplatser, men de har svårt att skilja mellan legitima kommandon och manipulativa instruktioner från utomstående. Detta är en stor säkerhetsrisk, enligt forskare inom cybersäkerhet. ´Prompt injection´ innebär att angripare försöker lura programmet att utföra något som användarna eller utvecklarna inte avsåg. Detta kan inkludera att läsa och sammanfatta konfidentiella filer, stjäla data eller skicka skadliga meddelanden.
har gått vår kurs "AI på jobbet".
