» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 120 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «

Stor säkerhetsrisk med AI-baserade språkmodeller i mjukvaruutveckling

Stora språkmodeller (LLM) som används av mjukvaruutvecklare kan utnyttjas av angripare för att distribuera skadliga paket till utvecklingsmiljöer, enligt en nyligen publicerad studie av Lasso Security. Forskaren Bar Lanyado upptäckte att angripare kan placera ett skadligt paket på en plats som en LLM hänvisar till och ge det samma namn som ett hallucinerat paket. Lanyados forskning undersökte problemets utbredning över fyra olika stora språkmodeller: GPT-3.5-Turbo, GPT-4, Gemini Pro (tidigare Bard) och Coral (Cohere).

Direktlänk Dela Dark Reading fördjupade 29 mars
3 000+ kursdeltagare från svenska företag och offentliga verksamheter
har gått vår kurs "AI på jobbet".

» Nyheterna från en dag tidigare

Några av våra kursdeltagare