» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 309 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
Forskare vid NTU ´jailbreakar´ AI-chattrobotar för att testa etiska gränser
Forskare vid NTU har lyckats ´jailbreaka´ populära AI-chattrobotar, inklusive ChatGPT, Google Bard och Bing Chat. Med ´jailbreak´ på plats genererade de riktade chattrobotarna giltiga svar på skadliga förfrågningar, vilket testade gränserna för stora språkmodells (LLM) etik. Forskningen utfördes av professor Liu Yang och NTU:s doktorander Deng Gelei och Liu Yi. Metoden som användes för att ´jailbreaka´ en AI-chattrobot kallas Masterkey. Den är en tvåfaldig metod där angriparen skulle omvända ingenjör en LLM:s försvarsmekanismer. Sedan, med denna förvärvade data, skulle angriparen lära en annan LLM att lära sig hur man skapar en bypass. På detta sätt skapas en ´Masterkey´ som används för att attackera befästa LLM-chattrobotar, även om de senare patchas av utvecklare. NTU:s Masterkey hävdades vara tre gånger mer effektiv på att ´jailbreaka´ LLM-chattrobotar än standardprompter som normalt genereras av LLM:er. Forskarna avslöjade två exempelmetoder de använde för att få tränade AI att inleda en attack. Forskningspapperet har accepterats för presentation vid Network and Distributed System Security Symposium som kommer att hållas i San Diego i februari 2024.
har gått vår kurs "AI på jobbet".
