» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 180 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
Anthropic kan få AI att se naturligt dum ut
Anthropic, företaget som säkrade 4 miljarder dollar från Amazon för att leverera AI-lösningar, avslöjade att det kunde få artificiell intelligens att se naturligt dum ut. Detta sker genom en ny ´fängelsebrytningsmetod´ för stora språkmodeller (LLM) som kan tvinga de smartaste GenAI-chattbotarna att ge svar på frågor de inte borde svara på. Metoden kallas ´många-skott-fängelsebrytning´ och forskarna har delat en forskningsrapport om det. Anthropic hävdar att sårbarheten kan vara ett resultat av den ökade ´kontextfönstret´ hos moderna LLM, vilket effektivt betyder mängden data de kan hålla i sitt korttidsminne.
har gått vår kurs "AI på jobbet".
