» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 275 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
OpenAI föreslår ny beredskapsstrategi för AI-risker
OpenAI har lagt fram en ny beredskapsstrategi för att mäta katastrofrisker i sina mest avancerade AI-system. De föreslår en teknik för att anpassa framtida modeller som är ´mycket smartare´ än människor genom att använda en mindre kraftfull stor språkmodell (LLM) för att övervaka och träna en kraftfullare modell. Denna teknik behandlar den mindre kraftfulla modellen som en proxy för mänsklig övervakning av den kraftfullare, superintelligenta AI:n. Men många inom industrin ifrågasätter fokuset på AI:s domedagsscenarier och menar att det distraktion från de verkliga, omedelbara riskerna med nuvarande AI-system.
har gått vår kurs "AI på jobbet".
