» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 229 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
Artificiell allmän intelligens: En dualanvändningsteknologi som behöver reglering
Kraftfulla teknologier som kärnkraft och genetisk teknik är ´dual-use´, de har potential att ge stora fördelar men kan också orsaka stor skada. Artificiell allmän intelligens (AGI) är en extrem dual-use-teknologi. Om ´superintelligensen´ går rätt, kan den bota cancer och klimatförändringar och skapa en futuristisk utopi. Om det går fel kan det vara en existentiell katastrof för mänskligheten. Utvecklingen av AGI är fortfarande i stort sett oreglerad, vilket lämnar stora företag att själva reglera sig. OpenAI, DeepMind och Anthropic, de tre stora aktörerna inom AGI, bildades med AI-säkerhet som en primär oro. Trots detta börjar det se ut som om investerare pressar OpenAI att ta bort röster av försiktighet från sin styrelse. Oreglerad vinstjakt bör inte driva AGI mer än den ska driva genetisk teknik, läkemedel eller kärnenergi.
