» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 223 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
Jack Clark är en brittisk expert inom artificiell intelligens (AI) och medgrundare av AI-säkerhetsforskningsgruppen OpenAI. Han har tidigare arbetat som teknikchef för AI-startupen OpenAI och som AI-redaktör för tekniknyhetssidan Import AI. Clark har även varit AI-redaktör för Bloomberg och har bidragit till att sprida kunskap om AI och dess tillämpningar genom att skriva artiklar och delta i konferenser och evenemang. Han är känd för sitt engagemang för att främja säker och ansvarsfull utveckling av AI-teknik och för att göra AI mer tillgänglig och förståelig för allmänheten.
Senaste nytt kring Jack Clark
Amazon-backade Anthropic lanserar AI-assistenten Claude i Europa
AI-företaget Anthropic, som stöds av Amazon, har lanserat sin AI-assistent Claude i Europa. Claude kommer att vara tillgänglig för individer och företag via webben och en iPhone-app. Anthropic utnyttjar Amazon och Googles molntjänster för att navigera i Europas stränga datalagstiftning, med betoning på deras säkerhetsåtgärder. Trots att Anthropics toppmodell överensstämmer med EU:s AI-lag, är vissa genomförandedetaljer ännu oklara. Lanceringen sätter Claude i konkurrens med etablerade spelare som OpenAI´s ChatGPT och inhemska europeiska konkurrenter.
har gått vår kurs "AI på jobbet".
Anthropic lanserar AI-tjänster i Irland och EU, planerar att utöka Dublin-kontoret
Anthropic, ett av världens största artificiella intelligensföretag och rival till OpenAI´s ChatGPT, lanserar nu sina AI-tjänster i Irland och hela EU. Företaget förväntar sig en mer ´hands on´-reglering i EU. Anthropics AI-assistent Claude är nu tillgänglig för irländska och EU-användare. Tjänsterna, inklusive Claude.ai och en Claude-app för iPhones, är nu tillgängliga gratis och för månadsabonnemang, beroende på komplexitetsnivån som krävs. Anthropic har tidigare i år etablerat ett kontor i Dublin där det avser att basera vissa regulatoriska verksamheter.
Ny AI-modell från OpenAI-spinoff störtar GPT-4 från tronen
En spinoff från OpenAI har lyckats störta GPT-4 från tronen med hjälp av miljarder från Google och Amazon. Företaget, Anthropic, som drivs av tidigare OpenAI-anställda Daniela Amodei, Dario Amodei, Jack Clark och Jared Kaplan, har utvecklat en AI-modell, Claude 3, som presterade bättre i tester än GPT-4 Turbo, OpenAI:s bästa AI-modell hittills. Även om Google inte har lyckats göra detta med Gemini, har AI-startupen Cohere lyckats komma på fjärde plats med sin AI-modell Command R+. Modellerna rankas enligt Chatbot Arenas bästa lista.
AI Index-rapporten från Stanford visar på framsteg och utmaningar inom AI
AI Index-rapporten från Stanfords Institute for Human-Centered AI presenterar nya uppskattningar om AI-utbildningskostnader, analys av det ansvarsfulla AI-landskapet, AI och arbetarproduktivitet samt ett nytt kapitel om AI:s inverkan på medicin och vetenskaplig upptäckt. Rapporten noterar de enorma framsteg AI har gjort under de senaste 10 åren, men påpekar också att AI-tekniken fortfarande kommer till korta på viktiga områden. Den kan inte tillförlitligt hantera fakta, utföra komplex resonemang eller förklara sina slutsatser. Rapporten innehåller också de tio viktigaste insikterna, inklusive att AI har överträffat mänsklig prestation på flera benchmarks, men ligger efter på mer komplexa uppgifter.
Anthropics Claude 3 Opus överträffar OpenAIs ChatGPT på global AI-topplista
OpenAI lanserade ChatGPT i november 2022 och startade en global AI-revolution. Detta har lett till att fler människor skapar nya typer av AI-chattrobotar. För första gången har en konkurrent lyckats överträffa ChatGPT enligt LMSYS Chatbot Arena. Claude 3 Opus, Anthropic senaste artificiella intelligens, tog förstaplatsen på den globala topplistan, och flyttade ner GPT-4 till andra plats. LMSYS Chatbot Arena jämför olika AI-chattrobotar genom att låta dem tävla i anonyma slumpmässiga strider. Den samlade mer än 400 000 användarröster för olika modeller från OpenAI, Google och Anthropic. Dessutom rangordnar den dem med Elo-betygssystemet. GPT-4, OpenAIs senaste stora språkmodell, lades till den 10 maj 2023 och har dominerat förstaplatsen sedan dess. Den 26 mars 2024 föll den till andra plats på grund av Anthropics Claude 3 Opus-modell. Claude har en unik funktion som kallas konstitutionell AI, som följer 10 principer som fungerar som dess riktlinjer eller ´konstitution´.
Anthropic får miljarder i finansiering från Google och Amazon för AI-säkerhet
Anthropic, ett företag som startades 2021 av forskare inom OpenAI, har fått miljarder i finansiering från Google och Amazon. Företaget, som har säkerhet i sin DNA, har sedan starten setts som LLM-företaget. CEO Dario Amodei, en tidigare Google Brain-forskare, har skrivit om den katastrofala potentialen för AI sedan 2016. Anthropic är inrättat som ett offentligt nyttoföretag och har en oberoende styrelse som över tid kommer att styra anställning och avskedande av företagsledning. Daniela Amodei, som övervakade OpenAI:s policy- och säkerhetsteam, är företagets president och har sagt att Anthropics säkerhetsförsta-policy är en av dess huvudskillnader.
AI:s stora genombrott 2023: Multimodalitet, konstitutionell AI och text-till-video
År 2023 markerade en viktig milstolpe för AI-teknik. Chatbots blev viral och regeringar började ta AI-risker på allvar. Tre stora innovationer var multimodal AI, konstitutionell AI och text-till-video verktyg. Multimodal AI, som OpenAI:s GPT-4 och Google DeepMind´s Gemini, kan bearbeta olika typer av data som text, bilder, video och ljud. Konstitutionell AI, först beskriven av forskare vid Anthropic, syftar till att anpassa AI-system till mänskliga värderingar genom att skriva en ´konstitution´ för AI att följa. Text-till-video verktyg, som erbjuds av företag som Runway och Pika AI, har också sett snabb tillväxt, vilket möjliggör skapandet av rörliga bilder från text.
Majoriteten av amerikanerna vill sakta ner AI-utvecklingen
Enligt en undersökning av AI Policy Institute, vill 72% av den amerikanska befolkningen sakta ner utvecklingen av artificiell intelligens (AI), medan endast 8% vill påskynda den. Undersökningen utfördes av dataanalysföretaget YouGov, som tillfrågade 1 001 amerikaner av alla åldrar, kön och politiska övertygelser. Sam Altman, VD för OpenAI, och Brad Smith från Microsoft har uttryckt att det skulle vara oförsiktigt att hämma OpenAIs framsteg. Jack Clark, VD för Anthropic, kommenterade att det finns en skillnad mellan elitens och allmänhetens åsikt.
Storbritanniens premiärminister Rishi Sunak värd för AI-toppmöte
Chatbots som ChatGPT har imponerat världen med sin förmåga att skriva tal, planera semestrar eller föra samtal lika bra eller möjligen bättre än människor, tack vare avancerade artificiella intelligenssystem. Nu har gräns AI blivit det senaste buzzordet eftersom det växer oro att den framväxande tekniken har förmågor som kan äventyra mänskligheten. Alla från brittiska regeringen till toppforskare och till och med stora AI-företag själva varnar för gräns AI: s ännu okända faror och kräver skyddsåtgärder för att skydda människor från dess existentiella hot. Debatten kulminerar på onsdag, när Storbritanniens premiärminister Rishi Sunak är värd för ett två dagar långt toppmöte inriktat på gräns AI. Det förväntas locka en grupp av cirka 100 tjänstemän från 28 länder, inklusive USA: s vicepresident Kamala Harris, Europeiska kommissionens ordförande Ursula von der Leyen och chefer från viktiga amerikanska artificiella intelligensföretag inklusive OpenAI, Googles Deepmind och Anthropic. Platsen är Bletchley Park, en tidigare topphemlig bas för andra världskrigets kodknäckare ledda av Alan Turing. Den historiska egendomen ses som födelseplatsen för modern databehandling eftersom det var där Turing och andra berömt knäckte Nazitysklands koder med hjälp av världens första digitala programmerbara dator. I ett tal förra veckan sa Sunak att endast regeringar - inte AI-företag - kan hålla människor säkra från teknikens risker. Men han noterade också att Storbritanniens tillvägagångssätt ´är att inte skynda på att reglera´, även när han skisserade en mängd skrämmande hot, till exempel användningen av AI för att mer lätt göra kemiska eller biologiska vapen. ´Vi måste ta detta på allvar, och vi måste börja fokusera på att försöka komma före problemet´, sa Jeff Clune, en biträdande datavetenskapsprofessor vid University of British Columbia med inriktning på AI och maskininlärning. Clune var bland en grupp inflytelserika forskare som författade en artikel förra veckan som uppmanade regeringar att göra mer för att hantera risker från AI. Det är den senaste i en serie allvarliga varningar från teknikmoguler som Elon Musk och OpenAI: s VD Sam Altman om den snabbt utvecklande tekniken och de olika sätt industrin, politiska ledare och forskare ser vägen framåt när det gäller att begränsa riskerna och regleringen. Det är långt ifrån säkert att AI kommer att utplåna mänskligheten, sa Clune, ´men det har tillräcklig risk och chans att inträffa. Och vi måste mobilisera samhällets uppmärksamhet för att försöka lösa det nu snarare än att vänta på att värsta scenariot ska hända.´ Ett av Sunaks stora mål är att hitta en överenskommelse om en kommuniké om AI-riskernas natur. Han avslöjar också planer på ett AI-säkerhetsinstitut som kommer att utvärdera och testa nya typer av tekniken och föreslår skapandet av en global expertpanel, inspirerad av FN: s klimatförändringspanel, för att förstå AI och ta fram en ´State of AI Science´ -rapport. Toppmötet återspeglar den brittiska regeringens ivrighet att vara värd för internationella sammankomster för att visa att den inte har blivit isolerad och fortfarande kan leda på världsscenen efter att ha lämnat Europeiska unionen för tre år sedan. Storbritannien vill också göra anspråk på en het policyfråga där både USA och den 27-nationers EU gör rörelser. Bryssel lägger sista handen vid vad som är på väg att bli världens första omfattande AI-regleringar, medan USA: s president Joe Biden undertecknade en omfattande verkställande order på måndag för att styra utvecklingen av AI, byggd på frivilliga åtaganden gjorda av teknikföretag. Kina, som tillsammans med USA är en av de två världs AI-makterna, har bjudits in till toppmötet, även om Sunak inte kunde säga med ´100% säkerhet´ att representanter från Beijing kommer att delta. Artikeln undertecknad av Clune och mer än 20 andra experter, inklusive två döpta till AI: s ´gudfäder´ - Geoffrey Hinton och Yoshua Bengio - uppmanade regeringar och AI-företag att vidta konkreta åtgärder, till exempel genom att spendera en tredjedel av sina forsknings- och utvecklingsresurser på att säkerställa säker och etisk användning av avancerad autonom AI. Gräns AI är en förkortning för de senaste och mest kraftfulla systemen som går ända upp till kanten av AI: s förmågor. De bygger på grundmodeller, vilka är algoritmer som tränas på en bred informationsbas skrapad från internet för att ge en allmän, men inte ofelbar, kunskapsbas. Det gör gräns AI-system ´farliga eftersom de inte är perfekt kunniga´, sa Clune. ´Människor antar och tror att de är enormt kunniga, och det kan ställa till problem.´ Mötet har dock stött på kritik för att det är för upptaget med avlägsna faror. ´Fokus för toppmötet är faktiskt lite för smalt´, sa Francine Bennett, tillförordnad direktör för Ada Lovelace Institute, en policyforskningsgrupp i London med fokus på AI. ´Vi riskerar att bara glömma den bredare uppsättningen risker och säkerhet´ och de algoritmer som redan är en del av vardagen, sa hon vid ett Chatham House-panel förra veckan. Deb Raji, en forskare vid University of California, Berkeley, som har studerat algoritmisk bias, pekade på problem med system som redan har implementerats i Storbritannien, såsom polisens ansiktsigenkänningssystem som hade en mycket högre falsk detektionsgrad för svarta människor och en algoritm som förstörde en gymnasieexamen. Toppmötet är en ´missad möjlighet´ och marginaliserar samhällen och arbetare som är mest påverkade av AI, sa mer än 100 civila samhällsgrupper och experter i ett öppet brev till Sunak. Skeptiker säger att den brittiska regeringen har satt sina toppmåls mål för lågt, med tanke på att reglering av AI inte kommer att finnas på agendan, och i stället fokuserar på att etablera ´skyddsräcken´. Sunaks uppmaning att inte skynda på reglering påminner om ´det budskap vi hör från många av de företagsrepresentanterna i USA´, sa Raji. ´Och så är jag inte förvånad över att det också gör sin väg in i vad de kanske säger till brittiska tjänstemän.´ Teknikföretag bör inte vara involverade i att utarbeta regler eftersom de tenderar att ´underskatta eller tona ner´ brådskan och hela skadeomfånget, sa Raji. De är också inte så öppna för att stödja föreslagna lagar ´som kan vara nödvändiga men som effektivt kan äventyra deras resultat´, sa hon. DeepMind och OpenAI svarade inte på förfrågningar om kommentarer. Anthropic sa att medgrundarna Dario Amodei och Jack Clark skulle delta. Microsoft sa i ett blogginlägg att det såg fram emot ´Storbritanniens nästa steg i att sammankalla toppmötet, främja sina insatser för AI-säkerhetstestning och stödja större internationellt samarbete om AI-styrning.´ Regeringen hävdar att den kommer att ha rätt blandning av deltagare från regeringen, akademin, det civila samhället och näringslivet. Institute for Public Policy Research, en center-vänster brittisk tankesmedja, sa att det skulle vara ett ´historiskt misstag´ om teknikindustrin fick reglera sig själv utan statlig tillsyn. ´Regulatorer och allmänheten är till stor del i mörkret om hur AI distribueras över ekonomin´, sa Carsten Jung, gruppens seniora ekonom. ´Men självreglering fungerade inte för sociala medieföretag, det fungerade inte för finanssektorn, och det kommer inte att fungera för AI.´
Stora AI-företag går med på säkerhetstester för AI-modeller
Stora AI-företag och länder har undertecknat en överenskommelse vid AI Safety Summit om att låta myndigheter granska AI-modeller ur säkerhetssynpunkt innan de blir offentliga. Överenskommelsen är dock inte juridiskt bindande. Bland företagen finns Open AI, Google Deep Mind, Anthropic, Amazon, Mistral, Microsoft och Meta. Länder som EU, USA och Storbritannien har också skrivit under. Kina, som deltog i toppmötet, är inte en del av överenskommelsen.
Storbritannien värd för toppmöte om farorna med framkant AI
Chatbots som ChatGPT har imponerat världen med sin förmåga att skriva tal, planera semestrar eller hålla en konversation lika bra eller kanske till och med bättre än människor, tack vare framkantens AI-system. Nu har gräns AI blivit det senaste buzzordet när oro växer över att den framväxande teknologin har kapaciteter som kan äventyra mänskligheten. Alla från den brittiska regeringen till toppforskare och till och med stora AI-företag själva larmar om gräns AI: s ännu okända faror och kräver skyddsåtgärder för att skydda människor från dess existentiella hot. Debatten kommer till en spets på onsdag, när den brittiska premiärministern Rishi Sunak är värd för ett två dagars toppmöte med fokus på gräns AI.
har gått vår kurs "AI på jobbet".
