» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 267 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
AI Act är en förkortning för ´Artificial Intelligence Act´, vilket är ett förslag till en europeisk lagstiftning som syftar till att reglera användningen av artificiell intelligens (AI) inom EU. Lagen syftar till att skydda medborgarnas grundläggande rättigheter och säkerställa att AI-teknik används på ett ansvarsfullt och etiskt sätt. Den föreslår också att skapa en ram för att övervaka och kontrollera AI-system, samt att införa sanktioner för de som inte följer reglerna. AI Act strävar efter att göra EU till en global ledare inom utvecklingen och användningen av AI.
Senaste nytt kring AI Act
Fem myter om generativ AI: Förståelse för utmaningar och möjligheter
Generativ AI (gen AI) har redan attraherat en stor användarbas och visat framgångar inom områden som tidigare ansågs exklusiva för mänsklig intelligens och uppfinningsrikedom. Trots detta finns det myter som kan hindra företag från att fullt ut dra nytta av tekniken. Myterna inkluderar att gen AI-verktyg är gratis eller kostar lite, att AI alltid förbättrar mänsklig prestanda, att bygga gen AI-modellen är det svåraste steget, att företag kan vänta och se hur gen AI utvecklas innan de gör ett drag, och att investeringar i gen AI automatiskt ger en konkurrensfördel. Artikeln föreslår att företag bör utnyttja scenario-planering, prioritera gen AI-möjligheter med hjälp av ´De tre R:en´ och utvärdera organisationens beredskap för AI över flera dimensioner.
har gått vår kurs "AI på jobbet".
BPI hotar Jammable med rättsliga åtgärder över AI-röstkloningsteknik
Storbritanniens inspelningsmusikhandelsförening, BPI, har offentligt hotat med rättsliga åtgärder mot AI-röstkloningstekniken Jammable, tidigare känd som Voicify. Jammable använder röstmodeller för att låta sina kunder ta bort sång från inspelad musik och infoga AI-genererade sång som efterliknar ljudet av en artists röst. BPI hävdar att detta innebär att inspelningar som ägs av dess medlemmar används för att träna modellen och att Jammable utan tillstånd från dessa ägare bryter mot upphovsrätten.
Kreativa arbetare kräver effektiv implementering av EU:s AI-lag
Organisationer som representerar kreativa arbetare har släppt ett gemensamt uttalande om generativ artificiell intelligens (AI) och EU:s AI-lag. De menar att lagen behöver implementeras effektivt för att säkerställa transparens och möjliggöra för författare och artister att utöva sina rättigheter. De påpekar att även om AI-lagen implementeras korrekt, kommer den bara att fungera som en tillfällig lösning om inte rättsliga oklarheter åtgärdas och transparens, informerat samtycke och ersättning tydligt införlivas i den befintliga lagstiftningen.
SAP Emarsys lanserar AI-drivet verktyg för kundengagemang och upplevelsehantering
SAP Emarsys, en ledande plattform för omnichannel kundengagemang, har lanserat ett nytt AI-drivet verktyg för kundengagemang och upplevelsehantering inom detaljhandeln. SAP Emarsys AI Product Finder kommer att hjälpa varumärken att möta och engagera kunder genom personaliserade kanaler för detaljhandel. Emarsys kommer att utöka produktens räckvidd genom att ändra sitt partnerskap med över 1500 företag inom olika branscher. Enligt ny forskning anser 64% av amerikanska kunder att AI har förbättrat deras detaljhandelsupplevelser, en ökning med 25% i positiv känsla sedan 2023.
Storbritannien publicerar riktlinjer för ansvarsfull användning av AI inom rekrytering
Storbritanniens avdelning för vetenskap, innovation och teknologi (DSIT) har publicerat riktlinjer för ansvarsfull användning av AI inom HR och rekryteringssektorn. Guiden ´Ansvarsfull AI vid rekrytering´ är utformad för en icke-teknisk publik och antar en minimal förståelse för AI. Den skiljer sig från EU:s tillvägagångssätt där AI som används i rekrytering kommer att klassificeras som ´hög risk´ enligt EU:s AI-lag. DSIT har också publicerat ett ´Ansvarsfull AI Toolkit´ som samlar vägledning för att stödja organisationer i utveckling och implementering av AI-system på ett säkert och ansvarsfullt sätt.
Franska AI-startupen Mistral AI söker finansiering på flera hundra miljoner dollar
Franska AI-startupen Mistral AI rapporteras utforska en finansieringsrunda som skulle värdera företaget till 5 miljarder dollar. Företaget har varit i samtal med investerare om att höja flera hundra miljoner dollar. Det är dock oklart vilka investerare Mistral har närmat sig. Mistrals investerare inkluderar Andreessen Horowitz, Lightspeed Ventures och Microsoft, en frekvent partner / backer av Mistrals rival Open AI. Mistral värderades till cirka 2 miljarder dollar i december förra året efter att ha höjt 415 miljoner dollar.
Behovet av AI-reglering i Indien
Artificiell intelligens (AI) har haft stor inverkan på vårt dagliga liv och förväntas växa globalt, med en årlig tillväxttakt på 15,83% fram till 2030. I Indien förväntas AI-marknaden växa med en årlig tillväxttakt på 17,94% till 2030 och överstiga 5,47 miljarder dollar 2024. Trots detta saknar Indien övergripande lagstiftning som adresserar AI och dess tillämpningar. Det finns dock befintliga lagar, såsom Informationstekniklagen från 2000 och den digitala personuppgiftsskyddslagen från 2023, som styr vissa aspekter för att förhindra missbruk av AI. Trots dessa lagar finns det utmaningar, som bristen på en central lagstiftande ram för att bedöma och styra implementeringen av olika AI-verktyg. Dessutom har Indiens regering tagit flera initiativ för att främja ansvarsfull innovation och AI-utveckling.
AI förbättrar detaljhandelsupplevelsen, enligt ny forskning från SAP Emarsys
Mer än hälften (52%) av konsumenterna anser att artificiell intelligens (AI) har förbättrat deras detaljhandelsupplevelser, en ökning från 40% 2023, enligt ny forskning från SAP Emarsys. Företaget lanserade också sitt nya ´AI Product Finder´-verktyg. Forskningen, som undersökte över 2000 brittiska konsumenter och 250 brittiska marknadsförare, fann att 33% av konsumenterna tror att AI har gjort shopping enklare (upp från 26% 2023). Nästan tre fjärdedelar av brittiska marknadsförare (69%) har ökat sin investering i AI 2024. SAP Emarsys meddelade idag en pilot för sitt nya AI Product Finder-verktyg.
Uppståndelse i Bryssel över avtal mellan fransk startup och amerikansk jätte
Den 27 februari 2024 meddelade Europeiska kommissionen att den skulle ´undersöka´ det framtida partnerskapet mellan Microsoft och den franska startupen Mistral AI. Det nya förhållandet mellan de två företagen innebär en investering på 15 miljoner euro av Microsoft i Mistral AI. Dessutom kommer Mistral AI att lansera en stängd stor språkmodell (LLM), Mistral Large, vilken endast kommer att vara tillgänglig för företag, inte allmänheten. Partnerskapet med Microsoft innebär att Mistral Large kommer att införlivas i techjättens molnerbjudande, troligen exklusivt. Nyheten orsakade uppståndelse i Bryssel.
Indien föreslår lag om artificiell intelligens för att skydda innehållsskapare
Indiens regering har nyligen föreslagit införandet av en lag om artificiell intelligens (AI) i syfte att skydda innehållsskapares intressen, inklusive nyhetsutgivare. Detta ses som ett viktigt steg i att hitta en balans mellan utgivares rättigheter och utvecklingen av generativa AI-modeller. Den föreslagna lagstiftningen avser att ta itu med AI-företagens växande inflytande över nyheter och innehållskonsumtion. Genom att införa specifika lagar kan Indien effektivt möjliggöra teknisk innovation samtidigt som man skyddar nyhetsrapporteringens och konstnärlig kreativitets värden.
Indien söker balans i AI-reglering mellan USA:s och EU:s strategier
Frågan om hur Artificiell Intelligens (AI) bör regleras är för närvarande ett intensivt debatterat ämne i Indien. Landets IT-ministerium har tidigare intagit en pro-innovativ hållning liknande USA:s, men under de senaste månaderna har policybeslutsfattare visat ökat intresse för att reglera vissa aspekter av AI. Den första dataskyddslagen, ´Digital Personal Data Protection Act´, infördes i Indien i augusti 2023. Dessutom utarbetades Digital India Bill 2023, som syftar till att ersätta Indiens nuvarande IT-lag från 2000 och ge en omfattande tillsyn över det digitala landskapet. Indien förväntas släppa utkastet till AI-regleringsramen i juli i år, efter att det elektroniska processen är över och en ny regering tar över. En balanserad ansats är nyckeln till att bestämma den lämpliga omfattningen och typen av styrning.
har gått vår kurs "AI på jobbet".
Belysning av kvinnor som bidrar till AI-revolutionen: Emilia Gómez
TechCrunch lanserar en serie intervjuer för att belysa framstående kvinnor som bidragit till AI-revolutionen. Emilia Gómez, huvudutredare vid Europeiska kommissionens gemensamma forskningscentrum och vetenskaplig samordnare för AI Watch, är en av de profilerade. Gómezs forskning är förankrad inom det beräkningsmässiga musikområdet, där hon bidrar till förståelsen av hur människor beskriver musik och de metoder som används för att modellera den digitalt. Hon undersöker även hur AI påverkar mänskligt beteende, särskilt effekterna på jobb, beslut och barns kognitiva och socioemotionella utveckling.
AI-lagen inför riskbaserade begränsningar och krav på AI-applikationer
AI-lagen inför en riskbaserad strategi som utsätter AI-applikationer för fyra olika nivåer av restriktioner och krav, inklusive ´oacceptabel risk´ som är förbjuden; ´hög risk´; ´begränsad risk´; och ´minimal risk´. Användning av AI på arbetsplatsen betraktas som potentiellt hög risk. AI-lagen förväntas publiceras snart och träda i kraft under våren eller tidig sommar i år. Användning av ´hög risk AI-system´ på arbetsplatsen kräver att arbetsgivare informerar anställda och arbetarrepresentanter, följer ´användningsinstruktioner´ från tillverkare av högrisk AI-system, implementerar ´mänsklig tillsyn´, och behåller register över AI-utdata. Brott mot AI-lagen kan resultera i kraftiga böter.
Microsoft introducerar nya verktyg för ansvarsfull AI för att minska företags tveksamhet
Microsoft har introducerat nya verktyg för ansvarsfull AI i Azure AI Studio för att minska företags tveksamhet kring generativa AI-system. Verktygen inkluderar prompt shields, Groundedness Detection, system safety messages, säkerhetsutvärderingar och risk- och säkerhetsövervakning. De nya verktygen kommer i takt med att teknikjätten och dess konkurrent Google försöker lösa problem med sina generativa AI-verktyg. Till exempel skrev en visselblåsare från Microsoft till Federal Trade Commission om säkerhetsproblem med Microsoft Copilot Designer. Google stängde av bildgenereringsfunktionen för sin Gemini stora språkmodell efter att den genererat partiska bilder av viktiga historiska figurer. Google utökade också sin Search Generative Experience (SGE) genom att låta den svara på användarfrågor. Men det finns rapporter om att SGE:s svar är spamiga och leder till skadlig programvara och bedrägerier. Microsofts nya verktyg för ansvarsfull AI visar också hur leverantören svarar på några av de nya regler som kommer från både Europeiska unionen och USA.
AI-företag överväger att flytta huvudkontor utomlands efter EU:s nya AI-lagstiftning
Kapplöpningen för att utveckla och implementera högnivå AI-modeller har blivit en fixering för regeringar och teknikföretag globalt. Google investerade nyligen 25 miljoner euro i ett nytt initiativ för att öka AI-kompetensen för européer och samarbetade med den franska regeringen för att inrätta ett nytt AI-centrum i Paris. Samtidigt annonserade Microsoft en investering på 3 miljarder euro i AI-utveckling i Tyskland. Den 20 mars rapporterade källor att Tysklands Aleph Alpha och två brittiska AI-företag - Synthesia och StabilityAI - överväger att flytta sina huvudkontor utomlands. Enligt rapporten har tjänstemän från Kanada och Förenade Arabemiraten närmat sig företagen i ett försök att locka dem från EU-regionen.
Reglering av AI kan hämma innovation i Afrika
Google har pausat sitt senaste AI-verktyg, Gemini, efter kritik för att det inte erkänner vita människors existens. Denna och liknande kontroverser har lett till ökad diskussion om AI-styrning globalt, med betydande ökning av AI-reglering under 2023. Men i Afrika kan för tidig reglering av AI-teknik avleda uppmärksamheten från de utmaningar som den afrikanska teknik- och AI-ekosystemet står inför och hämma innovation. Det krävs en noggrann utvärdering av det nuvarande tillståndet i Afrikas AI-ekosystem, med fokus på data och datasystem, digital infrastruktur, talang och AI-marknader.
Överreglering kan kväva innovation inom AI, varnar industriorgan
EU:s AI-lagstiftning måste noga övervakas för att inte överbelasta innovativa AI-utvecklare med onödig byråkrati, varnar en industriorganisation. Europas växande landskap för generativ artificiell intelligens (GenAI) är mycket konkurrenskraftigt, men ytterligare reglering kan kväva innovation, enligt en ny studie. Studien, utförd av Copenhagen Economics, säger att det inte finns några ´omedelbara konkurrensproblem´ inom Europas GenAI-scen som skulle motivera reglerande ingripande. Computer & Communications Industry Association (CCIA Europe), som beställde den oberoende rapporten, varnade för att reglerande ingripande skulle vara för tidigt, sakta ner innovation och tillväxt och minska konsumenternas val inom generativ AI.
EU:s AI-lag godkänd av Europaparlamentet
Den 12 mars 2024 antog Europaparlamentet EU:s AI-lag, som beskrivs som världsledande inom AI-reglering. Lagen kategoriserar olika typer av AI i riskpooler: minimal, hög och oacceptabel risk. För närvarande verkar det inte finnas några AI-verktyg som EU anser vara av minimal risk. Hög risk inkluderar verktyg som faller under EU:s produktsäkerhetslagstiftning och verktyg som påverkar mänskliga rättigheter eller kritisk infrastruktur. Oacceptabla riskverktyg kommer att förbjudas. Lagen kommer inte att träda i kraft förrän den ratificeras av medlemsstaterna, vilket troligtvis kommer att ske 2024. Amerikanska företag som skapar eller använder AI-verktyg kommer inte att påverkas direkt, såvida de inte genererar intäkter inom EU. När ratificeringen av EU:s AI-lag är klar måste amerikanska företag som gör affärer inom EU omedelbart följa lagen. Liksom EU:s dataskyddsförordning, GDPR, medföljer EU:s AI-lag höga böter för icke-efterlevnad.
Franska AI-startupen Mistral AI i partnerskap med Microsoft
Det franska startupföretaget Mistral AI, värderat till 2 miljarder euro, har blivit känd som ett av Europas stora hopp i den kommersiella kampen om artificiell intelligens (AI). Företaget, som grundades i april 2023 av tre tidigare forskare på Google och Facebooks moderbolag Meta, har fått uppmärksamhet från nyckelinvesterare på båda sidor om Atlanten och dragit in mer än 500 miljoner euro i förra årets finansieringsrundor. Trots detta har företagets framgångar ifrågasatts efter att det i februari meddelades att de ingått ett partnerskap med Microsoft, vilket pekar på ett mönster som stör Europas försök att odla autonoma tech-hopp.
SoftBank överväger att investera i franska AI-startupen Mistral AI
Japanska techjätten SoftBank överväger en investering i den franska AI-startupen Mistral AI, enligt källor. Ett potentiellt avtal kan värdera Mistral till över $2 miljarder. Mistral, som grundades av veteraner från Meta och Google, har positionerat sig som en europeisk utmanare till USA:s dominans inom AI-området. Företaget värderades till cirka $2 miljarder i december förra året efter en finansieringsrunda på $415 miljoner. Förra månaden investerade Microsoft $16 miljoner i Mistral och gjorde även startupens senaste modell tillgänglig för användare av dess Azure molntjänster.
EU presenterar ny lagstiftning för artificiell intelligens
Europeiska unionen (EU) har offentliggjort en preliminär överenskommelse om innehållet i den kommande artificiella intelligenslagen (AI-lagen). Lagen, som förväntas träda i kraft mellan maj och juli 2024, syftar till att skapa en omfattande lagstiftning för AI globalt och främja förtroendefull AI i Europa och utomlands. Den nyligen skapade EU AI-kontoret kommer att övervaka genomförandet och verkställandet av AI-lagen. Konsekvenserna för icke-efterlevnad kan vara betydande, med böter på upp till 35 miljoner euro eller 7 procent av den globala omsättningen.
har gått vår kurs "AI på jobbet".
EU-parlamentet godkänner föreslagen AI-lag
EU-parlamentet har godkänt det föreslagna AI-lagen, vilket är ett viktigt steg mot att införa lagstiftningen. Lagförslaget kräver nu formellt godkännande av ministrar från EU-medlemsstater. Lagen kommer att genomföras över en period av tre år. Guillaume Couneson, partner på advokatbyrån Linklaters, sa att användare kommer att kunna lita på att AI-verktygen de har tillgång till har noggrant granskats och är säkra att använda. Lagen innebär att vissa system kommer att förbjudas, inklusive system som försöker manipulera människor för att orsaka skada och system som klassificerar människor baserat på socialt beteende eller personlighet. Lagförslaget har fått blandade reaktioner från AI- och teknikföretag.
Europaparlamentet godkänner omfattande regler för AI
Europaparlamentet har gett slutligt godkännande till omfattande regleringar av artificiell intelligens (AI), inklusive kraftfulla system som OpenAI´s ChatGPT. Texten antogs med stöd från 523 EU-lagstiftare och 46 röstade emot. EU:s 27 medlemsstater förväntas godkänna lagen i april innan den publiceras i EU:s officiella tidning i maj eller juni. AI-lagen fokuserar på högriskanvändning av tekniken av både privat och offentlig sektor, med hårdare skyldigheter för leverantörer, strängare transparensregler för de mest kraftfulla modellerna som ChatGPT, och totalt förbud mot verktyg som anses för farliga.
Musikindustrin välkomnar EU:s nya AI-lag
Musikindustrin välkomnar Europeiska parlamentets godkännande av den första omfattande regleringen av artificiell intelligens (AI) i västvärlden och uppmanar EU att verkställa lagens upphovsrättsbestämmelser på ett ´meningsfullt och effektivt´ sätt. AI-lagen, som har förhandlats i två år, syftar till att balansera regleringen av AI för att förhindra potentiellt negativa konsekvenser för allmänheten och skapa en miljö som låter europeiska teknikföretag konkurrera med USA och Kina inom det snabbt växande AI-området. Lagen kräver att utvecklare av ´allmänna AI´ (GPAI) modeller håller reda på och avslöjar vilket innehåll som används i träningen. Den ställer också krav på att ´all användning av upphovsrättsskyddat innehåll kräver tillstånd från den berörda [rättighetshavaren], om inte relevanta undantag och begränsningar för upphovsrätten gäller.
EU AI Act röstats igenom - nya regler för AI och generativ AI
EU-parlamentet har röstat igenom förslaget ´EU AI Act´ med 523 röster för, 46 mot och 49 nedlagda. Förslaget, som nu tros bli lag i maj, reglerar användningen av AI och generativ AI. Det är uppdelat i undergrupper beroende på hur farliga de anses vara. Bland annat får man inte använda biometri från övervakning eller filmning, eller från bilder på internet, för att skapa databaser. Tjänster som använder AI måste också vara transparenta och meddela användaren om att det är en AI-tjänst. Generativ AI för text, som exempelvis ChatGPT, kommer att behöva följa viss transparens. De nya reglerna kan börja gälla redan i maj/juni 2024.
Microsofts AI-chatbot, Copilot, är tillgänglig direkt i Windows, på webben, som en sidofält i Edge-webbläsaren och som en mobilapp. Copilot kan generera olika typer av innehåll, analysera uppladdade bilder och tillhandahålla insikter om din aktuella webbsida i webbläsaren. Copilot Pro kostar $20 i månaden och erbjuder ytterligare fördelar, inklusive integration med Microsoft 365. Copilot kör en anpassad version av GPT-4 och både Copilot och ChatGPT fortsätter att växa och utvecklas. Microsoft har investerat miljarder i OpenAI, skaparen av ChatGPT.
Cybersäkerhetsrisker och reglering i samband med AI-adoption
Katie McCullough, Chief Information Security Officer på Panzura, varnar för de cybersäkerhetsrisker som är förknippade med AI-adoption och diskuterar hur företag kan skydda sig mot dessa risker. AI har blivit mainstream, med 100 miljoner aktiva månatliga användare av ChatGPT och 60% av arbetstagare som för närvarande använder eller planerar att använda generativ AI i sina vardagliga uppgifter. Trots produktivitetsfördelarna kommer generativ AI med kostnader, inklusive etiska, integritets-, desinformations- och cybersäkerhetsrisker. Reglering av AI kommer snart, med de första lagarna som styr AI som träder i kraft 2024 i USA, EU och Kina. Enligt en studie av McKinsey planerar 40% av företagen att öka sin AI-adoption nästa år. Men trots oro för cybersäkerhetsrisker arbetar bara 38% för att mildra dessa risker.
Sammanfattning av globala riktlinjer och ramverk för AI-säkerhet och reglering
Riktlinjer för AI-säkerhet publicerades den 27 november 2023, ledda av UK National Cyber Security Centre och utvecklade med US Cybersecurity and Infrastructure Security Agency. Singapore har lanserat ett ramverk för att främja betrodda GenAI-utveckling och ett riskramverk för finanssektorn. EU har undertecknat AI Act och publicerat en konsoliderad text. Förenade Arabemiraten har inrättat konstgjord intelligens och Advanced Technology Council och utvecklat riktlinjer för LLM och Gen AI i DIFC Court-förfaranden. I USA har skapandet av Artificial Intelligence Safety Institute Consortium tillkännagetts och FCC har bekräftat att TCPA-restriktioner gäller AI-genererade röster.
EU inför omfattande reglering av artificiell intelligens
Europeiska unionen (EU) planerar att implementera den mest omfattande regleringen hittills för användning av artificiell intelligens (AI). Det föreslagna regelverket, kallat ´AI Act´, syftar till att hantera en rad frågor kring AI, inklusive etiska överväganden, ansvar och potentiella risker för individer och samhället i stort. ´AI Act´ kategoriserar AI-system utifrån den risknivå varje system innebär. Lagen förväntas antas av EU-parlamentet och EU:s ministerråd någon gång under andra kvartalet 2024. Förbud mot AI-system som anses utgöra en ´oacceptabel risk´ träder i kraft bara 6 månader plus 20 dagar efter publicering.
USA behöver EU:s regler för att skydda medborgare mot skadlig AI
När polisen använder rasistiskt snedvridna ansiktsigenkänningssystem och arbetsgivare använder diskriminerande algoritmer för att screena jobbsökande, finns det ofta inget sätt att bevisa att de har brutit mot lagen på grund av processuella hinder för att utmana AI i rätten. En enkel ändring av reglerna för civilprocess kan ge de som skadats av AI sin dag i domstolen. Modellen för detta finns redan i Europa - EU:s ansvarsdirektiv. Just nu är tekniken under AI-etiketten ogenomskinlig för de som den skadar. När Carmen Arroyo ansökte om en lägenhet i Connecticut för henne och hennes svårt funktionshindrade son, kan deras öde ha legat i händerna på ett algoritmiskt verktyg från CoreLogic.
CeADAR leder 8,7 miljoner euro EU-projekt för att utveckla AI-verktyg
CeADAR, Irlands centrum för AI, leder ett EU-projekt på 8,7 miljoner euro för att utveckla AI-verktyg, algoritmer och ramverk för att göra AI-system mer betrodda och energieffektiva. MANOLO-projektet samlar 18 partnerorganisationer från åtta europeiska länder med målet att utveckla AI-resurser för att minska mängden energi, minne och lagring som krävs för att träna och köra AI-modeller. Forskarna hoppas att utvecklingen av nya tekniker för att skapa mer energieffektiva AI-modeller kommer att hjälpa till att lindra belastningen på nationella energinät från datacenter och andra AI-system som körs på personliga och inbyggda enheter.
CeADAR leder 8,7 miljoner euro EU-projekt för energireduktion för datacenter och IoT
CeADAR, Irlands centrum för AI, leder ett EU-projekt värt 8,7 miljoner euro för att utveckla AI-verktyg, algoritmer och ramverk för att göra AI-system mer pålitliga och energieffektiva. Manolo-projektet samlar 18 partnerorganisationer från åtta europeiska länder för att utveckla AI-resurser för att hjälpa till att minska mängden energi, minne och lagring som krävs för att träna och köra AI-modeller. Manolo siktar på att utveckla en handbok med praktiska riktlinjer om hur man tillämpar Manolo-ramverket och verktygen för att hjälpa företag att utforma pålitliga AI-lösningar. De tillförlitliga algoritmerna och ramverket som utvecklas under MANOLO förväntas hjälpa företag att följa EU:s föreslagna lagstiftning för att reglera AI, EU AI Act.
EU redo att anta världens första omfattande AI-lagstiftning
Europeiska unionens medlemsländer är redo att anta världens första omfattande lagstiftning för att reglera artificiell intelligens (AI). EU AI Act innehåller stränga regler för de riskfyllda AI-modellerna och syftar till att säkerställa att AI-system är säkra och respekterar grundläggande rättigheter och EU-värderingar. Lagen, som godkändes av EU-ländernas regeringar den 2 februari, behöver nu slutligt godkännande från Europaparlamentet, vilket förväntas ske i april. Om texten förblir oförändrad kommer lagen att träda i kraft 2026.
Utmaningar med reglering av artificiell intelligens
Regeringar över hela världen försöker snabbt reglera artificiell intelligens (AI). Biden-administrationen har nyligen utfärdat en verkställande order om säker, pålitlig och tillförlitlig utveckling och användning av AI, och EU har nått en preliminär överenskommelse om sin efterlängtade AI-lag. Trots de ekonomiska och sociala fördelarna med AI kan felaktig användning orsaka verkliga skador. Men fokus på AI-tekniken själv som målet för reglering, snarare än skadlig användning av AI, kan vara felriktat. Det är utmanande att definiera gränserna för AI och att mäta riskerna med AI.
ASEAN godkänner riktlinjer för AI, kan påverka EU:s strängare ramverk
Association of Southeast Asian Nations (ASEAN) har godkänt riktlinjer för styrning och etik inom artificiell intelligens (AI). Riktlinjerna, som är frivilliga och ´lätta´, kan påverka EU:s strängare AI-reglering. EU har lobbat för att andra delar av världen ska anpassa sig till dess AI-lag, som kallas världens första omfattande AI-lag. Men ASEAN:s mer företagsvänliga inställning till AI-reglering kan orsaka oro inom EU. ASEAN:s medlemmar, som inkluderar liberala demokratier samt enpartistater, har tagit en frivillig, mildare inställning, medvetna om svårigheterna att hitta en gemensam grund för att hantera potentiellt skadligt AI-genererat innehåll.
EU godkänner artificiell intelligenslag, nästa stopp är Europaparlamentet
Europeiska unionens medlemsstater har godkänt lagen om artificiell intelligens (AI Act) som nu går in i den sista parlamentariska fasen för att slutligt genomföras. Lagen antar en riskbaserad strategi, prioriterar högriskområden som regeringens användning av AI för biometrisk övervakning. Efter slutligt godkännande kommer AI-lagen att träda i kraft, men EU väljer en introduktionsperiod, vilket innebär att en lista över förbjudna AI-verktyg inte kommer att införas förrän om ytterligare sex månader. Experter förväntar sig att genomföra AI-lagen 2026, med specifika bestämmelser som träder i kraft tidigare för att underlätta en gradvis integration av den nya regleringsramen.
Israel och världen fortsätter att fokusera på dataskydd och AI-reglering under 2023
Under 2023 fortsatte dataskydd och AI-reglering att vara i fokus både i Israel och globalt. I Israel reflekterades detta i riktlinjer utfärdade av Dataskyddsmyndigheten och genom införande av regler för överföring av data från Europa till Israel. På internationell nivå inkluderade utvecklingen införandet av dataskyddslagar i fler amerikanska delstater, ny lagstiftning av EU och betydande verkställighetsåtgärder. AI tog också centrum under året, vilket ledde till att beslutsfattare över hela världen övervägde reglering i förhållande till risker och utmaningar som denna nya teknik innebär.
Datasekretess och AI kommer att mötas ´huvud mot huvud´ 2024
Datasekretess har blivit en återkommande fråga för både konsumenter och företag på senare år. Den snabba spridningen av IoT-enheter, övergången till molnet, ökat distansarbete och snabb implementering av generativ AI har lett till fler diskussioner om datasekretess. Experter förutser att säkerhetshot och dataintrång kommer att fortsätta öka under 2024, vilket leder till ökade investeringar från företag och ett skärpt fokus på datasekretess och säkerhet. Företag behöver förstå sin datafotavtryck och hotlandskap för att utveckla smarta strategier för dagens affärsmiljöer.
AI-verktyg kopplar felaktigt Dave Fanning till sexbrott: Nytt rättsligt område för ärekränkning
Radioprogramledaren Dave Fanning har inlett en förtalsrättegång efter att hans bild felaktigt kopplats till en artikel om en annan, icke namngiven, programledare som stod inför rätta för sexuella övergrepp. Fannings juridiska team föreslog att ett AI-verktyg som används som en automatiserad nyhetsinnehållsaggregator kan ha fungerat felaktigt och varit ansvarigt för att felaktigt använda hans bild. Detta fall, det första i Irland, ansluter sig till andra banbrytande fall runt om i världen som rör generativ AI. Juridiska frågor kring förtal och upphovsrätt uppstår.
EU-kommissionen föreslår strategi för att etablera ´AI-fabriker´
EU-kommissionen föreslår en innovationsstrategi för att etablera ´AI-fabriker´ och öka användningen av generativ AI i strategiska sektorer, enligt ett tidigt utkast. Kommunikationen om att boosta AI-startups och innovation ska presenteras i slutet av januari. ´AI-fabrikerna´ är tänkta att utföra ´storskaliga talangattraktionsaktiviteter´. Superdatorer och datacenter kommer att utgöra den fysiska infrastrukturen. Startups och forskare kan få tillgång till denna beräkningskraft i hela EU, men de måste först bevisa att deras arbete är ´etiskt och ansvarsfullt´.
Stora språkmodeller förbättrar patientvård men medför nya hot
Michael Bray, CISO för Vancouver Clinic, är entusiastisk över de stora språkmodellernas (LLM) potential att förbättra patientvården, men varnar också för de nya och dolda hoten de medför. LLM är kärnan i snabbt växande AI-teknologier som OpenAI´s ChatGPT, Google´s Bard och Microsoft´s Copilot, men med dessa LLM kommer nya risker som dataförgiftning, phishing, prompt injektioner och känslig dataextraktion. Säkerhetsverktyg har svårt att upptäcka dessa attacker, men sårbarheterna identifieras och prioriteras av OWASP, NIST och andra standardgrupper. EU AI Act har släppt en inledande efterlevnadscheckare och UK har släppt riktlinjer för säker AI-systemutveckling.
EU:s AI-lag väntas bli en nyckelpelare i AI-strategin
EU:s AI-lag, som förväntas bli en ledande standard för AI-reglering globalt, är nära att bli formellt godkänd och träda i kraft. Lagen syftar till att skapa en regleringsram för AI-system inom EU, oavsett var leverantören av AI-systemet är beläget. Det kommer att påverka företag vars ledning och/eller anställda använder AI-verktyg i det dagliga arbetet, företag som anpassar ett AI-verktyg för intern eller extern användning, samt företag som utvecklar sin egen AI-modell. Lagen kommer att fastställa detaljerade och omfattande skyldigheter och krav för så kallade ´högrisk-AI-system´.
Milestone Systems antar G7:s uppförandekod för avancerade AI-system
Milestone Systems, en ledande leverantör av datadriven videoteknikprogramvara, har beslutat att anta och implementera G7:s uppförandekod för avancerade AI-system, och blir därmed ett av de första företagen att göra det. Thomas Jensen, VD för Milestone Systems, menar att företag bör ta egna steg för att identifiera och lösa svagheter och fallgropar med AI de utvecklar. Beslutet kommer samtidigt som EU har kommit överens om en egen AI-lag. Jensen applåderar AI-lagen, men menar att företag bör sträva efter att ligga före reglering.
Livsmedelsföretag använder AI för att förbättra sina verksamheter
Julia Buech, en senior konsumentlivsmedelsanalytiker på RaboResearch Food & Agribusiness, diskuterar hur livsmedelsföretag använder AI för att förbättra sina företag. Hon pekar på potentiella problem med den nya tekniken - från kostnadsbarriärer till ´AI-washing´, vilket kan leda till en ´AI-fri´ motkultur. Buech diskuterar också den kommande EU AI-lagen.
EU-kommissionen motverkar försök att undanta privat sektor från AI-traktat
Europeiska kommissionen förbereder sig för att motverka ett amerikanskt försök att undanta den privata sektorn från världens första internationella traktat om artificiell intelligens (AI), samtidigt som den strävar efter att anpassa sig så mycket som möjligt till EU:s AI-lag. Europarådet inrättade kommittén för artificiell intelligens i början av 2022 för att utveckla ramkonventionen om artificiell intelligens, mänskliga rättigheter, demokrati och rättsstatsprincipen. Den bindande internationella traktaten, den första i sitt slag om AI, står inför en avgörande tid: planen är att slutföra den i mars, för att sedan anta den på ministeriell nivå i maj.
Användning av upphovsrättsskyddade verk som träningsdata för AI fortsätter att vara en tvistefråga
Användningen av upphovsrättsskyddade verk som träningsdata för AI fortsätter att vara en tvistefråga. AI-utvecklare använder ofta stora mängder data, inklusive upphovsrättsskyddade verk, för att träna sina modeller. Denna praxis har blivit kommersiellt lukrativ, vilket har lett till att vissa kreatörer hävdar att det kränker deras rättigheter som upphovsrättsinnehavare. USA:s upphovsrättskontor, Vita huset och kongressen har erkänt spänningen i denna fråga. Stora rättsfall, inklusive New York Times stämning mot generativa AI-företag i december 2023, kan också påverka hur AI-utvecklare använder upphovsrättsskyddade verk i träningsprocessen. Japan har tagit itu med frågan direkt, även om dess ståndpunkt kan vara på väg att förändras. Under tiden söker Europeiska unionen att kräva att utvecklare av allmänna AI-modeller publicerar transparensrapporter om användningen av all data som används för att träna sagda modeller, oavsett dess upphovsrättsstatus.
Kan Anna Makanju behålla freden hos OpenAI efter att ha vunnit över världsledare?
Anna Makanju, chef för offentlig policy på OpenAI, har hjälpt till att omvandla företagets VD, Sam Altman, från en uppstartsdarling till AI-industrins ambassadör. Hon har designat hans utrikespolitiska arbete som en diplomatisk mission, och har dragit med honom över 25 städer och sex kontinenter på en fyra veckors turné. Makanju har använt sin erfarenhet från nationell säkerhet under Obama-administrationen för att stödja Altman i möten med globala ledare som Indiens premiärminister Narendra Modi, Spaniens premiärminister Pedro Sánchez, Israels president Isaac Herzog och senatens majoritetsledare Charles E. Schumer. Medan Makanju har vänt på Silicon Valley-lobbyns traditionella strategi genom att uppmana till reglering, är kritiker oroade över att företagets närhet till beslutsfattare ger Altman en ovanlig form av inflytande.
Snabb utveckling av AI-lagstiftning i EU, Kanada och Kalifornien
2021 ses som ett avgörande år för framsteg inom artificiell intelligens (AI). Lagstiftare skyndar sig att fastställa regler för den snabbt utvecklande tekniken för att stimulera AI:s innovationspotential och begränsa risken för sociala och ekonomiska skador. Tre senaste åtgärder i USA och Europa syftar till att reglera AI. I EU, Kanada och Kalifornien finns det brådskande försök att reglera AI. EU:s AI-lag, Kanadas AI och Data Act (AIDA) och Kaliforniens utkast till AI-relaterade regler under CCPA är alla exempel på detta. Företagsledare som använder AI eller försöker utnyttja tekniken i sina organisationer måste hålla sig uppdaterade om kommande regleringar, förbereda sig för framtida lagkrav och vidta rimliga åtgärder för att hantera riskerna med eventuell implementering av AI.
AI-landskapet förväntas utvecklas betydligt under 2024
AI-landskapet förväntas utvecklas betydligt under 2024, med en ökad fokus på AI-reglering och etik. Ledare börjar ifrågasätta hur AI kan användas som ett verktyg för att uppnå konkurrensfördelar. Dock finns det risker med införandet, och det är viktigt att neutralisera hot mot individer och företag, neutralisera produktfel och säkerställa individuell integritet och rättvisa. Den globala AI-marknaden värderas till 100 miljarder dollar och förväntas växa tjugo gånger fram till 2030, upp till nästan två biljoner amerikanska dollar. Sam Altman, VD för OpenAI, har betonat riskerna med AI.
Google Deepmind lanserar språkmodell Gemini, EU AI Act kan påverka AI-startups och Dobb-E lär robotar husuppgifter
I december lanserade Google Deepmind sin språkmodell Gemini i tre versioner: Ultra, Pro och Nano. Ultra-versionen sägs vara bättre än mänskliga experter på språkförståelse och slår OpenAI:s GPT-4 i nästan allt, förutom vardagligt sunt förnuft. EU:s politiska beslutsfattare har enats om ett provisoriskt avtal om regler för användningen av AI, vilket kan hindra framsteg för mindre startups. En ny öppen källkodsrobot, Dobb-E, har lanserats som lär robotar husuppgifter.
OpenAI:s ChatGPT förväntas generera 1 miljard dollar i intäkter 2024
ChatGPT, en AI-driven chatbot utvecklad av OpenAI, förväntas generera upp till 1 miljard dollar i intäkter 2024. Trots vissa felaktiga svar har ChatGPT lockat 100 miljoner användare på bara två månader, vilket gör den till den snabbast växande konsumentappen någonsin. Flera stora techföretag, inklusive Microsoft, Alphabet, Meta och Amazon.com, har investerat miljarder i generativ AI. Men detta har också lett till oro för AI:s potentiella hot mot mänskligheten, vilket resulterade i ett öppet brev undertecknat av tusentals forskare och AI-experter, inklusive Elon Musk, som kräver ett tillfälligt stopp för att studera teknologins inverkan. Trots detta förväntas AI-relaterad ekonomisk påverkan nå 15,7 biljoner dollar globalt senast 2030.
År 2023: En milstolpe för AI-industrin
År 2023 markerade en milstolpe inom artificiell intelligens (AI), präglat av en ökning av generativa AI-framsteg och anpassningar över olika sektorer. Microsofts investering i OpenAI och lanseringen av GPT-4 var betydande händelser. Tillväxten parallelliserades dock av ökande etiska, juridiska och reglerande utmaningar, inklusive upphovsrättsintrångsmål mot AI-företag och ökad statlig inblandning. Teknologisk innovation är alltmer sammanflätad med krav på ansvarsfull utveckling och tillsyn. AI och andra nya tekniker visade sig mycket under FIFA:s dam-VM 2023. AI-relaterade risker för sociala medier var front och centrum på ett antal fronter. OpenAIs styrelse avsatte plötsligt grundaren och VD Sam Altman. En vecka senare gick OpenAIs styrelse med på att återanställa honom tillsammans med president Greg Brockman.
AI-lagar saknas trots AI:s närvaro i alla delar av våra liv
Trots att artificiell intelligens (AI) är närvarande i alla delar av våra liv finns det ännu inga lagar för att reglera AI. EU har nyligen godkänt AI-lagen, som kommer att vara den första omfattande AI-lagstiftningen i världen när den träder i kraft 2025. I Indien kommer befintliga lagar att utvidgas för att täcka AI-applikationer tills specifika AI-lagar införs. Det föreslagna Digital India Act, som förväntas ersätta Information Technology Act från 2000, förväntas täcka AI. Samtidigt utvecklas liknande lagar i de flesta av världens stora ekonomier. Simran Singh, en advokat som rådgör AI-centrerade start-ups, säger att Indien gradvis omfamnar artificiell intelligens.
Guvernörer i USA utfärdar riktlinjer för användning av AI
Under sommaren har guvernörer i USA utfärdat verkställande order och policydokument om artificiell intelligens (AI) i syfte att förbereda sina myndigheter och invånare för tekniken. Kaliforniens guvernör Gavin Newsom utfärdade en order i september som inkluderade olika mandat för att etablera de bästa användningsfallen samtidigt som invånarna skyddas från AI:s risker. Andra stater som New Jersey, Oklahoma och Wisconsin har skapat arbetsgrupper för att vidare studera AI. National Association of State Chief Information Officers har utfärdat ett dussintal överväganden de anser att statliga ledare måste tänka på när de utformar sina egna AI-planer.
EU når politisk överenskommelse om banbrytande AI-lag
EU har nått en politisk överenskommelse om sin banbrytande artificiella intelligenslag (AI-lag), som först föreslogs 2021. Lagen är riskbaserad, vilket innebär att ju större risk, desto strängare reglering. Den innehåller en lista över förbjudna AI-applikationer, de flesta skadliga för integriteten. Vissa undantag kommer att finnas för brottsbekämpning och militära eller försvarsändamål. System klassificerade som ´hög risk´ kommer att vara föremål för en rad skyldigheter. Företag som bryter mot de nya reglerna riskerar böter från €35 miljoner till €7,5 miljoner, beroende på överträdelsen och företagets storlek. Lagen kommer att bli tillämplig två år efter ikraftträdandet, vilket troligen kommer att ske tidigt nästa år.
EU enas om banbrytande AI-lag: En potentiell modell för AI-reglering?
Den 8 december 2023 förhandlade EU:s beslutsfattare fram ett avtal om en bred lag för att reglera utvecklingen och användningen av artificiell intelligens (AI) i EU. Lagen, känd som Artificial Intelligence Act eller AI Act, måste fortfarande röstas igenom av Europaparlamentet; omröstningen förväntas tidigt 2024, med ett effektivt datum två år efter genomförandet. Brott mot AI Act kan bli allvarliga för organisationer, med potentiella böter riktade till 7 procent av globala försäljningar. När den väl är antagen, kommer AI Act att vara den första omfattande lagen i världen som reglerar AI.
AI-utveckling leder till nya möjligheter som kan förbättra hur vi arbetar, lever och interagerar med varandra. Flera stora teknikföretag, inklusive Apple, Google och IBM, utvecklar AI-drivna verktyg och modeller. Apple har till exempel utvecklat en chatbot under ramverket ´Ajax´. IBM och Meta har lanserat AI Alliance för att främja öppen och transparent innovation inom AI. Open-source AI innebär att vem som helst kan bidra till, återdistribuera eller använda mjukvaran. Medan AI-system kan ge upphov till en mängd innovationer, behöver de användas ansvarsfullt. Risker inkluderar bland annat miljöpåverkan, brist på reglering och brist på omfattande testning.
Provisorisk politisk överenskommelse om banbrytande AI-reglering i Europa
EU-lagstiftare nådde den 8 december 2023 en provisorisk politisk överenskommelse om Artificial Intelligence Act (AI Act). När den antas blir denna reglering den första i sitt slag och kan sätta en global standard för AI-lagar runtom i världen. AI Act förbjuder AI-applikationer som utgör hot mot individers rättigheter och demokrati, tillåter smala undantag för brottsbekämpning att använda biometriska identifieringssystem och introducerar sanktioner för icke-efterlevnad. AI Act är fortfarande föremål för ytterligare tekniskt arbete under de kommande veckorna.
EU når kompromiss om AI-lag
Den lagstiftningsprocess som inleddes den 21 april 2021 med Europeiska kommissionens förslag till AI-lag har nått en kompromiss. Rådet antog förhandlingsmandatet för förslaget den 25 november 2022 och parlamentet bekräftade sin position i en plenaromröstning den 14 juni 2023. Efter att Spanien tog över ordförandeskapet för rådet i juli meddelade rådet att AI-lagen skulle prioriteras. Förhandlingarna tycktes dock stanna av den 10 november 2023 när Tyskland, Frankrike och Italien starkt motsatte sig parlamentets stränga tillvägagångssätt för reglering av grundmodeller. Rådet föredrog en lättare metod för självreglering genom uppförandekoder, vilket skulle ha tillåtit utvecklare av grundmodeller att anta en frivillig överensstämmelsemekanism. För att övervinna det resulterande dödläget enades parlamentet och rådet om en stegvis metod för att införa ett strängare system för ´hög-impact´ grundmodeller och allmänna AI-system, vilket banade väg för en slutlig kompromiss. Regleringen av så kallade grundmodeller har lockat mycket lagstiftningsuppmärksamhet och kontrovers under de senaste månaderna. Enligt den nu uppnådda kompromissen kommer AI-lagen att skilja mellan de regler och skyldigheter som gäller för alla grundmodeller och de extra som gäller för särskilt kraftfulla, ´systemiska´ grundmodeller. Leverantörer av alla grundmodeller - med undantag för de som är ´open source´ - förväntas vara skyldiga att följa vissa öppenhetskrav. Speciella regler kommer också att gälla för särskilt kraftfulla grundmodeller. AI-lagen fokuserar på högrisk-AI-system, för vilka den fastställer ett antal krav. Utvecklare och organisationer som använder eller driver högrisk-AI-system är de två huvudparterna som omfattas av AI-lagen. Obligationer placeras främst på utvecklarna (´leverantörer´). De är skyldiga att genomföra ett brett utbud av tekniska och styrningsåtgärder innan AI-systemet säljs, licensieras eller används i en produktionsmiljö. Dessutom måste högrisk-AI-system utformas och utvecklas för att uppnå noggrannhet, robusthet, cybersäkerhet, hållbarhet och livslängd. För användarna av högrisk-AI-system inkluderar skyldigheterna att endast använda AI-systemet i enlighet med den tekniska dokumentation som tillhandahålls av leverantören; övervaka systemets drift löpande; genomföra en obligatorisk grundläggande rättighetspåverkan bedömning innan ett AI-system tas i bruk; och rapportera eventuella funktionsfel som upptäckts till leverantörerna. Begränsade risk-AI-system måste följa öppenhetskrav, i synnerhet att informera naturliga personer om att de interagerar med ett AI-system eller avslöja att innehåll har genererats av en artificiell intelligens. AI-lagen kommer troligen inte att ställa några krav på lågrisk-AI-system. Istället uppmuntrar det leverantörer att utveckla frivilliga uppförandekoder. Det finns ett begränsat antal AI-användningsfall som anses utgöra en oacceptabel risknivå för EU-medborgare och är därför förbjudna. Dessa kommer att inkludera, till exempel, AI-system som: innebär ospecifikt skrapning av ansiktsbilder från internet för att skapa ansiktsigenkänningsdatabaser; känslomässiga igenkänningssystem som används på arbetsplatsen; Använda subliminala tekniker bortom nivån för mänskligt medvetande; utnyttja sårbarheterna hos vissa individer på grund av deras ålder, fysiska eller psykiska funktionshinder för att betydligt förvränga deras beteende; och involverar sociala poängsystem för att utvärdera personliga egenskaper. EU-institutionerna kom överens om att en rad maximala böter kommer att gälla för överträdelser av AI-lagen. Dessa varierar från €35 miljoner eller 7% global omsättning (som är högre än GDPR) till €7,5 miljoner eller 1,5% global omsättning, beroende på företagets storlek och den specifika överträdelsen av AI-lagen. Nästa steg Den politiska överenskommelsen mellan EU-institutionerna måste nu översättas till en slutlig lagtext. Tekniska trilogmöten planeras till den 11 och 13 december 2023, under vilka detaljerna kommer att arbetas igenom. Detta kommer att följas av en slutlig språklig granskning. Det förväntas att denna process kan ta mellan en till tre månader. Efter detta kommer AI-lagen att formellt antas och publiceras. När den väl har antagits kommer organisationer att ha två år på sig att förbereda sig för efterlevnad innan förordningen blir verkställbar. Men när det gäller förbjudna AI-system kommer sådana förbud att bli verkställbara efter sex månader. Det är mycket viktigt att AI-lagen kommer att bli en modell för global AI-styrning på ett liknande sätt som GDPR har blivit en modell för dataskyddsbestämmelser runt om i världen. Men komplexiteten i AI-lagen och de juridiska nyheterna som den introducerar kommer sannolikt att skapa betydande organisatoriska utmaningar för leverantörer och användare av AI-system. Det kommer därför att bli avgörande att ägna betydande resurser och ansträngningar åt att förstå den praktiska effekten av det nya ramverket för att vara redo för efterlevnad när tiden kommer.
EU når preliminär överenskommelse om rättslig ram för AI
Europeiska unionens tjänstemän har nått en preliminär överenskommelse om en rättslig ram för utveckling och användning av artificiell intelligens (AI) inom Europa. Den politiska överenskommelsen, som ännu inte har detaljerats, framhäver vad som är förbjudet när det gäller AI, nyckelkrav för att använda högrisk AI och straff. För underhållningsindustrin är kravet på transparens när det gäller generativ AI eller upphovsrättsskyddat arbete av största vikt. Officiella texter anger att användare ska informeras när de interagerar med en chatbot och att AI-system som genererar eller manipulerar text, bild, ljud eller videoinnehåll måste avslöja att innehållet har genererats eller manipulerats konstgjort. AI-lagen förbjuder även känslomässiga igenkänningssystem på arbetsplatsen och i utbildning, samt användning av AI för att utnyttja människors ålder, funktionshinder, beteendemanipulation och kringgående av fri vilja. Texten föreslår också böter på upp till 7% av den globala årsomsättningen eller 35 miljoner euro för förbjudna AI-överträdelser och upp till 3% av den globala årsomsättningen eller 15 miljoner euro för de flesta andra överträdelser. Det föreslagna regelverket kommer att röstas om i Europaparlamentet tidigt nästa år.
EU slår fast nya regler för användning av artificiell intelligens
Europeiska unionen har arbetat fram en överenskommelse om världsledande regler för användning av artificiell intelligens (AI) inom de 27 medlemsländerna. Den nya lagstiftningen, kallad AI Act, tar en ´riskbaserad strategi´ till produkter eller tjänster som använder AI och fokuserar på att reglera användningen av AI snarare än teknologin. Lagen syftar till att skydda demokrati, rättsstatsprincipen och grundläggande rättigheter samtidigt som den uppmuntrar till investeringar och innovation. AI Act kommer inte att träda i kraft förrän två år efter slutligt godkännande av europeiska lagstiftare, vilket förväntas i början av 2024. Överträdelser kan leda till böter på upp till 35 miljoner euro eller 7% av ett företags globala omsättning.
Mistral AI samlar in 385 miljoner euro i serie A-finansieringsrunda, värderas till 2 miljarder dollar
Franska AI-startupen Mistral AI har avslutat sin mycket efterlängtade serie A-finansieringsrunda och har samlat in 385 miljoner euro, vilket värderar företaget till cirka 2 miljarder dollar. Mistral AI, som arbetar med grundläggande modeller med en öppen teknikvinkel, öppnar även sin kommersiella plattform idag. Andreessen Horowitz (a16z) leder den senaste finansieringsrundan med Lightspeed Venture Partners som återinvesterar i AI-företaget. En lång lista av investerare deltar också i rundan, inklusive Salesforce, BNP Paribas, CMA-CGM, General Catalyst, Elad Gil och Conviction. Mistral AI har även spelat en viktig roll i formandet av diskussionerna kring EU:s AI Act.
Europeiskt avtal för att reglera AI kan medföra miljoner i böter för överträdelser
Europeiska förhandlare har diskuterat ett avtal för att reglera artificiell intelligens (AI). Avtalet, kallat AI Act, skulle reglera hur brottsbekämpning får använda AI-drivna övervakningskameror och hur utvecklare ska ansvara för att minimera risker. Det skulle också innebära böter upp till 35 miljoner euro eller 7% av den globala omsättningen för företag som bryter mot reglerna. Avtalet måste godkännas av både Europaparlamentet och EU:s 27 medlemsstater. Många har varnat för att AI kan utgöra ett existentiellt hot om det inte kontrolleras.
EU:s föreslagna AI-lag sannolikt misslyckas med att skydda mot ansiktsigenkänning
Förespråkare för integritet har uttryckt oro över att EU:s föreslagna AI-lag, vars språk slutligen fastställdes på fredagen, sannolikt kommer att misslyckas med att skydda allmänheten från ett av AI: s största hot: live ansiktsigenkänning. Representanter för Europeiska kommissionen tillbringade 37 timmar denna vecka för att förhandla om bestämmelser i AI-lagen med Europeiska rådet och Europaparlamentet. Amnesty Tech, en gren av Amnesty International, var bland de grupper som uttryckte oro över att lagen inte inkluderar ett ´ovillkorligt förbud mot live ansiktsigenkänning´. Den föreslagna lagen, som kan antas innan Europaparlamentets session avslutas i maj, inkluderar undantag för ansiktsigenkänning, vilket tillåter brottsbekämpande myndigheter att använda live ansiktsigenkänning för att söka efter offer för människohandel, förhindra terroristattacker och gripa misstänkta för vissa våldsamma brott.
Kanada föreslår ändringar i lagen om artificiell intelligens och data (AIDA)
Den 28 november presenterade François-Philippe Champagne, Kanadas minister för innovation, vetenskap och industri, föreslagna ändringar av lagen om artificiell intelligens och data (AIDA) för stående utskottet för industri, vetenskap och teknologi. Ändringarna innefattar en ny definition av ”artificiell intelligenssystem” och ”maskininlärningsmodell”, sju initiala klasser av högverkande AI-system, distinkta skyldigheter för olika aktörer inom AI-värdekedjan och inrättandet av ansvarssystem för de involverade i utvecklingen och implementeringen av allmänna eller högrisk AI-system. Ändringarna syftar också till att ge nya befogenheter till den nya kommissionären för artificiell intelligens och data och att anpassa AIDA till EU:s lag om artificiell intelligens.
Samtal om EU:s AI-regler pausade efter 22 timmar
Samtalen om omfattande regelverk för artificiell intelligens (AI) inom Europeiska unionen pausades efter 22 raka timmar. Förhandlingarna, som började på onsdagseftermiddagen i Bryssel, kommer att återupptas på fredag morgon. Representanter för de 27 medlemsländerna, lagstiftare och verkställande kommissionärer försöker säkra en politisk överenskommelse för den flaggskepps AI-lagen. De spenderade timmar på att diskutera kontroversiella punkter som generativ AI och AI-drivna polisiära ansiktsigenkänningsystem. Det fanns oenighet om huruvida och hur man ska reglera grundmodeller, de avancerade systemen som ligger till grund för allmänna AI-tjänster som ChatGPT och Googles Bard chatbot.
EU nära att slutföra omfattande lagstiftning om AI
Delegater från Europeiska kommissionen, Europaparlamentet och 27 medlemsländer har kommit närmare en formell överenskommelse om en bredare lagstiftning känd som AI-lagen. Detta är ett viktigt steg mot att etablera en banbrytande AI-policy som kommer att sätta standarden för reglering av generativa AI-verktyg, inklusive OpenAI Inc.´s ChatGPT och Googles Bard. Trots utmaningar är tjänstemän optimistiska om att nå en överenskommelse, med tanke på den snabba ökningen av populariteten för generativa AI-verktyg. Tekniska detaljer i lagen kommer att diskuteras i kommande möten.
EU nära att nå en överenskommelse om att reglera AI-verktyg
Europeiska unionen närmar sig en överenskommelse om att reglera artificiell intelligens (AI), vilket kan bli en stor förändring inom teknisk styrning. Representanter från Europeiska kommissionen, parlamentet och 27 medlemsländer har hittat en gemensam grund för att kontrollera generativa AI-verktyg, som OpenAI:s ChatGPT och Googles Bard. Denna överenskommelse markerar ett viktigt steg mot att etablera den mest omfattande AI-regleringen i västvärlden. EU är på väg att bli den första icke-asiatiska regeringen att införa robusta begränsningar för generativ AI-teknologi.
EU och USA tar olika vägar i regleringen av AI
Politiker i Bryssel förhandlar för att nå en överenskommelse om världens mest ambitiösa lag för att reglera artificiell intelligens (AI), medan senatorer i USA visar att kongressen tar en annan väg än EU. Kongressen ligger långt efter Bryssel, där ett ramverk för att reglera AI först föreslogs 2021. Dock är framtiden för EU:s AI-lagstiftning fortfarande osäker på grund av lobbying och motstånd från EU:s största nationer - Frankrike, Tyskland och Italien. Under tiden försöker tjänstemän i EU nå ett genombrott med EU:s AI-lag, som främst skulle ta en ´riskbaserad´ ansats för att begränsa användningen av AI-applikationer baserat på hur farliga lagstiftare förutser att de kan vara.
EU:s AI-lag riskerar att försenas
EU:s AI-lag, en omfattande uppsättning regler och bestämmelser för AI-system som tycks vara modellerade efter EU:s inflytelserika dataskyddsförordning GDPR, verkar vara på väg att stöta på problem. Lagförslaget har varit under arbete sedan 2017 och var nära att slutföras. Ursprungligen var planen att anta lagen före 2024 för att undvika att den skulle bli en valfråga under EU-valet 2024. Nu tycks dock antagandet av lagen bli försenat. Tre av EU:s största medlemsländer - Frankrike, Italien och Tyskland - har uttryckt oro över lagen och vill ändra delar av den innan de godkänner den. Det finns flera konkurrerande politiska preferenser mellan den ursprungliga utkastet från Europeiska kommissionen, förslag från Europaparlamentet och förslag från de tre nyckelmedlemsstaterna.
Problem med EU:s AI-lagstiftning inför nästa veckas trilogförhandlingar
Lagstiftare är långt från att slutföra principerna och normerna som styr företags tillvägagångssätt för AI-utveckling i EU enligt AI-lagen. AI-lagen kommer att genomgå en femte runda av trilogförhandlingar den 6 december 2023. Hittills har denna lagstiftning varit föremål för fyra trilogförhandlingar mellan EU-rådet, Europaparlamentet och Europeiska kommissionen sedan Europaparlamentet antog det i juni 2023. Trots detta är lagstiftarna inte nära att slutföra principerna och normerna. Frankrike, Tyskland och Italien har uttryckt oro över en del av den föreslagna AI-lagen som styr grundläggande modeller. Den nya förordningen har också stött på hinder över några andra hett debatterade frågor.
Michigan ansluter sig till ansträngningar för att bekämpa bedräglig användning av AI i politiska kampanjer
Michigan ansluter sig till en ansträngning för att begränsa bedräglig användning av artificiell intelligens (AI) och manipulerade medier genom statliga policyer. Kampanjer på statlig och federal nivå kommer att krävas att tydligt ange vilka politiska annonser som sänds i Michigan som skapats med hjälp av AI enligt lagstiftning som förväntas bli undertecknad av guvernör Gretchen Whitmer. Det skulle också förbjuda användning av AI-genererade deepfakes inom 90 dagar före ett val utan en separat redovisning som identifierar mediet som manipulerat. Det finns ökande oro för att generativ AI kommer att användas i presidentvalet 2024 för att vilseleda väljare, imitera kandidater och underminera valen.
Michigan inför lagstiftning för att reglera AI-genererade djupfejk i politiska annonser
Michigan förbereder lagstiftning som kräver att politiska annonser som skapats med hjälp av artificiell intelligens (AI) tydligt anger detta. Lagen förbjuder också användning av AI-genererade djupfejk inom 90 dagar före ett val utan en separat varning som identifierar mediet som manipulerat. Djupfejk är falska medier som felaktigt framställer någon som gör eller säger något de inte gjorde. Det finns ökande oro för att generativ AI kommer att användas i presidentvalet 2024 för att vilseleda väljare, imitera kandidater och undergräva val på en skala och hastighet som ännu inte observerats. Lagstiftningen väntas undertecknas av guvernör Gretchen Whitmer inom de närmaste dagarna.
Michigan ansluter sig till en ansträngning för att begränsa vilseledande användning av artificiell intelligens och manipulerade medier genom statliga policyer. Kampanjer på statlig och federal nivå kommer att krävas att tydligt ange vilka politiska annonser som sänds i Michigan som skapades med hjälp av AI. Det kommer också att förbjudas att använda AI-genererade ´deepfakes´ inom 90 dagar före ett val utan en separat redogörelse som identifierar mediet som manipulerat. Lagstiftningen förväntas bli undertecknad av guvernör Gretchen Whitmer. Brott mot dessa lagar kan leda till böter och fängelsestraff.
USA:s Vita hus föreslår policy för att reglera användningen av AI inom regeringen
USA:s Vita hus har offentliggjort ett utkast till policy för att reglera användningen av artificiell intelligens (AI) inom regeringen. Shalanda Young, chef för Vita husets budgetkontor (OMB), har föreslagit att varje departement ska utse en AI-chef som ska tillhandahålla en register över befintliga AI-användningsfall. Dessutom ska dessa chefer identifiera system som potentiellt kan påverka människors säkerhet eller rättigheter. Policyn föreslår också att myndigheterna ska väga AI-systemens risker mot deras påstådda fördelar, verifiera datakvaliteten de använder och övervaka systemen noggrant efter att de har implementerats.
OpenAI rapporteras ha gjort genombrott inom AI-matematik
Forskare vid OpenAI har rapporterats ha gjort ett genombrott inom AI som har orsakat oro bland personalen. Forskarna har skapat en ny modell, kallad Q* (uttalas Q star), som kan utföra matematik på grundskolenivå. Enligt källor kan detta vara ett genombrott i företagets strävan att bygga artificiell allmän intelligens (AGI), ett AI-system som är smartare än människor. Företaget vägrade att kommentera Q*. Trots detta understryker experter att att lösa matematiska problem inte signalerar födelsen av en superintelligens.
EU:s försök att reglera artificiell intelligens (AI) möter oväntat motstånd, medan AI-startupen OpenAI upplever interna konflikter. EU föreslog en lagstadgad AI-lag, men när OpenAI:s ChatGPT introducerades förändrades läget. Frankrike, Tyskland och Italien uttryckte sitt motstånd mot att reglera avancerade AI ChatGPT “foundation models”. I en tvåsidig icke-papper avvisade de tre EU-tunga viktarna parlamentets försök att införa strikta bindande regler. Samtidigt har OpenAI:s styrelse avskedat VD Sam Altman, vilket har lett till rykten om styrelsens motiv. Mer än 700 av OpenAIs 770 anställda har undertecknat ett brev där de säger att de kan lämna företaget om Altman inte återinsätts.
Meta upplöser sitt ansvariga AI-team i omstruktureringsdrag
Meta, tidigare känt som Facebook, har rapporterats omstrukturerat och upplöst sitt ansvariga AI (RAI)-team, och omdirigerar resurserna mot utveckling av generativ artificiell intelligens. Enligt rapporten kommer majoriteten av RAI-teammedlemmarna att övergå till Metas generativa AI-produktteam, medan andra kommer att bidra till företagets bredare AI-infrastrukturinitiativ. Trots denna omstrukturering betonade Meta-talespersonen Jon Carvill det fortsatta engagemanget för att prioritera och investera i säker och ansvarsfull utveckling av AI. Rapporten belyste också en tidigare omstrukturering tidigare i år, vilket innebar uppsägningar och rapporterat lämnade RAI-teamet avsevärt minskat.
Meta upplöser sitt ansvariga AI-team för att fokusera mer på generativ AI
Meta har rapporterats ha upplöst sitt team för Ansvarig AI (RAI) när företaget lägger mer resurser på generativ artificiell intelligens. Enligt rapporten kommer de flesta RAI-medlemmar att flytta till företagets generativa AI-produktteam, medan andra kommer att arbeta med Metas AI-infrastruktur. Jon Carvill, som representerar Meta, säger att företaget kommer att ´fortsätta prioritera och investera i säker och ansvarsfull AI-utveckling´. Meta svarade inte på en begäran om kommentar vid pressens deadline.
Oenigheter om hur regler för tillämpning av artificiell intelligens (AI) ska fastställas komplicerar förhandlingarna mellan EU:s lagstiftare som försöker säkra en politisk överenskommelse om utkast till lagstiftning de närmaste veckorna. En av de mest omtvistade frågorna är hur lagen bör närma sig tillverkare av AI-modeller. Franska startup-företaget Mistral AI har hamnat i centrum för denna debatt efter det rapporterades att de leder en lobbyinsats för att dra tillbaka ett förslag från Europaparlamentet som eftersträvar en stegvis strategi för att reglera generativ AI. Det är dock oklart om EU:s lagstiftare kommer att hitta en lösning på frågor som hur, eller om, grundläggande modeller ska regleras med tanke på den krympande tidsramen för att nå en politisk kompromiss.
ChatGPT har fundamentalt förändrat AI-landskapet
Under det senaste året har ChatGPT fundamentalt förändrat AI-landskapet och teknologin i stort. San Francisco-startupen OpenAI lanserade ChatGPT 2022, vilket ledde till att AI snabbt gick från att vara en marginaliserad idé till att bli mainstream. Enligt Cisco CIO Fletcher Previn kommer verktyg som ChatGPT så småningom att integreras i varje IT-system och extern produkt. Tekniker som Previn jämför AI:s adoptionsresa med molnberäknings tidiga dagar, som väckte liknande diskussioner och debatter om säkerhet, integritet, dataägande och ansvar. Trots löftet om att automatisera triviala uppgifter, skapa nya former av digitalt innehåll och öka produktiviteten på arbetsplatsen, fanns det en påtaglig oro i branscher och akademi när ChatGPT dök upp på scenen.
Bekymmer över användning av generativ AI i journalistik
Journalistikbranschen kämpar för att skapa riktlinjer och standarder kring generativ artificiell intelligens (AI), men det finns oro för att visuella journalister kommer att ha liten inverkan i processen. När personal minskas försvinner visuella positioner, eller utlopp med begränsade resurser startar upp, är det möjligt att bildgeneratorer blir det enklaste sättet för nyhetsorganisationer att skapa visuella element. Detta bör vara en stor oro för alla. Adobe har nyligen sålt AI-skapade bilder som skildrar kriget mellan Israel och Hamas, vilket väcker frågor om hur AI kan användas för att sprida desinformation.
Microsoft erbjuder AI-tjänster för att bekämpa deepfakes och förbättra cybersäkerheten inför val
Microsoft kommer att erbjuda sina tjänster, inklusive ett digitalt vattenmärke som identifierar AI-innehåll, för att bekämpa deepfakes och förbättra cybersäkerheten inför flera globala val. Företaget kommer att erbjuda flera tjänster för att skydda valintegriteten, inklusive lanseringen av ett nytt verktyg som utnyttjar Content Credentials vattenmärkningssystem utvecklat av Coalition for Content Provenance Authenticity´s (C2PA). Målet med tjänsten är att hjälpa kandidater att skydda användningen av deras innehåll och likhet, och förhindra att vilseledande information delas. Verktyget Content Credentials as a Service kommer att lanseras nästa vår och kommer först att göras tillgängligt för politiska kampanjer. Microsoft kommer också att stödja Protect Elections from Deceptive AI Act.
Artificiell intelligens (AI) omfattar en mängd aktiviteter relaterade till maskiner som utför uppgifter med eller utan mänsklig inblandning. Teknologiföretag som Google, Meta, Alibaba, Baidu, OpenAI och Anthropic är framträdande aktörer inom AI, men världens regeringar spelar också en viktig roll genom att forma regelverket för AI-system. Sedan 2016 har tekniktunga regioner och länder över hela världen infört regleringar riktade mot AI-teknologier. Det finns för närvarande över 1 600 AI-policyer och strategier globalt. Europeiska unionen, Kina, USA och Storbritannien har framträtt som centrala aktörer i utformningen av AI:s utveckling och styrning.
Globalt toppmöte fokuserar på AI-säkerhet och reglering
Det första globala toppmötet om AI-säkerhet, som hölls på Bletchley Park, Storbritannien, samlade över 100 deltagare från civilsamhället, ledande teknikföretag och regeringar. Mötet syftade till att utforma teknologins framtida riktning. Vid toppmötet undertecknades Bletchley-deklarationen, ett globalt avtal där 28 länder, inklusive USA, Storbritannien och Kina, samt Europeiska unionen, erkände behovet av reglering av AI. USA:s president Joe Biden har undertecknat en exekutiv order om artificiell intelligens för att skissa på hur landet kommer att reglera tekniken. Samtidigt lanserade Storbritannien ett AI-säkerhetsinstitut, följt av USA:s egen version. Trots globalt samförstånd om behovet av reglering, finns det fortfarande divergerande åsikter om hur detta bör genomföras.
Spanska EU-ordförandeskapet föreslår övervakning av AI-modeller
Det spanska ordförandeskapet för EU:s råd har föreslagit en styrningsarkitektur för övervakning av skyldigheter för grundläggningsmodeller och högverkningsgrundläggningsmodeller, inklusive inrättandet av en vetenskaplig panel. Detta diskuteras i kontexten av AI-lagen, som syftar till att reglera artificiell intelligens baserat på en riskbaserad strategi. EU-kommissionen skulle ha exklusiva befogenheter att övervaka skyldigheterna för grundläggningsmodeller, inklusive de ´högverkande´ som är föremål för ett strängare regelverk. Kommissionen kan utreda och verkställa dessa bestämmelser, antingen på eget initiativ eller efter klagomål från en AI-leverantör med kontrakt med grundläggningsmodellleverantören eller från en nyinrättad vetenskaplig panel.
G7-ledare når framsteg i reglering av artificiell intelligens
G7-ledare har nått en överenskommelse om internationella vägledande principer för artificiell intelligens (AI) och en frivillig uppförandekod för AI-utvecklare. Detta har välkomnats av Europeiska kommissionen. G7-processen för AI, känd som ´Hiroshima-processen´, inrättades för att analysera risker och möjligheter med generativ AI och främja samarbete för att stödja utvecklingen av ansvarsfulla AI-verktyg och bästa praxis. Hiroshima-processen kompletterar EU:s artificiella intelligenslag (AI-lagen), som för närvarande slutförs. AI-lagen förväntas träda i kraft i slutet av 2023.
Utmaningar och potential med AI inom hälso- och sjukvård
Trots att över 500 AI-verktyg har godkänts av USA:s FDA, är deras användning av läkare fortfarande begränsad på grund av skepticism kring deras effektivitet. Hälso- och sjukvårdsteknikföretaget Kry har integrerat AI i sina tjänster, vilket har lett till en 20% ökning av kliniker effektivitet. AI används för att hantera icke-medicinska administrativa uppgifter, vilket frigör motsvarande 10 000 extra patientbesök per månad. Men för att AI ska få en större roll inom hälso- och sjukvården behövs en solid rättslig ram. EU utvecklar förslaget till AI-lag, som skulle klassificera AI-system enligt risk och fastställa skyldigheter för leverantörer och användare.
Nya initiativ för att minska risker med AI
USA:s president Joe Biden har undertecknat en presidentorder som kräver att stora AI-modeller säkerhetstestas innan de släpps ut på marknaden. 28 länder, inklusive Kina och USA, har enats om att samarbeta kring risker med AI vid ett AI-säkerhetsmöte i Storbritannien. EU-förordningen AI Act förhandlas just nu i Bryssel. FN planerar att skapa ett särskilt organ för AI och har bildat ett expertorgan för artificiell intelligens med 38 experter, inklusive Virginia Dignum från Umeå universitet. Dignum betonar att reglering av AI bör baseras på mänskliga rättigheter och utformas genom en demokratisk process.
President Biden utfärdar exekutiv order gällande AI-användning
Den 30 oktober 2023 utfärdade president Biden en exekutiv order om säker, säker och pålitlig utveckling och användning av artificiell intelligens (AI). Detta är den första exekutiva ordern som direkt tar upp AI. Inom 365 dagar efter publicering ska arbetsmarknadsministern publicera riktlinjer för federala entreprenörer om icke-diskriminering vid anställning med AI och andra teknikbaserade anställningssystem. Inom 150 dagar efter orderns datum kommer direktören för Office of Management and Budget att utfärda riktlinjer till federala myndigheter om hur man maximerar värdet till myndigheterna när man förlitar sig på entreprenörer för att använda och berika federala regeringsdata för AI-utveckling och drift.
USA lanserar initiativ för att hantera säkerhetsfrågor kring artificiell intelligens
USA:s vicepresident Kamala Harris kommer att presentera nya initiativ för att hantera säkerhetsfrågor kring artificiell intelligens (AI). Harris kommer att meddela att USA etablerar ett nytt AI-säkerhetsinstitut, som kommer att utveckla utvärderingar för att bedöma riskerna med AI-system. Hon kommer också att presentera ett utkast till nya regler som styr federala arbetares användning av AI, vilket kan få breda konsekvenser i Silicon Valley. Initiativen kommer när globala ledare och teknikchefer reser till Storbritanniens Bletchley Park för ett toppmöte om säkerhetsfrågor kring AI.
Banker anammar generativ AI trots nya risker och kostnader
Banker anammar generativ AI, som lovar tillväxt i intäkter, förbättringar av beslutsfattandet och bättre riskhantering. Det kommer dock också med nya risker, problem och kostnader som bankerna måste hantera. Testning av generativa AI-lösningar kommer sannolikt att påskyndas under de kommande två till fem åren, medan fördelarna sannolikt kommer att visa sig gradvis. Banker som framgångsrikt implementerar AI kan dra nytta av förmågor och effektivitet som leder till konkurrensfördelar och differentiering. Detta kan på sikt få konsekvenser för vår syn på kreditvärdighet, främst genom tre områden: affärsfranchise, finansiell prestanda och riskhantering.
AI-reglering: intensiva diskussioner och nya initiativ
Frågan om hur AI ska regleras blir allt mer brännande. EU har valt lagstiftning som väg framåt och håller på att förhandla om AI Act. Storbritanniens premiärminister Rishi Sunak förbereder sig för AI Safety Summit, ett möte som syftar till att nå konsensus om AI-reglering. Teknikföretag som Microsoft, Open AI, Google och Anthropic har nyligen presenterat en ny chef och 100 miljoner i finansiering för sin branschorganisation Frontier Model Forum och dess nya AI Safety Fund. Trots aktivitet och insatser råder fortfarande osäkerhet om vad som exakt ska regleras och hur.
Storbritanniens planer för nytt globalt AI-forskningsorgan stöter på motstånd
Storbritanniens premiärminister Rishi Sunaks planer på att inrätta en ny internationell vetenskaplig organisation inriktad på risker från de mest kraftfulla AI-systemen har fått ett bakslag, enligt ett slutligt toppmöteskommuniké. Länder som deltar i Storbritanniens AI-säkerhetstoppmöte kommer att erkänna att gränsöverskridande AI kan orsaka ´allvarlig, till och med katastrofal skada´, men de förväntas signalera att ytterligare vetenskaplig studie av frågan kan genomföras genom befintliga insatser, inklusive Förenta nationerna och Global Partnership on AI. Detta kommer att ses som ett bakslag för den brittiska regeringen, som hade hoppats på att inrätta en ny global AI-forskningsorganisation vid sitt flaggskepp AI Safety Summit den 1 och 2 november.
Grekland lanserar rådgivande kommitté för att integrera AI i sin ekonomi
Grekland har anslutit sig till en växande lista över nationer som vill integrera artificiell intelligens (AI) i sin ekonomi genom att lansera en ny rådgivande kommitté för att skapa en nationell strategi. Premiärminister Kyriakos Mitsotakis har gett grönt ljus för att etablera ett AI-rådgivningsteam för att leda landets försök in i tekniken. Kommitténs främsta uppgift är att skapa en väg för att skapa en juridisk ram för att reglera aktiviteterna för AI-utveckling i landet.
AI förväntas skapa nya jobb inom digitalt förtroende
Adoptionen av artificiell intelligens (AI) har skjutit i höjden 2023 och trots farhågor om att det kan göra vissa jobb överflödiga tror experter från ISACA att generativ AI sannolikt kommer att skapa nya jobb och möjligheter. Ett område där AI förväntas skapa många nya jobb är inom digitalt förtroende. Digitala förtroendeproffs ansvarar för att säkerställa att AI används ansvarsfullt och etiskt. ISACA:s Generative AI 2023-undersökning av 2300 globala digitala förtroendeproffs fann att medan användningen av generativ AI ökar har de flesta organisationer ännu inte tillräckliga policyer eller effektiv riskhantering på plats.
Stanford, MIT och Princeton skapar transparensindex för AI-modeller
Stanforduniversitetet har i samarbete med MIT och Princeton utvecklat ett nytt system för att mäta transparensen hos AI-modeller, kallat Foundational Model Transparency Index (FMTI). FMTI rankar de 10 bästa AI-modellerna utifrån 100 olika transparensrelaterade dimensioner, inklusive hur de byggdes, vilken information de tränades på och vilka dataskydds- och riskhanteringspolicies som finns. Enligt studien var det genomsnittliga betyget endast 37 av 100, med Meta´s Llama 2-modell på topp med 54 poäng. Studien visade också att öppna modeller generellt sett rankades högre än stängda modeller.
Globala perspektiv på AI-reglering och upphovsrätt
Regeringar över hela världen kämpar med att anpassa lagar och regler till den snabbt växande AI-teknologin, särskilt när det gäller upphovsrätt och immateriell egendom. EU arbetar med att skapa en AI-regleringsram genom ett föreslaget nytt AI-lagförslag. Storbritannien utvecklar en praxis för att klargöra IP och AI, medan USA har en mer laissez-faire inställning till AI-reglering. Kina inför mycket stränga AI-regler, medan Japan har ett mycket tillåtande tillvägagångssätt för upphovsrätt i sina AI-utbildningspolicyer. Sydkorea, Singapore, Israel, Kanada, Australien, Nya Zeeland, Schweiz, Indien och Brasilien utvecklar alla sina egna unika metoder för att hantera AI-reglering och upphovsrätt.
Generativ AI, en ny form av artificiell intelligens, har potential att revolutionera precisionsmedicin genom att förbättra diagnoser, behandlingar och läkemedelsupptäckt. Den består av stora språkmodeller och andra intelligenta system som replikerar människans förmåga att skapa text, bilder, musik, video, dator kod och mer. Generativ AI kan skriva kliniska anteckningar i standardformat, tilldela medicinska koder, generera trovärdiga och evidensbaserade hypoteser och tolka komplexa laboratorieresultat. Det förväntas också ge fördelar inom läkemedelsupptäckt och utveckling, personaliserade behandlingsplaner och sjukdomsdiagnos.
Bidens exekutiva order kan kräva ökad övervakning av AI-utvecklare
USA:s president Joe Bidens kommande exekutiva order förväntas kräva att molnbaserade datortjänstföretag övervakar och spårar användare som kan utveckla kraftfulla AI-system. Detta kommer att bygga på de frivilliga åtaganden om säkerhet, säkerhet och förtroende som Biden-administrationen fick från 15 stora teknikföretag tidigare i år. Dessutom kommer ordern sannolikt att innehålla bestämmelser för att effektivisera rekrytering och bibehållande av AI-talanger från utlandet och för att främja inhemsk AI-utbildning och utbildning. Det förväntas att ordern kommer ut i slutet av oktober.
