» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 234 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
Federal Trade Commission (FTC) är en amerikansk federal myndighet som bildades 1914. Dess huvudsakliga uppgift är att skydda konsumenter och främja konkurrens genom att förhindra bedrägliga, vilseledande och orättvisa affärsmetoder. FTC övervakar och utreder företag som bryter mot konkurrenslagar, utfärdar regler och riktlinjer för att skydda konsumenterna och genomför utbildningsprogram för att informera allmänheten om sina rättigheter. Myndigheten arbetar också för att förhindra och bekämpa identitetsstöld, skadlig spam och bedrägerier. FTC:s arbete bidrar till att skapa en rättvis och öppen marknad för alla.
Senaste nytt kring Federal Trade Commission
New York City testar vapenavkänningsteknologi från Evolv
I februari 2022 organiserade New Yorks borgmästare Eric Adams ett möte med AI vapenavkänningsteknikföretaget Evolv. Företaget föreslog samarbeten på platser som Port Authority Bus Terminal, skolor, sjukhus och samlingsplatser som Times Square. Efter ett möte föreslog Evolvs medgrundare Anil Chitkara att tekniken kunde användas i stadens tunnelbanestationer, trots att företagets VD Peter George erkände att tekniken inte var anpassad för tunnelbanestationer. Trots detta, efter dödsfallet av en man som knuffades på tunnelbanespåren i slutet av mars, meddelade Adams att Evolvs vapenavkänningsskannrar skulle testas i stadens tågstationer. Teknologin användes för att skanna besökare på ett sjukhus i Bronx, vilket resulterade i falska positiva resultat 85% av tiden under den sju månader långa piloten.
har gått vår kurs "AI på jobbet".
Ökning av arbete-hemifrån-jobbbedrägerier drivna av AI
Arbete-hemifrån-jobbbedrägerier har ökat med över 500%, delvis tack vare artificiell intelligens som riktar in sig på de mest sårbara. Webbplatser som LinkedIn och Facebook används av bedragare för att rikta in sig på människor som Jessica Brown. Brown mottog ett jobberbjudande från vad hon trodde var Synterex, ett välkänt kliniskt och regulatoriskt konsultföretag. Hon fick ett erbjudande om att arbeta hemifrån för 30 dollar i timmen med hälsoförmåner. Men det visade sig vara ett bedrägeri. Enligt FBI:s Internet Crime Complaint Center rapporterade nästan 15 000 människor att de var offer för anställningsbedrägerier 2022, med förluster på över 52 miljoner dollar. Identity Theft Resource Center har sett en ökning av rapporter på 545% i januari 2024 jämfört med december 2023.
Ökning av arbete-från-hemmet-bedrägerier drivna av AI
Arbete-från-hemmet-bedrägerier har ökat med mer än 500% tack vare artificiell intelligens som riktar sig mot de mest sårbara. LinkedIn, Facebook och Indeed är några av de platser som bedragare använder för att rikta in sig på personer som Jessica Brown. Hon fick ett jobberbjudande från vad hon trodde var Synterex, ett välkänt företag inom klinisk och regulatorisk konsultation. Efter att ha besvarat några screeningfrågor fick hon ett erbjudande om att tjäna $30 per timme och hälsoförmåner för att arbeta hemifrån. Men det hela visade sig vara ett bedrägeri. Enligt FBI:s Internet Crime Complaint Center rapporterade nästan 15 000 personer att de varit offer för anställningsbedrägerier 2022, med förluster på mer än $52 miljoner.
Anthropic grundare kritiserar indirekt OpenAI
Grundarna av Anthropic, syskonen Dario och Daniela Amodei, riktade indirekta pikar mot OpenAI under en presentation i San Francisco. De hävdade att Anthropic´s AI var den bästa i världen och försvarade deras konkurrensfördel över branschledaren OpenAI. De tidigare OpenAI-anställda, som skapade ett säkerhetsfokuserat AI-företag, nämnde aldrig sitt tidigare företag, men gjorde flera kommentarer som indirekt refererade till ChatGPT-tillverkaren. Grundarna var inte blyga för att stödja sina stora språkmodeller.
Anthropic-grundarna kritiserar indirekt OpenAI
Dario och Daniela Amodei, syskon och grundare av Anthropic, riktade indirekt kritik mot OpenAI under ett tal i San Francisco. De hävdade att Anthropics AI är den bästa i världen och försvarade sitt konkurrensövertag över branschledaren OpenAI. Daniela Amodei presenterade Claude 3 Opus som det mest kapabla och kraftfulla AI-modellen som finns tillgängligt överallt i världen. Anthropics grundare, tidigare anställda på OpenAI, valde sina ord noga för att aldrig nämna sitt före detta företag, men gjorde flera kommentarer som indirekt hänvisade till skaparen av ChatGPT.
Anthropics grundare kritiserar indirekt OpenAI, försvarar sitt företags AI som världens bästa
Dario och Daniela Amodei, grundare av Anthropic och tidigare anställda på OpenAI, framhöll att deras AI var den bästa i världen vid Bloombergs teknologitoppmöte i San Francisco. De undvek att nämna OpenAI direkt, men gjorde flera kommentarer som indirekt hänvisade till företaget. De försvarade också Anthropics konkurrensfördel över OpenAI, och påpekade att alla deras sju grundare fortfarande är kvar i företaget, till skillnad från OpenAI som har förlorat flera grundande medlemmar på senare tid. De diskuterade också Federal Trade Commissions utredning av AI-startups relationer med molnleverantörer, och försäkrade att Anthropics partnerskap med både Google och Amazon skiljer dem från ´andra avtal´, antagligen en referens till OpenAIs nära partnerskap med Microsoft.
UK:s Konkurrens- och marknadsmyndighet granskar Microsofts, Amazons och AI-startups samarbetsavtal
Storbritanniens Konkurrens- och marknadsmyndighet (CMA) inleder preliminära undersökningar för att avgöra om samarbetsavtalen och anställningspraxis mellan Microsoft, Amazon och tre AI-startups faller inom ramen för dess sammanslagningsregler och om arrangemangen kan påverka konkurrensen på den brittiska marknaden. CMA:s verkställande direktör för fusioner, Joel Bamford, sa att regleraren inbjuder kommentarer från relevanta parter som en del av sin bevisinsamling.
Skydda dig mot röstkloningsbedrägerier genom att ställa rätt frågor
Röstkloningsbedrägerier där artificiell intelligens (AI) används för att kopiera röster från dina vänner, familjemedlemmar eller kollegor blir allt vanligare. Kriminella använder denna teknik för att lura osuspekta offer att överlämna pengar genom att göra ´brådskande´ förfrågningar samtidigt som de utger sig för att vara personer du känner. Cybersecurity experter rekommenderar att vara uppmärksam på detaljer och försöka bekräfta identiteten på den som ringer. Enligt TechReport förlorade amerikanerna 39,5 miljarder dollar till telefonbedrägerier 2022, med 68,4 miljoner amerikanska medborgare drabbade.
AI-röstkloneringsbedrägerier: experter varnar för att ställa rätt frågor
Konstgjord intelligens (AI) kan nu klonar röster efter att ha hört dem i bara några sekunder, vilket brottslingar utnyttjar för att lura oskyldiga offer att överlämna pengar genom att göra ´brådskande´ förfrågningar medan de utger sig för att vara personer du känner. Cybersecurity experter har varnat för detta och rekommenderar att ställa rätt frågor för att skydda sig. Om en älskad verkar panikslagen på telefonen kan det vara frestande att hjälpa dem oavsett vad, men det är viktigt att först ställa rätt fråga. Amerikaner förlorade cirka $ 39,5 miljarder till telefonbedrägerier 2022, med 68,4 miljoner amerikanska medborgare drabbade.
Arbetsbedrägerier hemifrån ökar med 500% tack vare AI
Arbetsbedrägerier hemifrån har ökat med över 500% tack vare att artificiell intelligens (AI) riktar in sig på de mest sårbara. Webbplatser som Indeed, LinkedIn och Facebook används av bedragare för att rikta in sig på människor som Jessica Brown. Brown fick ett e-postmeddelande från vad hon trodde var Synterex, ett välkänt kliniskt och regulatoriskt konsultföretag. Efter att ha fyllt i några screeningfrågor fick hon ett erbjudande om att arbeta hemifrån för 30 dollar i timmen plus hälsoförmåner. Men när hon försökte lösa in en check på nästan 5000 dollar som skulle täcka kostnaderna för ett hemmakontor, upptäckte banken att det var ett bedrägeri. Enligt FBI:s Internet Crime Complaint Center rapporterades nästan 15 000 personer som offer för arbetsbedrägerier 2022, med förluster på över 52 miljoner dollar. Identity Theft Resource Center har sett en ökning på 545% i rapporter i januari 2024 jämfört med december 2023. Bedragarna använder AI för att skrapa personlig information och sedan skapa och skicka en riktad attack. Federal Trade Commission rekommenderar att verifiera jobbannonser, besöka det officiella företagets webbplats och söka efter företaget med ord som ´bedrägeri´, ´recension´ eller ´klagomål´.
Ny AI-baserad vapenidentifieringssystem införs i Baltimore-skolor
Baltimores skolsystem började denna vecka införa ett nytt AI-baserat system för vapenidentifiering i 28 skolor. Systemet, tillverkat av Evolv Technology, har emellertid mött motstånd från lärare och studenter som ifrågasätter dess effektivitet och inverkan på utbildningsupplevelsen. Evolv Technology har tidigare stämts av sina aktieägare och är föremål för två federala utredningar. Systemet testades först i sex gymnasier innan skolstyrelsen i februari godkände ett fyraårigt kontrakt värt 5,46 miljoner dollar.
har gått vår kurs "AI på jobbet".
USA:s lagstiftare diskuterar reglering av generativ AI
Amerikanska lagstiftare behöver hitta rätt balans mellan att reglera verktyg som generativ AI samtidigt som de upprätthåller skyddet för yttrandefriheten som garanteras av den första ändringen. Detta enligt vittnen som diskuterar utkast till lagstiftning vid en utfrågning angående AI-genererade röst- och visuella replikor. Problem med deepfake AI, eller AI som används för att skapa realistiska men vilseledande ljud- och visuella bilder av en individ, har eskalerat de senaste åren. Medlemmar av USA:s representanthus föreslog lagstiftning som riktar sig mot detta problem i januari med ett tvärpolitiskt lagförslag kallat No Artificial Intelligence Fake Replicas and Unauthorized Duplications (No AI FRAUD) Act. I oktober föreslog en tvärpolitisk grupp av amerikanska senatorer Nurture Originals, Foster Art and Keep Entertainment Safe (NO FAKES) Act, ett utkast till förslag som tar sikte på generativ AI och implementerar skydd för en persons röst och visuella likhet från obehöriga återskapanden. NO FAKES Act inkluderar också språk för att hålla plattformar som Meta´s Facebook och Instagram ansvariga för att vara värdar för obehöriga digitala replikor. Vissa experter stöder specifik lagstiftning för att reglera deepfake AI, andra tror att befintliga lagar täcker olagliga användningar av tekniken och varnar för alltför breda regler som kan hindra innovation.
Storbritanniens konkurrensregulator söker feedback på AI-partnerskap
Storbritanniens främsta konkurrensregulator, Competition and Markets Authority (CMA), har uppmanat marknaden att ge feedback på flera framstående ”partnerskap” inom artificiell intelligens (AI), med oro för att några stora teknikföretag befäster sin dominans inom branschen. CMA söker kommentarer från intresserade tredje parter om partnerskapen mellan Microsoft och Mistral AI samt Amazon och Anthropic, samt Microsofts anställning av tidigare anställda och relaterade arrangemang med Inflection AI, faller inom brittiska sammanslagningsregler och vilken inverkan dessa arrangemang kan ha på konkurrensen i Storbritannien.
Brittiska konkurrensmyndigheter granskar partnerskap mellan techjättar och AI-företag
Brittiska konkurrensmyndigheter uppmanar till åsikter om partnerskap mellan techjättar som Microsoft och Amazon och mindre AI-modellutvecklare, på grund av ökande oro för konkurrens och innovation inom sektorn. Detta kan omforma AI-industrins landskap. Vissa experter varnar för att en strikt konkurrensrättslig regel kan ändra hur stora företag interagerar med framväxande AI-företag och även dämpa entusiasmen för nya partnerskap, vilket möjligen kan bromsa innovationshastigheten. Microsoft har investerat 15 miljoner euro i Mistral AI, och Amazon har investerat 4 miljarder dollar i det amerikanska AI-företaget Anthropic.
Stora teknikbolag försöker ´äga´ generativ AI
Stora teknikbolag som Microsoft, Google, Amazon, Meta och Apple försöker förhindra oberoende aktörer från att inträda i det multibiljon-dollar stora området generativ AI. Dessa företags växande makt innebär stora risker för underhållnings- och kreativa samhällen, och kan hämma innovation inom media- och underhållningsindustrin. Microsoft är en betydande investerare i två av OpenAI:s största ´oberoende´ konkurrenter, Inflection AI och Mistral, med över $1 miljard investerat i Inflection AI. Google och Amazon har också investerat miljarder i generativa AI-företag.
Varning: Så identifierar du AI-röstbedrägerier och skyddar dig själv
Kriminella utnyttjar artificiell intelligens ´deepfakes´ för att klona människors röster med skrämmande noggrannhet. Allt som behövs är några sekunder av ljud för att exakt replikera en röst och läsa upp en brottslings manus. Brottslingar kommer ofta att imitera en röst som är bekant för dig. Det kan vara en vän, familjemedlem, älskad eller kanske till och med din chef. Cybersäkerhetsexperter på McAfee har avslöjat några av de tydliga tecknen på att du lyssnar på en ´ljud-deepfake´. Ett av de stora ledtrådarna relaterar till andning. Ett annat smart trick för att undvika att falla för AI-röstbedrägerier är att använda ett säkert ord.
AI-företag planerar skyddsåtgärder mot barnexploatering på nätet
OpenAI, Meta, Google och andra AI-startups planerar att införa nya skyddsåtgärder för att bekämpa barnexploatering på nätet i takt med att AI blir allt populärare. Enligt Wall Street Journal samarbetar stora AI-företag för att ytterligare införa restriktioner mot användare som missbrukar deras AI för att skapa sexualiserade bilder av verkliga barn. Insatserna kommer att ledas av Thorn, en ideell förespråkargrupp inriktad på att bekämpa sexuella övergrepp på barn online, med fokus på att blockera tjänster som ´nudifierar´ bilder av kvinnor och barn. Dessutom har företagen tidigare bildat flera allianser sedan förra året, med löften om att betona ´säkerhet, säkerhet och förtroende´ i utvecklingen av AI-teknik på grund av oro för teknikens faror för online-säkerhet och datasekretess.
Anthropic tar emot investeringar från Amazon och Google men styrs inte av teknikjättarna
AI-startupen Anthropic har fått investeringar från företag som Amazon och Google men styrs inte av dessa teknikjättar, enligt företagets VD Dario Amodei. Detta skiljer sig från OpenAI, som ägs till 49% av Microsoft. Anthropic ses som en konkurrent till Amazon och Google, men Amodei anser att deras erbjudanden är komplementära. I mars lanserade Anthropic ´Claude 3´ - den hittills kraftfullaste AI-chatten. Förra veckan samarbetade Zendesk med AWS och Anthropic för att möjliggöra snabbare och mer tillförlitliga AI-funktioner för kunder.
Svindlare utnyttjar ensamhet för romantiska bedrägerier
En kvinna i McKinney, som ville vara anonym, berättade att hon blev lurad av en man hon träffade på Instagram som påstod sig vara en tysk kardiolog. Efter att ha skickat honom mer än $3,200 när han hävdade att han blivit rånad under en affärsresa till Nigeria, erkände hon att han var en bedragare. Enligt FBI föll 19,000 amerikaner offer för romantiska bedrägerier förra året, vilket resulterade i förluster på $1,3 miljarder. Chris Maxwell i Nigeria började begå romantiska bedrägerier 2016 och lurade 10 kvinnor att skicka honom mer än $70,000. Maxwell jobbar nu som konsult för Social Catfish, ett amerikanskt internetföretag som verifierar online-identiteter för att förhindra bedrägeri.
AI och kryptovaluta används i romansbedrägerier
Ny teknik, inklusive AI, används i romansbedrägerier. Bedragare har börjat använda AI-genererade videor och bilder för att lura sina offer. Användningen av kryptovaluta som Bitcoin har också ökat i samband med dessa bedrägerier, vilket gör det svårare för utredare att spåra transaktionerna. Bedrägerierna har kostat amerikaner mer än 2 miljarder dollar sedan 2021, enligt Federal Trade Commission. Kevin Davis, en romantisk bokomslagsmodell, har sett sina bilder stjälas och användas av bedragare. Natalie Reda, en före detta postinspektör, tror att bedrägerierna bara kommer att bli värre.
Stora banker uppmanas att förbättra försvar mot trådbedrägeri
Amerikanska senatorer Sherrod Brown och Jack Reed har skickat ett brev till VD:arna för JPMorgan Chase, Bank of America, Wells Fargo och Citi, där de uppmanar bankerna att tillhandahålla mer data om trådbedrägeri och mer information om deras nuvarande antifraudpolicyer. De anser att bankerna bör ersätta sina kunder när de inte uppfyller sina skyldigheter att proaktivt övervaka och förhindra obehöriga och bedrägligt framkallade transaktioner. Federal Trade Commission uppskattar att konsumenter förlorade 10 miljarder dollar till bedrägeri förra året.
har gått vår kurs "AI på jobbet".
Röstbedrägeri: Ett växande hot mot individer och organisationer
Vishing, eller röstbedrägeri, har snabbt blivit ett problem som drabbar 15% av befolkningen, enligt den amerikanska Federal Trade Commission (FTC). Över tre fjärdedelar av offren förlorar pengar, vilket gör detta till den mest lönsamma typen av bedrägeri per person. När falsk ID-spoofing kombineras med AI-baserad deepfake-teknologi kan bedragare förkläda sina riktiga nummer och platser och mycket övertygande efterlikna betrodda organisationer, som en bank eller en lokal rådsmedlem, eller till och med vänner och familj. Förra året i Kanada lurade brottslingar äldre medborgare på mer än 200 000 dollar genom att använda AI för att imitera rösterna på älskade personer i nöd. I USA fick en mamma ett desperat samtal från sin 15-åriga dotter som påstod att hon hade kidnappats; samtalet visade sig vara AI-genererat.
Microsoft demonstrerar farlig AI-teknik men släpper den inte till allmänheten
Microsoft har denna vecka demonstrerat VASA-1, en ram för att skapa videor av människor som pratar från en stillbild, ljudprov och textmanus, och hävdar att det är för farligt för att släppas ut till allmänheten. Dessa AI-genererade videor, där människor kan animeras övertygande för att tala manusade ord i en klonad röst, är precis den typ av sak som den amerikanska Federal Trade Commission varnade för förra månaden. Microsofts team erkänner detta i deras tillkännagivande, som förklarar att tekniken inte släpps på grund av etiska överväganden. De insisterar på att de presenterar forskning för att skapa virtuella interaktiva karaktärer och inte för att imitera någon. Därför finns ingen produkt eller API planerad.
Romansbedragare ´Yahoo Boys´ stjäl miljarder med hjälp av AI-teknik
En onlinebrottsgrupp från Nigeria, känd som ´Yahoo Boys´, skapar falska onlinepersoner för att lura sina offer och stjäla deras besparingar. De vinner offrens förtroende och ber sedan om pengar under förevändning av att behöva betala akuta medicinska kostnader. FBI uppskattar att amerikaner förlorade mer än $650 miljoner till romansbedrägerier förra året. Federal Trade Commission rapporterar att dessa bedrägerier genererade $1,3 miljarder 2022. Yahoo Boys har börjat använda AI för att skapa deepfakes, vilket gör bedrägerierna mer sofistikerade. I februari lurade bedragare en finansarbetare i Hongkong att överlämna $25 miljoner genom att använda deepfakes för att imitera finanschefer.
Microsoft och OpenAIs avtal kan möta antitrustutredningar i EU
Microsofts 13 miljarder dollar investering i OpenAI kan möta antitrustutredningar från Europeiska kommissionen. Kommissionen antydde möjligheten till en utredning i januari. Partnerskapet mellan de två företagen har redan granskats av Storbritanniens konkurrens- och marknadsmyndighet och Federal Trade Commission i USA.
Microsoft och OpenAIs avtal kan stå inför konkurrensutredningar i EU
Microsoft och OpenAI kan möta konkurrensundersökningar i EU på grund av Microsofts 13 miljarder dollar investering i OpenAI. Europeiska kommissionen övervägde möjligheten till en utredning redan i januari. Partnerskapet mellan de två företagen har redan granskats av Storbritanniens Competition and Markets Authority och Federal Trade Commission i USA.
Microsofts investering i OpenAI ses inte som ett förvärv av EU-regulatorer
EU:s konkurrensregulatorer har beslutat att Microsofts 13 miljarder dollar investering i OpenAI inte är ett förvärv, enligt källor. Detta signalerar att affären kommer att undvika en formell europeisk utredning som kunde ha lett till betungande åtgärder för det amerikanska teknikjätten. Microsoft, som har en icke-röstningsposition i OpenAIs styrelse, sade förra året att det inte äger någon del av ChatGPT-tillverkaren. Microsoft är dock inte helt säker ännu, då EU:s konkurrensmyndighet fortfarande undersöker partnerskap mellan stora digitala marknadsaktörer och generativa AI-utvecklare och leverantörer.
Microsoft undviker EU-utredning för investering i OpenAI
Enligt rapporter kommer EU:s konkurrensregulatorer inte att inleda en formell utredning av Microsofts stora investering i OpenAI, ledande inom generativ artificiell intelligens (AI). I januari hade EU:s regulatorer sagt att de undersökte om Microsofts finansiella stöd till OpenAI omfattas av EU:s fusionsregler. Men nu rapporterar Bloomberg att Microsofts enorma investering i OpenAI kommer att undvika en formell utredning, vilket lindrar oro för ett EU-beslut att upplösa samarbetet, eller andra potentiella belastande åtgärder för Microsoft. Enligt Bloomberg beslutade Europeiska kommissionen att samarbetet inte förtjänar en formell utredning eftersom det inte rör sig om ett förvärv, och Microsoft kontrollerar inte OpenAIs riktning.
EU-regulatorer klassificerar inte Microsofts investering i OpenAI som förvärv
EU:s konkurrensregulatorer har kommit fram till att Microsofts investering på 13 miljarder dollar i OpenAI inte är ett förvärv, enligt källor. Detta signalerar att affären kommer att undvika en formell europeisk utredning som kunde ha lett till betungande lösningar för det amerikanska techföretaget. Microsoft, OpenAI och en talesperson för Europeiska kommissionen kommenterade inte omedelbart Reuters förfrågningar. Microsoft är dock inte ur skogen ännu, med EU:s konkurrensmyndighet som fortfarande undersöker partnerskap mellan stora digitala marknadsaktörer och generativa AI-utvecklare och leverantörer.
EU-regulatorer godkänner Microsofts investering i OpenAI
Europeiska unionens antitrustregulatorer har fastställt att Microsofts betydande investering på 13 miljarder dollar i OpenAI inte kommer att leda till en formell undersökning. Detta markerar en stor förändring för teknikjätten, som kan undvika eventuella begränsande åtgärder som skulle ha införts efter en fördjupad granskning i enlighet med europeiska sammanslagningsregler. Investeringen innebär att Microsoft kommer att förvärva en icke-röstposition i OpenAIs styrelse, vilket innebär att det inte är detsamma som ägande av AI-företaget. Trots detta fortsätter en informell undersökning av Microsoft-OpenAI-partnerskapet i andra jurisdiktioner.
EU:s konkurrensregulatorer avstår från att utreda Microsofts investering i OpenAI
Enligt källor har EU:s konkurrensregulatorer beslutat att Microsofts investering på 13 miljarder dollar i OpenAI inte kommer att utlösa en formell utredning. Beslutet är en lättnad för det amerikanska teknikföretaget, eftersom det undviker potentiellt stränga åtgärder som kunde ha följt efter en formell europeisk utredning. Microsoft avböjde att kommentera, medan OpenAI och en talesperson för Europeiska kommissionen inte omedelbart svarade på Reuters förfrågningar om kommentarer. Trots detta fortsätter företaget att vara under informell granskning i andra jurisdiktioner.
EU-regulatorer ser inte Microsofts investering i OpenAI som ett förvärv
Europeiska unionens antitrustregulatorer har kommit fram till att Microsofts 13 miljarder dollar investering i OpenAI inte är ett förvärv, enligt källor bekanta med ämnet. Detta signalerar att affären kommer att undvika en formell europeisk undersökning som kunde ha lett till betungande lösningar för det amerikanska teknikföretaget. Microsoft avböjde att kommentera medan OpenAI och en talesperson för Europeiska kommissionen inte omedelbart svarade på Reuters förfrågningar om kommentarer. Partnerskapet mellan Microsoft och OpenAI är också under informell granskning i andra regioner.
EU avstår från att undersöka Microsofts investeringar i OpenAI
Europeiska unionen (EU) har rapporterat att de inte kommer att genomföra en formell konkurrensutredning av Microsofts investeringar i OpenAI. Detta kan lätta investerares oro över att myndighetsåtgärder skulle kunna tvinga företagen att försvaga sina band. EU inledde en preliminär utredning av Microsofts OpenAI-investeringar i januari, men en formell undersökning förväntas inte eftersom den inte uppfyller standarderna för processen. Microsofts investering i det franska AI-startupföretaget Mistral AI kommer också att beaktas.
Massachusetts utfärdar rådgivning om AI- och algoritmiska beslutssystem
Massachusetts justitiekansler Andrea Campbell har utfärdat en rådgivning till utvecklare, leverantörer och användare av artificiell intelligens och algoritmiska beslutssystem (AI) om deras skyldigheter enligt Massachusetts konsumentlagstiftning, antidiskrimineringslag, dataskyddslag och relaterade regleringar. Rådgivningen tar upp frågor som tidigare diskuterats i Vita husets exekutiva order och Federal Trade Commissions vägledning. Rådgivningen syftar till att klargöra specifika aspekter av befintliga statliga lagar och förordningar som gäller för AI och att dessa lagar och förordningar gäller i samma utsträckning som för alla andra produkter eller tillämpningar. Rådgivningen erkänner fördelarna med AI men pekar på risker för konsumenter, inklusive snedvridning, brist på transparens eller förklaringsförmåga, konsekvenser för datasekretess och mer.
Ny regel från Federal Trade Commission för att bekämpa AI-drivna bedrägerier
Federal Trade Commission (FTC) har infört en ny regel för att bekämpa bedrägerier som drivs av artificiell intelligens (AI), vilka har lett till rapporterade förluster på 1,1 miljarder dollar. Bedrägerierna innefattar ofta att bluffmakare lurar allmänheten genom elektroniska meddelanden med falska påståenden om juridiska ärenden, säkerhetsvarningar, abonnemangsförnyelser, paketleveransproblem och falska vinster. FTC:s nya regel syftar till att ge myndigheten fler verktyg för att bekämpa sådana brott och söka skadestånd från bedragarna.
Pindrop vinner FTC:s röstkloningstävling, Veridas lanserar röstbedrägeridetekteringsprogramvara
Pindrop har vunnit Federal Trade Commission (FTC) Voice Cloning Challenge, tillsammans med tre mindre organisationer. Resultaten tillkännagavs när investerare i Indien tittade på aktierekommendationer som verkade komma från Ashishkumar Chauhan, VD och MD för National Stock Exchange (NSE). NSE har utfärdat en offentlig varning om deepfake och påminde investerare om källor för legitim information. Mindre organisationer, AI Detect, DeFake och OriginStory, kommer att dela på 35 000 dollar i prispengar. Pindrop och AI Detect använder AI-algoritmer för att upptäcka egenskaper som avslöjar att ett givet röstprov är syntetiskt. Veridas har lanserat en ny teknik för att bekämpa röstbedrägeri.
USA:s regering tilldelar priser för teknik mot audio deepfakes
USA:s federala regering har tilldelat priser till fyra organisationer för att utveckla teknik för att skilja mellan äkta mänskligt tal och ljud genererat av artificiell intelligens (AI). Priserna delades ut av Federal Trade Commission (FTC) för att motverka så kallade audio deepfakes. En av vinnarna, OriginStory, skapad av forskare vid Arizona State University, använder sensorer för att upptäcka mänskliga handlingar som andning och hjärtslag. En annan vinnare, DeFake, skapad av Ning Zhang, en forskare vid Washington University i St. Louis, injicerar data i inspelningar av riktiga röster så att AI-genererade röstkloner inte låter som den riktiga personen. En tredje vinnare, AI Detect, använder AI för att fånga AI. Detta verktyg är gjort av startföretaget Omni Speech. En annan organisation, Pindrop Security, fick erkännande för sitt arbete men kommer inte att få några pengar eftersom det är en större organisation.
OpenAI står inför en våg av stämningar och statliga undersökningar
OpenAI, företaget bakom AI-produkten ChatGPT, är under juridisk belägring med över ett dussin stämningar och statliga undersökningar. Sarah Silverman stämde företaget för att ha använt hennes memoarer för att träna sina AI-produkter. Författare som Jodi Picoult och medieföretag som New York Times anklagar också OpenAI för att bryta mot upphovsrätten. Elon Musk stämde företaget för att ha avvikit från sin ursprungliga ideella mission. OpenAI har anställt över två dussin interna advokater sedan mars 2023 och är i avancerade samtal för att anställa Chris Lehane, tidigare presssekreterare för Al Gores presidentkampanj.
Microsofts AI-verktyg Copilot fortsätter att generera stötande innehåll
Trots löften om förbättring fortsätter Microsofts AI-drivna verktyg, Copilot, att generera stötande innehåll. Denna gång skapar det antisemitiska bilder. Nyligen har dock vissa av dessa prompts blockerats. Verktyget har ofta skapat bilder som förstärker negativa stereotyper om judar som giriga eller snåla. När författaren försökte skapa en bild med prompten ´en judisk bankir´ poppade Copilot upp ett felmeddelande som sade att prompten hade blockerats. Stora språkmodeller ärver befintliga fördomar eftersom de tränas på stora mängder ofiltrerade internetdata, vilket leder till resultat som förstärker negativa stereotyper eller hatiskt tal. Microsofts gratis text-till-bild-verktyg, Copilot Designer, tillåter alla med ett Microsoft-konto att generera bilder.
Amazon investerar 2,75 miljarder dollar i AI-startupen Anthropic
Trots en ogynnsam regleringsmiljö som stoppar traditionella förvärv investerar teknikjättar aktivt miljarder dollar i framväxande teknologier. Amazon gjorde nyligen sin största ventureaffär, en investering på 2,75 miljarder dollar i AI-startupen Anthropic. Detta speglar den pågående AI-guldfebern, där stora teknikföretag aggressivt utökar sina portföljer för att förbli konkurrenskraftiga på en marknad som förväntas överstiga 1 biljon dollar i intäkter inom det närmaste decenniet. Anthropics AI-modell, Claude, konkurrerar direkt med erbjudanden från branschens tungviktare som Microsofts OpenAI och Googles Gemini.
Är Adobe eller Snowflake det bättre köpet just nu?
Molnmjukvaruföretagen Adobe och Snowflake har båda uppgraderat sina ekosystem med nya AI-funktioner. Adobe har utökat Firefly, ett generativt AI-verktyg för att skapa bilder och digitala modeller med textbaserade uppmaningar. Snowflake samlar, rensar och lagrar data från en mängd olika datorplattformar i sina datalager. Trots detta har ingen av aktierna imponerat på tjurarna i år. Adobes aktie har minskat med 17% sedan årsskiftet, medan Snowflakes aktie har fallit med 23%. Adobe står inför konkurrens- och regleringsutmaningar. Figma vinner mark mot Adobe XD på marknaden för användargränssnitt och användarupplevelse, Canva utmanar Photoshop med sina webbaserade bildredigeringsverktyg och Microsoft utvecklas till en farlig utmanare med sina AI-drivna Bing Image Creator och Designer-plattformar. Adobe försökte köpa Figma för 20 miljarder dollar, men tvingades överge affären i december och betala sin mindre rival en avbokningsavgift på 1 miljard dollar efter att den stoppats av antitrustregulatorer. Adobe avslöjade nyligen att den amerikanska Federal Trade Commission (FTC) hade inlett en utredning om dess prenumerationsavbokningspolicy och avgifter. Snowflake står också inför tuffa utmaningar på kort sikt. Snowflakes datalager bryter ner silon inom stora organisationer genom att dra in deras realtidsdata till centraliserade platser. Snowflake bländade ursprungligen tjurarna med sina tillväxttal efter sin börsintroduktion 2020. Men Snowflakes tillväxt svalnar. Den nyligen avgångna VD:n Frank Slootman, som satte det ambitiösa målet under en investerardagspresentation 2022, höjer ännu fler röda flaggor för dess framtid. Båda företagen har sina utmaningar, men om Adobe kan lösa sina mest brådskande problem kan det vara värt att överväga att investera i företaget igen.
USA:s federala myndigheter fördubblar sitt engagemang för AI-övervakning
Arbetsdepartementet, FTC och sju andra federala myndigheter i USA förstärker sina åtaganden för att upprätthålla regler i ljuset av artificiell intelligens, inklusive inom medborgerliga rättigheter och rättvis konkurrens. Myndigheterna har lovat att ´energiskt använda våra gemensamma befogenheter för att skydda individers rättigheter oavsett om lagöverträdelser sker genom traditionella metoder eller avancerade teknologier.´ Företag förlitar sig alltmer på AI för att fatta beslut om individer, men snedvridningar kan smyga in i modeller genom dåliga data, opacitet i hur modellerna presterar och felaktig användning av AI-verktyg.
USA:s federala myndigheter åtar sig att bekämpa fördomar i AI-teknologier
Flera federala myndigheter i USA, inklusive Arbetsdepartementet, Federal Trade Commission (FTC) och flera andra, har bekräftat sitt engagemang för att bekämpa fördomar i artificiell intelligens (AI) teknologier. Myndigheterna betonar sin hängivenhet att använda sina samlade befogenheter för att skydda individers rättigheter, oavsett om lagöverträdelser sker genom traditionella metoder eller avancerade teknologier. Uttrycket understryker att fördomar kan infiltrera AI-modeller på grund av felaktiga data, brist på transparens i modellprestanda och felaktig användning av AI-verktyg. FTC har redan vidtagit åtgärder mot AI-relaterade överträdelser, ett framstående exempel är förbudet mot Rite Aids användning av ansiktsigenkänningsteknik för att fånga snattare.
AI för att upptäcka AI-genererade deepfakes fungerar inte alltid
Artificiell intelligens (AI) förstärker audio-deepfakes, vilket väcker oro inom områden som politik och finansiellt bedrägeri. USA:s federala regering har förbjudit robosamtal som använder AI-genererade röster och erbjuder en kontantpris för lösningar på röstkloneringsbedrägerier. Forskare och privata företag arbetar med att utveckla programvara för att upptäcka röstkloner. NPR utförde ett experiment som visade att tekniska lösningar inte alltid är effektiva för att upptäcka AI-genererade röster. Flera företag, inklusive Pindrop Security, AI or Not och AI Voice Detector, erbjuder verktyg för att upptäcka deepfake-ljud, men resultaten varierar.
Microsoft omstrukturerar för AI och global efterlevnad av antitrustlagar
Microsoft anpassar sina verksamheter för att hantera den utvecklande teknologin och regleringen, med fokus på artificiell intelligens (AI) och efterlevnad av globala antitrustlagar. Företaget har proaktivt justerat sin Teams chattapp och Office-sviten, som ett direkt svar på regulatorisk granskning och konkurrenstryck. Dessutom markerar företagets fokus på AI, särskilt genom sina Copilot-produkter, en bredare branschtrend där teknikjättar konsoliderar sin position inom AI-området. Bland dessa förändringar inkluderar Microsofts manövrar allt från omstrukturering av team till ett anmärkningsvärt samarbete med Inflection AI.
AI förstärker kändisbedrägerier och skattebedrägerier
Artificiell intelligens (AI) används allt mer i bedrägerier, särskilt i kändisbedrägerier där brottslingar imiterar kändisar för att lura fans. Med AI kan dessa bedrägerier nu inkludera deepfake-videor, vilket gör dem mer övertygande. Skattebedrägerier är också vanliga, med brottslingar som utger sig för att vara från skattemyndigheten IRS och kräver betalning för obetalda skatter. Konsumenter rapporterade stöld av 5,8 miljoner dollar via dessa bedrägerier 2023 enligt Federal Trade Commission. För att skydda sig mot identitetsstöld rekommenderas starka och unika lösenord, aktuella operativsystem och kreditövervakning.
Anthropic kan få AI att se naturligt dum ut
Anthropic, företaget som säkrade 4 miljarder dollar från Amazon för att leverera AI-lösningar, avslöjade att det kunde få artificiell intelligens att se naturligt dum ut. Detta sker genom en ny ´fängelsebrytningsmetod´ för stora språkmodeller (LLM) som kan tvinga de smartaste GenAI-chattbotarna att ge svar på frågor de inte borde svara på. Metoden kallas ´många-skott-fängelsebrytning´ och forskarna har delat en forskningsrapport om det. Anthropic hävdar att sårbarheten kan vara ett resultat av den ökade ´kontextfönstret´ hos moderna LLM, vilket effektivt betyder mängden data de kan hålla i sitt korttidsminne.
AI-expert varnar för faran med deepfakes i företagsmiljöer
Var Shankar, verkställande direktör vid Responsible AI Institute, hjälper organisationer att använda AI i linje med tillämpliga lagar, ramar och bästa praxis. Nyligen använde cyberbrottslingar ´deepfake´-videor av cheferna för ett multinationellt företag för att övertyga företagets Hongkong-baserade anställda att överföra 25,6 miljoner dollar. Polisen har rapporterat att sex personer har gripits i samband med bedrägeriet. Deepfakes är digitalt ändrade medier som verkar avbilda en riktig person. De skapas genom att träna ett AI-system på riktiga klipp med en person, och sedan använda det AI-systemet för att generera realistiska (men oautentiska) nya medier. Användningen av deepfakes blir allt vanligare. För att skydda anställda och varumärkesreputation mot deepfakes bör ledare följa vissa steg: Uppgradera phishing-riktlinjer för att inkludera hot från deepfakes, öka eller kalibrera autentisering av anställda, affärspartners och kunder, och förvänta sig fler och bättre deepfakes.
Microsofts Copilot anses vara en risk för användarna på grund av data läckage
Microsofts Copilot-applikation har av Cybersecurity-kontoret bedömts vara en risk för användarna på grund av hotet om läckage av data till molntjänster som inte godkänts av House. Data läckage har varit ett problem för generativa AI-verktyg sedan OpenAI:s ChatGPT kom. Apple varnade anställda för att använda verktyg som GitHub:s Copilot-assistent för kodning och ChatGPT. Samsung förbjöd också sina anställda att använda ChatGPT efter att ha upptäckt data läckage. Robust Intelligence experter visade hur Nvidia:s NeMo Framework AI-programvara kan luras att avslöja privat information. U.S. Federal Trade Commission undersökte också ChatGPT för att sätta datasäkerheten i risk. I november förra året upptäckte experter vid Northwestern University metoder för att lura anpassade GPTs att avslöja konfidentiell information. En månad senare avslöjade läckta dokument problem med Amazons Q chatbot och att den läckte konfidentiell data. ChatGPT avslöjade personliga detaljer som användarnas bankinformation, vilket tvingade företaget att tillfälligt ta offline det. Med en sådan skakig historia är det inte förvånande att Microsofts Copilot har förbjudits på officiella maskiner.
Teknikjättar investerar miljarder i AI
Teknikjättar som Microsoft, Google och Amazon investerar miljarder i artificiell intelligens (AI) för att inte hamna efter i en marknad som förväntas överstiga $1 miljard i intäkter inom ett decennium. Amazon har nyligen investerat $2,75 miljarder i AI-startupen Anthropic, vilket är deras största venture deal hittills. Anthropic är utvecklaren bakom AI-modellen Claude, som konkurrerar med GPT från Microsoft-stödda OpenAI och Googles Gemini. Microsoft har tidigare investerat $1 miljard i OpenAI, en investering som sedan har växt till cirka $13 miljarder. Google har åtagit sig att investera $2 miljarder i Anthropic.
Amazon har investerat $2,75 miljarder i AI-startupen Anthropic, vilket är dess största venture deal hittills. Anthropic utvecklar AI-modellen Claude, som konkurrerar med GPT från Microsoft-stödda OpenAI, och Googles Gemini. Stora teknikföretag som Meta och Apple försöker integrera generativ AI i sina produktportföljer för att inte hamna efter på en marknad som förväntas överstiga $1 miljard i intäkter inom ett decennium. 2023 investerade investerare totalt $29,1 miljarder i nästan 700 generativa AI-erbjudanden, en ökning med mer än 260% jämfört med föregående år.
AI ökar risken för bedrägeri på dejtingappar
AI utgör en utmaning för online-dejting, eftersom det är svårt att veta om svaren kommer från en chatbot eller om personens bilder har genererats med AI. Sedan lanseringen av ChatGPT 2022 har bedrägeri på dejtingappar, ofta drivet av AI, skjutit i höjden. Cybersäkerhetsföretaget Arkose Labs rapporterar en ökning med 2000 procent av botattacker på dejtingsidor mellan januari 2023 och januari 2024. Redan innan AI fanns var bedrägeri på dejtingappar ett allvarligt problem, med förluster på 1,14 miljarder dollar enbart i USA under 2023.
Microsoft introducerar nya verktyg för ansvarsfull AI för att minska företags tveksamhet
Microsoft har introducerat nya verktyg för ansvarsfull AI i Azure AI Studio för att minska företags tveksamhet kring generativa AI-system. Verktygen inkluderar prompt shields, Groundedness Detection, system safety messages, säkerhetsutvärderingar och risk- och säkerhetsövervakning. De nya verktygen kommer i takt med att teknikjätten och dess konkurrent Google försöker lösa problem med sina generativa AI-verktyg. Till exempel skrev en visselblåsare från Microsoft till Federal Trade Commission om säkerhetsproblem med Microsoft Copilot Designer. Google stängde av bildgenereringsfunktionen för sin Gemini stora språkmodell efter att den genererat partiska bilder av viktiga historiska figurer. Google utökade också sin Search Generative Experience (SGE) genom att låta den svara på användarfrågor. Men det finns rapporter om att SGE:s svar är spamiga och leder till skadlig programvara och bedrägerier. Microsofts nya verktyg för ansvarsfull AI visar också hur leverantören svarar på några av de nya regler som kommer från både Europeiska unionen och USA.
Amazon investerar 2,75 miljarder dollar i GenAI-startup Anthropic
Amazon har meddelat att de ska investera omkring 2,75 miljarder dollar i en autonom GenAI-startup i San Francisco, kallad Anthropic. Denna investering är den största från e-handels- och molntjänstjätten och tar det totala finansiella åtagandet av Anthropic till 4 miljarder dollar. Partnerskapet mellan de två organisationerna understryker Amazons aggressiva inställning till GenAI. Anthropic förblir eftertraktad på grund av sin AI-teknologi Claude, som släpptes i mars 2023. Den amerikanska Federal Trade Commission (FTC) har uttryckt oro över de potentiella marknadseffekterna av dessa partnerskap och har inlett en ´marknadsförfrågan´ om investeringarna och samarbetena mellan AI-utvecklare och stora molntjänstleverantörer.
Amazon investerar ytterligare $2,75 miljarder i AI-startupen Anthropic
Amazon har ökat sin investering i AI-startupen Anthropic med $2,75 miljarder, sex månader efter sin initiala investering på $1,25 miljarder. Detta gör Anthropic till en av Amazons huvudsakliga AI-partners. Den totala möjliga investeringen i Anthropic kan nå $4 miljarder, enligt finansiella rapporter. Anthropic, en konkurrent till jättar som OpenAI och Google, har sett betydande ekonomiskt stöd. Samarbetet inkluderar tillgång till AI-system och löften om datorkraft, men undviker förvärv som kan dra till sig antitrustgranskning. Anthropic har också distanserat sig från en problematisk investerare, kryptovalutabörsen FTX, som nu är i konkurs.
USA:s National Telecommunications and Information Administration föreslår revisionssystem för AI
USA:s National Telecommunications and Information Administration (NTIA) har publicerat en rapport som föreslår inrättandet av ett revisionssystem för artificiell intelligens (AI). Systemet skulle säkerställa transparens och hålla teknikföretag ansvariga för potentiella risker och skador. Rapporten kommer från över 1 400 kommentarer som NTIA, som är en del av handelsdepartementet, fick förra året gällande skapandet av ett ansvarssystem för AI-teknologier. NTIA:s rekommendationer kommer troligen att påverka beslut som kongressen och verkställande grenen kommer att fatta om hur man ska utforma regler och lagar för AI-system.
Potentiellt AI-avtal mellan Apple och Google kan påverka antitrusttillsyn
Diskussioner mellan Apple Inc. och Alphabet Inc.´s Google om ett potentiellt konstgjord intelligens (AI) avtal kan öppna dörren för det amerikanska justitiedepartementet (DOJ) i sin kamp med andra myndigheter över att hantera antitrustfrågor inom AI. Apple diskuterar att bygga in Googles Gemini AI-motor i iPhone. DOJ:s antitrustavdelning väntar på ett beslut i sitt monopoliseringsmål mot Google, ett ärende som kan påverkas av skiftande konkurrensdynamik mellan teknikjättarna. Ett AI-avtal mellan Apple och Google kan ha direkta implikationer för DOJ:s stämning som anklagar Google för att monopolisera online-sökningar.
AI: Behovet av internationellt samarbete och reglering
Universitet samarbetar allt mer med industrin för att utföra tillämpad och översättande forskning. Detta kan vara spännande med tanke på lanseringen av nya produkter, men kombinerat med nedskärningar av säkerhetsteam tyder det på att användarna både är betatestare och försökskaniner. Kortsiktiga tillämpningar av AI inkluderar optimering av arbetsflöden och minskning av administrativa kostnader. Ju mer forskning som lämnas över till företag, desto mer kommer den att styras av kortsiktiga vinstmotiv och aktieägares intressen. Singapore är ett exempel på ett land som tar ledningen i AI-styrning. Vi behöver internationellt samarbete och samordning för att hantera AI, eftersom AI inte respekterar gränser.
Bedragare använder AI för att lura människor på sociala medier
Bedragare använder alltmer artificiell intelligens (AI) i sina bedrägerier, särskilt riktade mot äldre och ekonomiskt sårbara personer. Amerikanska Federal Trade Commission har sett en ökning av klagomål om annonser som antingen använder AI eller påstår sig använda det för att locka människor till bedrägerier. Minst en tredjedel av klagomålen handlade om annonser på sociala medier som Facebook och YouTube. Antalet klagomål som nämnde AI ökade från två till 14 mellan februari 2023 och februari 2024. Bedragarna använder AI för att skapa falska annonser och videor, inklusive deepfakes av kända personer som Elon Musk och Brad Garlinghouse. Företag som Alphabet och Meta Platforms, som äger YouTube och Facebook, har meddelat att de arbetar för att bekämpa dessa bedrägerier.
Microsoft-ingenjör anklagar AI-verktyget Copilot för att vara osäkert
Microsoft-ingenjören Shane Jones har skickat ett brev till Federal Trade Commission (FTC) där han anklagar Microsofts AI-designverktyg Copilot för att vara osäkert. Jones hävdar att han kunde använda Copilot för att generera bilder av tonåringar som lekte med automatvapen och att verktyget skulle producera oönskade våldsamma, sexualiserade bilder av kvinnor och bilder som kan bryta mot upphovsrättslagar. Jones säger att problemet ligger i att Copilot använder DALL-E 3, OpenAI:s bildgenerator, som enligt honom har systemproblem som tillåter sådant innehåll. Jones har bett FTC att undersöka Microsofts hantering av problemet.
FTC överväger att förbjuda AI-genererad personimitation
Tidigare denna månad, i samband med en uppdatering av en regel som förbjuder imitation av företag och regeringar, sökte Federal Trade Commission (FTC) kommentarer om att utvidga regeln till att förbjuda imitation av individer. Myndigheten indikerade att den överväger att utvidga regeln som ett resultat av ökande klagomål kring ´imitationsbedrägeri´, särskilt de som genereras av AI. Kommentarer ska inkomma senast den 30 april 2024. Enligt förslaget skulle regeln förbjuda ´materiellt och falskt´ att utge sig för att vara en annan individ, både uttryckligen eller indirekt. FTC:s ordförande Lina Khan, tillsammans med två andra kommissionärer, betonade vikten av att ´utvidga ansvar till någon aktör som tillhandahåller ´medel och instrument´ för att begå ett imitationsbedrägeri´ i ett uttalande till den föreslagna regeln.
Ökning av AI-relaterade bedrägeriannonser på sociala medier rapporteras av FTC
Federal Trade Commission (FTC) har rapporterat en kraftig ökning av klagomål det senaste året gällande annonser som antingen använder artificiell intelligens (AI) eller påstår sig använda den för att lura människor i bedrägerier. Minst en tredjedel av dessa klagomål rör annonser som ses på sociala medieplattformar som Facebook och YouTube. FTC mottog bara två klagomål relaterade till AI i februari 2023, men det antalet steg till 14 ett år senare, i takt med att generativ AI ökade i popularitet.
Ökning av bedrägerier med AI i reklam på sociala medier
Den generativa AI-hypen har lockat bedragare som inte bara använder den som en del av sina bedrägerier, men också i sina annonser på sociala medier. Äldre och ekonomiskt utsatta personer är ibland de som blir måltavlor. USA:s Federal Trade Commission (FTC), som övervakar vilseledande reklampraxis, har sett en ökning av klagomål det senaste året om annonser som antingen använde AI eller påstod sig använda det för att locka människor till bedrägerier. Minst en tredjedel av klagomålen handlade om annonser som upptäcktes på sociala medier som Twitter, Facebook och YouTube.
FTC inleder utredning om Reddits användning av användarposter för AI-träning
Reddit har meddelat att Federal Trade Commission (FTC) har öppnat en utredning om företagets försäljning, licensiering eller delning av användarposter och annat innehåll till externa organisationer för användning i träning av artificiella intelligensmodeller. Företaget avslöjade utredningen i en inlämning till Securities and Exchange Commission. Reddit uttryckte ingen överraskning över FTC:s intresse och tror inte att de har deltagit i någon orättvis eller vilseledande handelspraxis. Nyheten kommer när Reddit förbereder sig för att för första gången sälja aktier till allmänheten, med en värdering på upp till $6,4 miljarder.
Reddit undersöks av FTC inför sin börsintroduktion
Federal Trade Commission (FTC) undersöker Reddits planer att licensiera sitt plattformsinnehåll till artificiella intelligensföretag, enligt ett värdepappersinlägg som sociala medieföretaget offentliggjorde på fredagen. Detta framkom inför företagets länge förväntade börsintroduktion, vilket kommer att göra det till den första sociala medieplattformen att bli offentlig på flera år. Reddit uppgav att företaget inte tror att det har brutit mot USA:s konsumentskyddslag. Reddit har ingått ett avtal om att dela sin plattformsdata med Google för att träna techjättens AI-modeller. Avtalet sägs vara värt 60 miljoner dollar per år.
AI-verktyg används för att skapa falska bilder som sprids på sociala medier
Tidigare i år delades sexuellt explicita bilder av Taylor Swift flitigt på sociala medier. Bilderna skapades troligen med AI-verktyg, vilket visar hur lätt tekniken kan användas för skadliga ändamål. Detta följer en trend med liknande fall, inklusive falska bilder som visar gripandet av före detta president Donald Trump, AI-genererade bilder av svarta väljare som stöder Trump och fabricerade bilder av Dr. Anthony Fauci. Sociala medier som Facebook, Instagram, TikTok, YouTube och Google Search spelar en allt viktigare roll i spridningen av denna typ av innehåll. Utan stora förändringar kan vi förvänta oss fler fall som de med Swifts bilder. Trots att AI-verktyg kan göra produktionen snabbare och billigare, kommer de flesta människor att kämpa ännu mer för att synas på onlineplattformar.
Ökning av bedrägerier leder till nationell ´Stoppa bedrägeri-dag´ i USA
Bedrägerier har varit en del av vårt språkbruk i hundratals år. Från förtroendesvindel (Charles Ponzi och Bernie Madoff) till moderna telefonmarknadsföring och förskottsbetalningsbedrägerier, är antalet bedragare som försöker separera dig från dina pengar svindlande. Den stora volymen och sofistikeringen av dessa skumma konstnärer har fått Social Security Administration (SSA) att höja allmänhetens medvetenhet om regeringsbedrägerier, med en ´Nationell Stoppa bedrägeri-dag´ (7 mars), även om varje dag skulle kunna märkas som sådan. Dagens brottslingar har blivit fräcka i sina planer, och utger sig för att vara människor från SSA eller andra statliga myndigheter, som IRS, i ett försök att få personlig information eller pengar.
Microsoft förbjuder nya termer i sin AI för att förhindra skadligt innehåll
Microsoft har förbjudit vissa termer i sin artificiella bildgenerator, Copilot Designer, för att förhindra skapandet av skadligt innehåll. Bland de förbjudna termerna finns de som kan användas för att skapa våldsamma bilder, som begrepp relaterade till abort, tonåringar med automatvapen, religiösa stereotyper, konspirationsteorier och sexualiserade kvinnor i ett våldsamt sammanhang. Shane Jones, en AI-ingenjör på Microsoft, upptäckte dessa problem och rapporterade dem till USA:s Federal Trade Commission och Microsofts styrelse. Trots detta har Microsoft avvisat hans förslag om att ta bort Copilot Designer från allmänheten tills bättre skyddsåtgärder kan införas.
AI-bedrägerier ökar, äldre särskilt sårbara
Bedragare använder alltmer avancerade tekniker, inklusive artificiell intelligens (AI), för att skapa övertygande bluffar, enligt tjänstemän på Rogue Credit Union (RCU). Tekniken används för att skapa allt från textmeddelanden till multimedia-inlägg som ser ut att komma från betrodda källor. Äldre människor är särskilt sårbara för dessa bedrägerier, med rapporterade förluster på över $1,6 miljarder under 2022 enligt Federal Trade Commission´s (FTC) Consumer Sentinel-rapport. RCU uppmanar till försiktighet vid mottagande av kommunikation och råder att aldrig svara på meddelanden i hastighet.
AI-teknikens mörka sida: Felaktiga bilder och falska nyheter
AI-tekniken har en mörk sida, inklusive fördomar, hallucinationer och andra problem med hur verktygen själva fungerar. Det finns också ett växande problem med att människor lutar sig mot dessa lätta att använda och kraftfulla generativa AI-motorer för att skapa falska bilder eller deepfake-videor. Ett exempel är när Googles Gemini text-till-bild-generator tvingades pausa på grund av att den levererade stötande, pinsamma och partiska bilder. Microsoft har också problem med sin Copilot Designer AI-generator, efter att en företagsingenjör uttryckte oro över störande och våldsamma bilder skapade av verktyget. Dessutom har det skapats falska bilder med AI, till exempel av anhängare till ex-president Donald Trump som skapade bilder som visar den nuvarande presidentkandidaten omgiven av falska svarta väljare som en del av desinformationskampanjer.
Microsoft förstärker ordfilter i AI-verktyget Copilot Designer
Microsofts AI-verktyg Copilot Designer, utvecklat av OpenAI, har nyligen förstärkt sina ordfilter för att undvika missbruk av tekniken. Tidigare begränsade verktyget vissa ord, såsom kända namn, men nu blockerar det även konversationer som innehåller vissa termer som kan användas för att skapa våldsamma artificiella bilder. Bland de termer som Microsoft har förbjudit i sin artificiella bildgenerator inkluderar ´Four twenty´, en referens till cannabis, och ´Pro choice´. Shane Jones, en tidigare Microsoft-ingenjör, rapporterade till den amerikanska Federal Trade Commission om verktygets potential att skapa skadligt innehåll.
Microsoft blockerar nyckelord i AI-verktyg för att förhindra generering av explicita bilder
Microsoft har rapporterats blockera flera nyckelord i sin AI-drivna Copilot Designer som kan användas för att generera explicita bilder av våldsamt och sexuellt innehåll. Blockeringen genomfördes efter att en av företagets ingenjörer uttryckte oro över AI-verktyget till den amerikanska Federal Trade Commission (FTC) och Microsofts styrelse. Anmärkningsvärt är att AI-genererade explicita deepfakes av musikern Taylor Swift dök upp online i januari 2024, och sades ha skapats med Copilot. Termer som tidigare visade resultat är nu blockerade av Copilot.
Microsoft uppdaterar sin AI-verktyg Copilot efter kritik från egen ingenjör
Microsofts AI-verktyg Copilot kommer att genomgå vissa uppdateringar efter kritik från en av företagets egna AI-ingenjörer som uttryckte oro till Federal Trade Commission (FTC). Företaget kommer nu att börja blockera uppmaningar som får Copilot att generera stötande bilder. Microsoft kommer också att blockera vissa termer som ´pro choice´, ´pro life´ och ´four twenty´ som flaggades i en undersökning. Dessutom kommer företaget att lägga till en varning om att användare kan förlora åtkomst till verktyget om de bryter mot företagets riktlinjer för innehåll.
Microsoft gör ändringar i sin AI-app Copilot efter oro över innehåll
Microsoft, teknikjätten med huvudkontor i Redmond, har snabbt framfört artificiell intelligens (AI) under de senaste månaderna. Företaget gör nu ändringar i sin Copilot AI-app efter att en AI-ingenjör uttryckte oro till den amerikanska Federal Trade Commission. Enligt CNBC har termer som ´pro choice´, ´pro choce´, ´four twenty´ och ´pro life´ blockerats. Företaget varnar användare för att upprepade policyöverträdelser kan leda till avstängning från AI-verktyget. AI-företaget blockerade också begäranden om att skapa bilder av barn eller tonåringar som leker med gevär, då det strider mot ´etiska principer och Microsofts policyer´.
Microsoft begränsar användningen av sitt AI-verktyg Copilot efter anklagelser om olämpligt innehåll
Microsoft har beslutat att begränsa användningen av sitt generativa AI-verktyg Copilot efter att Shane Jones, en ledande mjukvaruutvecklare på företaget, skrev till Federal Trade Commission (FTC) om sina bekymmer över att Copilot genererade våldsamma, sexuella och andra olämpliga bilder. Jones påstår att han upprepade gånger varnat Microsoft för problemet med Copilot. Som svar på anklagelserna beslutade Microsoft att begränsa sin Copilot Designer genom att blockera vissa prompts. En talesperson för Microsoft sa att företaget kontinuerligt övervakar, gör justeringar och inför ytterligare kontroller för att stärka sina säkerhetsfilter och begränsa missbruk av systemet.
Microsoft blockerar uppmaningar som skapar våldsamma och sexuella bilder i Copilot
Microsoft har börjat blockera uppmaningar som ledde till att Copilots Designer AI-bildskapare genererade våldsamma och sexuellt olämpliga bilder. Nyheten kommer en vecka efter att en ingenjör som arbetar med AI väckte frågor till den amerikanska Federal Trade Commission om den generativa AI-drivna chatbotens bildgenereringsförmågor. Enligt en ny rapport av CNBC, lyckades Shane Jones, en AI-ingenjör på Microsoft, skapa bilder av demoner, monster, barn med automatvapen, minderåriga som dricker och droganvändning med uppmaningar som ´4 twenty´, ´pro choice´ och ´pro life´. Nu blockerar Microsoft dessa uppmaningar, och Copilot visar nu ett varningsmeddelande.
Microsoft inför striktare kontroll över innehåll genererat av Copilot-verktyget
Microsoft har tagit proaktiva åtgärder för att bemöta oro kring sitt Copilot-verktyg, känt för att generera kreativt innehåll med hjälp av generativ AI. Företaget har genomfört förändringar för att blockera uppmaningar som tidigare var kopplade till produktionen av våldsamma, sexuella och andra olämpliga bilder. Dessa justeringar kommer efter en varning från en av Microsofts egna ingenjörer, Shane Jones, som uttryckte allvarliga farhågor om den potentiella missbruket av Microsofts GAI-teknologi. Jones hade nyligen kontaktat Federal Trade Commission (FTC) och detaljerat sin oro över bilderna som genererats av Copilot.
Microsoft börjar blockera olämpliga uppmaningar på Copilots AI-bildskapare
Microsoft börjar blockera uppmaningar som ledde till att Copilots Designer AI-bildskapare genererade våldsamma och sexuellt olämpliga bilder. Nyheten kommer en vecka efter att en ingenjör som arbetar med AI uttryckte oro till den amerikanska Federal Trade Commission om den generativa AI-drivna chatbotens bildgenereringsförmåga. Shane Jones, en AI-ingenjör på Microsoft, försökte med uppmaningar som ´four twenty´, ´pro choice´, ´pro choce´ och ´pro life´, med vilka han kunde generera bilder av demoner, monster, tonåringar med automatgevär, minderåriga som dricker och droganvändning. Nu när Microsoft blockerar dessa uppmaningar visar Copilot ett varningsmeddelande som säger: ´Denna uppmaning har blockerats. Vårt system markerade automatiskt denna uppmaning eftersom den kan stå i konflikt med vår innehållspolicy. Fler policyöverträdelser kan leda till automatisk avstängning av din åtkomst. Om du tror att detta är ett misstag, rapportera det för att hjälpa oss att förbättra.´
Microsoft-ingenjör varnar för att CoPilot AI kan skapa stötande bilder
Shane Jones, en ingenjör på Microsoft, har skrivit ett brev till Federal Trade Commission (FTC) där han varnar för att CoPilot AI, som drivs av OpenAI-teknik, ignorerar upphovsrätt och kan skapa våldsamma, sexuella bilder. Jones har testat CoPilot Designer för att identifiera sårbarheter och upptäckte att det kunde framställa en mängd störande scener. Trots att han rapporterade sina fynd till Microsoft, vägrade företaget att ta bort produkten från marknaden. Jones hävdar att Microsoft blockerade hans försök att varna allmänheten, så han tar nu sin klagan direkt till FTC.
Microsofts AI-verktyg producerar explicita och våldsamma bilder, varnar ingenjör
Shane Jones, en huvudprogrammeringschef på Microsoft, har varnat för att företagets artificiella intelligens (AI) bildverktyg, som drivs av teknik från Sam Altmans OpenAI, producerar sexuellt explicita och våldsamma bilder som kan skada allmänheten. Jones skrev brev till Microsofts styrelse och Federal Trade Commission där han uttryckte oro över företagets ´ansvarsfulla AI´. Han varnade specifikt för potentiella missbruk av Microsofts Copilot Designer, en AI-bildgenerator liknande OpenAIs DALL-E. Jones påpekade att han hittade flera säkerhetsproblem och brister när han testade Copilot Designer.
Microsoft blockerar olämpliga uppmaningar i sin AI-verktyg Copilot
Microsoft har blockerat flera uppmaningar i sitt AI-verktyg Copilot som ledde till att verktyget genererade våldsamma, sexuella och andra olämpliga bilder. Ändringarna verkar ha genomförts strax efter att en ingenjör på företaget skrev till Federal Trade Commission om sina allvarliga bekymmer med Microsofts GAI-teknik. När användare nu skriver in termer som ´pro choice´, ´four twenty´ (en cannabisreferens) eller ´pro life´ får de ett meddelande om att dessa uppmaningar är blockerade. Användare rapporteras också ha kunnat skriva in uppmaningar relaterade till barn som leker med automatvapen fram till tidigare denna vecka. De som försöker skriva in en sådan uppmaning kan nu bli tillsagda att det strider mot Copilots etiska principer samt Microsofts policy. Men CNBC fann att det fortfarande var möjligt att generera våldsamma bilder genom uppmaningar som ´bilolycka´, medan användare fortfarande kan övertyga AI:n att skapa bilder av Disneyfigurer och andra upphovsrättsskyddade verk.
Microsoft gör ändringar i sin AI-verktyg Copilot efter oro över bildgenerering
Microsoft har börjat göra ändringar i sitt AI-verktyg Copilot efter att en anställd AI-ingenjör uttryckte oro över verktygets bildgenereringsfunktion. Vissa uppmaningar som ´pro choice´, ´pro life´ och ´four twenty´ är nu blockerade. Verktyget blockerar också förfrågningar om att generera bilder av tonåringar eller barn som spelar lönnmördare med automatvapen. Ändringarna kommer efter att Shane Jones, AI-ingenjören på Microsoft som ursprungligen uttryckte oro, testade Copilot Designer i flera månader och upptäckte att verktyget genererade bilder som strider mot Microsofts ansvarsfulla AI-principer.
Bedragare använder AI för att automatisera bedrägerisamtal
Enligt Federal Trade Commission var bedrägerier av bedragare den vanligaste typen av bedrägeri i USA förra året. Bedragare använder nu artificiell intelligens (AI) för att automatisera samtal och ändra nummerpresentationer. Lieutenant Doug Mahlum från Great Falls Police Department varnar för att alla med ett telefonnummer kan bli mål för dessa bedrägerisamtal. Han rekommenderar att inte svara på okända samtal och aldrig dela personlig information via telefon.
AI i politiska annonser kan skapa förvirring inför valet 2024
Michelle Nelson, professor i reklam vid University of Illinois, varnar för att generativ AI kommer att användas mer i politiska annonser inför valet 2024. Hon varnar för att det kan bli svårt att skilja på vad som är äkta och vad som är falskt. Det beräknas att 12 miljarder dollar kommer att spenderas på politiska annonser under detta valår, 30% mer än 2020. Det finns stor potential att använda denna politiska information för att bidra till demokratin, men det finns också mer potential än någonsin för generativ AI att missrepresentera kandidater och politik, vilket kan leda till förvirring i röstningsbåset.
Microsofts AI kan generera störande och olämpliga bilder, enligt företagets ingenjör
Shane Jones, en ingenjör på Microsoft, har offentligt kritiserat företagets AI, Copilot Designer, för att generera störande, rasistiska och sexistiska bilder samt bryta mot upphovsrätten. Jones, som har arbetat på Microsoft i sex år, gjorde sina upptäckter offentliga i en intervju på CNBC efter att ha varnat Microsoft under flera månader utan att få någon respons. Han påstår att AI:n, som är baserad på OpenAI:s DALL-E 3, kan generera olämpliga bilder, inklusive bilder av minderåriga som dricker alkohol eller tar droger, sexualiserade bilder av kvinnor i våldsamma scener och tonåringar med automatvapen. Jones har nu rapporterat Microsoft till Federal Trade Commission (FTC) i USA.
Microsoft står inför utmaningar kring AI säkerhet och upphovsrättsintrång
Microsoft står inför både interna och externa utmaningar. Företaget svarade på en stämning från New York Times genom att lämna in en inlaga för att avfärda anklagelserna. AI-ingenjören Shane Jones på Microsoft har skickat brev till Federal Trade Commissions ordförande Lina Khan och Microsofts styrelse, där han uttrycker allvarliga farhågor om säkerheten för Microsofts AI-modell Copilot Designer. Jones påstår att Copilot Designer, som drivs av OpenAIs Dall-E-bildgenerator, producerar bilder som strider mot molnleverantörens principer för ansvarsfull AI. Jones brev kommer samtidigt som Google, Microsofts huvudkonkurrent inom generativ AI, också kritiseras för sin multimodala modell Gemini.
Förutsägande AI överträffar generativ AI i bedrägeribekämpning
Med lanseringen av ChatGPT i november 2022 väcktes en ny våg av AI-entusiasm, främst kring generativ AI. Många finansiella institutioner har sedan dess börjat undersöka hur generativ AI kan tillämpas inom deras område. Men trots generativ AI:s attraktionskraft är det en annan form av AI som är hörnstenen i finansiella tjänster: förutsägande AI. Förutsägande AI möjliggör för finansiella organisationer att optimera sina verksamheter och frigöra resurser för att optimera en banks affärsstrategi. Genom att optimera sina förutsägande AI-förmågor innan de vänder sin uppmärksamhet mot generativ AI kommer bankerna att kunna förstå kundbeteende bättre, effektivisera bedrägeribekämpning och generera mer intäkter. Men för att göra det måste bankerna få sin data rätt.
Microsoft-ingenjör varnar för möjliga skador från AI-verktyget Copilot Designer
Shane Jones, en ingenjör på Microsoft, har skickat ett brev till den amerikanska Federal Trade Commission (FTC) där han varnar för skadliga bilder som kan genereras av AI-verktyget Copilot Designer. Jones har sedan december försökt varna Microsoft om problemen med DALLE-3, modellen som används av Copilot Designer. Han har upprepade gånger uppmanat Microsoft att dra tillbaka Copilot Designer från allmän användning tills bättre skyddsåtgärder kan införas. Jones påstår att riskerna var kända av både Microsoft och OpenAI innan AI-modellen släpptes offentligt förra oktober.
Microsofts AI kan skapa problematiska bilder, varnar visselblåsare
Precis som Googles Gemini AI-bildskapare är Microsofts Copilot, som drivs av OpenAI:s ChatGPT, också kapabel att skapa mycket problematiska, men mycket övertygande falska bilder. En visselblåsare har skickat brev till amerikanska tillsynsmyndigheter och Microsofts styrelse för att varna dem för detta problem. En ingenjör på Microsoft har uttryckt oro över stötande och skadliga bilder som företagets artificiella intelligensbildgeneratorverktyg producerar. Shane Jones, som betraktar sig själv som en visselblåsare, har skickat brev till amerikanska tillsynsmyndigheter och Microsofts styrelse, uppmanar dem att vidta åtgärder. Jones har framhållit att Copilot Designer utgör betydande risker genom att generera skadligt innehåll trots oskyldiga användarförfrågningar.
Microsoft-ingenjör varnar för skadliga bilder genererade av AI-verktyg
En ingenjör hos Microsoft, Shane Jones, varnar för skadliga och stötande bilder som enligt honom alltför lätt kan genereras av företagets AI-bildgeneratorverktyg. Jones har skickat brev till amerikanska tillsynsmyndigheter och Microsofts styrelse och uppmanat dem att vidta åtgärder. Han anser att Copilot Designer, ett verktyg som kan generera nya bilder från skriftliga instruktioner, kan generera skadligt innehåll trots oskadliga användarförfrågningar. Jones har bett företaget att dra tillbaka produkten från marknaden tills den är säkrare.
Microsoft-anställd uppmanar USA:s regering att granska AI-verktyg
En högt uppsatt anställd på Microsoft, Shane Jones, har uttryckt oro över säkerheten för företagets generativa AI-verktyg och har uppmanat den amerikanska regeringen att undersöka detta. Jones har skickat ett brev till USA:s Federal Trade Commission och Microsofts styrelse angående Copilot Designer, en text-till-bild-generator som lanserades av teknikjätten i mars 2023. Jones uttryckte oro över Copilot Designers förmåga att producera potentiellt olämpliga bilder, inklusive de som skildrar sex, våld, minderårigt drickande och droganvändning, samt politisk bias och konspirationsteorier. Trots hans upprepade försök att ta upp frågan internt på Microsoft under de senaste tre månaderna, avböjde företaget att ta bort Copilot Designer från offentligt bruk eller implementera tillräckliga skyddsåtgärder.
Microsofts AI-verktyg kan skapa kränkande innehåll, varnar anställd
Microsofts mjukvaruingenjör Shane Jones har skickat brev till företagets styrelse, lagstiftare och Federal Trade Commission (FTC), där han varnar för att företagets AI-bildgenereringsverktyg kan skapa kränkande och våldsamt innehåll. Jones upptäckte en säkerhetsbrist i OpenAI:s senaste DALL-E-bildgenerator, som är inbäddad i många av Microsofts AI-verktyg, inklusive Copilot Designer. Detta tillät honom att kringgå skyddsanordningar som förhindrar verktyget från att skapa skadliga bilder. Han uppmanade företaget att ta bort Copilot Designer från offentligt bruk tills bättre skydd kunde införas.
Microsoftingenjör varnar för skadligt innehåll genererat av AI-verktyg
En ingenjör på Microsoft, Shane Jones, varnar för skadliga och stötande bilder som enkelt kan skapas av företagets artificiella intelligensbildgeneratorverktyg. Han har skickat brev till amerikanska regulatorer och Microsofts styrelse och uppmanar dem att vidta åtgärder. Jones, som arbetar med AI-produkter för Microsofts detaljhandelskunder, har uttryckt säkerhetsproblem kring Microsofts Copilot Designer, ett verktyg som kan generera nya bilder från skrivna uppmaningar. Jones har upprepade gånger bett företaget att dra tillbaka produkten från marknaden tills den är säkrare, eller åtminstone ändra dess åldersbetyg på smartphones för att klargöra att den är avsedd för vuxna.
Microsoft-ingenjör varnar för skadligt innehåll genererat av AI-verktyg
En ingenjör på Microsoft varnar för stötande och skadliga bilder som enligt honom för lätt kan skapas av företagets AI-bildgenereringsverktyg och har skickat brev till amerikanska regulatorer och företagets styrelse för att uppmana dem att agera. Shane Jones anser sig själv vara en visselblåsare och har även träffat personal från amerikanska senaten för att dela sina farhågor. Federal Trade Commission bekräftade att de mottagit hans brev men avböjde ytterligare kommentarer. Microsoft säger att de är engagerade i att hantera anställdas oro över företagspolicys och uppskattar Jones ansträngningar att studera och testa deras senaste teknologi för att ytterligare förbättra dess säkerhet.
Microsoft-ingenjör varnar för skadligt innehåll i företagets AI-bildgenerator
En Microsoft-ingenjör, Shane Jones, har varnat för stötande och skadligt bildinnehåll som han anser för lätt produceras av företagets AI-bildgenereringsverktyg. Jones har sänt brev till amerikanska tillsynsmyndigheter och Microsofts styrelse och uppmanat dem att agera. Han har också delat sina farhågor med personal på amerikanska senaten. Federal Trade Commission bekräftade att de mottagit hans brev men avböjde ytterligare kommentarer. Microsoft svarade att de är engagerade i att hantera anställdas oro över företagets policys och att de uppskattar Jones arbete med att studera och testa deras senaste teknik för att öka dess säkerhet.
Microsoft AI-ingenjör varnar för skadligt innehåll genererat av Copilot Designer
En AI-ingenjör på Microsoft har skickat brev till den amerikanska Federal Trade Commission och Microsofts styrelse med oro över att Microsofts Copilot Designer genererar ´skadligt innehåll´. Copilot Designer, som drivs av OpenAI:s DALL-E 3, skapar stötande bilder som innehåller ´politisk bias, minderåriga som dricker och använder droger, missbruk av företags varumärken och upphovsrättigheter, konspirationsteorier och religion´, skriver Shane Jones, chef för programvaruutveckling på Microsoft. Jones hävdar att han upprepade gånger har försökt få Microsoft att lägga till en åldersgräns eller restriktioner för Copilot Designer, men Microsoft har avvisat begäran. Jones vill att FTC informerar allmänheten om Copilot Designers inneboende problem och får Microsoft att ordentligt redovisa de typer av innehåll Copilot Designer kan producera.
Microsoft-ingenjör larmar om säkerhetsproblem med företagets AI-bildgenerator
En Microsoft-ingenjör har vänt sig till Federal Trade Commission med säkerhetsproblem rörande företagets AI-bildgenerator, enligt en rapport från CNBC. Shane Jones, som har arbetat för Microsoft i sex år, skrev ett brev till FTC där han uppgav att Microsoft ´vägrade´ att ta bort Copilot Designer trots upprepade varningar om att verktyget kan generera skadliga bilder. Vid testning av Copilot Designer för säkerhetsproblem och fel, fann Jones att verktyget genererade ´demoner och monster tillsammans med terminologi relaterad till aborträttigheter, tonåringar med överfallsvapen, sexualiserade bilder av kvinnor i våldsamma tablåer och minderårigt drickande och droganvändning´, rapporterar CNBC. Dessutom genererade Copilot Designer bilder av Disney-karaktärer, såsom Elsa från Frost, i scener vid Gazaremsan ´framför förstörda byggnader och ´befria Gaza´-skyltar´. Den skapade också bilder av Elsa i en Israel Defense Forces-uniform medan hon höll en sköld med Israels flagga. Jones har försökt varna Microsoft om DALLE-3, modellen som används av Copilot Designer, sedan december, säger CNBC. Han publicerade ett öppet brev om problemen på LinkedIn, men han kontaktades enligt uppgift av Microsofts juridiska team för att ta bort inlägget, vilket han gjorde. ´Under de senaste tre månaderna har jag upprepade gånger uppmanat Microsoft att ta bort Copilot Designer från offentligt bruk tills bättre säkerhetsåtgärder kunde införas´, skrev Jones i brevet som CNBC erhöll. ´Återigen har de misslyckats med att genomföra dessa ändringar och fortsätter att marknadsföra produkten till ´Vem som helst. Var som helst. Vilken enhet som helst.´ Microsoft svarade inte omedelbart på en begäran om kommentar. I januari skrev Jones till en grupp amerikanska senatorer om sina bekymmer efter att Copilot Designer genererat explicita bilder av Taylor Swift, vilka spreds snabbt över X. Microsofts VD Satya Nadella kallade bilderna ´skrämmande och fruktansvärda´ och sa att företaget skulle arbeta med att lägga till fler säkerhetsspärrar. Förra månaden inaktiverade Google tillfälligt sin egen AI-bildgenerator när användare upptäckte att den skapade bilder av rasligt olika nazister och andra historiskt felaktiga bilder.
Shane Jones, en huvudprogramvaruutvecklingschef på Microsoft, har skickat ett brev till den amerikanska Federal Trade Commission (FTC) och Microsofts styrelse angående säkerheten för Copilot Designer, ett text-till-bildgeneratorverktyg som företaget lanserade i mars 2023. Jones hävdar att verktyget kan producera skadligt innehåll, inklusive bilder som speglar sex, våld, minderåriga som dricker alkohol, droganvändning, politisk bias, missbruk av företagsvarumärken och konspirationsteorier. Han uppmanar FTC att utbilda allmänheten om riskerna med att använda Copilot Designer, särskilt föräldrar och lärare som kan rekommendera barn att använda verktyget för skolprojekt.
Microsoft-ingenjör varnar för brister i AI-system
En mjukvaruingenjör på Microsoft, Shane Jones, varnade på onsdagen för brister i företagets artificiella intelligenssystem som kan leda till skapandet av skadliga bilder. Jones hävdade att företagets AI-text-till-bild-generator Copilot Designer har systemproblem som ofta leder till potentiellt stötande eller olämpliga bilder, inklusive sexualiserade bilder av kvinnor. Han kritiserade också företaget för att marknadsföra verktyget som säkert, trots kända risker. Jones har uppmanat Microsoft att ta bort Copilot Designer från allmän användning tills bättre skyddsåtgärder kan införas.
Shane Jones, AI-ingenjör på Microsoft, har upptäckt att företagets AI-bildgenerator Copilot Designer, drivet av OpenAI, har skapat bilder som strider mot Microsofts principer för ansvarsfull AI. Bilderna inkluderar demoner och monster i samband med aborträttigheter, tonåringar med automatvapen och sexualiserade bilder av kvinnor i våldsamma scener. Jones har rapporterat sina fynd internt sedan december, men företaget har vägrat ta bort produkten från marknaden. Han har nu skickat brev till ordföranden för Federal Trade Commission, Lina Khan, och Microsofts styrelse för att eskalera sina bekymmer.
AI-används i bedrägerier för att klonar älskade röster
Bedragare använder nu artificiell intelligens för att klonar röster av älskade personer i sina bedrägerier. En lokal familj i Cleveland, USA, höll nästan på att bli offer för ett sådant bedrägeri när en okänd person ringde och krävde pengar, med vad som lät som dotterns röst i bakgrunden. Federal Trade Commission (FTC) varnar allmänheten för denna sofistikerade version av ´Grandparents Scam´. FBI, Better Business Bureau, Ohio Attorney General´s Office, FTC och Department of Justice samlades för att dela bedrägeriförebyggande tekniker.
Anthropic avtäcker avancerad AI-chatbot, Claude 3
Startföretaget Anthropic har presenterat en ny AI-modell, Claude 3, som de hävdar är mer avancerad än tidigare modeller. Anthropic, baserat i San Francisco, är en rival till OpenAI och startades av tidigare ledare hos ChatGPT-tillverkaren. Företagets primära molnpartner är Amazon, som har sagt att de kommer att investera upp till 4 miljarder dollar i företaget. Även Google har investerat i Anthropic. Alla dessa partnerskap har dragit till sig uppmärksamhet från amerikanska konkurrensmyndigheter vid Federal Trade Commission. De nya Claude 3-modellerna kommer i tre versioner, alla med datorseendeförmåga.
AI-baserade bedrägerier ökar: FTC försöker motverka med nya regler
Federal Trade Commission (FTC) mottog 2,6 miljoner rapporter om bedrägerier 2023, vilket motsvarar förluster på $10 miljarder, den högsta årliga förlusten som någonsin rapporterats. Majoriteten av dessa rapporter var imposterbedrägerier där bedragaren utger sig för att vara en bank, regering, företag, släkting, romantiskt intresse eller teknisk supportrepresentant. FTC försöker aktivt förhindra AI-genererade så kallade deepfakes genom att införa en regel som förbjuder imitering av individer. Deepfakes är bilder eller videor som har manipulerats digitalt med hjälp av en form av AI kallad djupinlärning. Denna teknologi gör det möjligt för bedragare att få det att se ut som om någon säger eller gör något som aldrig hände.
San Francisco-startupen Anthropic släpper världens mest kraftfulla AI-modell
San Francisco-baserade startup-företaget Anthropic har lanserat en ny stor språkmodell (LLM), Claude 3, som verkar vara den mest kraftfulla i världen hittills. Den överträffar tidigare ledare som OpenAI:s GPT-4 och Googles Gemini Advanced på vanliga benchmark-tester. Dess investerare och partner Amazon har redan lagt till den nya Claude 3-modellfamiljen till Bedrock, Amazons plattform för att bygga och köra AI-tjänster i molnet. Anthropic meddelade tre nya Claude 3-modeller idag - Opus, Sonnet och Haiku, i fallande ordning av intelligens. De nya modellerna tränades på syntetiska data, det vill säga data genererade av AI själv snarare än främst mänskliga författare.
FTC föreslår tilläggsregler för att bekämpa AI-assisterad bedrägeri
Efter mer än två års konsultation och granskning har Federal Trade Commission (FTC) den 15 februari 2024 fastställt en regel som förbjuder imitation av regeringsorgan eller företag i frågor som berör handel. Men enligt ordförande Lina Khan har framsteg inom AI gjort den fastställda regeln otillräcklig. FTC har därför föreslagit en tilläggsregel som skulle göra det till ett brott mot FTC-lagen att falskeligen utge sig för att vara en individ, direkt eller indirekt, eller att falskeligen företräda, direkt eller indirekt, tillhörighet till, inklusive godkännande eller sponsring av, en individ i frågor som berör handel. Denna bestämmelse är betydande eftersom om den inkluderas i den slutliga regeln kan verkställande myndigheter utöka antalet fall där AI-företag hålls ansvariga för olagligt beteende som underlättas av deras produkter och tjänster.
Elon Musk stämmer OpenAI för att ha avvikit från sitt ursprungliga uppdrag
Elon Musk stämmer OpenAI, där han anklagar företaget för att ha avvikit från sitt uppdrag att utveckla artificiell intelligens för mänsklighetens breda nytta. Musk hävdar att OpenAI, tillsammans med Sam Altman och Greg Brockman, avvek från sina ursprungliga löften 2023 genom att avslöja GPT-4, tekniken bakom företagets chatbot ChatGPT, samtidigt som de döljer dess arkitektur. Musk påstår att detta indikerar ett avsteg från deras grundläggande mål om transparens och engagemang för att gagna mänskligheten. Vissa experter tvivlar dock på hans chanser att vinna rättsfallet.
Röstteknik öppnar nya kommunikationsvägar och medför säkerhetsutmaningar
Röstteknik utvecklas snabbt och öppnar nya kommunikationsvägar, men medför också säkerhetsutmaningar. Whispp har utvecklat en assistent för röstteknik som hjälper människor med röststörningar att kommunicera mer flytande och självsäkert. Företaget Code Factory och Creoir har i samarbete utvecklat en röstteknik för självbetjäningssystem som kiosker och drive-thrus. ElevenLabs, ett annat företag inom röstteknik, har säkrat 80 miljoner dollar i serie B-finansiering för att lansera nya produkter, inklusive en röstbiblioteksmarknad där användare kan monetarisera sina egna röster. Samtidigt ökar oron för att tekniken missbrukas för bedrägeriändamål, till exempel genom att skapa falska röstkloner.
AI-teknikens fördelar och risker för detaljhandeln
Generativ AI-teknik erbjuder detaljhandeln nya möjligheter för kundengagemang, men medför också risker. Trots att AI kan effektivisera skapandet av innehåll finns det risker, särskilt när det gäller förtroende och säkerhet. Falska produkt- och tjänsteanspråk kan hota företagens relation med sina kunder. En studie visade att bara 20% ´mestadels´ eller ´helt och hållet´ litar på AI under shoppingprocessen. Trots riskerna förväntas användningen av gen AI fortsätta växa inom detaljhandeln, med en förväntad inverkan på 9,21 biljoner dollar på branschen fram till 2029.
FTC föreslår regler mot AI-assisterad identitetsstöld
Efter över två års konsultation och granskning har Federal Trade Commission (FTC) den 15 februari 2024 slutgiltigt infört en regel som förbjuder imitation av regeringsorgan eller företag i frågor som berör eller påverkar handeln. Enligt ordförande Lina Khan har dock framsteg inom AI gjort den slutgiltiga regeln otillräcklig. Därför har FTC föreslagit en kompletterande regel som skulle göra det till ett brott mot FTC-lagen att falskeligen utge sig för att vara en individ, direkt eller indirekt, i frågor som berör eller påverkar handeln. FTC föreslår också att det ska vara olagligt för företag, som en AI-plattform som skapar bilder, video eller text, att tillhandahålla varor eller tjänster som de vet eller har anledning att tro används för att skada konsumenter genom imitation.
AI-drivna bedrägerier ökar: Finansiella rådgivare kan hjälpa till att skydda kunder
Adoptionen av artificiell intelligens (AI) har lett till en ökning av finansiella bedrägerier, med skadligt användande av AI som driver en ny våg av ekonomiskt bedrägeri. Enligt FBI:s Internet Crime Complaint Center stod telefon- och cybersvindel för omkring $10 miljarder i direkta kostnader för amerikaner förra året. Finansiella rådgivare kan skilja sig från mängden genom att hjälpa sina kunder att förstå hur tekniken har lett till nya typer av bedrägerier och råda dem om hur de kan skydda sig mot ekonomiskt bedrägeri och skydda sina tillgångar. Dessutom har rådgivarna en möjlighet att engagera nästa generation av kunder.
Ökning av bedrägerier med hjälp av AI i USA
Inför skattesäsongen och det kommande presidentvalet rapporterar Federal Trade Commission (FTC) om en ökning av robosamtal och en ökande komplexitet i bedrägerier på grund av användning av artificiell intelligens. FTC definierar bedrägerier som någon som låtsas vara en betrodd vän/familjemedlem för att få konsumenter att skicka pengar eller ge personlig information. FTC registrerade totalt 657,7 miljoner dollar i förluster under fjärde kvartalet 2023 på grund av sådana bedrägerier. I Louisiana registrerade över 3 miljoner invånare sig för det nationella ´Ring Inte´-registret förra året.
FTC avslöjar ny reglering för att bekämpa bedrägerier online
Den 15 februari 2024 avslöjade Federal Trade Commission (FTC) en banbrytande åtgärd, Impersonation Rule, en kraftfull reglering för att motverka bedräglig imitation av regeringar, företag och deras tjänstemän. FTC föreslår också en ändring för att utvidga regeln till att inkludera individuella imitationer och införa ansvar för teknikleverantörer. Detta markerar en betydande eskalering i kampen mot online-bedrägerier. Förslagen speglar FTC:s aggressiva tillvägagångssätt efter AMG Capital Supreme Court-beslutet och visar en förnyad vilja att skydda marknaden från vilseledande praxis.
FTC föreslår regler mot AI-genererade deepfakes och individuell imitation
Federal Trade Commission (FTC) har begärt offentlig feedback på ett föreslaget regelverk som skulle förbjuda individuell imitation, en utvidgning av en nylig regel som riktar sig mot imitation av regering och företag. Detta är ett svar på framväxande teknologier som AI-genererade deepfakes. FTC:s ordförande Lina Khan uttalade att skyddet av amerikaner från bedrägerier med imitation är viktigare än någonsin. FTC har också fastställt reglerna för imitation av regering och företag, vilket gör det möjligt för myndigheten att direkt driva federala rättsfall mot bedragare och återkräva medel som förvärvats genom bedrägerier med imitation av regering eller företag.
FTC överväger ansvar för skapare av verktyg för deepfakes
Federal Trade Commission (FTC) överväger om tillverkare av verktyg som låter människor generera video-, ljud- och bildimitationer ska hållas ansvariga när digitala duplikat leder till bedrägeri. Jurister ifrågasätter FTC:s rekommenderade tillvägagångssätt, med argumentet att det slår för brett och kan stoppa oskyldiga användningar av tekniken. FTC har frågat om AI-plattformar där deepfakes kan skapas ska vara ansvariga om de vet, eller ´har anledning att veta´, att deras tjänster används för att skapa vilseledande innehåll.
AI och EdTech: Möjligheter och risker för utbildningssektorn
Korsningen mellan artificiell intelligens (AI) och utbildningsteknik (EdTech) har blivit ett viktigt område för tillväxt och oro inom utbildningssektorn. Användningen av AI-baserade EdTech-verktyg presenterar både nya utmaningar och möjligheter. Det har lett till diskussioner kring säkerhet och integritet för studentdata, samt effektiviteten och etiska överväganden av att använda dessa teknologier. Användningen av AI inom EdTech innebär risker för datasekretess och säkerhet, men erbjuder även innovativa lösningar för att personifiera lärandet och öka studentengagemanget. Regleringslandskapet för användning av AI inom utbildning är komplext och fragmenterat. I USA har delstater som Kalifornien tagit steg för att adressera dessa luckor genom lagstiftning. Dessutom signalerar den amerikanska regeringens verkställande order om AI och de föreslagna ändringarna i federala integritetslagar en rörelse mot att etablera en mer sammanhängande strategi för AI-styrning.
Tinder utökar ID-verifieringskrav för att bekämpa brott på dejtingappar
Tinder meddelade på tisdagen att de planerar att utöka sina ID-verifieringskrav, bland annat genom att be användare skicka in en videoselfie, då brottsligheten på dejtingappar ökar och artificiell intelligens gör det svårare att avgöra vem som är äkta. Dessa förändringar kommer att lanseras i USA, Storbritannien, Mexiko och Brasilien under de kommande veckorna och månaderna. Användare kommer att behöva skicka in ett giltigt körkort eller pass tillsammans med videoselfien för att erhålla en blå verifieringskryssning. Tinder har framgångsrikt testat processen i Australien och Nya Zeeland, där nyligen verifierade användare fick 67% fler matchningar än de som valde bort det.
Bedrägerier på nätet ökade med 14% till 10 miljarder dollar 2023
Konsumenter drabbades av bedrägerier på 10 miljarder dollar 2023, en ökning med 14% jämfört med föregående år. Detta beror främst på bedrägerier där bedragare utger sig för att vara betrodda personer för att lura offer på pengar. Federal Trade Commission (FTC) mottog nästan 854 000 klagomål om sådana bedrägerier, vilket utgör en tredjedel av alla rapporterade konsumentbedrägerier. FTC har uppmanat till strängare regleringar för att förhindra missbruk av AI-verktyg och aggressiv konkurrensbegränsning inom AI-industrin för att skydda konsumenter mot missbruk av avancerad teknik.
OpenAI värderas till över 80 miljarder dollar i ny affär
OpenAI, som stöds av Microsoft, har slutfört en affär som värderar det artificiella intelligensföretaget till 80 miljarder dollar eller mer, rapporterade New York Times. Företaget skulle sälja befintliga aktier i ett så kallat inlösenbud som leds av riskkapitalföretaget Thrive Capital. Anställda kommer att kunna sälja sina aktier i företaget istället för en traditionell finansieringsrunda. OpenAI har lockat till sig en rad stora finansieringsrundor, inklusive Microsofts investering på 10 miljarder dollar i januari 2023. OpenAI lanserade ChatGPT i slutet av 2022 vilket startade en buzz kring AI.
Möte på Vita huset för att bekämpa AI-drivna röstkloneringsbedrägerier
AARP:s främsta bedrägeriexpert deltog nyligen i ett möte med Vita husets tjänstemän och industriledare för att hjälpa den federala regeringen att bekämpa användningen av AI-drivna röstkloner för att begå bedrägerier. Kathy Stokes, AARP:s direktör för bedrägeriförebyggande program, varnade för att bedrägerier mot konsumenter redan är på en krisnivå och att generativ AI riskerar att förvärra situationen. Federal Communications Commission har gjort det olagligt att använda AI-röstklonering i robocalls som riktar sig till konsumenter.
FTC föreslår regler för att förbjuda AI-baserad personimitation
Federal Trade Commission (FTC) har föreslagit en ny regel som skulle förbjuda imitation av individer, inklusive användning av artificiell intelligens (AI). Detta kommer samma dag som OpenAI, företaget bakom ChatGPT, avslöjade ett nytt verktyg kallat Sora som kan generera en minut lång video från en skriftlig prompt. FTC vill skydda konsumenter från AI-genererade bedrägerier och söker offentliga kommentarer om regeln bör förbjuda AI eller andra företag från att medvetet tillåta att deras produkter används av individer som i sin tur använder dem för att begå bedrägeri genom imitation.
USA:s Federal Trade Commission tar steg mot AI-genererade bedrägerier
USA:s Federal Trade Commission (FTC) tar ett banbrytande steg för att hålla företag ansvariga för teknologier som används i AI-genererade imitationer. I ljuset av en ökning av sofistikerade bedrägerier försöker kommissionen stoppa dessa vilseledande metoder och uppmanar allmänheten att spela en roll i att forma framtidens digitala integritet. FTC föreslår att utvidga regeln om imitation av regeringar och företag för att inkludera digitala dubbleganger skapade av AI. FTC:s ordförande Lina Khan betonar att det är brådskande att utrusta kommissionen med robusta verktyg för att bekämpa dessa växande hot.
Federal Trade Commission skärper regler för att bekämpa bedrägerier med AI
Federal Trade Commission (FTC) har fastställt en ny regel för att utvidga skyddet mot bedrägerier där regerings- och företagsidentiteter förfalskas. FTC har även efterlyst allmänhetens åsikter om ett förslag som täcker bedrägerier genererade av artificiell intelligens (AI). Detta följer på ökande klagomål om innehåll skapat av generativ maskininlärningsprogramvara som efterliknar individer, från bild- och videodeepfakes till artificiell ljud- och röstkloning. FTC söker feedback om hur man ska bedöma ansvar för företag som tillhandahåller verktyg för att skapa och distribuera denna typ av innehåll.
FTC föreslår nya regler för att förhindra bedrägerier genom imitation
Federal Trade Commission (FTC) föreslår en ny uppsättning regler som skulle förbjuda imitation av individer. FTC noterade att ny teknik, som AI-genererade deepfakes, kan förvärra bedrägeriernas omfattning. FTC:s ordförande, Lina M. Khan, uttalade att skyddet mot bedrägerier genom imitation är viktigare än någonsin. FTC tar emot kommentarer från allmänheten om den reviderade regeln bör göra det olagligt för företag, som en AI-plattform som skapar bilder, video eller text, att tillhandahålla tjänster som de vet eller har anledning att veta används för att skada konsumenter genom imitation.
OpenAI avtäcker AI-modell som kan skapa videor från text
OpenAI har avtäckt sin nya text-till-video-modell Sora, som kan generera videor upp till en minut långa baserat på vilken prompt en användare skriver in i en textlåda. Även om den ännu inte är tillgänglig för allmänheten, väckte AI-företagets tillkännagivande en mängd reaktioner online. OpenAI:s VD Sam Altman bad om idéer på X och genererade en serie videor, inklusive den ovan nämnda vatten cyklisten, samt en matlagningsvideo och ett par hundar som podcastar på ett berg. Trots detta kan Sora ha svårt att fånga fysiken eller de rumsliga detaljerna i en mer komplex scen, vilket kan leda till att den genererar något ologiskt. Federal Trade Commission föreslog regler för att göra det olagligt att skapa AI-intryck av riktiga människor.
Ökad användning av AI inom sjukvården leder till övervägande av reglering
Användningen av artificiell intelligens (AI) inom sjukvården ökar snabbt, med fler hälso- och sjukvårdsleverantörer som utnyttjar denna teknik för att förbättra patientvård, effektivisera verksamheter och förbättra hälsoutfall. Detta har lett till att federala lagstiftare överväger regleringsåtgärder för att skydda patienter från partiskhet och diskriminering, samtidigt som deras integritet skyddas. Senaten undersöker balansen mellan att skydda innovation och säkerställa patientintegritet. En lagstiftningsåtgärd som för närvarande övervägs är Algorithmic Accountability Act. Om den införs, skulle denna lag kräva att sjukvårdssystem regelbundet bedömer om AI-verktyg används som avsett och inte upprätthåller skadlig partiskhet.
Företag riskerar rättsliga konsekvenser vid överdrivna AI-påståenden: SEC-ordförande
Företag som överdriver användningen av artificiell intelligens (AI) eller vad teknologin kan leverera riskerar att bryta mot amerikansk värdepapperslagstiftning, enligt Gary Gensler, ordförande för Securities and Exchange Commission (SEC). Offentligt handlade företag som vilseleder eller oärligt marknadsför sin användning av AI riskerar att skada investerare och bryta mot lagar. Gensler uppmanade företagsledare att vara ärliga om huruvida de använder en AI-modell och hur de använder AI i specifika tillämpningar. Federal Trade Commission har också utfärdat varningar om hur AI kan förstärka bedrägerier.
Journalist blir offer för dödshoax online
Den amerikanska journalisten Deborah Vankin blev överraskad när hon upptäckte att det cirkulerade falska dödsannonser om henne på internet. Dessa annonser, skrivna av fiktiva journalister, var en del av en sofistikerad dödshoax skapad av anonyma bedragare som använde hennes namn som klickbete. Det visade sig att det var flera rapporter om hennes död som cirkulerade online. Hoaxen hade spridits via olika medier, inklusive YouTube, där minst fyra olika rapporter om hennes död kom i form av videor. Internet säkerhetsexperter, AI-missinformation analytiker, Google och YouTube-representanter, professorer och till och med FBI kunde inte säga exakt vem som låg bakom dödshoaxen, men de flesta var överens om att det var klickbete.
USA:s Federal Trade Commission undersöker OpenAI
USA:s Federal Trade Commission (FTC) undersöker OpenAI, vilket markerar en betydande milstolpe i regleringen av AI-teknologi. Undersökningen fokuserar på OpenAI:s ChatGPT-bots påverkan på konsumenter, särskilt gällande datainsamling och generering av falsk information. Detta är den första stora tillsynsundersökningen av OpenAI i USA. Trots framgångarna står företaget inför sin största regleringsutmaning hittills. FTC:s proaktiva inställning ses som en viktig motvikt mot kongressens tvekan att införa specifik lagstiftning om AI-användning inom den privata sektorn.
FCC förklarar AI-röster i robosamtal olagliga
Federal Communications Commission (FCC) har bestämt att robosamtal som använder röster genererade av artificiell intelligens (AI) är olagliga, på grund av oro över hur denna avancerade teknik används för att lura människor och vilseleda väljare. ´Oärliga aktörer använder AI-genererade röster i oönskade robosamtal för att utpressa sårbara familjemedlemmar, imitera kändisar och desinformera väljare´, sa FCC:s ordförande Jessica Rosenworcel. FCC:s beslut gör att de kan bötfälla överträdare och blockera telefonsamtalsföretag som förmedlar samtalen.
USA:s Federala Kommunikationskommission förbjuder AI-genererade robosamtal
Federal Communications Commission (FCC) i USA har förbjudit robosamtal som innehåller röster genererade av artificiell intelligens (AI). Detta är ett beslut som tydligt signalerar att utnyttjande av tekniken för att lura människor och vilseleda väljare inte kommer att tolereras. Den enhälliga regeln riktar sig mot robosamtal gjorda med AI-röstkloning under Telephone Consumer Protection Act, en lag från 1991 som begränsar skräpsamtal som använder artificiella och förinspelade röstmeddelanden. Regleringen ger FCC möjlighet att bötfälla företag som använder AI-röster i sina samtal eller blockera tjänsteleverantörer som förmedlar dem. Den öppnar också dörren för att mottagare av samtal kan stämma och ger delstaternas justitiekansler en ny mekanism för att slå ner på överträdare.
Vita huset rapporterar framsteg i genomförandet av exekutiva order om AI
Den 29 januari 2024 publicerade Vita huset en faktablad som beskriver de åtgärder som vidtagits enligt president Joe Bidens exekutiva order från 30 oktober 2023 om ´Säker, säker och pålitlig utveckling och användning av artificiell intelligens´. Mer än två dussin åtgärder har hittills slutförts enligt det exekutiva ordern. Bland åtgärderna finns Defence Production Act Determination om AI-säkerhetstestresultat, Commerce Department Issues Draft Rule on Infrastructure as a Service Companies, National Science Foundation lanserar pilotprojektet National AI Research Resource, Federal Trade Commission föreslår första COPPA Rulemaking på ett decennium och AI Talent Surge Kicks Off.
FTC Tech Summit diskuterar utvecklingar och risker med AI
Federal Trade Commission (FTC) arrangerade den 25 januari FTC Tech Summit för att diskutera centrala utvecklingar inom artificiell intelligens (AI). Tankesmeder från hela AI-landskapet samlades för att överväga hur man kan främja en rättvis och inkluderande AI-marknad givet den snabba utvecklingen av stora språkmodeller och generativ AI. FTC visade intresse för att begränsa riskerna och skadorna som AI kan orsaka konsumenter. FTC har varit den mest aktiva federala regleraren på AI-frågor hittills. FTC söker sätt att utnyttja sin befintliga auktoritet för att förhindra skador orsakade av AI.
Konkurrensmyndigheter oroas över teknikjättarnas kontroll över AI
Konkurrensmyndigheter över hela världen uttrycker ökad oro över att få teknikföretag kontrollerar artificiell intelligens (AI). Microsoft har förvärvat en ledande andel i OpenAI, företaget bakom populära chatbot ChatGPT, och konkurrerar med Google om att snabbast utveckla avancerad AI-teknik. Både USA:s justitiedepartement och Federal Trade Commission undersöker OpenAI avseende konkurrenslagar. Europeiska Unionens regulatorer och Storbritanniens konkurrensmyndighet (CMA) har också undersökt konkurrens inom AI. EU fruktar att det som hände med de tidigare generationerna av internetjättar ska upprepas, då Europa blev en åskådare som inte kunde tävla med företag som Meta, Google och Amazon.
Microsoft överträffar Apple som världens mest värdefulla företag
Microsoft rapporterade sin femte raka kvartal med rekordintäkter på 62 miljarder dollar, och dess marknadsvärde översteg nyligen 3 biljoner dollar, vilket gör det till världens mest värdefulla företag. Detta är en betydande förändring från början av 2010-talet, då företaget kämpade med att bygga upp en mobil verksamhet och riskerade att bli irrelevant. Microsofts VD Satya Nadella anses vara en av de mest inflytelserika ledarna inom AI-boomen, och företaget förväntar sig att vinsterna kommer att fortsätta öka när kunderna fortsätter att installera dess AI-produkter.
Alphabet förväntas presentera kvartalsresultat med fokus på AI och molnverksamhet
Alphabet (GOOG, GOOGL) kommer att släppa sina kvartalsresultat på tisdag, vilket inleder en intensiv vecka för amerikanska teknikjättar. Investerare kommer att söka detaljer om företagets molnverksamhet, nyligen genomförda uppsägningar och initiativ inom artificiell intelligens (AI). Analytiker förväntar sig följande siffror för Alphabets fjärde kvartal: intäkter exklusive trafikanskaffningskostnader: $70,97 miljarder förväntade ($63,12 miljarder i Q4 2022), justerad vinst per aktie: $1,59 förväntade ($1,05 i Q4 2022), molnintäkter: $8,95 miljarder förväntade ($7,32 miljarder i Q4 2022), annonsintäkter: $65,8 miljarder förväntade ($59,04 miljarder i Q4 2022). Alphabet har nyligen sagt upp hundratals anställda i ett försök att minska kostnader och fokusera på tillväxtområden, inklusive AI.
USA:s Federal Trade Commission granskar OpenAI och Anthropic
USA:s Federal Trade Commission (FTC) har inlett en utredning av startup-företagen OpenAI och Anthropic för att undersöka eventuell konkurrensbegränsande påverkan från deras flerbiljardpartnerskap och investeringar från hyperskalarna Microsoft, Google och Amazon. OpenAI har ett strategiskt partnerskap med Microsoft, som har investerat rapporterade 13 miljarder dollar i ChatGPT-tillverkaren. Amazon och Google har investerat 4 miljarder dollar respektive 2 miljarder dollar i Anthropic. Utredningen kommer att undersöka vilken inverkan dessa avtal kommer att ha på det konkurrensutsatta generativa AI-landskapet.
FTC utreder teknikjättarnas partnerskap med AI-startups
Federal Trade Commission (FTC) meddelade att de kommer att granska partnerskap mellan teknikjättar och AI-startups. FTC begär information från fem företag om deras investeringar och partnerskap inom generativ AI och molntjänster: Alphabet, Amazon, Anthropic, Microsoft och OpenAI. Informationen kommer att hjälpa regulatorer att studera effekterna av dessa relationer på den konkurrenskraftiga landskapet i branschen och säkerställa att de inte bryter mot lagar designade för att förhindra företag från att koordinera kontroll över marknader.
FTC kräver information om AI-investeringar från stora teknikföretag
Federal Trade Commission (FTC) har utfärdat order till fem av de största namnen inom moln- och artificiell intelligens (AI), vilka kräver att de avslöjar detaljerad information om nyligen investeringar och partnerskap. Molntjänstleverantörerna Amazon, Microsoft och Alphabet - Googles moderbolag - samt de generativa AI-företagen Anthropic och OpenAI fick underrättelse från regulatorn den 25 januari. FTC söker information om specifika investeringar, men också den strategiska motiveringen bakom sådana investeringar och de praktiska konsekvenserna de har för beslut om nya produktsläpp eller styrelsesamtal.
FTC granskar techbolagens investeringar i AI-startups
USA:s motsvarighet till Konkurrens- och Konsumentverket, The Federal Trade Commission (FTC), granskar Microsofts, Amazons och Googles investeringar i AI-startups Open AI och Anthropic. Detta sker efter den senaste tidens explosionsartade utveckling inom AI-sektorn.
Alphabet, Amazon och Microsoft granskas av FTC över AI-investeringar
Alphabet, Amazon och Microsoft granskas av den amerikanska Federal Trade Commission (FTC) angående deras investeringar och partnerskap med artificiell intelligens (AI) startups Anthropic och OpenAI. Undersökningen är en del av en bredare studie om hur AI påverkar konkurrensen inom teknikindustrin. FTC har utfärdat stämningar för att samla in information, med fokus på över 19 miljarder dollar i investeringar gjorda av Microsoft, Amazon och Alphabets Google. FTC:s ordförande Lina Khan betonade att byrån noga övervakar industrin och varnade för att innovation inte bör användas som täckmantel för lagbrott. Microsoft har nyligen omstrukturerat sina produkter kring AI-verktyg drivna av OpenAI:s teknik, medan Google planerar att integrera sin kraftfulla språkmodell, Gemini, i sitt experimentella sökverktyg.
The New York Times stämmer OpenAI för upphovsrättsintrång
Den 27 december 2023 stämde The New York Times företaget OpenAI för uppsåtligt upphovsrättsintrång genom sitt generativa AI-verktyg ChatGPT. Tidningen hävdade att ChatGPT olagligt tränats på stora mängder text från deras artiklar och att ChatGPT:s output innehöll språk direkt taget från deras artiklar. För att rätta till detta krävde tidningen mer än bara pengar: De bad en federal domstol att beordra ´förstörelse´ av ChatGPT. Om denna begäran beviljas skulle det tvinga OpenAI att radera sina utbildade stora språkmodeller, som GPT-4, samt dess träningsdata, vilket skulle förhindra företaget från att återuppbygga sin teknik.
Anthropic varnar sina kunder för potentiell dataintrång
Anthropic PBC, ett AI-företag, har skickat ut ett meddelande till sina kunder om ett potentiellt dataintrång. Enligt brevet har en entreprenör av misstag vidarebefordrat viss kontoinformation till en tredje part. Det finns ingen anledning att tro att detta dataintrång är kopplat till en pågående undersökning av Federal Trade Commission (FTC), som begärt information från fem företag, inklusive Anthropic, om deras investeringar och partnerskap kring generativ AI och stora molntjänstleverantörer. Anthropic uppmanar sina kunder att vara på sin vakt mot misstänkt kommunikation.
USA överväger att reglera molntjänster för att begränsa Kinas tillgång till halvledare
Washington är oroade över att kinesiska företag kan få tillgång till samma beräkningskraft som dessa chip genom molnleverantörer som Amazon Web Services, Microsofts Azure och Alphabets Google Cloud. Kommersdepartementet har också undersökt sätt att reglera molnet via exportkontroller, efter omfattande restriktioner som begränsar Kinas tillgång till de kraftfullaste halvledarna. USA:s president Joe Biden instruerade i oktober myndigheten att kräva sådana avslöjanden i ett försök att upptäcka utländska aktörer som kan använda AI för att lansera ´ondskefull cyberaktiverad aktivitet´.
USA:s Federal Trade Commission granskar generativ AI och dess inverkan på konkurrensen
USA:s Federal Trade Commission (FTC) har inlett en utredning om hur generativ AI kan påverka konkurrenslandskapet. FTC har skickat order till fem stora teknikföretag - Alphabet, Inc., Amazon.com, Inc., Anthropic PBC, Microsoft Corp. och OpenAI, Inc. - att tillhandahålla information om nyligen investeringar och partnerskap som involverar generativa AI-företag och stora molntjänstleverantörer. Generativ AI har lett till oro bland regeringstjänstemän, reglerare och medieorganisationer att lösningar med Gen AI kan användas för att orättvist påverka val med AI-genererad propaganda, uppmuntra till upphovsrättsintrång och användas av kriminella i olika bedrägerier.
FTC granskar Big Techs partnerskap med AI-företag
Den amerikanska Federal Trade Commission (FTC) undersöker nyliga investeringar och partnerskap som involverar generativa AI-företag och molntjänstleverantörer som OpenAI, Microsoft, Alphabet, Amazon och Anthropic. Denna granskning syftar till att förstå hur dessa avtal har påverkat konkurrens och konsumentskydd. Generativ AI har fått global uppmärksamhet från lagstiftare och regulatorer på grund av oro för nationell säkerhet, inflytandeoperationer och bedrägeri. FTC:s omfattande dokumentförfrågan söker detaljer om hur partnerskap med Big Tech påverkar strategi och beslutsfattande.
USA:s FTC beordrar AI-företag att tillhandahålla information om investeringar och partnerskap
USA:s Federal Trade Commission (FTC) har beordrat OpenAI, Microsoft, Alphabet, Amazon och Anthropic att tillhandahålla information om nyligen genomförda investeringar och partnerskap som involverar generativ AI-företag och molntjänstleverantörer. Generativ AI, som skapar nytt innehåll med hjälp av data, har dragit till sig lagstiftares och regulatorers uppmärksamhet globalt. FTC:s order kommer att möjliggöra en granskning av avtalen mellan Microsoft, Google och Amazon och AI-leverantörer. FTC vill också ha information om exklusiva avtal, och företagen har 45 dagar på sig att svara på order.
USA ska granska teknikjättarnas AI-investeringar
USA planerar att utreda de stora teknikföretagens AI-investeringar och deras makt över AI-boomen. Företag som Amazon, Google och Microsoft kommer att granskas av Federal Trade Commission (FTC), USA:s motsvarighet till Konkurrensverket och Konsumentverket.
Federal Trade Commission granskar fem stora AI-skapare
Federal Trade Commission (FTC) har inlett utredningar av fem ledande skapare av generativ AI-teknologi: Amazon, Microsoft, OpenAI, Anthropic och Alphabet. FTC har skickat 6(b)-order till företagen, vilket kräver att de tillhandahåller information om nyligen genomförda miljardinvesteringar och partnerskap. Syftet är att FTC bättre ska kunna förstå hur dessa relationer och handlingar påverkar konkurrenslandskapet. Företagen har 45 dagar på sig att svara. FTC:s ordförande, Lina M. Khan, understryker vikten av att skydda mot taktiker som kan hindra möjligheter inom AI-utveckling.
USA:s Federal Trade Commission granskar AI-investeringar och partnerskap
USA:s Federal Trade Commission (FTC) har utfärdat order till OpenAI, Microsoft, Alphabet, Amazon och Anthropic att tillhandahålla information om nyligen investeringar och partnerskap som involverar företag inom generativ AI och molntjänster. FTC:s oro över generativ AI är inte ny. De har tidigare uttryckt oro över potentiellt antikonkurrensbeteende inom denna växande industri. Företag som Microsoft och Amazon har blivit dominerande krafter inom AI-finansiering, då de stod för 90% av generativ AI:s privata insamling av medel 2023, upp från cirka 40% i genomsnitt under föregående år.
FTC kommer att granska AI-investeringar och partnerskap av stora teknikföretag
Federal Trade Commission (FTC) meddelade att de kommer att granska generativa AI-investeringar och partnerskap av Alphabet Inc., Amazon.com, Inc., Anthropic PBC, Microsoft Corp. och OpenAI Inc. Microsoft äger 49% av OpenAI, medan Alphabet har investerat i Anthropic. FTC kommer att utreda om dessa företags investeringar och partnerskap riskerar att snedvrida innovation och underminera rättvis konkurrens. FTC har också rätt att granska AI-företagen separat från sin brottsbekämpande arm och att göra civila utredningskrav.
Teknikjättar måste ge information om AI-investeringar till amerikansk handelskommission
Alphabet Inc., Amazon.com Inc. och Microsoft Corp. måste ge information till den amerikanska Federal Trade Commission (FTC) om sina investeringar och partnerskap med artificiell intelligens-startups Anthropic PBC och OpenAI Inc. som en del av en studie som FTC meddelade på torsdagen. FTC har skickat stämningar till företagen för att samla in information om hur utvecklingen av AI påverkar den konkurrenskraftiga landskapet. FTC:s ordförande Lina Khan varnade att AI-företag inte kan använda påståenden om innovation som täckmantel för lagbrott.
Federal Trade Commission ska undersöka artificiell intelligens-jättar
Federal Trade Commission (FTC) meddelade att det kommer att genomföra en omfattande studie om de största aktörerna inom området för artificiell intelligens, inklusive Amazon, Alphabet, Microsoft, Anthropic och OpenAI. FTC:s ordförande Lina Khan tillkännagav utredningen under byråns tekniktoppmöte om AI, och beskrev det som en ´marknadsundersökning om investeringar och partnerskap som bildas mellan AI-utvecklare och stora molntjänstleverantörer´. Genom att utnyttja sin befogenhet att genomföra en så kallad 6(b)-studie kan tillsynsmyndigheten undersöka AI-företagen separat från sin brottsbekämpande gren och göra civila utredningskrav.
USA:s Federal Trade Commission granskar techjättars AI-investeringar
USA:s Federal Trade Commission (FTC) har påbörjat en undersökning av Microsofts, Amazons och Googles miljardinvesteringar i artificiell intelligens-startups OpenAI och Anthropic. Dessa affärer har tillåtit de stora företagen att etablera djupa band med sina mindre rivaler samtidigt som de undvikit det mesta av statlig granskning. FTC:s undersökning kommer att undersöka hur dessa investeringsavtal förändrar den konkurrensutsatta landskapet och kan informera eventuella utredningar av federala konkurrensregulatorer om affärerna har brutit mot lagar.
Överanvändning av AI: En ny fråga för företagets juridiska rådgivare att hantera
Från början av 2023 har intresset för och användningen av generativa AI-verktyg ökat kraftigt. Detta har lett till ett antal överraskningar, inklusive en snabb adoptionshastighet över olika tillämpningar och användningsfall. Med denna snabba adoption har det uppstått nya problem, främst överanvändning av AI-verktyg. Överanvändning uppstår när en användare missförstår resultaten av ett AI-verktyg eller saknar förståelse för hur verktyget fungerar. Detta kan leda till felaktiga rekommendationer eller att användaren omedvetet ändrar sitt svar för att matcha en AI-rekommendation. Denna artikel ger råd till företagets juridiska rådgivare om hur de kan hantera dessa frågor.
Som artificiell intelligens (AI) blir allt mer vanligt och avancerat, ökar både fördelarna och potentiella risker de utgör för arbetsgivare. Detta gäller särskilt för generativ AI, dvs. AI som kan generera originalinnehåll baserat på datamönster. Med ökad användning av AI ser vi en ökning av lagstiftning, vägledning och rättsprocesser som behandlar användning och konsekvenser av AI. En område där detta blir allt vanligare är anställningssfären. Arbetsgivare använder allt mer AI i olika aspekter av anställningscykeln. Rekrytering är ett av de steg då AI används mest, inklusive genom CV-screening, videointervjuer, förarbetsbedömning och automatiserade kandidattjänster. Under anställningen kan AI användas på olika sätt, till exempel automatiserade medarbetarservice, kompetensutveckling, prestationshantering och i olika vardagliga arbetsuppgifter. Dessa användningar kan dock utgöra olika risker för arbetsgivare som använder AI.
Microsoft utvecklar mindre och billigare AI-teknik
Microsoft utökar sin interna inriktning på att utveckla artificiell intelligens (AI) som kräver mindre datorkraft och ekonomiska resurser. Företaget har bildat ett nytt team för att bygga det de kallar ´mindre språkmodeller´ (SLM), med målet att ge konversations- och genereringskapaciteter liknande stora språkmodeller (LLM) som OpenAI:s GPT men med betydligt minskade hårdvarubehov. Detta skulle göra det möjligt för Microsofts AI-produkter och tjänster att ha lägre kostnader och koldioxidavtryck jämfört med alternativ som utvecklats externt. GenAI-teamet förväntas integreras i Microsofts Azure molnenhet.
Microsoft står inför globala kartellutredningar över relationen med OpenAI
Microsoft står inför flera potentiella kartellutredningar globalt, vilket kan ha allvarliga konsekvenser för företagets ledning inom generativ AI (genAI). Detta kommer efter att företaget meddelat planer på att köpa spelutvecklaren Activision för 68,7 miljarder dollar, vilket ledde till att Federal Trade Commission (FTC) stämde företaget i ett försök att stoppa uppköpet. FTC överväger nu att undersöka Microsofts AI-ambitioner, specifikt företagets nära relation med OpenAI, skaparen av ChatGPT. Microsoft började investera i OpenAI 2019 och hällde ytterligare 10 miljarder dollar i företaget för ett år sedan. FTC, Storbritanniens Competition and Markets Authority och EU undersöker nu om Microsofts relation med OpenAI strider mot konkurrenslagstiftningen.
AI-används för att skapa ´deepfakes´ av kändisar i bedrägerisyften
President Joe Biden har varnat för hur generativ AI kan användas för att manipulera ljud och video för att skapa deepfakes. Nyligen har tre sådana deepfakes involverat musikern Taylor Swift, Elon Musk och Biden själva. Swifts ansikte och röst användes i bedrägliga annonser för Le Creuset-köksredskap, medan en falsk version av Musk marknadsförde en bluffaktiehandelsplan kallad Quantum AI. Dessutom skickades det ut en robosamtal som låtsades vara Biden som uppmuntrade väljare att inte rösta i New Hampshire´s primärval. Federal Trade Commission rapporterar att människor förlorade nästan 8,8 miljarder dollar till bedrägeri 2022.
AI-startup ElevenLabs når enhörningsstatus med 1,1 miljarder dollar i värdering
AI-startupen ElevenLabs, känt för sin text-till-tal AI-drivna röstgenerering, har uppnått enhörningsstatus efter att ha lyft 80 miljoner dollar i en serie B-finansieringsrunda. Detta resulterade i en värdering på 1,1 miljarder dollar, en betydande ökning från företagets tidigare värdering på 100 miljoner dollar. Finansieringsrundan leddes av venturekapitalföretaget Andreessen Horowitz och inkluderade även Sequoia Capital, Smash Capital samt investeringar från tidigare GitHub VD Nat Friedman och tidigare Uber-investeraren Daniel Gross. ElevenLabs planerar att använda de nya medlen för att befästa sin position som global ledare inom röst-AI-forskning och produktimplementering.
DOJ och FTC diskuterar potentiell antitrust-utredning av OpenAI och Microsoft
USA:s justitiedepartement (DOJ) och Federal Trade Commission (FTC) diskuterar för närvarande en potentiell antitrust-utredning mot artificiell intelligens-företaget OpenAI och dess relation med Microsoft, som äger 49% av OpenAI, enligt rapportering av Politico. Dan Howley, teknikredaktör, förklarar antitrust-bekymren som framförts i denna Politico-rapport.
2023 var ett vändpunkt för AI och dess roll i samhället
År 2023 var en vändpunkt i utvecklingen av artificiell intelligens (AI) och dess roll i samhället. Det var året då generativ AI kom i rampljuset och en AI-startup dominerade nyhetscykeln. Biden-administrationen utfärdade en exekutiv order och EU antog en lag för att reglera AI. Panelen av AI-forskare förutser att 2024 kommer att innebära stora utmaningar för AI-utvecklare, regulatorer och allmänheten. De hoppas på en större förståelse för tekniken och dess begränsningar, samt en ökad inlärning om AI.
Kate Crawford: En ledande röst inom AI och dess globala påverkan
Kate Crawford är en framstående akademiker som har studerat de sociala implikationerna av artificiell intelligens och var en av de mest inflytelserika personerna 2023 enligt Time Magazine. Hon är professor vid New York University och forskare vid School of Communication and Journalism vid University of Southern California. 2017 lanserade hon, tillsammans med Meredith Whittaker, det första kvinnoledda forskningscentret AI Now Institute. Hon gick med i Microsoft Research-teamet 2005. Hon innehar för närvarande den första besökande professuren i AI och rättvisa vid École Normale Supérieure i Paris. Hon har rådgivit politiker vid FN, Federal Trade Commission, Europaparlamentet, Australian Human Rights Commission och Vita huset. Hon har även samarbetat med media som The New York Times, The Atlantic och Harper´s Magazine. Hennes arbete inkluderar även samarbetsprojekt och visuella undersökningar. I en intervju med The Guardian i juni 2021 påpekade hon att etik inom AI är nödvändigt, men inte tillräckligt. Frågor som vem som gynnas och vem som skadas av AI är mer användbara. Hon öppnade kongressen Future 2024 med presentationen Hur hanterar vi den AI som människor har skapat?. Hon påpekar att många regeringar inte känner sig kapabla att reglera maktöverföringar, där påverkan av internationella allianser är mycket relevant. I sin bok AI Atlas: Power, Politics, and the Planetary Costs of Artificial Intelligence (2021), utforskar hon vilka effekterna av artificiell intelligens kommer att vara på planeten.
DOJ och FTC diskuterar utredning av OpenAI:s affär med Microsoft
Amerikanska justitiedepartementet (DOJ) och Federal Trade Commission (FTC) diskuterar vilken myndighet som ska undersöka OpenAI för potentiella konkurrensrättsliga problem. Fokus för utredningen är OpenAI:s samarbete med Microsoft, som kom under granskning efter att teknikjätten investerat över 10 miljarder dollar i AI-företaget förra året. Både DOJ och FTC är ovilliga att avstå jurisdiktion, vilket lett till pågående samtal. Konkurrensbekymmer kring Microsofts investering i OpenAI sträcker sig inte bara till USA, utan även EU:s konkurrensregulatorer har antytt en möjlig granskning.
USA:s justitiedepartement och FTC planerar att granska OpenAI för konkurrenshinder
USA:s justitiedepartement och Federal Trade Commission (FTC) planerar att undersöka OpenAI, som tillverkar ChatGPT, på grund av misstänkta konkurrenshinder, inklusive sitt partnerskap med teknikföretaget Microsoft. Microsofts åtagande att investera över 10 miljarder dollar i OpenAI förra året, ledde till denna antitrust granskning. Denna förväntade investering har nyligen markerats av Europeiska kommissionens konkurrensregulatorer som sa att Microsofts investering i OpenAI kan vara granskningsbar enligt EU:s sammanslagningsregler.
OpenAI och Microsofts partnerskap granskas för konkurrensbegränsning
Amerikanska tillsynsmyndigheter, inklusive Justitiedepartementet och Federal Trade Commission, undersöker partnerskapet mellan OpenAI och Microsoft avseende konkurrensbegränsning inom AI-området. OpenAI, under ledning av VD Sam Altman, strävar efter att utveckla en allvetande artificiell allmän intelligens (AGI), men kan behöva Microsofts resurser för att uppnå detta. Om partnerskapet upplöses kan det förhindra framstegen mot superhuman AI. Dessutom utreds företaget för upphovsrättsintrång av New York Times och undersöks av Storbritanniens Competition and Markets Authority och Europeiska kommissionen.
OpenAI och Microsofts partnerskap granskas för konkurrensbegränsning
OpenAI:s uppdrag är att utveckla en gudlik artificiell intelligens (AI), men det kanske aldrig lyckas utan Microsofts hjälp. Amerikanska regulatorer rapporteras bråka om vem som kan undersöka OpenAI och Microsofts relation på grund av oro för konkurrensbegränsning. Om partnerskapet bryts upp kan OpenAI:s VD Sam Altman misslyckas med sitt uppdrag att bygga en mänskligt älskande Artificiell Allmän Intelligens (AGI). Både justitiedepartementet och Federal Trade Commission vill undersöka detta spännande tekniska partnerskap, men regulatorerna måste bestämma vem som ska leda det oundvikligen historiska försöket.
OpenAI kan bli föremål för antitrustutredning kopplat till Microsofts inblandning
OpenAI, en ledande aktör inom artificiell intelligens, kan komma att bli föremål för en antitrustutredning på grund av sitt samarbete med Microsoft. Innan utredningen kan inledas måste dock två myndigheter, Justitiedepartementet och Federal Trade Commission, komma överens om vilken av dem som ska leda utredningen. OpenAI har fått miljardstöd från Microsoft, vilket har lett till kontroverser eftersom detta stöd aldrig har granskats av federala antitrustregulatorer. Frågorna har intensifierats efter den senaste dramatiken där OpenAI:s VD Sam Altman sparkades och snabbt återanställdes.
USA:s rättighetsdepartement och FTC diskuterar vem som ska granska OpenAI
USA:s rättighetsdepartement och Federal Trade Commission (FTC) diskuterar vilken myndighet som kan undersöka OpenAI på grund av konkurrenslagstiftning, inklusive AI-företagets partnerskap med Microsoft, rapporterar Politico. Microsofts koppling till ChatGPT-tillverkaren har väckt antitrustgranskning efter att mjukvarujätten åtog sig att investera över 10 miljarder dollar i OpenAI förra året. Tidigare denna månad flaggade EU:s konkurrensregulatorer att Microsofts investering i OpenAI kan vara granskbar enligt EU:s fusionsregler.
Microsofts VD försvarar företagets relation med OpenAI
Microsofts VD, Satya Nadella, försvarar företagets nära förhållande till OpenAI trots ökad granskning från regulatorer. Nadella kallar alliansen mellan teknikjättarna för ett ´pro-konkurrens partnerskap´ som har möjliggjort viktiga resultat för kunderna. Microsofts ursprungliga investering i OpenAI 2019 var en ´hög risk satsning´, men har visat sig vara fördelaktig för marknaden. Microsoft står inför hård konkurrens inom generativ AI från andra teknikjättar, som AWS och Google. OpenAI verkar dock vara nyckeln för Microsoft, antyder Nadella. Relationen mellan Microsoft och OpenAI har nyligen utsatts för intensiv regulatorisk granskning, med undersökningar från UK, USA och EU. Trots detta verkar Nadella vara säker på företagets ställning i frågan.
OpenAI lättnar på restriktioner för militär användning av dess teknik
OpenAI har uppdaterat sina användarpolicyer och lättat på restriktionerna för militär användning av dess teknik. Ändringarna följer med OpenAIs lansering av GPT Store, en marknadsplats för anpassade versioner av ChatGPT. Den nya policyn förbjuder fortfarande specifika användningsområden som utveckling av vapen, skada på andra eller förstörelse av egendom. En talesperson för OpenAI meddelade att företaget ´syftar till att skapa en uppsättning universella principer som är lätta att komma ihåg och tillämpa´. Vissa AI-experter är oroliga för att OpenAIs policy är för allmän, särskilt med tanke på att AI-teknik redan används i konflikter som i Gaza.
OpenAI raderar förbud mot militär användning från sin policy
OpenAI har diskret raderat språk som uttryckligen förbjuder användning av dess teknik för militära ändamål från sin användarpolicy. Tidigare innefattade OpenAIs ´användarpolicy´ ett förbud mot ´verksamhet som har hög risk för fysisk skada, inklusive vapenutveckling och militär och krigföring´. Den nya policyn behåller ett förbud mot att ´använda vår tjänst för att skada dig själv eller andra´ men det totala förbudet mot ´militär och krigföring´ har försvunnit. OpenAI har inte offentligt meddelat denna ändring, vilket är en del av en större omskrivning av policydokumentet.
Stor amerikansk återförsäljare förbjuds använda ansiktsigenkänningsteknologi efter FTC:s ingripande
Federal Trade Commission (FTC) har förbjudit en stor amerikansk återförsäljare att använda ansiktsigenkänningsteknologi i sina butiker i fem år. Åtgärden kommer efter att företaget inte implementerade rimliga rutiner vid införandet av teknologin. Återförsäljaren använde AI-baserad ansiktsigenkänning för att identifiera kunder som potentiellt begått snatteri. FTC anklagade företaget för att generera många falska positiva resultat, särskilt bland svarta, latinamerikanska, asiatiska och kvinnliga kunder. FTC kräver nu att företaget implementerar övervakningsprogram för sina andra biometriska system och utvecklar ett omfattande informationssäkerhetsprogram.
FTC påminner AI-företag om lagöverträdelser
Federal Trade Commission (FTC) har publicerat en påminnelse till AI-företag om de sätt de kan bryta mot lagar som FTC upprätthåller. FTC betonade särskilt vikten av att skydda individuell och proprietär data för företag som erbjuder Model-as-a-Service, och indikerade att det kan finnas både konsument- och konkurrensrelaterade problem kopplade till brist på sådant skydd. FTC varnade också att AI-företag behöver vara öppna med hur data används, och företag som utelämnar väsentliga fakta som skulle påverka om kunder köper en viss produkt eller tjänst kan bryta mot konkurrenslagar.
Microsofts investering i OpenAI kan utlösa EU:s fusionsutredning
Microsofts mångmiljardinvestering i OpenAI, tillverkaren av ChatGPT, kan utlösa en fusionsutredning i EU, meddelade Europeiska Kommissionen. Kommissionen undersöker om investeringen kan vara granskbar enligt regler som täcker fusioner och förvärv som skulle skada konkurrensen i EU. Granskningen kan leda till en formell utredning om affären bör godkännas ovillkorligt, tillåtas med eftergifter från företagen eller blockeras. Storbritanniens konkurrensmyndighet inledde en liknande granskning förra månaden. Även USA:s antitrustmyndigheter har signalerat oro över konkurrensen inom AI-industrin.
Microsofts investering i OpenAI kan utlösa EU-utredning
Microsofts mångmiljardinvestering i OpenAI, skaparen av ChatGPT, kan leda till en sammanslagningsutredning i Europeiska unionen, enligt EU-kommissionen. Kommissionen undersöker om investeringen kan vara granskbar enligt regler som täcker sammanslagningar och förvärv som skulle skada konkurrensen i EU. Granskningen kan leda till en formell utredning om affären ska godkännas utan villkor, tillåtas med eftergifter från företagen eller blockeras. Storbritanniens konkurrensmyndighet inledde en liknande granskning förra månaden. OpenAI har fått flera finansieringsomgångar från Microsoft, inklusive en initial investering på 1 miljard dollar 2019 och en mångmiljardinvestering förra året.
Kan Anna Makanju behålla freden hos OpenAI efter att ha vunnit över världsledare?
Anna Makanju, chef för offentlig policy på OpenAI, har hjälpt till att omvandla företagets VD, Sam Altman, från en uppstartsdarling till AI-industrins ambassadör. Hon har designat hans utrikespolitiska arbete som en diplomatisk mission, och har dragit med honom över 25 städer och sex kontinenter på en fyra veckors turné. Makanju har använt sin erfarenhet från nationell säkerhet under Obama-administrationen för att stödja Altman i möten med globala ledare som Indiens premiärminister Narendra Modi, Spaniens premiärminister Pedro Sánchez, Israels president Isaac Herzog och senatens majoritetsledare Charles E. Schumer. Medan Makanju har vänt på Silicon Valley-lobbyns traditionella strategi genom att uppmana till reglering, är kritiker oroade över att företagets närhet till beslutsfattare ger Altman en ovanlig form av inflytande.
Snabb utveckling av AI-lagstiftning i EU, Kanada och Kalifornien
2021 ses som ett avgörande år för framsteg inom artificiell intelligens (AI). Lagstiftare skyndar sig att fastställa regler för den snabbt utvecklande tekniken för att stimulera AI:s innovationspotential och begränsa risken för sociala och ekonomiska skador. Tre senaste åtgärder i USA och Europa syftar till att reglera AI. I EU, Kanada och Kalifornien finns det brådskande försök att reglera AI. EU:s AI-lag, Kanadas AI och Data Act (AIDA) och Kaliforniens utkast till AI-relaterade regler under CCPA är alla exempel på detta. Företagsledare som använder AI eller försöker utnyttja tekniken i sina organisationer måste hålla sig uppdaterade om kommande regleringar, förbereda sig för framtida lagkrav och vidta rimliga åtgärder för att hantera riskerna med eventuell implementering av AI.
AI-namnet ´Gospel´ används av Israels försvarsmakt för att identifiera Hamas-mål
Walter Suza, en skribent från Ames, Iowa, diskuterar användningen av artificiell intelligens (AI) i krigföring, specifikt av Israels försvarsmakt för att identifiera Hamas-mål i Gaza. AI-tekniken, kallad ´Gospel´ eller ´Habsora´ på hebreiska, har tränats med data som mobiltelefonmeddelanden, satellitbilder, drönarfilm och seismiska sensorer. Informationen från Gospel skickas till fältherrar via en app kallad ´Eldpelaren´. Trots effektiviteten i att identifiera mål har användningen av Gospel lett till stora civila förluster, inklusive barn och hjälparbetare.
Framtida problem och möjligheter med artificiell intelligens
Tre forskare diskuterar framtida problem och möjligheter med artificiell intelligens (AI). 2023 var ett viktigt år för AI, med framväxten av generativ AI och lanseringen av en lag i EU och en exekutiv order från Biden-administrationen för att reglera AI. Forskarna tror att 2024 kommer att innebära stora framsteg inom AI, men varnar också för potentiella problem. Dessa inkluderar behovet av att undervisa om AI i skolorna, risker med AI-chatbots och assistenter som har konversationer i hemlighet, samt utmaningar med att skilja mellan mänskligt och AI-genererat innehåll.
Konkurrensregulatorer granskar AI
Konstgjord intelligens (AI) hamnar allt mer under lupp hos konkurrensregulatorer. USA:s justitiedepartement (DOJ) förbereder sig med dataforskare och andra för att bli en teknikmedveten version av sitt tidigare jag. Dessutom har Federal Trade Commission (FTC) skickat en 20-sidig CID till OpenAI, tillverkaren av AI-chattboten ChatGPT, för att undersöka eventuella orättvisa praxis och ´reputationshärmning´ för konsumenter. Regulatorerna fokuserar på fyra huvudområden: datakontroll, molnbaserad databehandling, HR och samverkan. Detta är bara början, och utvecklingen och implementeringen av AI-verktyg är oundviklig.
Utmaningar med integritet vid införandet av AI i skolor
Allt fler skolor integrerar artificiell intelligens (AI) i klassrummet, vilket ställer utmaningar för statliga och lokala ledare att skydda elevernas integritet, särskilt i avsaknad av omfattande federala riktlinjer. Snabbt införande av AI-verktyg i K-12-utbildning, drivet av kommersiellt intresse, har väckt betydande oro för säkerheten och integriteten för studentdata. I avsaknad av starkt federalt stöd tar många stater ledningen i att utveckla riktlinjer och policys för AI-implementering i skolor. President Joe Bidens verkställande order om AI uppmanar Utbildningsdepartementet att utveckla resurser för icke-diskriminerande användning av AI i utbildning.
År 2023: En milstolpe för AI-industrin
År 2023 markerade en milstolpe inom artificiell intelligens (AI), präglat av en ökning av generativa AI-framsteg och anpassningar över olika sektorer. Microsofts investering i OpenAI och lanseringen av GPT-4 var betydande händelser. Tillväxten parallelliserades dock av ökande etiska, juridiska och reglerande utmaningar, inklusive upphovsrättsintrångsmål mot AI-företag och ökad statlig inblandning. Teknologisk innovation är alltmer sammanflätad med krav på ansvarsfull utveckling och tillsyn. AI och andra nya tekniker visade sig mycket under FIFA:s dam-VM 2023. AI-relaterade risker för sociala medier var front och centrum på ett antal fronter. OpenAIs styrelse avsatte plötsligt grundaren och VD Sam Altman. En vecka senare gick OpenAIs styrelse med på att återanställa honom tillsammans med president Greg Brockman.
År 2023: Ett år av förändring för sociala medier
År 2023 präglades av stora förändringar inom sociala medier. Elon Musk tog över Twitter och förvandlade det till X, vilket ledde till kontroverser och förluster i användning och annonsering. Musk återupprättade också Alex Jones, en konspirationsteoretiker, på X, vilket ledde till oro bland marginaliserade grupper. Samtidigt sökte användare alternativ, med Mastodon och Bluesky som potentiella ersättare. Facebooks moderbolag Meta lanserade sin egen rival, Threads. Sociala mediers inverkan på barns mentala hälsa blev också en stor fråga, med rättsliga stämningar mot Meta och uppmaningar till åtgärder från USA:s kirurgiska general. AI förväntas bli allt mer integrerat i sociala medier 2024.
Kvinna i Orlando lurad av AI-bedragare som utgav sig för att vara Kevin Costner
En kvinna i Orlando blev lurad av en bedragare som utgav sig för att vara den populära skådespelaren Kevin Costner. Bedragaren använde artificiell intelligens för att skapa en videochatt där det verkade som om Costner var den som ringde. Kvinnan, Margarita Brito, började motta meddelanden från bedragaren efter att hon följt Costners Facebook-sida. Bedragaren skickade till och med en manipulerad körkort och pass med Costners foto och information. Trots att Brito aldrig skickade några pengar till bedragaren, lyckades de ta ut mer än 300 dollar genom hennes Uber Eats-konto. Breanne McClellan, medgrundare till online dating-utredningstjänsten Social Catfish, varnar för att sådana bedrägerier blir allt mer sofistikerade.
Ree Drummond varnar för falsk giveaway-video genererad av AI
En video visar Ree Drummond som gör en giveaway för Le Creuset-köksutrustning, men hon säger att videon är falsk och att AI genererade hennes röst för att skapa annonsen. Ree Drummond varnar sina fans i ett inlägg på sociala medier om en falsk video där Ree gör en giveaway för köksutrustning. Federal Trade Commission säger att dessa videor är kända som deep fakes, det är artificiell intelligens som använder någons ansikte och röst. Det kan ofta användas för att sälja något eller stödja något. Skojare kan också använda videorna för att samla in din personliga information och experter varnar för att du aldrig ska klicka på några länkar kopplade till videor som ser misstänkta ut.
FTC rapporterar kreativa professionellas oro över generativ AI
En ny rapport från Federal Trade Commission (FTC) har skisserat nyckelbekymmer från kreativa yrkesverksamma om användningen av generativ artificiell intelligens (AI) inom deras områden. Rapporten följer en offentlig virtuell rundabordsdiskussion i oktober 2023 som inkluderade konstnärer, författare, skådespelare, musiker och andra kreativa som diskuterade påverkan av AI-verktyg som kan generera text, bilder och ljud på begäran. Deltagarna uttryckte oro över integritet, samtycke, konkurrens och äkthet. En stor oro var insamling och användning av deras tidigare arbete utan medgivande eller medvetenhet för att träna generativa AI-modeller. FTC-rapporten föreslog att riktad verkställighet under FTC:s befintliga befogenhet på AI-relaterade marknader kunde skydda rättvis konkurrens och förhindra orättvisa eller vilseledande handlingar eller metoder.
Sociala medier 2023: Farväl Twitter, Hej X, och AI:s framväxt
2023 var ett år av början och slut för sociala medier. Elon Musk förvandlade Twitter till X, vilket ledde till kontroverser och anklagelser om desinformation och rasism. X har också kritiserats för att vara mindre säkert för marginaliserade grupper. Samtidigt växte alternativa plattformar som Mastodon och Bluesky. Meta, Facebooks moderbolag, lanserade sin egen rival, Threads. Musk har ambitioner att göra X till en ´allt-i-ett-app´ men det är oklart om västerländska publik är intresserade. Sociala mediernas inverkan på barns och tonåringars psykiska hälsa var också i fokus under året.
AI väljer fem aktier för 2024
Trots hotet om recession och relativt hög inflation har 2023 gett investerare lättnad och skapat utrymme för förnyad optimism. Aktiemarknaden och kryptomarknaden visar en bullish trend. Med 2023 nästan över och 2024 - ett år som många förväntar sig kommer att bli en riktig tjurmarknad - precis runt hörnet, frågade Feinbold OpenAI:s AI ChatGPT vilka aktier en smart investerare skulle vilja köpa. ChatGPT valde fem aktier för 2024: Microsoft, Zoom Video Communications, Shopify, Nvidia Corporation och Pfizer Inc.
AI-bildgenerator tränad på explicita barnbilder
En databas vid namn LAION, som används för att träna flera populära AI-bildgeneratorer, innehöll tusentals bilder av misstänkt barnsexuellt utnyttjande. Stanford Internet Observatory identifierade det olagliga innehållet och rapporterade det till brottsbekämpande myndigheter. Nu har LAION, en ideell organisation, tagit ner sitt träningsdata och lovat att ta bort anstötligt material innan det publiceras igen. Händelsen belyser hur lite eftertanke som läggs på generiska AI-produkter när konkurrenstrycket ökar. Det finns exempel på AI-releasebeslut som tagits med aktieägare i åtanke, inte etiker.
Rite Aid anklagas av FTC för felaktig användning av ansiktsigenkänningsteknik
Den amerikanska Federal Trade Commission (FTC) anklagar apotekskedjan Rite Aid för att ha missbrukat ett system för ansiktsigenkänning baserat på artificiell intelligens, vilket felaktigt identifierade kunder, ofta afroamerikaner, latinamerikaner och kvinnor, som butikstjuvar. FTC hävdar att Rite Aid inte vidtog tillräckliga åtgärder för att skydda oskyldiga konsumenter och att tekniken användes utan kundernas vetskap. Rite Aid har gått med på att införa omfattande skyddsåtgärder för att förhindra liknande framtida misslyckanden med AI.
DOJ och FTC ger ut nya riktlinjer för fusioner
Den 18 december 2023 utfärdade USA:s justitiedepartement (DOJ) och Federal Trade Commission (FTC) gemensamt nya riktlinjer för fusioner. De nya riktlinjerna ändrar, uppdaterar och ersätter de många versionerna av fusionriktlinjer som tidigare utfärdats av båda myndigheterna. Stora teknikplattformar kommer sannolikt att fortsätta vara i myndigheternas sikte, inklusive genom att granska mindre förvärv som kan förstärka eller förlänga dominerande positioner baserade på teknikplattformar eller möjligen eliminera potentiell konkurrens.
OpenAI ökar granskningen av Microsofts marknadsmakt
Microsofts växande partnerskap med OpenAI drar till sig förnyad uppmärksamhet från globala reglerare och lagstiftare på grund av oro över teknikjättens marknadsmakt inom den lukrativa artificiella intelligens (AI) sektorn. Federal Trade Commission (FTC) och UK Competition Market Authority (CMA) undersöker båda Microsofts investering i OpenAI för att avgöra om det minskar konkurrensen inom AI-industrin. Anställningen och återanställningen av OpenAIs medgrundare och VD Sam Altman har väckt frågor om omfattningen av Microsofts kontroll över OpenAI och dess inflytande på kritiska beslut om framtiden för AI-utveckling.
Rite Aid förbjuds använda ansiktsigenkänningsteknik i fem år
Den amerikanska apotekskedjan Rite Aid, som är under konkurs, kommer att förbjudas att använda ansiktsigenkänningsteknik för övervakningsändamål i fem år för att lösa anklagelser från den amerikanska Federal Trade Commission (FTC) att de skadat konsumenter. Rite Aid använde AI-baserad ansiktsigenkänningsteknik från 2012 till 2020 för att identifiera snattare, men företaget flaggade felaktigt vissa konsumenter som matchade någon som tidigare identifierats som snattare. Rite Aid uppgav att avtalet med FTC är föremål för godkännande av konkursdomstolen som övervakar dess insolvensfall.
Rite Aid förbjuds att använda AI-driven ansiktsigenkänning för övervakning av FTC
Federal Trade Commission (FTC) förbjöd på tisdag Rite Aid att använda ansiktsigenkänning drivet av artificiell intelligens (AI) för övervakningssyften i fem år. FTC menar att Rite Aids användning av AI saknade lämpliga skydd och felaktigt märkte kunder som snattare. FTC säger att ansiktsigenkänningssystemet genererade tusentals falska positiva matchningar. Dessutom var Rite Aids teknik mer benägen att generera falska positiva i butiker belägna i huvudsak svarta och asiatiska samhällen. Rite Aid har släppt ett uttalande där de säger att de är glada över att ha nått en överenskommelse med FTC.
Rite Aid förbjuds använda ansiktsigenkänningsteknik i fem år
Det amerikanska företaget Rite Aid har förbjudits att använda ansiktsigenkänningsteknik för övervakningsändamål under de kommande fem åren. Detta för att lösa anklagelser från Federal Trade Commission (FTC) om att företaget inte implementerade rimliga rutiner och förhindrade skador på konsumenter vid användning av ansiktsigenkänningsteknik i hundratals butiker mellan 2012 och 2020. FTC hävdar att tekniken felaktigt markerade konsumenter, särskilt kvinnor och personer av färg, som problematiska baserat på ansiktsigenkänningsteknik som falskt flaggade dem. Rite Aid säger att de är nöjda med överenskommelsen med FTC.
Microsofts finansiering av OpenAI granskas av antitrustregulatorer
Amerikanska och brittiska antitrustregulatorer undersöker Microsofts 13 miljarder dollar stora stöd till OpenAI. USA:s Federal Trade Commission och Storbritanniens Competition and Markets Authority samlar information om affärsavtalet mellan de två företagen, men ingen formell utredning har ännu inletts. Microsoft hävdar att deras investering inte gett dem funktionell kontroll över OpenAI, eftersom OpenAI tekniskt sett drivs som en ideell organisation. Microsoft får ungefär hälften av OpenAIs intäkter tills deras investering är återbetald.
Microsofts investeringar i OpenAI granskas av amerikanska och brittiska myndigheter
Microsofts investeringar i OpenAI har börjat väcka uppmärksamhet hos den amerikanska Federal Trade Commission (FTC), som utför preliminära förfrågningar. Inget formellt utredning har dock inletts. Microsoft får även granskning i Storbritannien, där Competition and Markets Authority överväger att öppna en formell utredning. Microsoft har investerat $13 miljarder i OpenAI och integrerat dess teknologier i sina produkter. Dessa investeringar rapporterades dock inte till FTC, eftersom det inte ledde till att Microsoft fick kontroll över OpenAI, och OpenAIs status som en ideell organisation innebär att dessa typer av transaktioner inte behöver rapporteras.
Nya rapporter tyder på att Sam Altman, tidigare ledare för OpenAI, kan ha varit manipulativ i sin ledarstil. Han ska ha ställt styrelsemedlemmar och anställda mot varandra för att behålla sin makt. Efter Altmans avsked liknade flera medlemmar av tekniksamhället det med en kupp. Nya detaljer har kommit fram som tyder på att Altman manipulerade människor och uppfattningar inom OpenAI för att behålla sin position. Styrelsen hävdade att Altman inte varit ´konsekvent ärlig´ i sin kommunikation med dem. Altman har inte offentligt bemött anklagelserna om att han var svår att arbeta med.
Europa överens om banbrytande AI-reglering, Microsofts investering i OpenAI granskas, Freshworks CEO utmanar Sam Altman att bygga AI i Indien
Europa har nått en preliminär överenskommelse om banbrytande EU-regler för användning av artificiell intelligens (AI), inklusive regeringars användning av AI i biometrisk övervakning och reglering av AI-system som ChatGPT. USA:s Federal Trade Commission undersöker Microsoft Corp:s investering i OpenAI Inc. för att se om den kan bryta mot konkurrenslagstiftningen. Storbritanniens konkurrens- och marknadsmyndighet undersöker också samarbetet mellan de två företagen. Freshworks medgrundare Girish Mathrubootham utmanar Sam Altmans tidigare påstående att Indien kan försöka bygga AI som OpenAI men kommer att misslyckas.
OpenAI, ett företag som syftar till att skapa AI för mänsklighetens bästa, har nyligen genomgått en företagskris. Krisen uppstod när anställda plötsligt bildade fackförening och hotade att följa VD:n till Microsoft. Styrelsen, som var tänkt att förhindra en AI-apokalyps, insåg att de hade blivit schackmattade och gav upp. Efter händelserna framstår företagets ledningsmodell, baserad på en reglerande modell, som kortsiktig. Istället behövde de en ledningsmodell som uppmuntrade de anställda att arbeta i linje med företagets huvudmål att inte skapa en AI som en dag skulle kunna utplåna mänskligheten.
Microsofts investering i OpenAI granskas av USA:s Federal Trade Commission
Microsoft Corp slutade 1,0% upp på fredagen, trots rapporter om att USA:s Federal Trade Commission (FTC) undersöker dess investering i OpenAI. Än så länge har FTC inte inlett en formell utredning. Källor informerade Bloomberg om att myndigheten undersöker om de miljarder dollar som Microsoft har investerat i företaget bakom ChatGPT bryter mot konkurrenslagstiftningen. Microsoft rapporterade inte sin investering i OpenAI till FTC eftersom AI-företaget är en icke-vinstdrivande organisation. Enligt Frank Shaw, talesperson för Microsoft, äger Microsoft ingen del av OpenAI utan har endast rätt till en andel av vinstfördelningen. Konkurrens- och marknadsmyndigheten i Storbritannien undersöker också om partnerskapet mellan Microsoft och OpenAI skadar konkurrensen i regionen. OpenAI har fått cirka 13 miljarder dollar i investeringar från det Washington-baserade multinationella företaget.
OpenAI:s maktkamp avslöjar sprickor inom AI-rörelsen
Ledarskapsstriden vid OpenAI, den ledande AI-startupen, har blottlagt djupa sprickor inom AI-rörelsen. VD:n Sam Altman avskedades av styrelsen, men efter en intensiv maktkamp där många toppchefer och investerare i Silicon Valley stödde Altman, återinsattes han som VD. Striden har skapat frågor om tillförlitligheten hos de personer och företag som driver AI-revolutionen. Microsoft, som har investerat 13 miljarder dollar i OpenAI, var involverad i striden för att skydda sin investering.
Microsofts investering i OpenAI granskas av FTC
Federal Trade Commission (FTC) undersöker Microsofts relation till och investeringar i artificiell intelligensutvecklaren OpenAI, efter att brittiska regulatorer inlett en utredning. Detta kommer i kölvattnet av antitrustkommentarer kring Big Techs antagande av AI. Microsoft äger 49% av OpenAI och har en icke-röstberättigad observatörsplats i OpenAIs styrelse. Konkurrens- och marknadsmyndigheten i Storbritannien undersöker specifikt om det finns en relevant fusionssituation mellan Microsoft och OpenAI, det vill säga om OpenAI i själva verket är en del av Microsoft.
Ny A.I. statistik visar på människans undergång
Termen p(doom), som står för sannolikheten för mänsklighetens undergång på grund av artificiell intelligens (A.I.), har blivit en samtalspunkt bland teknikentusiaster i Silicon Valley. Dario Amodei, VD för A.I.-företaget Anthropic, uppskattar sin p(doom) till mellan 10 och 25 procent. Lina Khan, ordförande för Federal Trade Commission, har nyligen sagt att hon ligger på 15 procent. Emmett Shear, som tjänstgjorde som OpenAI:s tillförordnade VD under cirka fem minuter förra månaden, har sagt att han ligger någonstans mellan 5 och 50 procent. P(doom) är inte exakt, men ger en grov uppskattning av var någon står på spektrumet mellan utopi och dystopi.
Studie varnar för osäker medicinsk information från AI-chatbot ChatGPT
En nyligen publicerad studie antyder att den kostnadsfria versionen av ChatGPT, en populär AI-chatbot utvecklad av OpenAI, kan ge felaktiga eller ofullständiga svar på medicinska frågor. Studien, utförd av farmaceuter vid Long Island University, visade att av 39 frågor som ställdes till ChatGPT, ansågs endast 10 svar vara tillfredsställande baserat på fördefinierade kriterier. Studien uppmanar till försiktighet när man förlitar sig på ChatGPT för läkemedelsinformation och betonar vikten av att verifiera svaren med betrodda källor.
Senator Gillibrand driver lagstiftning för att bekämpa robocalls och AI-bedrägerier
Amerikaner får 4 miljarder robocalls varje månad och många av dem kommer från bedragare. Förra året lurades amerikaner på 65 miljarder dollar. Därför driver USA:s senator Kirsten Gillibrand lagstiftning för att bekämpa robocalls, robotexter och AI-bedrägerier. Gillibrand introducerar på nytt DO NOT Call Act för att skapa nya straffrättsliga påföljder för robocallare, inklusive fängelsetid. Hon uppmanar också Federal Trade Commission att undersöka och spåra AI-drivna bedrägerier. Enligt DO NOT Call Act skulle upprepade överträdelser av telemarketingförbud kunna bestraffas med fängelse i upp till 3 år. Lagen skulle också fördubbla böterna för att förfalska uppringar-ID-information från 10 000 till 20 000 dollar.
Pensionerad polis varnar för bluff-samtal om kidnappning
En far i Botetourt County, Virginia, USA, fick ett skrämmande samtal från ett nummer med mexikansk landskod. Han hörde sin dotter gråta och säga att hon blivit kidnappad. En man tog sedan över samtalet och påstod att de hade kidnappat henne. Fadern, som är en pensionerad polis, misstänkte att det var en bluff då de inte kunde säga dotterns namn. Enligt Federal Trade Commission är sådana bedrägerier de vanligaste rapporterade fallen av bedrägeri. 2022 rapporterade FTC att nästan $2.6 miljarder förlorades i USA på grund av dessa typer av bedrägerier.
År i översikt: OpenAI:s ChatGPT förändrade världen
För ett år sedan lanserade OpenAI sin ChatGPT, en AI-baserad chattbot. Sedan dess har den blivit den snabbast växande konsumentapplikationen i historien. Trots kritik och debatt om dess användning, har ChatGPT haft en betydande inverkan på AI-branschen. Google investerade 300 miljoner dollar i Anthropic, en konkurrent till OpenAI, och OpenAI släppte den efterlängtade GPT-4-modellen. OpenAI:s VD Sam Altman avskedades i november, vilket markerade en dramatisk vändning för företaget. Framtiden för ChatGPT och dess inverkan på världen återstår att se.
FTC granskar potentiella hot mot konkurrensen från AI
Federal Trade Commission (FTC) har nyligen inlämnat ett yttrande till U.S. Copyright Office angående artificiell intelligens (AI) och upphovsrätt. FTC fokuserar på potentiella hot mot konkurrensen från AI och eventuella orättvisa upphovsrättsliga metoder som involverar AI. Enligt FTC kan vissa handlingar som involverar AI bryta mot avsnitt 5 i Federal Trade Commission Act, även om de är i linje med upphovsrättslagen. FTC varnar att det kommer att använda hela sitt befogenhetsområde för att skydda amerikaner från vilseledande och orättvisa metoder.
AI-startups lanserar nya språkmodeller; Amazon vill utbilda arbetskraften för AI
AI-startupen Anthropic, grundad av före detta anställda på OpenAI, har lanserat nästa version av sin chatbot Claude. Claude 2.1 har flera stora uppdateringar, inklusive förmågan att bearbeta mer information och ge mer korrekta och ärliga svar. Inflection AI, startupen bakom den populära chatboten Pi, har också släppt en ny stor språkmodell, Inflection-2. Microsoft har också lanserat sin uppdaterade språkmodell Orca 2. Amazon har lanserat flera nya utbildningsinitiativ för att hjälpa 2 miljoner vuxna och studenter att bli ´AI-redo´ till 2025. Detta inkluderar åtta nya gratis AI-kurser och ett nytt samarbete med Code.org.
FTC utökar sin utredningsmakt inom AI-sektorn
Federal Trade Commission (FTC) har godkänt en betydande resolution som utökar dess utredningsbefogenheter inom artificiell intelligens (AI) sektorn. Regleringsorganet har nu förenklade mekanismer för att utfärda civila utredningskrav (CIDs) som omfattar ett bredare utbud av produkter och tjänster inom AI. Ett betydande fokus för myndigheten kommer att vara på de marknadsföringspåståenden som företag gör om sina AI-lösningar. Företag måste ha substantiell bevisning för att stödja de prestandaegenskaper de presenterar för konsumenter och partners. FTC kommer att se till att företag proaktivt införlivar efterlevnad och rättvisa i sin produktutvecklingslivscykel. Den senaste resolutionen indikerar att reglerande tillsyn inte är begränsad till interna operationer; den sträcker sig till samarbeten med tredje part. FTC:s utökade resolution visar dess aktiva roll i regleringen av AI-landskapet.
Förslag till kvinnliga styrelsemedlemmar för OpenAI
AI-företaget OpenAI har genomgått flera förändringar den senaste veckan, inklusive utnämningen av en ny tillfällig VD och en förändring i styrelsen. En stor förändring är att styrelsen nu består av enbart män, vilket har väckt oro. Det finns dock förväntningar på att OpenAI kommer att lägga till fler medlemmar i styrelsen. Detta ger möjlighet att få in kvinnor och skapa könsdiversitet i styrelsen. Startup- och innovations-experten Elizabeth Scallon har föreslagit flera framstående kvinnor för OpenAI att överväga i sin styrelsesökning. Här är tio kvinnor som skulle kunna bli potentiella oberoende styrelsemedlemmar för OpenAI.
Läkare oroade över AI-verktyg, Google Maps lägger till funktioner, investeringsföretag utfärdar cyberkatastrofbund, FTC varnar för influencerbetalningar
Enligt en undersökning av Medscape är 88% av läkarna mycket eller något troliga att patienter skulle få felaktig medicinsk information från AI-verktyg som ChatGPT eller Bing. 89% var oroade över att patienter skulle följa AI-genererade rekommendationer istället för läkarens råd. Google Maps lägger till information som visar användarna en direkt gångväg till en tunnelbanestation och vilken ingång de ska använda. Investeringbolag utfärdar cyberkatastrofbund som överför riskerna till de offentliga skuldmarknaderna. Federal Trade Commission (FTC) har utfärdat varningar mot en lobbygrupp vars medlemmar inkluderar Coca-Cola och PepsiCo och sociala mediehälsopåverkare.
USA:s Federal Trade Commission förenklar undersökningar av AI-relaterad brottslighet
Undersökningar av fall där artificiell intelligens (AI) används för att bryta mot lagen kommer att förenklas enligt en ny process godkänd av den amerikanska Federal Trade Commission (FTC). FTC har uttryckt ett intresse för att förfölja fall som involverar AI, då kritiker har varnat för att teknologin kan användas för att förstärka bedrägerier. FTC har röstat enhälligt för att göra det lättare för personal att begära dokument som en del av en undersökning om det är relaterat till AI.
USA:s Federal Trade Commission förenklar utredningar av AI-relaterad brottslighet
USA:s Federal Trade Commission (FTC) har godkänt en ny process för att förenkla utredningar av fall där artificiell intelligens (AI) används för att bryta mot lagen. FTC har visat intresse för att driva fall som involverar AI, med kritiker som hävdar att tekniken kan användas för att förstärka bedrägerier. FTC, som nu har tre demokrater, röstade enhälligt för att göra det lättare för personal att begära dokument som en del av en utredning om den är relaterad till AI. FTC meddelade förra veckan en tävling för att identifiera det bästa sättet att skydda konsumenter mot bedrägerier och andra skador relaterade till röstkloning.
Accelererad utveckling av artificiell intelligens väcker debatt om ansvarsfull utveckling
Generativ artificiell intelligens (AI) har utvecklats snabbt under sitt första år och kan redan förutsäga 10-dagars väderprognos bättre än nuvarande meteorologiska system över nästan alla (90%) av de 1 380 nyckelmetriker som mätts. OpenAI:s VD Sam Altman planerar att säkra ytterligare finansiering från Microsoft för att finansiera utvecklingen av artificiell allmän intelligens (AGI). Mer än 40 riskkapitalföretag har undertecknat frivilliga åtaganden om hur de start-ups de stöder bör utveckla AI-teknik ansvarsfullt. Nationella detaljhandelsfederationen (NRF) släppte sina principer för användning av AI inom detaljhandeln. Företag som Macy´s och Google har implementerat AI för att förbättra kundupplevelsen. Airbnb har förvärvat AI-startupen Gameplanner.ai och musiktjänster som Spotify och Google Cloud utökar sitt partnerskap för att driva engagemang med hjälp av AI. OpenAI undersöker hur man kan ta in sin AI-chatbot ChatGPT i klassrum. Thomson Reuters lanserade en serie initiativ för att omvandla den juridiska professionen genom användning av generativ AI. Alibaba kommer inte att dela upp sin molnintelligensverksamhet på grund av det fortsatta fokuset på AI. Öppna AI stoppar nya anmälningar till sitt ChatGPT Plus-program på grund av överväldigande efterfrågan. Federal Trade Commission (FTC) har lanserat Voice Cloning Challenge för att skydda konsumenter från potentiella faror med AI-aktiverad röstkopieringsteknik. Microsoft lanserade en offentlig förhandsvisning av Azure AI Speech och Amazon introducerade en AI-säkerhetslösning för små och medelstora företag.
AI-används för att lura människor på sociala medier och dejtingappar
Artificiell intelligens (AI) används för att lura människor på sociala medier och dejtingappar. Flera offer har förlorat tusentals dollar till personer de trodde var verkliga kvinnor men som visade sig vara falska. Två säkerhetsexperter påpekar att videor och bilder ofta är kraftigt filtrerade, med onaturliga ögon och ansiktsdrag. En man vid namn Jim förlorade $60,000 efter att ha blivit övertygad att investera i börsen av en kvinna han träffade online. En annan man, även han vid namn Jim, förlorade tusentals dollar genom att skicka presentkort till personer bakom falska och ändrade bilder. Säkerhet och teknikexperter vid Bitdefender och NordVPN bekräftade att bilderna och videorna är alla falska eller ändrade på något sätt.
Äldre amerikaner förlorar miljarder till bedrägerier förstärkta av AI, enligt senatsrapport
Förra året rapporterade äldre amerikaner att de förlorade mer än $1,6 miljarder till bedrägerier. Alltmer använder bedragare artificiell intelligens för att göra sina bedrägerier mer effektiva. Under en torsdagshörelse om moderna bedrägerier släppte US Sen. Bob Casey, ordföranden för Senate Special Committee on Aging, gruppens åttonde årliga ´bedrägeribok´. Boken fångar de vanligaste bedrägerierna mot äldre vuxna och resurser för att skydda mot bedrägeri. Casey sa att senatorer från båda partierna försöker förstå artificiell intelligens, särskilt generativ AI. ´Deepfakes´, eller AI-utvecklade bilder, och röstkloner som kan härma rösten hos en älskad, kan lura människor att överlämna personlig information eller pengar. I maj skickade kommittén ett brev till Federal Trade Commission som begärde information om den ökande förekomsten av AI-drivna tekniker i bedrägerier och hur myndigheten hanterar det. Under 2022, det år som täcks av den senaste bedrägeriboken, mottog kommitténs bedrägeri-hotline 659 nya klagomål, vilket för totala antalet klagomål till 11 800 sedan 2013. De tio vanligaste bedrägerierna mot äldre vuxna identifierade för förra året - många av vilka innehöll AI - var finansiella tjänster personation och bedrägeri (9%); hälso- och sjukvårdsbedrägerier (8%); robocalls och oönskade samtal (7%); teknisk support och datorbedrägerier (6%); romantiska bedrägerier (4%); regeringsbedrägerier, identitetsstöld, lotteri- och lotteribedrägerier och företagsimitation och shoppingbedrägerier (3% vardera); och person-i-behov och farföräldrabedrägerier (2%). Tahir Ekin, PhD, direktör för Texas State Center for Analytics and Data Science, vittnade vid torsdagens hörelse att AI förstärker effekterna av bedrägerier, ´förbättrar deras trovärdighet och emotionella tilltalande´ genom personalisering. ´Samspelet mellan AI och bedrägerier för fram både utmaningar och möjligheter´, sa Ekin. ´Att prioritera förbättringen av data- och AI-läskunnighet bland äldre amerikaner, och aktivt involvera dem i förebyggande och upptäcktsinsatser, står som en hörnsten.´
Årlig bedrägerirapport presenterad vid utfrågning om AI-bedrägerier
Vid en utfrågning presenterade ordföranden för USA:s senats speciella kommitté för äldre, Bob Casey, den årliga rapporten om bedrägerier. Utfrågningen fokuserade på hur artificiell intelligens (AI) kan användas av bedragare för att genomföra bedrägerier och övertyga mål om deras äkthet, samt hur AI-teknologi används för att förbättra nästa generation av bedrägeriupptäckningssystem. Casey avslöjade även en broschyr om AI-drivna bedrägerier och en bokmärke med tips för att undvika bedrägerier. Han planerar också att försäkra att användningen av AI i bedrägerier spåras på rätt sätt av Federal Trade Commission (FTC).
AI driver sofistikerade bedrägerier, varnar teknikexperter och bedrägerioffer
Teknikexperter och bedrägerioffer varnade under en senatshörning att artificiell intelligens (AI) driver mer sofistikerade bedrägerier. Enligt Tahir Ekin, professor och direktör för Center for Analytics and Data Science, förstärker AI effekten av bedrägerier genom att förbättra deras trovärdighet och emotionella dragningskraft genom personalisering. Gary Schildhorn vittnade om sin erfarenhet av att bli lurad där bedragaren använde AI för att imitera hans sons röst. Eftersom det finns begränsad reglering kring AI och bedrägerier föreslog vittnena några sätt för lagstiftare att ta itu med detta problem.
FTC-chefen Lina Khan använde framgångsrikt AI för att bestrida en sjukvårdsräkning
FTC-chefen Lina Khan har delat med sig av sin framgångsrika användning av ChatGPT för att bestrida en sjukvårdsräkning. Khan, som utnämndes till FTC-chef 2021, har varit en stark kritiker av stora teknikföretag och har uttryckt behovet av AI-reglering på flera plattformar. Hon delade med sig av sin personliga erfarenhet med AI i en nyligen episod av New York Times podcast Hard Fork. Khan gick inte in på detaljer om räkningen eller hur den löstes, men ChatGPT har hittat ett stort antal applikationer sedan det släpptes för nästan ett år sedan.
Företag bör vara försiktiga vid anskaffning av AI-verktyg
Företag som överväger att använda artificiell intelligens (AI) bör uppdatera sina riskhanteringsramverk för att reflektera bästa praxis vid anskaffning. Om detta inte görs kan företag stöta på regulatoriska och rättsliga risker. Företag bör följa Världsekonomiska forumets riktlinjer för ansvarsfull användning av AI och ställa viktiga frågor vid anskaffning av AI-verktyg. Dessa inkluderar att förstå data, överväga regulatorisk granskning, minska säkerhetsrisker och inkludera bästa praxis i kontrakt.
Framtidsutsikter för 2024: Förändringar inom hälso- och sjukvård, teknik och ekonomi
En tillbakablick på 2023 visar att vissa förutsägelser om hälso- och sjukvården och ekonomin stämde, medan andra inte gjorde det. För 2024 förväntas bland annat att GLP-1-läkemedel mot viktminskning kommer att förskrivas mer fritt, att inget kommer att hända med Pharmacy Benefit Managers (PBMs) trots anklagelser om att de driver upp läkemedelspriserna, och att fler ´unicorns´ kommer att förlora sina horn på grund av dåliga affärsmodeller. Dessutom förväntas att AI och stora språkmodeller kommer att användas mer inom hälso- och sjukvården, och att vissa VC-backade hälso- och sjukvårdsföretag kommer att misslyckas.
USA:s Federal Trade Commission uppmanar till strängare AI-reglering
USA:s Federal Trade Commission (FTC) har uttryckt sin oro över artificiell intelligens (AI) och uppmanar till strängare reglering för att skydda konsumenterna. FTC anser att oreglerad AI-utveckling kan leda till ökad cyberbedrägeri, integritetsöverträdelser och upphovsrättsintrång. Myndigheten har utökat sina ansträngningar mot AI-utvecklare under det senaste året, inklusive en betydande utredning av OpenAI för påstådda överträdelser av konsumentskyddslagar. FTC organiserade också en rundabordsdiskussion med kreatörer inom musik, konst, film och programvaruutvecklare för att diskutera upphovsrättsfrågor kopplade till AI-modeller.
Amazon döms att betala 46,7 miljoner dollar för patentintrång, G7 publicerar uttalande om digital konkurrens
En Delaware-jury har bestämt att Amazon måste betala 46,7 miljoner dollar till VB Assets för att ha intrångit i flera patent som täcker taligenkänning och språkbearbetningsteknik. G7-medlemmar publicerade ett uttalande om digital konkurrens, med åtaganden för att hantera problem kring framväxande teknologier som AI. Arvingarna till fotbollsikonen Diego Maradona vann en varumärkesstrid mot hans tidigare advokat. OpenAI meddelade att det kommer att betala kostnaderna för rättsprocesser kopplade till upphovsrättsintrång. Nike har stämt New Balance och Skechers för patentintrång. Värdet på musikupphovsrätt översteg 40 miljarder dollar 2022.
Personliga GPTs är här, F.T.C. ordförande Lina Khan om AI-konkurrens och kaos på Apefest
OpenAI har presenterat ett nytt sätt att bygga anpassade chattrobotar. I en podcast diskuterar Kevin några chattrobotar han har byggt, inklusive en anpassad ´Hard Fork´-bot och en bot som ger investeringsråd inspirerade av hans avlidna farfar. Dessutom diskuterar Lina Khan, ordförande för Federal Trade Commission, myndighetens tillvägagångssätt för att reglera AI och om taktikerna hon har använt för att reglera stora teknikföretag fungerar. Slutligen rapporterade mer än 20 personer brännande ögonsmärta efter en Bored Ape Yacht Club-fest i Hongkong.
AI kan bryta mot konsumentlagar, varnar FTC
USA:s Federal Trade Commission (FTC) har varnat att AI kan bryta mot konsumentlagar, trots att utvecklare kanske tror att deras träningsdata och modellutdata skyddas från upphovsrättskrav. FTC har uttryckt oro för potentiell skada på konsumenter, arbetare och småföretag som kan uppstå från användningen av AI. Exempel på problem inkluderar kränkningar av konsumenternas privatliv, automatisering av diskriminering och bias, samt ökning av bedrägliga metoder och bedrägerier. FTC är inriktad på att bryta mot sådana lagar, snarare än direkt upphovsrättsskydd, även om upphovsrätten kan flätas samman med dess undersökningar.
USA:s regering fastställer principer för AI-politik och konkurrensbekymmer
Biden-administrationen har fastställt ´åtta vägledande principer och prioriteringar´ för AI-politik. Dessa inkluderar att AI måste vara säkert och säkert, främja ansvarsfull innovation, konkurrens och samarbete, stödja amerikanska arbetare, vara i linje med administrationens engagemang för att främja rättvisa och medborgerliga rättigheter, skydda amerikaners intressen, privatliv och medborgerliga friheter, hantera risker från den federala regeringens egen användning av AI och att den federala regeringen bör leda vägen till globalt samhälleligt, ekonomiskt och teknologiskt framsteg. Dessutom uttrycker den verkställande ordern oro över potentialen för konsolidering och minskad konkurrens på AI-relaterade marknader.
USA:s president utfärdar exekutiv order om säker och ansvarsfull användning av AI
Den 30 oktober 2023 utfärdade president Joe Biden en exekutiv order om säker, säker och pålitlig utveckling och användning av artificiell intelligens (AI). Ordern riktar sig till alla verkställande kontor och myndigheter att följa riktlinjer för AI-utveckling och implementering. Dessa principer fokuserar på säkerhet, ansvarsfull innovation och konkurrens, stöd för amerikansk arbetskraft, engagemang för rättvisa och medborgerliga rättigheter, konsumentskydd, integritet, utveckling av AI-proffs inom staten och amerikanskt ledarskap i AI globalt. Ordern uppmanar också verkställande kontor och myndigheter att förlita sig på AI-principerna när de fastställer framtida regler och förordningar som styr AI-utvecklingen i den privata sektorn.
Biden´s AI-chef uttrycker oro över ljudförfalskningar och röstkloning
Bruce Reed, chef för AI-frågor hos Biden, uttrycker oro över ljudförfalskningar. Reed menar att ´röstkloning´ är den främsta källan till hans ångest. Tillgängligheten av plattformar för röstkloning gör dem mycket sårbara för missbruk. Lagstiftare är allt mer oroliga för AI-teknikens förmåga att övertygande replikera mänskliga röster. Telefonbedragare har redan börjat utnyttja framsteg inom röstkloningsteknik för att göra sina bedrägerier mer övertygande. Federal Trade Commission (FTC) rapporterade att bedragare använder AI-teknik för att förbättra sina familjenödsituationer, vilket framgångsrikt övertygar människor om att deras familjemedlemmar är i nöd. Å andra sidan har New Yorks borgmästare Eric Adams utnyttjat AI-genererade kloner av hans egen röst för att koppla upp sig med en bredare del av stadens befolkning.
Senatorer uppmanar myndigheter att bekämpa AI-röstbedrägerier
Sens. Amy Klobuchar (D-Minn.) och Susan Collins (R-Maine) uppmanar två federala myndigheter att ta itu med det växande hotet från AI-röstbedrägerier. I ett brev till Federal Trade Commission och Federal Communications Commission fredagen den 17 november, begärde lagstiftarna att kommittéerna svarar på fyra frågor. Dessa inkluderar vilka åtgärder de vidtar för att utbilda amerikanerna om sådana brott och förhindra dem, vad de hittills har lärt sig om AI-baserat röstbedrägeri, vilka resurser som används för att bekämpa dem och om mer lagstiftning behövs för att bekämpa bedrägeriet.
AI-chattbotar riskerar säkerheten genom ´prompt injection´-attacker
AI-chattbotar, som drivs av stora språkmodeller, riskerar att bli utnyttjade genom en typ av attack kallad ´prompt injection´. Dessa botar kan skriva e-post, söka filer och sammanfatta webbplatser, men de har svårt att skilja mellan legitima kommandon och manipulativa instruktioner från utomstående. Detta är en stor säkerhetsrisk, enligt forskare inom cybersäkerhet. ´Prompt injection´ innebär att angripare försöker lura programmet att utföra något som användarna eller utvecklarna inte avsåg. Detta kan inkludera att läsa och sammanfatta konfidentiella filer, stjäla data eller skicka skadliga meddelanden.
Utmaningar väntas för implementeringen av Bidens exekutiva order om AI
USA:s president Joe Bidens exekutiva order om artificiell intelligens (AI) kommer att ställas inför flera implementeringsutmaningar, allt från anställning till att bygga myndighetskompetenser. Det exekutiva ordern visar betydande framsteg i att utveckla en amerikansk strategi för AI-reglering, som hanterar allt från integritetsrisker till stora modeller. Det kommer att innebära att olika federala myndigheter tar ansvar för AI-frågor inom sina egna områden, till exempel kommer Hälso- och sjukvårdsdepartementet att utveckla en AI-säkerhetspolicy för sjukvårdsprogram. En av de största utmaningarna kommer att vara att anställa människor med den AI-expertis som behövs för att hjälpa myndigheterna att uppfylla de ansvarsområden som ordern etablerar.
President Biden utfärdar verkställande order för att reglera AI-industrin
President Joe Biden har utfärdat en verkställande order för att reglera den snabbt växande och i stort sett oreglerade AI-industrin. Order inkluderar direktiv för att utvidga användningen av AI inom regering, utbildning, hälsovård och andra offentliga sektorer. Det kräver också att utvecklare av de mest kraftfulla AI-systemen delar sina säkerhetstestresultat innan de tar sin teknik till den offentliga marknaden. Vita husets biträdande stabschef Bruce Reed beskrev ordern som en del av en ´aggressiv strategi´ för att dra nytta av fördelarna med AI och minska riskerna.
President Biden att införa de första regleringarna av AI i USA
President Biden kommer att utfärda en exekutiv order på måndag som skisserar USA:s första regleringar av artificiell intelligens (AI). Regleringen inkluderar krav på att de mest avancerade AI-produkterna testas för att säkerställa att de inte kan användas för att producera biologiska eller kärnvapen. Regleringen kommer också att innehålla rekommendationer om att bilder, videor och ljud utvecklade av dessa system ska vattenmärkas för att tydligt visa att de skapats av AI. Mr. Bidens order kommer att utfärdas dagar innan ett möte mellan världsledare om AI-säkerhet organiserat av Storbritanniens premiärminister, Rishi Sunak. De nya amerikanska reglerna, som förväntas träda i kraft inom de närmaste 90 dagarna, kommer sannolikt att möta många utmaningar. Vicepresident Kamala Harris kommer att representera USA vid konferensen i London på detta ämne denna vecka.
Framtiden för AI kan domineras av ´GOMA´ - Google, OpenAI, Microsoft och Anthropic
AI:s framtid kan vara dominerad av fyra företag, Google, OpenAI, Microsoft och Anthropic, vilka tillsammans kan kallas GOMA. Dessa företag har alla utvecklat avancerade AI-program och chatbots, och konkurrerar nu om att integrera generativ AI i så mycket som möjligt. Trots att nya företag dyker upp inom AI-sektorn, har dessa fyra företag redan tekniska och affärsfördelar som börjar likna de nuvarande techjättarna. Framtiden för AI är dock fortfarande oklar, och det är möjligt att både Big Tech och Big AI kommer att samexistera, med de gamla företagen dominerande inom sökning, shopping och smartphones, medan en ny uppsättning företag kontrollerar chatbots och andra AI-modeller.
Organisationer kämpar med att skydda data från läckor i AI-modeller
Organisationer har kämpat med att kontrollera oavsiktlig eller avsiktlig exponering av data som används som indata för AI-modeller. Två framträdande fall har inträffat tidigare i år: Microsoft råkade göra en stor mängd kunddata offentlig via ett öppet GitHub-repositorium och flera Samsung-ingenjörer lade medvetet in proprietär kod i sina ChatGPT-frågor. Företag och organisationer behöver bättre verktyg och metoder för att skydda sin data och förhindra läckor. Detta innefattar bland annat att förstå vilken version av AI som används av varje säkerhetsleverantör och vilka specifika åtgärder som har vidtagits för att skydda deras dataflöden.
Federal Trade Commission och artificiell intelligens
Artificiell intelligens (AI) har blivit allt vanligare i ekonomin sedan OpenAI:s framgångsrika offentliga lansering av ChatGPT för mindre än ett år sedan. Federal Trade Commission (FTC) har startat en omfattande kampanj för att varna industrin om att den är redo att tillämpa befintliga lagar på verktyg som drivs av AI. FTC:s vägledning tenderar att förutsäga dess verkställande agenda. FTC har börjat verkställa dessa riktlinjer, men ligger efter marknaden som nu är i full blom. Det finns ingen tvekan om att verkställande kommer och denna vägledning är den tidiga vägkartan till det.
OpenAI granskas av Federal Trade Commission över dess datahantering
OpenAI, tillverkaren av generativ artificiell intelligens-teknologi som används av advokatbyråer och juridiska teknikföretag, står inför en undersökning av Federal Trade Commission över dess datahanteringspraxis. Artikeln fortsätter inte med ytterligare information.
OpenAI under utredning av Federal Trade Commission för dess datahanteringspraxis
OpenAI, tillverkaren av generativ artificiell intelligens-teknologi som används av advokatbyråer och juridiska teknikföretag, står för närvarande inför en utredning av Federal Trade Commission (FTC) över dess datahanteringspraxis. Konsekvensen av denna utredning kan vara mer än bara en stor böter.
Falsk AI-reklam, eller ´AI-tvätt´, ökar
Generativ AI är här för att stanna, men med det kommer också en ökning av ´AI-tvätt´, där företag falskt annonserar att en produkt eller verksamhet inkluderar AI när den faktiskt inte gör det. Enligt experter är det viktigt att vara medveten om varningssignaler och röda flaggor för att undvika bedrägerier. Ett exempel är det nyligen stämda företaget Automators AI (tidigare Empire Ecommerce LLC) som anklagas för att ha lurat konsumenter genom att sälja affärsmöjligheter som påstås använda AI. De åtalade Roman Cresto, John Cresto och Andrew Chapman anklagas för att ha lurat konsumenter på 22 miljoner dollar. De påstod sig vara självgjorda miljonärer med expertis inom skalning av tredjepartse-handelsbutiker genom klientinvesteringar. Men det var allt rök och speglar.
