» Håll dig ajour kring AI · En AI-skapad och ständigt föränderlig nyhetstidning om AI. Idag har vår robot sammanfattat 170 nyhetshändelser. Upptäck gärna vår kurs AI på jobbet förresten. «
Användning av AI för att övervaka internet för terrorinnehåll är oundvikligt men också fylld med fallgropar
Varje minut översvämmas internet av miljontals sociala medieinlägg, foton och videor. Facebook-användare delar i genomsnitt 694 000 berättelser, X (tidigare Twitter) användare postar 360 000 inlägg, Snapchat-användare skickar 2,7 miljoner snaps och YouTube-användare laddar upp mer än 500 timmar video. Denna enorma mängd online-material behöver ständigt övervakas för skadligt eller olagligt innehåll, som att främja terrorism och våld. Automatiserade verktyg, inklusive artificiell intelligens (AI), är nödvändiga men har också sina begränsningar. Mycket arbete har lagts på att utveckla verktyg för identifiering och borttagning av online terroristinnehåll, delvis drivet av nya lagar och regler. Detta inkluderar EU: s reglering av terroristinnehåll online, som kräver att hostingtjänsteleverantörer tar bort terroristinnehåll från sin plattform inom en timme efter att ha mottagit en borttagningsorder från en behörig nationell myndighet. Det finns två typer av verktyg som används för att rota ut terroristinnehåll. Den första tittar på visst konto- och meddelandebeteende. Den andra typen av verktyg är innehållsbaserat. Det fokuserar på lingvistiska egenskaper, ordanvändning, bilder och webbadresser. Men dessa verktyg står också inför utmaningar. Samla in och förbereda en stor datamängd av terroristinnehåll för att träna algoritmerna är tidskrävande och resursintensivt. Algoritmer har också svårt att förstå sammanhang, inklusive subtilitet och ironi. De saknar också kulturell känslighet, inklusive variationer i dialekt och språkanvändning över olika grupper. Dessa begränsningar kan ha viktiga offline-effekter. Det har dokumenterats misslyckanden att ta bort hatprat i länder som Etiopien och Rumänien, medan aktivister för yttrandefrihet i länder som Egypten, Syrien och Tunisien har rapporterat att deras innehåll har tagits bort. Trots framsteg inom AI är mänskligt ingång viktigt. Men detta är krävande och dränerande arbete, och det har varit fördömande rapporter om arbetsförhållandena för moderatorer, med många teknikföretag som Meta som outsourcar detta arbete till tredjepartsleverantörer. För att åtgärda detta rekommenderar vi utvecklingen av en uppsättning minimistandarder för dem som anställer innehållsmoderatorer, inklusive psykisk hälsovård. Det finns också potential att utveckla AI-verktyg för att skydda moderatorernas välbefinnande. Men samtidigt har få, om några, plattformar de resurser som behövs för att utveckla automatiserade verktyg för innehållsmoderering och anställa tillräckligt antal mänskliga granskare med den erforderlighet som krävs. Många plattformar har vänt sig till färdiga produkter. Det uppskattas att marknaden för innehållsmoderingslösningar kommer att vara värd 32 miljarder dollar år 2031. Men försiktighet krävs här. Tredjepartsleverantörer är för närvarande inte föremål för samma nivå av tillsyn som teknikplattformar själva. De kan förlita sig oproportionerligt mycket på automatiserade verktyg, med otillräckligt mänskligt ingång och brist på transparens gällande de dataset som används för att träna deras algoritmer. Så samarbetsinitiativ mellan regeringar och den privata sektorn är nödvändiga. Till exempel har EU-finansierade Tech Against Terrorism Europe-projektet utvecklat värdefulla resurser för teknikföretag. Det finns också exempel på automatiserade verktyg för innehållsmoderering som görs öppet tillgängliga, som Meta´s Hasher-Matcher-Actioner, som företag kan använda för att bygga sin egen databas med hashat terroristinnehåll. Internationella organisationer, regeringar och teknikplattformar måste prioritera utvecklingen av sådana samarbetsresurser. Utan detta kommer effektivt hantering av online-terrorinnehåll att förbli svårfångat.
har gått vår kurs "AI på jobbet".
