A.I. Algoritmen genkender terrorpropaganda med 99% nøjagtighed

$config[ads_kvadrat] not found

T2 Conference on Technology and the Future of Terror: Artificial Intelligence

T2 Conference on Technology and the Future of Terror: Artificial Intelligence
Anonim

Det britiske selskab ASI Data Science afslørede en maskinindlæringsalgoritme onsdag, der kan identificere terrorpropaganda-videoer med 99 procent nøjagtighed.

Denne udvikling markerer en af ​​de første tilfælde af et selskab med succes ved at bruge A.I. at flagg ekstremistisk propaganda. Den islamiske statskoncern er berygtet for sine sociale medier, der rekrutterer indsats, og denne algoritme kan hjælpe med at begrænse dem.

Mens forskerne ved ASI ikke ville diskutere nogen tekniske specifikationer af algoritmen, ser det ud til at virke som andre former for A.I. anerkendelsessoftware. Algoritmen kan undersøge enhver video og bestemme sandsynligheden for, at videoen er et stykke ekstremistisk propaganda. Ifølge BBC blev algoritmen uddannet på tusindvis af timer med at rekruttere videoer fra terrorister, og det bruger egenskaber fra disse videoer til at tildele sandsynlighedsresultater.

Hvis en video er markeret som meget høj sandsynlighed, er den tagget til gennemgang af en human content moderator. Fordi videoerne ikke automatisk nedtages, skal enhver falsk positiv blive fanget, før videoen fejlagtigt fjernes. ASI sagde, at algoritmen kunne registrere op til 94 procent af islamiske stat uploads.

Algoritmen, som delvist er finansieret af den britiske regering, blev primært skabt til fordel for mindre videoplatforme, der ikke har ressourcer til at opretholde et højt indholdsmedarbejderpersonal. Fordi disse websteder ikke kan undersøge alle videoerne grundigt, er det lettere for terroristgrupper at plante propaganda på dem. Som forsker Marc Warner fra ASI fortalte BBC, "Der er over 1.000 forskellige videoer på over 400 forskellige platforme."

Det er ikke klart, når den nye algoritme vil blive implementeret på disse websteder. Når det endelig kommer til rådighed, vil grupper som den islamiske stat sandsynligvis forsøge at ændre den måde, de håndterer deres videoer på for at undgå detektion.

Forhåbentlig kan computerforskerne forblive et skridt foran.

$config[ads_kvadrat] not found