Hvordan Facebook bruger maskinlæring til at bekæmpe ISIS og Al-Qaeda-propaganda

Kategori: Silicon Valley Udsendt 12. nov

Facebook hævder at have proaktivt fundet og fjernet 99 % af terrorrelateret indhold på siden i de seneste tre kvartaler. Det har givet en vis indsigt i sine processer i en blogindlæg .

Nogle statistikker: Først er det vigtigt at bemærke, at når det siger terrorisme, henviser Facebook kun til ISIS og Al-Qaeda. I gennemsnit hævder firmaerne, at de nu fjerner terrorindhold mindre end to minutter efter, at det er blevet offentliggjort, mod gennemsnittet på 14 timer, det tog tidligere i år. Facebook tog handling på 9,4 millioner stykker indhold i Q2 2018, et tal, der faldt til 3 millioner i Q3 2018, takket være sin indsats kvartalet før, sagde det.

Detektionssystemer: Facebook har lanceret et nyt maskinlæringsværktøj, der vurderer, om opslag signalerer støtte til ISIS eller Al-Qaeda. Det producerer en score, der indikerer, hvor sandsynligt det er, at det overtræder deres antiterrorpolitikker, med dem, der modtager højere score, videregivet til dets menneskelige anmeldere for at vurdere. For de højest scorede tilfælde fjernes indlæg automatisk. I de sjældne tilfælde, hvor medarbejdere finder muligheden for overhængende skade, informerer Facebook straks politiet, hedder det.

Slip bots: Det er klart, at Facebook er opsat på at se hårdt på terrorisme. Og som altid er den næsten udelukkende afhængig af algoritmer til at gøre det. Det giver meget mening fra dets synspunkt, da mennesker aldrig kunne scanne så meget information så hurtigt (og de er dyre). Men det er endnu en påmindelse om Facebooks rolle som dommer, jury og bøddel på de oplysninger, det lader os se.