Sådan ser Facebooks AI ud efter dårlige ting

Kategori: Kunstig intelligens Udsendt 29. nov

Konteksten: Langt størstedelen af ​​Facebooks moderering sker nu automatisk af virksomhedens maskinlæringssystemer, hvilket reducerer mængden af ​​rystende indhold, som moderatorerne skal gennemgå. I sin seneste rapport om håndhævelse af fællesskabsstandarder , offentliggjort tidligere på måneden, hævdede virksomheden, at 98 % af terroristvideoer og -billeder fjernes, før nogen har mulighed for at se dem, endsige rapportere dem.

Så hvad ser vi her? Virksomheden har trænet sine maskinlæringssystemer til at identificere og mærke genstande i videoer – fra det verdslige, såsom vaser eller mennesker – til det farlige, såsom våben eller knive. Facebooks AI bruger to hovedtilgange til at lede efter farligt indhold. Den ene er at anvende neurale netværk, der leder efter funktioner og adfærd for kendte objekter og mærke dem med varierende procentdel af tillid (som vi kan se i videoen ovenfor).

Træning i gang: Disse neurale netværk trænes på en kombination af præ-mærkede videoer fra deres menneskelige anmeldere, rapporter fra brugere og snart fra videoer taget af Londons Metropolitan Police. De neurale net er i stand til at bruge denne information til at gætte, hvad hele scenen kan vise, og om den indeholder nogen adfærd eller billeder, der skal markeres. Det gav flere detaljer om, hvordan dets systemer fungerer på en pressebriefing i denne uge.

Hvad så? Hvis systemet beslutter, at en videofil indeholder problematiske billeder eller adfærd, kan det fjerne den automatisk eller sende den til en menneskelig indholdsanmelder. Hvis det bryder reglerne, kan Facebook derefter oprette en hash - en unik række af tal - for at angive den og udbrede den i hele systemet, så andet matchende indhold automatisk slettes, hvis nogen forsøger at uploade det igen. Disse hashes kan deles med andre sociale mediefirmaer, så de også kan fjerne kopier af den krænkende fil.

Disse [Metropolitan Police] videoer er utroligt nyttige for os. Terrorbegivenheder er heldigvis sjældne, men det betyder, at mængden af ​​træningsdata er så lille, sagde ingeniørchef Nicola Bortignon under et opkald.

Et svagt punkt: Facebook kæmper stadig med at automatisere sin forståelse af sprogets betydning, nuancer og kontekst. Derfor er virksomheden afhængig af, at folk rapporterer det overvældende flertal af mobnings- og chikaneindlæg, der bryder dets regler: kun 16 % af disse opslag er identificeret af dets automatiserede systemer. Efterhånden som teknologien udvikler sig, kan vi forvente at se dette tal stige. Men at få AI til virkelig at forstå sproget er stadig en af ​​feltets største udfordringer.

Det større billede: I marts dræbte en terrorist 49 mennesker i to moskeer i Christchurch, New Zealand. Han livestreamede massakren på Facebook, og videoer af den cirkulerede rundt på stedet i flere måneder bagefter. Det var et wake-up call for branchen. Hvis det skete igen nu, er der større chance for, at det ville blive fanget og fjernet hurtigere.