Algoritmen 'Flasher Detection' sigter mod at rydde op i videochat

En af de mere ekstraordinære tendenser inden for internetbrug har været den hurtige stigning i videochattjenester såsom Chatroulette. Disse tjenester forbinder tilfældigt webcams for personer, der besøger webstedet.

Men Chatroulette har et problem. Siden er domineret af flashere, der blotter deres kønsorganer.

Omkring 6,3 millioner besøgende brugte Chatroulette i juli 2010, måske på grund af indholdets seksuelle karakter.

Men dette udgør en betydelig trussel for mindreårige. Der er ingen nem måde at kontrollere alderen på folk, der besøger websteder, og mindreårige kan nemt få adgang. Ifølge Xinyu Xing ved University of Colorado i Boulder og nogle få venner, ser et betydeligt antal af Chatroulette-brugere ud til at være mindreårige.

Vores observationer på en typisk lørdag aften indikerer, at så mange som 20-30 % af Chatroulette-brugere er mindreårige, siger de i et papir offentliggjort i dag på arXiv.

Xing og co har dog en løsning. Dette hold har udviklet en flasher-detektionsalgoritme, der opdager lovovertræderne, så de kan blive smidt ud.

Det viser sig, at det er sværere at fange blinklys, end det umiddelbart kan se ud. En måde er at anvende en crowdsourcing-mekanisme, hvor brugere rapporterer lovovertrædere, hvis videofeed derefter kan evalueres af uddannede personer og stoppes om nødvendigt.

Men det er en tidskrævende og dyr opgave, der er åben for misbrug. Og med op mod 20.000 brugere til enhver tid, er det usandsynligt, at det vil fungere for Chatroulette i det lange løb.

En anden tilgang er at bruge eksisterende algoritmer designet til at opdage pornografisk indhold. Præcis hvordan disse algoritmer fungerer er ikke helt klart, men de ser ud til at lede efter hudindhold i billeder.

Desværre fungerer denne type software ikke godt med videochatindhold, siger Xing og co. Det skyldes, at videobillederne ofte er dårligt oplyst, hvilket gør det svært at skelne hud fra f.eks. gulhvide vægge i baggrunden.

Så Xing og co har udviklet deres egen algoritme, kaldet SafevChat, som de har testet på omkring 20.000 stillbilleder taget fra Chatroulette-videoer og leveret af tjenestens grundlægger Andrey Ternovskiy. Deres papir giver et detaljeret indblik i, hvordan det fungerer.

Den nye tilgang er interessant, fordi den analyserer billederne ved hjælp af flere forskellige kriterier og derefter smelter resultaterne sammen, før det besluttes, om billedet er acceptabelt eller ej.

For at komme over problemet med hudfarvede vægge og møbler kombinerer de huddetektion med bevægelsesdetektion, der sammenligner sekventielle rammer for at se, om huden bevæger sig. Og de bruger ansigts-, øjen- og næsedetektorer til at skelne ansigtshud fra ikke-ansigtshud. Resultaterne smeltes sammen, og billedet klassificeres derefter som normalt eller stødende, efter at det er blevet trænet på det indledende datasæt.

Xing og så sige, at det fungerer godt og væsentligt bedre end et kommercielt pornografisk billeddetektorprogram kaldet PicBlock. De har en video, der viser, hvordan det fungerer på deres hjemmeside .

Faktisk fungerer SafeVChat så godt, at Chatroulette begyndte at bruge det på sin hjemmeside tidligere på måneden.

Om dette gør Chatroulette mere eller mindre populær, må vi vente og se. Men med lidt held vil det gøre siden mere sikker for alle berørte.

Ref: arxiv.org/abs/1101.3124 : SafeVchat: Registrering af uanstændigt indhold og brugere, der opfører sig forkert i online videochattjenester

skjule