Perceptive algoritmer kæmper for at få øje på mere af nettets giftige indhold

Kategori: Ikke kategoriseret Udsendt 20. dec

En ny konkurrence kan hjælpe med at rydde op på internettet. Kaggle, et websted, der lader organisationer afvikle datavidenskabskonkurrencer, har netop afsløret sit seneste projekt, som beder konkurrenter om at bygge AI'er, der spotter giftige kommentarer .

Konkurrenter bliver bedt om at bygge et system, der kan tackle forskellige typer af toksicitet som trusler, uanstændighed, fornærmelser og identitetsbaseret had. Støtte til konkurrencen er Jigsaw, en del af Alphabet, som driver et forskningsinitiativ kaldet Conversation AI for at forbedre online diskurs. For at vinde $35.000-præmien på Kaggle skal et bidrag slå resultaterne af et system bygget af Jigsaw, kaldet Perspective API. Siden den blev lanceret i tirsdags, har 199 hold deltaget i konkurrencen.

Internettet kunne helt sikkert gøre med flere og bedre værktøjer til at rydde op i trusler og hadefulde ytringer. Facebook, YouTube og Twitter har alle kæmpet for at kontrollere sådant indhold i fortiden, og de fleste store teknologivirksomheder insisterer på, at AI kan hjælpe dem med at rydde op i det i fremtiden. Men ingen af ​​dem har endnu nået det, og regeringerne er utilfredse med fejl i at få fjernet hadefulde ytringer hurtigt.

Store tech-firmaer prøver dog. Facebook lancerede et værktøj kaldet Deeptext i 2016 til at opdage følelser i kommentarer for at udrydde upassende indhold. Det tager ned ca 66.000 kommentarer om ugen, men har stadig tusindvis af mennesker, der overvåger feeds. Twitter, i mellemtiden, annonceret i denne uge at det vil forbyde konti, der sender truende tweets og beskeder.

Måske hjælper Kaggle-konkurrencen endelig med at løse problemet.