En AI-allieret til at bekæmpe mobning i virtuelle verdener

Saiman Chow

I ethvert fiktionaliseret univers kan skelnen mellem legende modsætning og alvorlig chikane være svær at gennemskue. Navnekald mellem venner, der spiller et videospil sammen, er ofte en form for kammeratskab. Mellem fremmede antager lignende ord dog en anden, mere besværlig kvalitet. At kunne skelne mellem de to er afgørende for enhver videospilproducent, der ønsker at fremme et indbydende fællesskab.

Spirit AI håber at hjælpe udviklere med at støtte spillere og modvirke mobbeadfærd med et misbrugsdetektions- og interventionssystem kaldet Ally. Softwaren overvåger interaktioner mellem spillere - hvad folk siger til hinanden, og hvordan de opfører sig - gennem de tilgængelige handlinger i et spil eller en social platform. Det er i stand til at opdage verbal chikane og også nonverbal provokation - for eksempel, at en spiller stalker en andens avatar eller misbruger rapporteringsværktøjer.

Vi ser på interaktionsmønstre kombineret med klassificeringer af naturligt sprog i stedet for at stole på en liste over individuelle søgeord, forklarer Ruxandra Dariescu, en af ​​Allys udviklere. Chikane er et nuanceret problem.

Når Ally identificerer potentielt krænkende adfærd, tjekker den for at se, om den potentielle misbruger og den anden spiller har haft tidligere interaktioner. Hvor Ally adskiller sig fra eksisterende moderationssoftware er, at i stedet for blot at sende en advarsel til spillets udviklere, er den i stand til at sende en computerstyret virtuel karakter for at tjekke ind med spilleren – en, der gennem Spirit AI's naturlige sprogværktøjer er i stand til at konversere i spillets tone og stil (se A Video-Game Algorithm to Solve Online Abuse ).

Relateret historie

Læs Næste Hvordan et team af psykologer og videnskabsmænd hos Riot Games låser op for hemmeligheden bag at eliminere misbrug i et online videospil.

Allys bot siger måske: Jeg har bemærket, at du og Player 42 ser ud til at være fremmede. De har måske sagt noget upassende til dig, så jeg ville lige tjekke, om du er okay? Spilleren er så i stand til at reagere på botten, siger Dariescu. Hvis interaktionen afvises som venlig drilleri, registrerer systemet dette og opdaterer sine regler, så det ikke griber ind over lignende adfærd i fremtiden. Hvis brugeren føler sig misbrugt, griber systemet ind over for den skyldige.

Ally er kompatibel med alle onlinespil, og Spirit AI arbejder på at tilføje kapaciteter til politiets adfærd i virtual reality-spil (se The War on the Disturbingly Real Trolls in Virtual Reality). Værktøjet kan konfigureres på en række forskellige måder til at interagere med spillere og udføre forskellige former for handling. Spirit AI ser Ally som en måde at udvide et spils community management team, som kan overvåge aktivitet i et dashboard.

Virksomheden, der officielt blev dannet i 2016 og i øjeblikket har en stab på 15, vil ikke oplyse, hvilke spiludviklere det i øjeblikket arbejder med, men softwaren har tiltrukket sig opmærksomhed i spilverdenen. På det enkleste niveau kan AI-understøttede community management-værktøjer udvide holdets rækkevidde, siger Imre Jele, en veterandesigner af store online multiplayer-spil såsom RuneScape. Men det, jeg er mest begejstret for, er AI-systemer, der går ud over at identificere og straffe regelbrudsadfærd. I sidste ende bør målet for disse AI-teammedlemmer være at komme ud af politiarbejdet og ind i at forme positive interaktioner og opbygge sundere samfund.

Relateret historie

Læs Næste Når du føler, at du virkelig er inde i en virtuel krop, er det vigtigt at beskytte dit personlige rum.

Spirit har bestemt til hensigt, at softwaren skal tilbyde mere end blot en digitaliseret politistyrke, der kan tilkaldes til onlinespil. Vi har identificeret potentialet for, at denne teknologi ikke kun forhindrer dårlig adfærd, men også tilskynder til god, prosocial adfærd, siger Dariescu. Softwaren kunne også bruge omgivende aflytning til at identificere bredere problemer, som spillere kan have med et spils design, hvilket giver indsigt til udvikleren om, hvordan den overordnede spilleroplevelse kan forbedres.

Der er dog begrænsninger, når det kommer til AI-interventioner i tilfælde af chikane, ifølge Jele. Mange interaktioner mellem community management og spillersupportteams kræver dyb empati og sympati, siger han: Spillerne støttede udviklerne med deres penge og fortjener den bedst mulige pleje, som kun mennesker kan yde i øjeblikket.

skjule