Facebook bruger bots til at simulere, hvad dets brugere kan gøre

Kategori: Kunstig intelligens Udsendt 15. apr

Facebook har udviklet en ny metode til at udspille konsekvenserne af sin kode.

Konteksten: Ligesom enhver softwarevirksomhed skal teknologigiganten teste sit produkt, hver gang det skubber opdateringer. Men den slags debugging-metoder, som virksomheder i normal størrelse bruger, er ikke rigtig nok, når du har 2,5 milliarder brugere. Sådanne metoder fokuserer normalt på at kontrollere, hvordan en enkelt bruger kan opleve platformen, og om softwaren reagerer på de individuelle brugeres handlinger som forventet. I modsætning hertil dukker så mange som 25 % af Facebooks store problemer først op, når brugere begynder at interagere med hinanden. Det kan være svært at se, hvordan introduktionen af ​​en funktion eller opdateringer til en privatlivsindstilling kan udspille sig på tværs af milliarder af brugerinteraktioner.

SimCity: Som svar, Facebook bygget en nedskaleret version af sin platform at simulere brugeradfærd. Kaldet WW, det hjælper ingeniører med at identificere og rette de uønskede konsekvenser af nye opdateringer, før de implementeres. Den anbefaler også automatisk ændringer, der kan foretages på platformen for at forbedre fællesskabsoplevelsen.

Bot dobbeltgængere: Facebook simulerer hundreder til tusinder af sine brugere ad gangen med en blanding af hårdkodede og maskinlæringsbaserede bots. Sidstnævnte trænes ved hjælp af en forstærkningsindlæringsalgoritme, som lærer gennem trial and error at optimere deres adfærd i lyset af et eller andet mål. Botterne bliver derefter lavet til at udspille forskellige scenarier, såsom en svindler, der forsøger at udnytte andre brugere, eller en hacker, der forsøger at få adgang til nogens private billeder. I et svindel-scenarie, for eksempel, får svindlerbotterne det formål at finde de bedste mål at snyde. Målrobotterne er derimod hårdkodede med den mest almindelige sårbare adfærd udvist af brugere. Hvert scenarie kan kun have nogle få bots, der udspiller dem, men systemet er designet til at have tusindvis af forskellige scenarier, der kører parallelt.

Automatisk design: Mens scenarierne udspiller sig, justerer systemet automatisk forskellige parametre i simuleringen, såsom bots' privatlivsindstillinger eller begrænsningerne for deres handlinger. Med hver justering evaluerer den, hvilken kombination af parametre, der opnår den mest ønskede fællesskabsadfærd, og anbefaler derefter den bedste version til Facebooks platformudviklere.

Skjult fra syne: For at skabe en så realistisk simulering som muligt, er WW faktisk bygget direkte på live-platformen i stedet for en separat testversion - en anden vigtig forskel fra de fleste testordninger. Botterne bliver dog bag kulisserne. Mens en typisk bruger interagerer med Facebook gennem en front-end-brugergrænseflade, såsom en profil og andre webstedsfunktioner, kan falske bot-brugere interagere direkte med back-end-koden. Dette giver dem mulighed for at sameksistere med rigtige brugere og mere præcist simulere forskellige scenarier på platformen, uden at disse brugere også fejlagtigt interagerer med dem.

Fremtidens perfekt: Lige nu bruger virksomheden det til at teste og forbedre funktioner, der ville gøre det meget sværere for dårlige skuespillere at overtræde platformens retningslinjer for fællesskabet. Men den ser også andre potentielle applikationer til systemet, såsom at teste, hvordan platformopdateringer kan påvirke engagement og andre målinger.