Instagram bruger kunstig intelligens til at forhindre folk i at skrive krænkende kommentarer

Kategori: Kunstig intelligens Udsendt 09 jul

Den sociale medieplatform vil markere muligvis stødende kommentarer, før de sendes, og bede plakaten om at genoverveje.

Konteksten: Onlinemisbrug har altid været et kompliceret problem på grund af dets omfang og nuance. Hvad der tæller som værdigt til censur er en evig debat : filtrer for meget, og det krænker selvudtryk; filtrere for lidt, og det skaber et fjendtligt miljø. Læg dertil kompleksiteten af ​​forskellige sprog, kulturer og normer, og udfordringen bliver virkelig uhåndterlig.

Kunstig uintelligens: Det er derfor, sociale medieplatforme som Facebook har vendt sig til kunstig intelligens for at hjælpe dem med at sortere gennem den store mængde af opslag og kommentarer. Men sproget har altid været særligt svært for AI at analysere – simple ting som dobbelttydninger, sarkasme eller endda stavefejl kan få et system til at tage fejl af deres betydning. For at komme uden om det, ansætter Facebook tusindvis af indholdsmoderatorer at gå op, når dets algoritmer ikke formår at foretage en endelig vurdering. Undersøgelser har imidlertid vist, at disse job ofte er brutale og opslidende.

Instagrams løsning: Instagram, som er ejet af Facebook, forsøger nu en ny tilgang. I stedet for udelukkende at stole på dets algoritmer til at censurere stødende materiale, vil det også trække på brugernes selvcensur. Som en kommentar bliver sendt, hvis platformens AI-model markerer det som skadeligt, vil plakaten se en pop-up, der spørger Er du sikker på, at du vil sende dette?

I de tidlige tests fandt Instagram, at funktionen opfordrede mange mennesker til at trække deres kommentarer tilbage, ifølge gårsdagens meddelelse om blogindlæg . Det er en smart taktik at forsøge at lette noget af byrden på menneskelig indholdsmoderering uden at være for restriktiv.

Træningsdata: Det er ikke første gang, Instagram har brugt AI til at rydde op i sproget. I juni 2017 var det også lanceret et stødende kommentarfilter, der bruger maskinlæring til at skjule det mest åbenlyse misbrug. Platformen er siden blevet ved med at forbedre sin maskinlæringsmodel og har sandsynligvis gjort brug af de millioner af datapunkter, der blev genereret af brugere, da de tidligere rapporterede kommentarer. Den seneste funktion beder også brugere om at underrette Instagram, hvis den ved en fejl har markeret deres kommentar som stødende, en anden feedback-loop, der kunne generere mere nyttige træningsdata.

For at få flere historier som denne leveret direkte til din indbakke, tilmeld dig vores Webby-nominerede AI-nyhedsbrev The Algorithm. Det er gratis.