Du kan træne en AI til at falske FN-taler på kun 13 timer

Kategori: Kunstig intelligens Udsendt juni 07

Dyb-læringsteknikker har gjort det nemmere og nemmere for enhver at skabe overbevisende misinformation. Men hvor nemt? To forskere ved Global Pulse, et initiativ fra FN, besluttede at finde ud af det.

I en nyt papir , brugte de kun open source-værktøjer og data til at vise, hvor hurtigt de kunne få en falsk FN-talegenerator op at køre. De brugte en let tilgængelig sprogmodel, der var blevet trænet i tekst fra Wikipedia og finjusterede den på alle taler holdt af politiske ledere ved FN's Generalforsamling fra 1970 til 2015. Tretten timer og $7,80 senere (brugt på cloud computing-ressourcer) , deres model spyttede realistiske taler ud om en lang række følsomme og højspændte emner fra atomnedrustning til flygtninge.

Forskerne testede modellen på tre typer tilskyndelser: generelle emner (f.eks. klimaforandringer), åbningslinjer fra FN's generalsekretærs bemærkninger og inflammatoriske sætninger (f.eks. immigranter har skylden …). De fandt ud af, at output fra den første kategori nøje matchede stilen og kadencen af ​​rigtige FN-taler omkring 90 % af tiden. Sandsynligvis på grund af den diplomatiske karakter af træningsdataene krævede output fra den tredje kategori mere arbejde at generere, hvilket producerede overbevisende output omkring 60 % af tiden.

Casestudiet demonstrerer den hastighed og lethed, hvormed det nu er muligt at sprede falske nyheder, generere hadefulde ytringer og efterligne højprofilerede personer, med foruroligende implikationer. Forskerne konkluderer, at der er behov for en større global indsats for at arbejde på måder at detektere og reagere på AI-genereret indhold.

For at få flere historier som denne leveret direkte til din indbakke, tilmeld dig vores Webby-nominerede AI-nyhedsbrev The Algorithm. Det er gratis.