Kan AI vinde krigen mod falske nyheder?

Selman Design

Det kan have været den første bid af falske nyheder i internettets historie: I 1984 skrev nogen på Usenet, at Sovjetunionen sluttede sig til netværket. Det var en harmløs aprilsnarrsdag , langt fra nutidens våbenbaserede desinformationskampagner og skruppelløse opspind, der er designet til at skabe en hurtig profit. I 2017 er vildledende og ondsindet falsk onlineindhold så produktivt, at vi mennesker har lidt håb om at grave os selv ud af mosen. I stedet ser det mere og mere sandsynligt ud, at maskinerne bliver nødt til at redde os.

En algoritme beregnet til at skinne et lys i mørket er AdVerif.ai , som drives af en startup af samme navn. Den kunstigt intelligente software er bygget til at opdage falske historier, nøgenhed, malware og en lang række andre typer problematisk indhold. AdVerif.ai, som lancerede en betaversion i november, arbejder i øjeblikket med indholdsplatforme og annoncenetværk i USA og Europa, der ikke ønsker at blive forbundet med falske eller potentielt stødende historier.

Virksomheden så en mulighed i at fokusere på et produkt til virksomheder i modsætning til noget for en gennemsnitlig bruger, ifølge Or Levi, AdVerif.ais grundlægger. Mens individuelle forbrugere måske ikke bekymrer sig om rigtigheden af ​​hver historie, de klikker på, har annoncører og indholdsplatforme noget at tabe ved at hoste eller reklamere for dårligt indhold. Og hvis de foretager ændringer i deres tjenester, kan de være effektive til at afskære indtægtsstrømme for folk, der tjener penge på at skabe falske nyheder. Det ville være et stort skridt i kampen mod denne type indhold, siger Levi.

AdVerif.ai scanner indhold for at se afslørende tegn på, at noget er galt - som f.eks. overskrifter, der ikke matcher kroppen, eller for mange store bogstaver i en overskrift. Den krydstjekker også hver historie med dens database med tusindvis af legitime og falske historier, som opdateres ugentligt. Klienterne ser en rapport for hver del, systemet overvejede, med scores, der vurderer sandsynligheden for, at noget er falske nyheder, indeholder malware eller indeholder noget andet, de har bedt systemet om at holde øje med, såsom nøgenhed. Til sidst siger Levi, at han planlægger at tilføje muligheden for at se manipulerede billeder og have et browser-plugin.

Ved at teste en demoversion af AdVerif.ai genkendte AI Løg som satire (som har narre mange mennesker i fortiden). Breitbart-historier blev klassificeret som upålidelige, rigtige, politiske, bias, mens Kosmopolitisk blev betragtet som venstre. Det kunne fortælle, hvornår en Twitter-konto brugte et logo, men linkene var ikke forbundet med det mærke, den portrætterede. AdVerif.ai fandt ikke kun ud af, at en historie på Natural News med overskriften Evidence peger på, at Bitcoin er en NSA-konstrueret psyop til at udrulle én-verdens digital valuta, var fra et sortlistet websted, men identificerede det som en falsk nyhed, der dukkede op på andre sortlistede websteder uden nogen referencer i legitime nyhedsorganisationer.

Nogle tvivlsomme historier kommer stadig igennem. På et websted kaldet Action News 3, et indlæg med overskriften NFL-spiller fotograferet brænde et amerikansk flag i omklædningsrummet! blev ikke fanget, selvom det er blevet viste sig at være et opspind . For at hjælpe systemet med at lære, mens det går, kan dets sortliste over falske historier opdateres manuelt på historie-for-historie basis.

AdVerif.ai er ikke den eneste startup, der ser en mulighed i at levere et AI-drevet sandhedsserum til onlinevirksomheder. Cybersikkerhedsfirmaer har især været hurtige til at tilføje bot- og falske nyhedsspotting-operationer til deres repertoire, og påpege, hvor lignende mange af metoderne ligner hacking. Facebook er tweaking sine algoritmer at nedtone fokus på falske nyheder i sine nyhedsfeeds, og Google samarbejdede med en faktatjekside — indtil nu med ujævne resultater . Fake News Challenge, en konkurrence drevet af frivillige i AI-samfundet, blev lanceret i slutningen af ​​sidste år med det formål at tilskynde til udvikling af værktøjer, der kan hjælpe med at bekæmpe rapportering om dårlig tro.

Relateret historie

Relateret historie Takket være maskinlæring er det blevet nemt at generere realistisk video og at efterligne nogen.

Delip Rao, en af ​​dets arrangører og grundlæggeren af ​​Joostware, et firma, der skaber maskinlæringssystemer, sagde, at spotting af falske nyheder har så mange facetter, at udfordringen faktisk vil blive udført i flere trin. Det første trin er holdningsregistrering eller at tage en historie og finde ud af, hvad andre nyhedssider har at sige om emnet. Dette ville gøre det muligt for menneskelige faktatjekkere at stole på historier til at validere andre historier og bruge mindre tid på at tjekke individuelle stykker.

Fake News Challenge udgav datasæt, som hold kunne bruge, hvor 50 hold indsendte bidrag. Talos Intelligence, en cybersikkerhedsafdeling under Cisco, vandt udfordringen med en algoritme, der blev mere end 80 procent korrekt – ikke helt klar til bedste sendetid, men stadig et opmuntrende resultat. Den næste udfordring kan tage billeder med overlejringstekst (tænk memes, men med falske nyheder), et format, der ofte promoveres på sociale medier, da dets format er sværere for algoritmer at nedbryde og forstå.

Vi ønsker grundlæggende at bygge de bedste værktøjer til faktatjekkerne, så de kan arbejde meget hurtigt, sagde Rao. Som faktatjekkere på steroider.

Selvom der er udviklet et system, der er effektivt til at slå strømmen af ​​falsk indhold tilbage, er det usandsynligt, at det bliver slutningen på historien. Kunstig intelligens-systemer er allerede i stand til at skabe falsk tekst samt utroligt overbevisende billeder og video. (se Ægte eller falske? AI gør det meget svært at vide). Måske på grund af dette, en nylig Gartner undersøgelse forudsagt, at i 2022 vil flertallet af mennesker i avancerede økonomier se mere falsk end sand information. Den samme rapport fandt, at selv før det sker, vil forfalsket indhold overgå AI's evne til at opdage det, hvilket ændrer, hvordan vi stoler på digital information.

Hvad AdVerif.ai og andre repræsenterer, ligner altså mindre det sidste ord i krigen mod falsk indhold end åbningsrunden af ​​et våbenkapløb, hvor skabere af falsk indhold får deres egen AI, der kan udmanøvrere de gode AI'er (se AI kunne Sæt os 100 år tilbage, når det kommer til, hvordan vi forbruger nyheder). Som samfund er vi måske endnu nødt til at revurdere, hvordan vi får vores information.

skjule