En AI, der skriver overbevisende prosa, risikerer at masseproducere falske nyheder

Ms. Tech

Her er nogle breaking fake news...

Rusland har erklæret krig mod USA, efter at Donald Trump ved et uheld affyrede et missil i luften.

Rusland sagde, at det havde identificeret missilets bane og vil træffe de nødvendige foranstaltninger for at sikre sikkerheden for den russiske befolkning og landets strategiske atomstyrker. Det Hvide Hus sagde, at det var yderst bekymret over den russiske krænkelse af en traktat, der forbyder mellemdistance-ballistiske missiler.

USA og Rusland har haft et uroligt forhold siden 2014, hvor Moskva annekterede Ukraines Krim-region og støttede separatister i det østlige Ukraine.

Den historie er faktisk ikke kun falsk, men et bekymrende eksempel på, hvor god AI bliver til at narre os.

Det er fordi det ikke er skrevet af en person; det blev automatisk genereret af en algoritme, der blev fodret med ordene, Rusland har erklæret krig mod USA efter Donald Trump ved et uheld …

Programmet lavede resten af ​​historien op af sig selv. Og det kan udgøre realistisk-tilsyneladende nyhedsrapporter om ethvert emne, du giver det. Programmet er udviklet af et team hos OpenAI, et forskningsinstitut med base i San Francisco.

Forskerne satte sig for at udvikle en generel sprogalgoritme, trænet på en stor mængde tekst fra nettet, som ville være i stand til at oversætte tekst, besvare spørgsmål og udføre andre nyttige opgaver. Men de blev hurtigt bekymrede over muligheden for misbrug. Vi begyndte at teste det, og opdagede hurtigt, at det er muligt at generere ondsindet indhold ganske nemt, siger Jack Clark, policy director hos OpenAI.

Clark siger, at programmet antyder, hvordan kunstig intelligens kan bruges til at automatisere genereringen af ​​overbevisende falske nyheder, opslag på sociale medier eller andet tekstindhold. Et sådant værktøj kunne udspy klimafornægtende nyhedsrapporter eller skandaløse afsløringer under et valg. Falske nyheder er allerede et problem, men hvis det var automatiseret, kunne det være sværere at tune ud. Måske kunne det optimeres til bestemte demografiske grupper - eller endda enkeltpersoner.

Clark siger, at det måske ikke varer længe, ​​før AI pålideligt kan producere falske historier, falske tweets eller dobbelte kommentarer, der er endnu mere overbevisende. Det er meget tydeligt, at hvis denne teknologi modnes - og jeg vil give den et eller to år - kan den bruges til desinformation eller propaganda, siger han. Vi forsøger at komme foran dette.

Sådan teknologi kan have gavnlige anvendelser, herunder opsummering af tekst eller forbedring af chatbots' samtaleevner. Clark siger, at han endda har brugt værktøjet til at generere passager i korte science fiction-historier med overraskende succes.

OpenAI laver grundlæggende AI-forskning, men spiller også en aktiv rolle i at fremhæve de potentielle risici ved kunstig intelligens. Organisationen var involveret i en rapport fra 2018 om risiciene ved AI, herunder muligheder for misinformation (se Disse er 'Black Mirror'-scenarier, der får nogle eksperter til at opfordre til hemmeligholdelse af AI).

OpenAI-algoritmen er ikke altid overbevisende for den kræsne læser. En stor del af tiden, når den får en prompt, producerer den overfladisk sammenhængende volapyk eller tekst, der tydeligvis ser ud til at være blevet skrevet fra online nyhedskilder.

Det er dog ofte bemærkelsesværdigt godt til at producere realistisk tekst, og det afspejler de seneste fremskridt i at anvende maskinlæring på sprog.

OpenAI stillede tekstgenereringsværktøjet til rådighed for MIT Technology Review for at teste, men vil på grund af bekymringer om, hvordan teknologien kan blive misbrugt, kun gøre en forenklet version offentligt tilgængelig. Instituttet udgiver et forskningspapir, der beskriver arbejdet.

Fremskridt inden for kunstig intelligens hjælper gradvist maskiner med at få et bedre greb om sproget. Det seneste arbejde har gjort fremskridt ved at tilføre generelle maskinlæringsalgoritmer meget store mængder tekst. OpenAI-programmet tager dette til et nyt niveau: Systemet blev fodret med 45 millioner sider fra nettet, valgt via hjemmesiden Reddit. Og i modsætning til de fleste sprogalgoritmer, kræver OpenAI-programmet ikke mærket eller kurateret tekst. Den lærer simpelthen at genkende mønstre i de data, den fødes.

Richard Socher , en ekspert i behandling af naturligt sprog og chefforsker hos Salesforce, siger, at OpenAI-arbejdet er et godt eksempel på et sprogindlæringssystem til mere generelle formål. Jeg tror, ​​disse generelle læringssystemer er fremtiden, skrev han i en e-mail.

På den anden side er Socher mindre bekymret over potentialet for bedrag og misinformation. Du behøver ikke AI for at skabe falske nyheder, siger han. Folk kan sagtens gøre det :)

skjule