Et universitetsbarns falske, AI-genererede blog narre titusinder. Sådan lavede han det.

Fru Tech | Getty

I starten af ​​ugen havde Liam Porr kun hørt om GPT-3. Til sidst havde universitetsstuderende brugt AI-modellen til at producere en fuldstændig falsk blog under et falsk navn.

Det var ment som et sjovt eksperiment. Men så nåede et af hans indlæg nummer et på Hacker News. Få mennesker lagde mærke til, at hans blog var fuldstændig AI-genereret. Nogle trykker endda på Abonner.

Mens mange har spekuleret i, hvordan GPT-3, det mest kraftfulde sproggenererende AI-værktøj til dato, kunne påvirke indholdsproduktionen, er dette et af de eneste kendte tilfælde, der illustrerer potentialet. Hvad der skilte sig mest ud ved oplevelsen, siger Porr, der studerer datalogi ved University of California, Berkeley: Det var faktisk super nemt, hvilket var den skræmmende del.

GPT-3 er OpenAI's seneste og største sprog AI model, som det San Francisco-baserede forskningslaboratorium begyndte at dryppe ud i midten af ​​juli. I februar sidste år skabte OpenAI overskrifter med GPT-2, en tidligere version af algoritmen, som den annoncerede, at den ville tilbageholde af frygt for at det ville blive misbrugt. Beslutningen udløste straks en modreaktion, da forskere anklagede laboratoriet for at lave et stunt. I november havde laboratoriet vendt position og udgav modellen , og sagde, at det ikke havde opdaget nogen stærke beviser for misbrug indtil videre.

Laboratoriet tog en anden tilgang med GPT-3; den hverken tilbageholdt den eller gav offentlig adgang. I stedet gav det algoritmen til at udvælge forskere, der ansøgte om en privat beta, med det mål at indsamle deres feedback og kommercialisere teknologien inden årets udgang.

Porr indsendte en ansøgning. Han udfyldte en formular med et simpelt spørgeskema om hans påtænkte brug. Men han ventede heller ikke. Efter at have nået ud til flere medlemmer af Berkeley AI-fællesskabet fandt han hurtigt en ph.d.-studerende, som allerede havde adgang. Da den studerende gik med til at samarbejde, skrev Porr et lille manuskript, som han kunne køre. Det gav GPT-3 overskriften og introduktionen til et blogindlæg og fik den til at spytte flere færdige versioner ud. Porrs første indlæg (det, der blev kortlagt på Hacker News), og hvert indlæg efter, blev kopieret og indsat fra et af udgangene med ringe eller ingen redigering.

Fra jeg tænkte på ideen og kom i kontakt med den ph.d.-studerende, til jeg faktisk lavede bloggen og den første blog gik viralt – tog det måske et par timer, siger han.

Porrs falske blogindlæg, skrevet under det falske navn 'adolos', når #1 på Hacker News. Porr siger, at han brugte tre separate konti til at indsende og opstemme sine indlæg på Hacker News i et forsøg på at presse dem højere. Administratoren sagde, at denne strategi ikke virker, men hans click-baity-overskrifter gjorde det.

SCREENSHOT / LIAM PORR

Tricket til at generere indhold uden behov for meget redigering var at forstå GPT-3s styrker og svagheder. Den er ret god til at lave smukt sprog, og den er ikke særlig god til at være logisk og rationel, siger Porr. Så han valgte en populær blogkategori, der ikke kræver streng logik: produktivitet og selvhjælp.

Derfra skrev han sine overskrifter efter en simpel formel: han scrollede rundt på Medium og Hacker News for at se, hvad der præsterede i disse kategorier og sammensatte noget, der var relativt ens. Føler du dig uproduktiv? Måske skulle du lade være med at overtænke, skrev han til en. Dristighed og kreativitet overtrumfer intelligens, skrev han for en anden. Nogle få gange lykkedes det ikke med overskrifterne. Men så længe han holdt sig til de rigtige emner, var processen let.

Efter to uger med næsten daglige indlæg, pensionerede han projektet med en sidste, kryptisk, selvskrevet besked . Med titlen Hvad jeg ville gøre med GPT-3, hvis jeg ikke havde nogen etik, beskrev den hans proces som en hypotetisk. Samme dag postede han også et mere ligefrem tilståelse på hans rigtige blog.

De få mennesker, der blev mistænksomme over for Porrs falske blog, blev nedstemt af andre medlemmer i fællesskabet.

SCREENSHOT / LIAM PORR

Porr siger, at han ønskede at bevise, at GPT-3 kunne udgives som en menneskelig forfatter. På trods af algoritmens noget mærkelige skrivemønster og lejlighedsvise fejl, rejste kun tre eller fire af de snesevis af mennesker, der kommenterede hans topindlæg på Hacker News, mistanke om, at det kunne være blevet genereret af en algoritme. Alle disse kommentarer blev øjeblikkeligt nedstemt af andre fællesskabsmedlemmer.

For eksperter har dette længe været den bekymring, som sådanne sproggenererende algoritmer har givet anledning til. Lige siden OpenAI første gang annoncerede GPT-2, har folk spekuleret i, at det var sårbart over for misbrug. I sit eget blogindlæg fokuserede laboratoriet på AI-værktøjets potentiale til at blive bevæbnet som en masseproducent af misinformation . Andre har spekuleret på, om det kunne bruges til at løbe ud spam indlæg fuld af relevante søgeord til spil Google.

Porr siger, at hans eksperiment også viser et mere banalt, men stadig bekymrende alternativ: folk kunne bruge værktøjet til at generere en masse clickbait-indhold. Det er muligt, at der bare vil være en strøm af middelmådigt blogindhold, for nu er adgangsbarrieren så let, siger han. Jeg tror, ​​at værdien af ​​onlineindhold vil blive reduceret meget.

Porr planlægger at lave flere eksperimenter med GPT-3. Men han venter stadig på at få adgang fra OpenAI. Det er muligt, at de er kede af, at jeg gjorde det her, siger han. Jeg mener, det er lidt fjollet.

Opdatering: Yderligere detaljer er blevet tilføjet til teksten og billedteksterne for at forklare, hvordan Liam Porr oprettede sin blog og fik den til toppen af ​​Hacker News.

skjule