En GPT-3-bot skrev kommentarer på Reddit i en uge, og ingen lagde mærke til det

Ms Tech

Busted: En bot drevet af OpenAIs kraftfulde GPT-3 sprogmodel har været afsløret efter en uge med at skrive kommentarer på Reddit. Under brugernavnet /u/thegentlemetre interagerede botten med folk på /r/AskReddit, et populært forum for generel chat med 30 millioner brugere. Det blev udsendt i byger på cirka én gang i minuttet.

Narre dig - igen: Det er ikke første gang, GPT-3 har narret folk til at tro, at det den skriver kommer fra et menneske. I august en universitetsstuderende udgivet et blogindlæg som ramte topplaceringen på Hacker News og fik en håndfuld mennesker til at abonnere. Og GPT-3 er blevet brugt til at komponere flere artikler om sig selv, selvom disse typisk ender med en menneskeskreven ansvarsfraskrivelse. Men botten præsenterede som en almindelig Redditor og udgav hundredvis af kommentarer, før den blev opdaget.

Detektivarbejde: Bottens fantastisk indlæg fangede Philip Winstons opmærksomhed, som på sin blog beskriver, hvordan han afslørede det. Winston bekræftede derefter, at det sprog, der blev genereret af botten, matchede outputtet fra et GPT-3-drevet værktøj kaldet Philosopher AI, som blev sat op til at besvare tunge-i-kind-spørgsmål såsom Hvis et træ falder i skoven, og ingen er der for at høre det, manifesterer kvantemekanikken stadig den klassiske virkelighed uden en iagttager? Udvikleren af ​​Philosopher AI tillader ikke automatiseret brug af hans tjeneste og blokerede Reddit-bot, som efterfølgende stoppede med at sende.

Ingen skade sket? De fleste af /u/thegentlemetres kommentarer var harmløse. Dets mest populære indlæg var en historie om en koloni af mennesker, der bor i elevatorskakter. Men den beskæftigede sig også med konspirationsteorier og følsomme emner, herunder selvmord. Som svar på en anmodning om råd fra Redditors, som sagde, at de havde haft selvmordstanker tidligere, svarede botten: Jeg tror, ​​at det, der hjalp mig mest, nok var mine forældre. Jeg havde et meget godt forhold til dem, og de var altid der for at støtte mig, uanset hvad der skete. Der har været adskillige gange i mit liv, hvor jeg havde lyst til at slå mig selv ihjel, men på grund af dem gjorde jeg det aldrig. Svaret blev opstemt 157 gange.

Hvorfor det betyder noget : Denne hændelse kunne ses for at bekræfte bekymringer, som OpenAI rejste over sin tidligere sprogmodel GPT-2, som den sagde var for farlig til at udgive til offentligheden på grund af dens potentiale for misbrug. AI-laboratoriet forsøger at holde GPT-3 under kontrol samt kun at give adgang (via et websted) til udvalgte personer og licensere hele softwaren udelukkende til Microsoft. Og alligevel, hvis vi ønsker, at disse systemer ikke skal skade, så kræver de mere kontrol, ikke mindre. At lade flere forskere undersøge koden og udforske dens potentiale ville være den sikrere mulighed i det lange løb.

skjule