Et nyt værktøj bruger AI til at finde tekst skrevet af AI

Kategori: Kunstig intelligens Udsendt 26 jul

AI-algoritmer kan generere tekst, der er overbevisende nok til at narre det gennemsnitlige menneske – hvilket potentielt giver mulighed for at masseproducere falske nyheder, falske anmeldelser og falske sociale konti. Heldigvis kan AI nu også bruges til at identificere falsk tekst.

Nyhederne: Forskere fra Harvard Universitet og MIT-IBM Watson AI Lab har udviklet et nyt værktøj til at spotte tekst, der er genereret ved hjælp af AI. Kaldet Giant Language Model Test Room (GLTR), det udnytter det faktum, at AI-tekstgeneratorer er afhængige af statistiske mønstre i tekst, i modsætning til den faktiske betydning af ord og sætninger. Med andre ord kan værktøjet fortælle, om de ord, du læser, virker for forudsigelige til at være skrevet af en menneskelig hånd.

Konteksten: Misinformation automatiseres i stigende grad, og den teknologi, der kræves til at generere falsk tekst og billeder, udvikler sig hurtigt. AI-drevne værktøjer som dette kan blive værdifulde våben i kampen for at fange falske nyheder, deepfakes og twitter-bots.

Forfalske det: Forskere ved OpenAI demonstrerede for nylig en algoritme i stand til at opfinde overraskende realistiske passager . De fodrede enorme mængder tekst ind i en stor maskinlæringsmodel, som lærte at opfange statistiske mønstre i disse ord. Harvard-teamet udviklede deres værktøj ved hjælp af en version af OpenAI-koden, der blev udgivet offentligt.

Hvor forudsigeligt: GLTR fremhæver ord, der er statistisk sandsynligt, at de vises efter det foregående ord i teksten. Som vist i afsnittet ovenfor (fra uendelig er) , de mest forudsigelige ord er grønne; mindre forudsigelige er gule og røde; og mindst forudsigelige er lilla. Når den testes på uddrag af tekst skrevet af OpenAI's algoritme, finder den en masse forudsigelighed. Ægte nyhedsartikler og videnskabelige abstracts indeholder flere overraskelser.

Sind og maskine: Forskerne bag GLTR udførte også et andet eksperiment. De bad Harvard-studerende om at identificere AI-genereret tekst - først uden værktøjet og derefter ved hjælp af dets fremhævning. Eleverne kunne kun se halvdelen af ​​alle forfalskninger på egen hånd, men 72 %, når de fik værktøjet. Vores mål er at skabe menneskelige og AI-samarbejdssystemer, siger Sebastian Gehrmann, en ph.d.-studerende involveret i arbejdet.

Hvis du er interesseret, kan du prøv det selv .