En indisk politiker bruger deepfake-teknologi til at vinde nye vælgere

Kategori: Kunstig intelligens Udsendt 19. feb

Nyhederne: En dyb falsk forfalskning af præsidenten for Indiens regerende Bharatiya Janata Party (BJP), Manoj Tiwari, gik viralt på WhatsApp i landet tidligere på måneden forud for valget til den lovgivende forsamling i Delhi, ifølge Vice . Det er første gang, et politisk parti noget sted har brugt en deepfake til kampagneformål. I den originale video taler Tiwari på engelsk, kritiserer sin politiske modstander Arvind Kejriwal og opfordrer vælgerne til at stemme på BJP. Den anden video er blevet manipuleret ved hjælp af deepfake-teknologi, så hans mund bevæger sig overbevisende, mens han taler på Haryanvi, den hindi-dialekt, der tales af BJP's målvælgere.

Formålet: BJP har indgået et samarbejde med det politiske kommunikationsfirma The Ideaz Factory for at skabe deepfakes, der lader det målrette mod vælgere på tværs af de over 20 forskellige sprog, der bruges i Indien. Partiet fortalte Vice, at Tiwari deepfake nåede omkring 15 millioner mennesker i 5.800 WhatsApp-grupper.

Forårsager alarm: Det er ikke første gang deepfakes dukker op under en politisk kampagne. For eksempel i december sidste år, forskere lavede en falsk video af de to kandidater i Storbritanniens folketingsvalg, der støtter hinanden. Det var dog ikke meningen, at det skulle påvirke afstemningen - blot for at øge bevidstheden om deepfake-teknologi. Denne sag i Indien ser ud til at være første gang, deepfakes er blevet brugt til en politisk kampagne. Den store risiko er, at vi når et punkt, hvor folk ikke længere kan stole på, hvad de ser eller hører. I det scenarie ville en video ikke engang skulle ændres digitalt, for at folk kunne fordømme den som falsk. Det er ikke svært at forestille sig den ætsende indvirkning, som ville have på et allerede skrøbeligt politisk landskab.

Tilmeld dig vores daglige nyhedsbrev The Download her for at få din dosis af de seneste must-read nyheder fra den nye teknologiske verden.