Et nyt trick kan forfalske en talegenkendelse AI hver gang

Kategori: Kunstig intelligens Udsendt 10 jan

Givet en lydbølgeform kan forskere nu producere en næsten identisk version, der får talegenkendelsessoftware til at transkribere noget helt andet.

Baghistorie: Modstridende eksempler har narret masser af computervisionsalgoritmer. Mens alle neurale netværk er modtagelige for sådanne angreb, har forskere haft mindre succes med lyd. Tidligere angreb var kun i stand til at foretage subtile justeringer af, hvad softwaren hører.

Hvad er nyt: Berkeley-forskere viste at de kan tage en bølgeform og tilføje et lag af støj, der narrer DeepSpeech, en state-of-the-art tale-til-tekst AI, hver gang. Teknikken kan få musik til at lyde som vilkårlig tale for AI'en eller obskure stemmer, så de ikke bliver transskriberet.

Bøjle for irritation: Forestil dig at afspille en musikvideo fra YouTube på dine højttalere og få Alexa til at høre en ordre til to tons flødemajs . Velkommen til AI-angrebshelvede.