Förbättring av kvaliten på "adversarial examples" i ljuddomänen

Sammanfattning: Syftet med denna studie är att skapa "adversarial exemples" för en tal till text klassificerande modell utan tillgång till den interna strukturen i det neurala nätverk. Tidigare arbete på det här området har visat att "white-box" attacker fungerar, som genererar "adversarial exemples" med mycket hög likhet till originella ljudet och mer bullriga "adversarial exemples" som genereras av "black-box" attacker där dom inte har tillgång till den interna strukturen på det neurala nätverket. Genom att använda en algoritm som iterativt applicerar ljud till ljudfilen och väljer de bästa kandidaterna baserat på utgångsskiktet i det neurala nätverket har vi lyckats skapa nytt ljud som är 98 % likt originalet men lyckas lura tal till text ljud klassificeraren. Genom att utvärdera de genererade kandidaterna baserat på olika likhetsåtgärder mellan den föreslagna kandidaten och den ursprungliga ljudfilen lyckades vi skapa högkvalitativa "black-box adversarial exemples" med hjälp av genetiska algoritmer.