Séminaire de Thomas Thebaud, chercheur à CLSP, Université Johns Hopkins

Date: 18/12/2024
Heure : 13h30
Lieu : IC2, Salle des conseils
Intervenant : Thomas Thébaud
 
 

Les limites des systèmes vocaux : Naviguer entre les menaces adverses et les menaces d’empoisonnement avec des défenses robustes

Résumé:

L’adoption généralisée d’appareils à commande vocale et de systèmes de reconnaissance vocale souligne le besoin critique de mesures de sécurité robustes pour garantir leur fiabilité. Ces systèmes sont de plus en plus menacés par des attaques adverses et des attaques par empoisonnement, qui exploitent les vulnérabilités pour dégrader les performances ou manipuler les résultats.

Cet exposé explore le paysage évolutif des attaques adverses contre les systèmes vocaux, en se concentrant sur leur détection et leur classification afin de souligner leurs caractéristiques et leurs impacts. Nous étudions également les attaques par empoisonnement d’étiquettes sales et propres, où des données malveillantes sont introduites furtivement dans les ensembles de données d’apprentissage, compromettant ainsi l’intégrité du système. Enfin, nous présentons une série de mécanismes de défense conçus pour contrecarrer les attaques par empoisonnement, améliorant ainsi la résilience et la fiabilité des technologies de reconnaissance vocale.