IA : Votre assistant vocal connaît-il votre vie privée ? Une expérience auprès du grand public

Les assistants vocaux font partie de notre quotidien. Qu’il s’agisse de trouver une information rapide, de demander la météo ou de gérer des tâches domestiques, ces dispositifs peuvent, sans que nous le réalisions, collecter des données personnelles sensibles : nos habitudes, nos contacts, voire des informations sur notre santé.

Pour sensibiliser le public à ces enjeux, la CNIL*, en partenariat avec la Fédération des centres sociaux de Vendée, a mené une expérience à La Roche-sur-Yon. Les équipes ont invité des passants à interagir avec un « assistant vocal » nommé Germain, présenté comme un outil d’intelligence artificielle.

Une expérience révélatrice

Les habitants, intrigués par Germain, ont posé des questions variées :

• Trouver le numéro d’une agence de voyages,
• Savoir comment arrêter de fumer,
• Découvrir des circuits de vélo,
• Se renseigner sur leurs examens.

Mais à la fin de l’échange, surprise : Germain n’était pas un véritable assistant vocal. Les passants avaient en réalité parlé avec un agent de la CNIL caché à proximité. Beaucoup ont été étonnés de réaliser la quantité d’informations personnelles qu’ils avaient partagées sans réfléchir.

« C’est vrai que je n’ai pas fait attention à tout ce que j’ai pu dire. C’était tellement pratique d’avoir une réponse immédiate ! »
— Témoignage d’une participante

Pourquoi partageons-nous autant ?

Les assistants vocaux sont conçus pour imiter une conversation humaine. Ce caractère intuitif et naturel peut inciter à partager des informations personnelles sans en mesurer les conséquences.

• Simplicité et spontanéité : Par habitude de politesse, on peut fournir des détails personnels, comme son prénom.
• Sentiment de contrôle : Comme on peut arrêter l’interaction à tout moment, cela renforce une impression de sécurité, parfois trompeuse.

« Quand l’IA m’a demandé mon prénom, j’ai répondu sans réfléchir. C’est comme si je parlais à une personne. »
— Témoignage d’un participant

Les 8 conseils pour protéger vos données avec un assistant vocal

1. Limitez vos réponses aux informations strictement nécessaires.
2. Réfléchissez à l’utilité réelle des informations demandées.
3. Ne partagez jamais vos coordonnées bancaires, mots de passe ou données sensibles.
4. Supprimez régulièrement vos historiques de données.
5. Posez des questions claires pour éviter les malentendus.
6. Choisissez des appareils permettant de désactiver l’analyse des données.
7. Consultez la politique de confidentialité pour exercer vos droits sur les données collectées.
8. Vérifiez les réponses obtenues grâce à d’autres sources en cas de doute.

Le fonctionnement d’un assistant vocal en 5 étapes

Pour mieux comprendre comment fonctionnent ces dispositifs :

1. Activation : L’assistant s’active avec un mot-clé. En principe, il n’écoute rien avant ce mot.
2. Reconnaissance : Certains modèles reconnaissent les utilisateurs via des échantillons de voix enregistrés (biométrie vocale).
3. Requête : L’utilisateur formule sa demande.
4. Analyse : L’assistant traduit la voix en texte, interprète la requête, puis fournit une réponse ou exécute une action.
5. Retour en veille : L’appareil cesse de fonctionner activement après avoir répondu.

Encadrement des données personnelles

Les données traitées par les assistants vocaux sont souvent transmises dans le cloud. Elles incluent :

• Historique des requêtes,
• Métadonnées (heure, nom de compte, etc.),
• Parfois, des données biométriques (soumises au consentement explicite selon le RGPD).

La CNIL collabore avec les fabricants pour garantir que les utilisateurs soient informés des données collectées, des usages qui en sont faits et des moyens à leur disposition pour les consulter, modifier ou supprimer.

IA ?
Un système d’intelligence artificielle (IA) est un programme informatique conçu pour analyser des données, identifier des modèles et fournir des résultats sous forme de prédictions, de recommandations ou de décisions. Ces systèmes, souvent automatisés, peuvent fonctionner avec différents niveaux d’autonomie et, dans certains cas, apprendre à partir des données pour s’adapter et améliorer leurs performances au fil du temps.
Par exemple, les filtres anti-spam analysent les contenus des e-mails pour distinguer les spams des messages légitimes, tandis que les systèmes de recommandation des plateformes de streaming suggèrent des contenus basés sur les préférences des utilisateurs. Les assistants virtuels, quant à eux, interprètent les commandes vocales et exécutent des tâches en fonction des préférences apprises. En médecine, des systèmes d’IA analysent des images médicales pour détecter des anomalies et aider les médecins dans leurs diagnostics.
Ces systèmes se caractérisent par leur capacité à automatiser des analyses, à détecter des motifs complexes et à générer des actions adaptées, influençant aussi bien les environnements numériques que physiques. Leur capacité d’apprentissage et d’adaptation les rend particulièrement efficaces dans de nombreux domaines du quotidien.

Sources : CNIL – APD

CNIL : Commission Nationale de l’Informatique et des Libertés en France, l’équivalent de l’APD (Autorité de protection des données) en Belgique