« Ok Google, parle-moi du livre blanc publié par la CNIL sur les assistants vocaux »

Le 7 septembre dernier, la CNIL a publié un livre blanc sur les assistants vocaux. Son objectif ? Analyser les différents enjeux techniques, éthiques et juridiques. La CNIL a également voulu présenter ses conseils à destination tant des utilisateurs que des concepteurs.

Source : Pixabay

L'histoire des assistants vocaux commence avec la première machine mécanique permettant la synthèse vocale réalisée par Wolfgang von Kemplen en 1789. Toutefois, c'est bien Watson d'IBM (2010) et surtout Siri d'Apple (2011) ou encore Alexa d'Amazon (2014) qui se rapprochent de ce que nous connaissons aujourd'hui.

Ces derniers se sont tout d'abord imposés dans notre vie privée dans des objets connectés (enceintes, smartphones...). A partir de 2018, Google Assistant a commencé à être intégré dans les voitures Renault, Nissan et Mitsubishi.

Ces dernières années, les assistants vocaux investissent progressivement la sphère professionnelle. Récemment, Carrefour s'est intéressé à Google Assistant pour l'intégrer dans l'activité de courses.

Bientôt, il sera possible de reconstruire la voix par des synthèses vocales ou encore de l'utiliser pour détecter les mensonges ou évaluer la sincérité.

Mais pourquoi la CNIL s'intéresse-t-elle aux assistants vocaux ?

En réalité, on ne se rend pas bien compte de tout ce que l'on peut faire en maîtrisant "la voix".

Les plus grandes entreprises comme les GAFA (Google, Amazon, Facebook, Apple) ou les BATX (Baidu, Alibaba, Tencent et Xiaomi) l'ont bien compris et convoitent ce marché. Les assistants vocaux occupent donc de plus en plus de place dans notre quotidien et il est probable que bientôt toutes les commandes se fassent de manière vocale.

Bien évidemment, ces entreprises sont tout d'abord intéressées par le sens des mots prononcés. Ces derniers peuvent par exemple être réutilisés pour mieux connaître les goûts des utilisateurs et leur envoyer de la publicité ciblée.

La collecte de ces informations n'est toutefois pas sans risques. L'application Tik Tok, téléchargeable sur Smartphone, est par exemple soupçonnée d'espionner par enregistrement des conversations des utilisateurs, à leur insu.

Les assistants vocaux qui, en plus d'être les meilleurs témoins de nos habitudes quotidiennes, peuvent également collecter des bribes de nos conversations privées, et pourquoi pas des informations confidentielles.

Toutefois, bien qu'on nous rappelle que leur écoute ne soit pas récurrente, il est possible de constater des fuites. Selon la CNIL "s’il n’y a pas a priori de volonté d’écoute en permanence de la part des fournisseurs d’assistants vocaux, la nature intrinsèquement statistique de la détection du mot-clé rend bien réel le risque de fausse activation".

Enfin, le risque de piratage des assistants vocaux et l'utilisation de ces données à des fins malveillantes reste réel.

La voix peut également être utilisée pour usurper une identité dans l'objectif de tromper ou frauder. C'est par exemple le cas du deepfake, qui est une technique basée sur l'intelligence artificielle. Grâce à certains logiciels accessibles sur internet, il est ainsi possible de superposer des fichiers audios et vidéos sur d'autres vidéos. Donc, la synthèse vocale peut être utilisée pour faire dire ce que l'on souhaite à d'autres personnes.

https://www.youtube.com/watch?v=dw6Zj2FDuzA

De plus, les concepteurs peuvent collecter des éléments "paralinguistiques" et les interpréter pour relever de nouvelles données sur les utilisateurs. En effet, nos silences, l'intonation ou les termes utilisés, notre accent, ou encore nos expressions faciales peuvent donner des informations sur :

- notre âge et sexe

- notre condition physique et état de santé

- notre état émotionnel

- nos origines géographiques ou niveau d'éducation

Les concepteurs peuvent donc se servir de ces données pour compléter les profils des utilisateurs. Dans un futur proche, les assistants pourraient également mieux analyser les bruits ambiants. Par exemple, ils pourraient déterminer la chaîne de télévision la plus souvent regardée par l'utilisateur ou encore détecter la présence d'enfants en bas âge.

L'ensemble de ces éléments conduit la CNIL à conclure que la voix est une "donnée intime" et donc ''personnelle" qui permet l'identification directe ou indirecte de son émetteur. C'est pourquoi, elle entre dans le champ d'application du Règlement général sur la protection des données (RGPD). Ainsi, les assistants vocaux doivent appliquer les grands principes du RGPD dès leur conception (Privacy by design) et par défaut (Privacy by default), tout en respectant les droits des personnes et veillant à la sécurité des données.

Compte tenu des différents risques éthiques, juridiques et techniques, mais aussi des risques de violation de la vie privée et de l'utilisation des données à des fins malveillantes par les entreprises, les individus ou les États, il est donc important d'encadrer la conception et l'utilisation des assistants vocaux.

La CNIL s'est également intéressée aux autres enjeux des assistants vocaux :

- enjeux environnementaux : il a été prouvé (projet ANR DAPCODS/IOTics) que la conception et l'utilisation d'enceintes sont beaucoup plus polluantes que pour d'autres objets connectés sans assistance vocale. Il est donc essentiel de mettre en place une production et une utilisation d'enceintes respectueuses de l'environnement.

- enjeux économiques : l'objectif est de maintenir une juste concurrence sur le marché des assistants vocaux, en permettant le développement de petits concurrents et éviter les potentiels abus de position dominante des GAFA américains ou BATX chinois.

La CNIL conclue son livre blanc en donnant plusieurs conseils et bonnes pratiques aux concepteurs des assistants vocaux (page 66), aux développeurs d'applications (page 74), aux intégrateurs d'assistants vocaux (page 76), aux organismes souhaitant les déployer (page 78) et enfin aux utilisateurs (page 82).

Source : Livre blanc "A votre écoute" de la CNIL