Mon patron est une IA, première partie

Vous vous souvenez peut-être de Madame Tang Yu, le robot humanoïde devenu dirigeant d’une entreprise cotée en Chine. L’épisode a montré qu’une intelligence artificielle pouvait occuper un rôle de décision. Ce n’est pourtant pas le sujet qui doit vous occuper aujourd’hui. Le sujet, c’est le clonage de voix.

Cloner une voix est devenu trivial

La vidéo J’ai fait une IA du Président Emmanuel Macron montre qu’un modèle de voix synthétique se construit pour moins de cent euros. L’auteur y imite la voix du président de la République avec des outils grand public.

La conséquence est directe : plus aucune barrière technologique ne sépare un criminel de la voix de votre dirigeant. Il faut anticiper que des modèles de clonage se vendent sur les marchés clandestins, comme s’y vendent déjà les accès et les bases de données.

Une prise de parole publique suffit à fournir la matière : un podcast, une visioconférence, une assemblée générale.

Ce que cela fait aux formations de sensibilisation

Les formations génériques en cybersécurité reposent sur un présupposé : le faux comporte un défaut repérable. Une faute d’orthographe, une intonation étrange, une formulation inhabituelle. Ce présupposé tenait tant que les attaquants travaillaient vite et mal.

Il ne tient plus. Une défense qui demande à un collaborateur de reconnaître une fausse voix à l’oreille lui confie une tâche qu’aucun humain n’accomplit de façon fiable. Les tentatives de fraude par usurpation deviennent plus sophistiquées, et les méthodes de prévention fondées sur la vigilance ne suivent pas.

Déplacer la question

Sealfie pose une autre question que « cette voix est-elle authentique ». Elle vérifie que la personne qui demande est bien celle qu’elle prétend être, par des sources que l’attaquant ne peut pas falsifier simultanément : le téléphone du demandeur réel, son opérateur mobile, l’élément sécurisé de son appareil.

Chaque vérification est scellée dans un journal horodaté. L’entreprise conserve des traces irréfutables de ce qui a été vérifié, et à quel moment.