Mon patron est une IA, deuxième partie

La première partie portait sur le clonage de voix et sur ce qu’il fait aux défenses fondées sur la vigilance humaine. Cette deuxième partie suit l’autre canal : l’accès aux courriels d’un dirigeant et l’imitation de son style d’écriture.

Comment un attaquant accède à la messagerie d’un dirigeant

Par hameçonnage, le plus souvent. Un courriel qui paraît provenir d’une source légitime conduit le destinataire à livrer un mot de passe. L’accès obtenu, l’attaquant dispose alors d’autre chose que d’une boîte aux lettres : d’un corpus de texte écrit par une personne précise, sur des années.

Ce corpus sert à entraîner un modèle

Un modèle de langage apprend à reproduire une manière d’écrire à partir des textes qu’on lui donne. Tournures, longueur des phrases, formules d’ouverture et de clôture, degré de familiarité avec chaque interlocuteur : tout cela se trouve dans les courriels archivés.

L’attaquant produit alors des messages qui semblent écrits par le dirigeant. Les criminels disposent même d’outils dédiés, à l’image de WormGPT, présenté à l’été 2023 comme un modèle sans garde-fous, destiné entre autres à la fraude au virement.

Pourquoi les recommandations standard ne suffisent plus

Les agences de cybersécurité, l’ANSSI en France, recommandent de vérifier l’adresse de l’expéditeur et de se méfier des pièces jointes inhabituelles. Ces conseils restent valables, mais ils visaient un attaquant qui laissait des traces dans le texte.

Un message produit par un modèle entraîné sur les courriels du dirigeant n’a ni faute, ni maladresse, ni formule étrangère à ses habitudes. Il arrive depuis une adresse légitime, puisque la boîte est compromise. Chercher l’anomalie revient à chercher ce que l’outil a précisément appris à ne pas produire.

Vérifier la personne plutôt que le message

Il reste un élément que l’attaquant ne contrôle pas : le demandeur lui-même. Sealfie sollicite le vrai décideur sur son propre téléphone au moment de la demande, recoupe des sources indépendantes, et scelle le résultat dans un journal horodaté.

La friction ajoutée est faible, et elle remplace souvent des procédures lourdes appliquées de façon inégale, en particulier pendant les congés ou dans l’urgence.