01 Le problème
La vidéo faisait office de preuve. Elle ne suffit plus à elle seule.
Pendant près d’un siècle, une vidéo montrant quelqu’un dire ou faire quelque chose valait presque preuve que cela s’était produit. L’IA générative a discrètement supprimé cette certitude. Il est désormais possible de produire des images d’une personne réelle, son visage, sa voix et ses manières, prononçant des mots qu’elle n’a jamais dits, avec une qualité qu’un spectateur attentif ne peut remettre en cause de façon fiable.
La tâche sur laquelle nous travaillons est l’inverse de la génération : à partir d’une vidéo, déterminer si une machine a participé à sa fabrication. Un extrait de synthèse n’est jamais une copie parfaite de la réalité : le procédé qui le crée laisse des traces ténues et systématiques. Détecter, c’est retrouver ces traces de façon fiable, même lorsqu’elles sont subtiles, même sur des images compressées et repartagées, et même quand l’outil qui les a produites n’existait pas le mois dernier.
02 Pourquoi cela compte
Quand tout peut être truqué, c’est la confiance elle-même qui devient la cible
Les dommages ne sont plus hypothétiques. La vidéo de synthèse soutire déjà de l’argent à des entreprises, usurpe l’identité de dirigeants et de personnalités publiques et instille le doute dans les élections. Et il existe un coût de second ordre : une fois que l’on sait qu’une vidéo peut être truquée, l’authentique peut aussi être balayé comme un faux. Une société incapable de s’accorder sur ce qui est réel est facile à manipuler. Une détection fiable participe à préserver la fiabilité du récit public.
Économique
La fraude par usurpation passe à l’échelle dès qu’un visage et une voix peuvent être synthétisés à la demande. La détection est un garde-fou qui protège les paiements, les contrats et la vérification d’identité.
Démocratique
Un seul faux convaincant au mauvais moment peut faire basculer un électorat. Savoir signaler rapidement un contenu manipulé fait désormais partie de l’intégrité du débat public.
Institutionnel
Tribunaux, rédactions et administrations doivent de plus en plus répondre à une question à propos d’un fichier : a-t-il été produit par une caméra ou par un modèle ? Cette question appelle une réponse technique et défendable.
03 Pourquoi cela est difficile
Ce que vous cherchez à détecter est conçu pour être indétectable
La détection de deepfakes est un problème antagoniste : chaque progrès de la génération est, par définition, une tentative d’effacer les traces sur lesquelles s’appuient les détecteurs. Une méthode qui fonctionne aujourd’hui peut cesser de fonctionner sans bruit lorsqu’un nouveau générateur apparaît, et l’échec est silencieux : le détecteur continue de rendre des réponses assurées, désormais fausses.
Une cible mouvante
Les générateurs sont passés d’une famille de techniques à une autre en quelques années. Chaque génération laisse des empreintes différentes, si bien qu’un détecteur d’hier n’est pas assuré de reconnaître le faux de demain.
Généraliser à l’inconnu
Le générateur employé dans une vraie attaque est généralement un générateur sur lequel le détecteur n’a jamais été entraîné. Bien performer sur des faux connus est facile. Bien performer sur des faux inconnus est le véritable problème de recherche.
La compression efface les indices
Une vraie vidéo est ré-encodée à chaque mise en ligne et chaque partage. Cette compression gomme précisément le détail fin qu’un détecteur cherche à lire, si bien qu’il doit résister à la qualité imparfaite des vidéos du monde réel.
La pression antagoniste
Un attaquant qui sait qu’un détecteur existe peut ajuster un faux spécifiquement pour passer au travers. La robustesse doit tenir face à quelqu’un qui cherche activement à la déjouer, pas seulement face à un contenu ordinaire.
Le coût de l’erreur
Qualifier de faux une vraie séquence est aussi dommageable que de manquer un faux. Un détecteur utilisable doit être honnête sur sa propre incertitude, et pas seulement rendre un verdict.
La rapidité à grande échelle
Le volume de contenus à vérifier est énorme et arrive vite. Une détection qui ne fonctionne qu’en laboratoire, lentement, n’aide ni la rédaction ni le service anti-fraude qui a besoin d’une réponse maintenant.