Lorsque le personnel de CBS News à Manhattan a passé au crible 1 000 vidéos soumises par des personnes censées être sur le terrain en Israël ou à Gaza la semaine dernière, seuls 10 % des soumissions ont été jugées utilisables.
Certaines des 900 vidéos rejetées par l’équipe de CBS ont été produites par ce que l’on appelle « deepfakes », de faux contenus qui sont rendus profondément crédibles par l’intelligence artificielle (IA). Cette technologie a fait les gros titres cette année pour sa capacité à faire croire à des personnes qu’elles ont dit quelque chose qu’elles n’ont pas dit.
La PDG Wendy McMahon a déclaré dans un communiqué que CBS « développait discrètement » des capacités pour faire face à la pandémie de deepfakes, ajoutant que certains créateurs de deepfakes le font à des fins de « désinformation ».
Alors que l’armée israélienne se prépare à entrer dans la bande de Gaza, le cyber-espace sera à nouveau un champ de bataille clé pour la prise de décision en temps réel et l’opinion publique. Cette fois, et ce n’était pas le cas lors des précédents conflits d’Israël contre les terroristes du Hamas à Gaza, les deepfakes sont une réelle menace.
Pour se faire une idée de la question, le Times of Israel s’est entretenu avec Michael Matias, PDG de Clarity. La start-up a été fondée il y a un an pour relever le défi du deepfake en développant un « AI Collective Intelligence Engine » destiné à être utilisé dans le monde entier. Selon Matias, cette ligne de combat ne doit pas être sous-estimée.
« Une super-évolution spectaculaire de la désinformation est en train de nous prendre d’assaut et, surtout en temps de guerre, elle a un impact dramatique », a déclaré Matias.
« Les plateformes en ligne et les éditeurs ne sont pas équipés pour y faire face, car ils utilisent des techniques de modération traditionnelles, principalement des modérateurs humains », a ajouté Matias.
Il s’est entretenu avec le Times of Israel jeudi soir, alors qu’il s’apprêtait à prendre l’avion pour Israël depuis New York. Pour Matias, cette guerre est profondément personnelle. Parmi les plus de 1 400 personnes assassinées lors des massacres perpétrés par le groupe terroriste palestinien du Hamas le week-end dernier se trouvaient plusieurs de ses amis et de ceux de ses collègues qui participaient au festival Supernova. De même, les trois frères de sa compagne sont actuellement déployés au combat dans une unité d’élite.
Une menace discrète.
Les deepfakes font les gros titres depuis moins d’un an, ce qui explique la confusion qui règne encore dans le public au sujet de la technologie générée par l’IA et de la manière dont elle peut être utilisée par des acteurs malveillants, a déclaré Matias.
« Les deepfakes sont des usurpations d’identité où l’on prend l’identité de quelqu’un et on lui fait faire des choses ou dire des choses qu’il n’a pas dites ou faites », a expliqué Matias, qui a cité comme exemple de la menace générée par l’IA une récente deepfake vidéo du président ukrainien exhortant les troupes à déposer les armes.
TIMES OF ISRAEL.
