RADIO J. La lutte contre les « deepfake » anti-Israël. Comment distinguer le vrai de l’Intelligence Artificielle ? Des startups israéliennes se sont lancées dans la mise au point de technologies de lutte contre la désinformation.
Ce lundi à 7H05, notre chronique HighTech.
Bonjour Nicolas, Bonjour Greg,
Une chronique de Dr Daniel Rouach.
LUTTER CONTRE LES FAKE NEWS. C’est un fait, et une urgence. Les militaires israéliens sont mobilisés sur le champ de bataille numérique. Des informations trompeuses envahissent les réseaux sociaux. Et l’image d’Israël est écornée. Tsahal est obligé de réagir. En effet, les technologies « deepfake » sont utilisées pour diffuser de manière massive de fausses informations contre Israël.
L’utilisation de l’intelligence artificielle, de l’apprentissage automatique et des technologies « deepfake » pour diffuser des informations trompeuses et créer du contenu manipulateur est devenue trop courante.
Après les fausses informations diffusées sur les réseaux sociaux, ce sont maintenant des contenus, images et vidéos intégralement créés par intelligence artificielle générative qui font chuter les marchés boursiers, influencent les élections et ruinent des réputations. On parle de deepfakes. Durant la guerre Israël-Hamas le nombre de deepfakes progresse de manière spectaculaire. Pour limiter les dégâts, des chercheurs israéliens et des startups se sont lancés dans une course au développement d’outils capables de les détecter.
STARTUP ISRAELIENNES.
La startup Cyabra. « Nous analysons les milliards de conversations qui ont lieu en ligne et sur les réseaux sociaux, comprenons les récits et détectons les campagnes de désinformation.
Notre technologie expose les acteurs malveillants, la désinformation, les réseaux de robots ainsi que les textes et images GenAI ». Cyabra a découvert récemment un réseau de robots de plus de 40 000 faux profils qui diffusent activement de la propagande pro-Hamas et de fausses nouvelles ».
Cyabra a détecté que 25 % des profils participant aux conversations sur la guerre Hamas-Israël au cours des deux premiers jours de la guerre étaient faux. Cyabra est spécialisée dans la conception d’outils d’aide à la décision qui mesurent entre autres l’authenticité et l’impact des conversations en ligne et détecte et analyse les fausses informations et leurs auteurs. Cyabra révolutionne l’analyse du web et des réseaux sociaux.
En trois ans, Cyabra a levé plus de $11 millions et compte parmi ses clients de nombreuses organisations publiques et privées aux quatre coins du globe. Cyabra a levé des millions de $ auprès la branche d’investissement de l’Université de Tel Aviv, TAU Ventures.
LE PLUS. « Cyabra est une société de veille sur les menaces provenant des réseaux sociaux qui constituent un nouveau terrain d’attaque et l’espace qui connait une forte progression en matière d’activités criminelles.
Cyabra identifie les menaces, fournit des informations exploitables, des alertes en temps réel et protège les entreprises, les produits et les personnes. Cette technologie met en évidence la désinformation et neutralise les acteurs malveillants et les réseaux de machines nuisibles. L’éditeur analyse les milliards de conversations en ligne et sur les réseaux sociaux, appréhende les diverses communications et identifie des campagnes de désinformation ».
Israël dénombre plus de 6 000 startups, au moins 70 sociétés de capital-risque (dont Jerusalem Venture Partners, Pitango, Greenfield Cities Holdings, Pontifax Funds, Fortissimo Capital, Magma, Vertex, iAngels…), près de 80 accélérateurs, 55 espaces de coworking et une centaine de centres de R&D. Il est clair que le domaine de la lutte anti-fake news est devenu un nouvel axe de développement de l’industrie hightech israélienne.
La vitesse et la facilité avec lesquelles des volumes considérables de contenus fallacieux (mais extrêmement convaincants) peuvent être dorénavant produits et diffusés – associées à un manque de sensibilisation du grand public – constituent une menace grandissante. Des dizaines d’outils sont désormais disponibles, permettant à l’internaute lambda de générer artificiellement n’importe quel contenu ou presque, à n’importe quelle fin. Les deepfakes vidéo peuvent même être générés en temps réel, au cours d’une visioconférence, par exemple.
CONCLUSION. Une estimation : 90 % des contenus d’Internet pourraient être créés artificiellement d’ici quelques années. Les moteurs de recherche et les réseaux sociaux ne feront qu’amplifier la désinformation.
Une image générée par l’IA d’une explosion au Pentagone s’est ainsi propagée comme une traînée de poudre en mai 2023, créant un trou d’air sur le marché boursier.
Dans ce contexte, les startups israéliennes sont en train d’inventer des parades technologiques : le marquage des contenus authentiques ou de synthèse au moment de leur création et l’utilisation de détecteurs d’IA pour repérer les faux après publication.
