Notre engagement à protéger nos clients est inébranlable. Nous utilisons l'IA pour détecter de manière proactive les menaces et les escroqueries, ainsi que pour alerter nos clients des risques potentiels et de la désinformation. Ce faisant, nous exploitons l'IA de manière responsable, conformément aux engagements volontaires de la Maison-Blanche en matière d'IA et à d'autres initiatives mondiales en matière de sécurité de l'IA.
Partenariat pour des pratiques d'IA responsables
En 2024, nous avons rejoint des entreprises technologiques de premier plan telles que Microsoft, Adobe, Google, IBM, Meta et TikTok en signant le Tech Accord to Combat Deceptive Use of Al in 2024 Elections, afin de jouer notre rôle dans la protection des élections et du processus électoral.
Ensemble, nous mettrons nos compétences respectives au service de la lutte contre les deepfakes et autres utilisations néfastes de l'IA. Les deepfakes peuvent manipuler de manière trompeuse des contenus multimédias numériques pour altérer le son, la vidéo ou les images de candidats politiques, d'agents électoraux et d'autres personnalités publiques lors d'élections démocratiques. Ils peuvent même créer des contenus contenant de fausses informations sur le moment, le lieu et la manière dont les gens peuvent voter.
Nous estimons que ce Tech Accord constitue une première étape cruciale pour protéger les citoyens des contenus nuisibles générés par l'IA au cours de l'année électorale. Alors que l'IA continue de façonner et de remodeler ce que nous voyons et entendons en ligne, il est important de continuer à travailler ensemble pour protéger les gens contre les escroqueries et la désinformation générées par l'IA.
Un ensemble de sept principes guide le Tech Accord to Combat Deceptive Use of Al in 2024 Elections, chaque signataire mettant ses forces au service de la cause :
- Prévention : recherche, investissement et/ou mise en place de précautions raisonnables pour limiter les risques de production de contenus électoraux délibérément trompeurs par l'IA.
- Provenance : ajout d'indicateurs de provenance pour identifier l'origine du contenu lorsque cela est approprié et techniquement possible.
- Détection : faire preuve de transparence dans notre utilisation de l'IA, en respectant dans la plus grande mesure les lois et réglementations relatives à la confidentialité des données.
- Protection réactive : apporter des réponses rapides et proportionnées aux incidents impliquant la création et la diffusion de contenus électoraux trompeurs générés par l'IA.
- Évaluation : déployer des efforts collectifs pour évaluer et tirer des enseignements des expériences et des résultats obtenus dans le cadre de la lutte contre les contenus électoraux trompeurs générés par l'IA.
- Sensibilisation du public : participer à des efforts communs pour éduquer le public aux meilleures pratiques en matière de contenus multimédias, en particulier en ce qui concerne les contenus trompeurs générés par l'IA et les moyens dont disposent les citoyens pour se protéger contre la manipulation ou la tromperie par ce type de contenus.
- Résilience : soutenir les efforts visant à développer et à mettre à disposition des outils et des ressources de défense, tels que des programmes de formation à l'IA et d'autres programmes publics, des solutions basées sur l'IA (y compris des outils open source le cas échéant) ou des fonctionnalités contextuelles, pour aider à protéger le débat public, défendre l'intégrité du processus démocratique et renforcer la résilience de l'ensemble de la société contre l'utilisation de contenus électoraux trompeurs générés par l'IA.
La protection des personnes contre l'utilisation abusive de l'IA nécessite un engagement de tous les horizons. Nous sommes confrontés à un défi mondial important mais surmontable. Ensemble, nous pouvons protéger l'IA d'une utilisation abusive afin d'assurer la sécurité des personnes. Cet extrait de l'accord que nous avons cosigné résume bien la situation : « La protection de l'intégrité électorale et de la confiance du public est une responsabilité partagée et un bien commun qui transcende les intérêts partisans et les frontières nationales. »
Nous sommes fiers de dire que nous contribuerons à cet objectif.
Nos méthodes et technologies
Notre protection avancée optimisée par l'IA repose sur plusieurs méthodes et techniques qui respectent des protocoles de sécurité stricts. Vous trouverez ci-dessous une liste de quelques-unes des techniques que nous employons :
- Nous limitons le champ d'action de l'IA à des cas d'utilisation spécifiques liés à des menaces pour lesquelles elle a bénéficié d'un entraînement approfondi. Cela augmente la précision et la sécurité de nos solutions.
- Notre architecture de protection repose sur un équilibre entre IA et renseignement sur les menaces. Nous nous appuyons sur des renseignements concrets sur les menaces lorsqu'ils existent et nous n'utilisons l'IA que lorsqu'elle nous aide à obtenir les meilleurs résultats. Cette approche hybride nous permet d'assurer le plus haut niveau de protection tout en réduisant les risques.
- Nos technologies brevetées et en instance de brevet sont conçues pour réduire les résultats imprécis et incohérents. Bien qu'aucune IA ne soit exempte d'erreurs à 100 %, nous nous efforçons de réduire les risques et les erreurs autant que possible. Nous vérifions deux fois les résultats de nos modèles d'IA, surveillons activement les données télémétriques et améliorons constamment la précision et la qualité de nos solutions d'IA.
- Lorsque nous entraînons nos modèles d'IA, nous sommes méticuleux et attentifs à la qualité et à la pertinence de nos données. Nous utilisons des données de cybersécurité basées sur l'humain et axées sur les cas d'utilisation de la détection des menaces. Nous utilisons également des données synthétiques créées par des algorithmes pour améliorer nos modèles d'IA et les rendre résistants aux attaques.
- Pour garantir le respect de votre vie privée tout en vous protégeant contre les menaces imminentes, nous exécutons l'IA localement sur votre appareil, dans la mesure du possible. Pour l'IA basée dans le cloud, nous n'utilisons que la quantité minimale de données nécessaires à la protection de vos appareils.
- Lorsque nous développons et utilisons des modèles d'IA, nous nous assurons de respecter toutes les lois et réglementations pertinentes en matière de confidentialité des données et d'IA. Assurer votre sécurité en ligne est une partie importante de notre mission qui consiste à protéger les utilisateurs de nos produits et services contre les risques liés au vol et à l'interruption de leurs informations et activités en ligne et à l'accès non autorisé à celles-ci.
McAfee s'engage à être le pionnier de l'avenir de la technologie de sécurité optimisée par l'IA, en garantissant son utilisation responsable pour protéger les personnes contre les menaces d'aujourd'hui et de demain.