Loading...

IA responsable de McAfee: liderando la detección de amenazas mediante la IA responsable

Detección de amenazas mediante IA
Compartir

Nuestro compromiso de proteger a nuestros clientes es inquebrantable. Utilizamos la IA para detectar proactivamente las amenazas y los fraudes, así como para alertar a nuestros clientes de posibles riesgos y desinformación. Este uso responsable está en consonancia con los compromisos voluntarios de la Casa Blanca en materia de inteligencia artificial, así como otras iniciativas mundiales para garantizar la seguridad de la IA.

Confianza

Seguiremos estrictos protocolos de seguridad al diseñar las protecciones en línea para la defensa contra las amenazas generadas con IA y de otro tipo.

Autenticidad

Utilizaremos tecnología avanzada para protegerte de los fraudes y ayudarte a distinguir el contenido auténtico del generado con IA.

Transparencia

Usaremos la IA con transparencia, conforme a las leyes y normativas sobre privacidad de los datos.

Alianza para unas prácticas de IA responsables

En 2024, firmamos junto con empresas tecnológicas líderes, como Microsoft, Adobe, Google, IBM, Meta y TikTok, un acuerdo tecnológico para combatir el uso fraudulento de la IA en las elecciones de 2024, para contribuir a la protección del proceso electoral y los resultados.

Colectivamente, aportaremos nuestros respectivos recursos para luchar contra los deepfakes y otros usos perjudiciales de la IA. Los deepfakes pueden manipular los medios digitales para alterar el audio, el video o las imágenes de candidatos políticos, funcionarios electorales y otras personas públicas durante las elecciones democráticas. Incluso pueden crear contenido que incluya información falsa sobre cuándo, dónde y cómo pueden votar los ciudadanos.

Consideramos que este acuerdo tecnológico es un primer paso crucial para mantener a las personas a salvo de contenidos perjudiciales generados con IA durante el año electoral. Mientras somos testigos de cómo la IA sigue jugando un papel clave en lo que vemos y oímos en Internet, es importante seguir colaborando para proteger a las personas de fraudes y desinformación generados con IA.

El acuerdo tecnológico para combatir el uso fraudulento de la IA en las elecciones de 2024, al que cada firmante ha aportado su contribución especial, se basa en siete principios: 

  • Prevención: investigar, invertir y/o aplicar las precauciones razonables para limitar los riesgos de que se generen contenidos electorales deliberadamente engañosos mediante inteligencia artificial. 
  • Procedencia: adjuntar pruebas de procedencia para identificar el origen del contenido, cuando sea apropiado y técnicamente factible.
  • Detección: usar la IA con máxima transparencia, conforme a las leyes y normativas sobre privacidad de los datos.
  • Protección adaptable: ofrecer respuestas rápidas y proporcionadas a los incidentes relacionados con la creación y difusión de contenidos electorales falsos mediante IA.
  • Evaluación: sumarnos a un esfuerzo colectivo para evaluar y aprender de las experiencias y los resultados de la lucha contra el contenido electoral engañoso generado con IA.
  • Concienciación pública: participar en iniciativas comunes para informar al público sobre las mejores prácticas en cuanto a contenido multimedia, en concreto en lo relativo al contenido fraudulento generado con IA, y sobre cómo pueden protegerse los ciudadanos para evitar ser víctimas de manipulaciones o engaños.
  • Resistencia: apoyar iniciativas para desarrollar y brindar herramientas y recursos de protección, como formación sobre IA y otros programas públicos, soluciones basadas en IA (incluidas herramientas de código abierto cuando proceda), o características contextuales, con el fin de proteger el debate público, defender la integridad del proceso democrático y generar en la sociedad una resiliencia frente al uso de contenido electoral fraudulento basado en IA.

Proteger a las personas del mal uso de la IA exige el compromiso de todos. Nos enfrentamos a un reto global imponente, pero superable. Juntos, podemos evitar el uso ilícito de la IA con el fin de mejorar la seguridad de las personas. Este extracto del acuerdo que suscribimos lo expresa bien: "La protección de la integridad electoral y de la confianza pública es una responsabilidad compartida y un bien común que trasciende los intereses partidistas y las fronteras nacionales".

Nos enorgullece decir que contribuiremos a ese objetivo con todo lo que podamos aportar.

Nuestros métodos y tecnologías 

Nuestra avanzada protección impulsada por IA emplea varios métodos y técnicas que cumplen estrictos protocolos de seguridad. A continuación se enumeran algunas de nuestras técnicas:

  • Limitamos el alcance de la IA para que solo actúe en casos de uso específicos relacionados con amenazas, en los que haya sido entrenada a fondo. De esta forma, se aumenta la precisión y la confiabilidad de nuestras soluciones.
  • Nuestra arquitectura de protección utiliza un equilibrio entre IA e inteligencia sobre amenazas. Confiamos en la inteligencia sobre amenazas concreta cuando existe y utilizamos la IA solo cuando nos ayuda a conseguir resultados óptimos. Este enfoque híbrido garantiza siempre el máximo nivel de protección y una reducción del riesgo.
  • Nuestra tecnología patentada y pendiente de patente está diseñada para reducir los resultados imprecisos e incoherentes. Aunque ninguna IA está 100 % libre de errores, nuestro objetivo es mitigar los riesgos y los fallos en la medida de lo posible. Comprobamos bien los resultados de nuestros modelos de IA, supervisamos activamente la telemetría y mejoramos constantemente la precisión y la calidad de nuestras soluciones impulsadas por IA.
  • Al entrenar nuestros modelos de IA, somos meticulosos y exigentes en cuanto a la calidad y relevancia de nuestros datos. Utilizamos datos de ciberseguridad basados en humanos y centrados en casos de uso de detección de amenazas. También empleamos datos sintéticos creados por algoritmos para mejorar nuestros modelos de IA y hacerlos resistentes a los ataques de adversarios.
  • Para garantizar tu privacidad, al tiempo que te protegemos de las amenazas urgentes, ejecutamos la IA localmente en tu dispositivo, en la medida de lo posible. En el caso de la IA basada en la nube, solo utilizamos la cantidad mínima de datos necesaria para proteger tus dispositivos.
  • Cuando desarrollamos y utilizamos modelos de IA, nos aseguramos de cumplir todas las leyes y normativas pertinentes en cuanto a privacidad de los datos e IA. Nos tomamos muy en serio la privacidad, la protección y la seguridad en Internet, todo lo cual es fundamental para nuestra misión principal: proteger a los usuarios de nuestros productos y servicios frente a los riesgos de robo, interrupciones y acceso no autorizado a su información y sus actividades en línea.

McAfee se compromete a liderar el futuro de la tecnología de seguridad impulsada por IA, centrándose en garantizar su uso responsable con el fin de proteger a las personas de las amenazas actuales y futuras.