Previene, detecta y responde a las campañas de desinformación utilizando técnicas y tecnologías de seguridad contra la desinformación.
- ¿Eres cliente de Gartner? Log in para obtener resultados de búsqueda personalizados
Las campañas de desinformación surgen en la intersección entre la IA generativa y el contenido viral
Si bien la IA y las herramientas de machine learning permiten a las organizaciones automatizar sus procesos, también ofrecen a los agentes maliciosos potentes herramientas para crear contenidos que alimenten las campañas de desinformación: ataques dirigidos diseñados para engañar o confundir a un grupo de personas.
Las campañas de desinformación, que ya son una amenaza mundial, tienen el potencial de hacerse virales en las redes sociales, lo que puede provocar pérdidas corporativas directas por fraude, boicots y daños a la reputación.
Combate las campañas de desinformación con técnicas y medidas de seguridad específicas
Las organizaciones ya están sufriendo las consecuencias de las campañas de desinformación, por ello, están adoptando técnicas y tecnologías específicas para combatirlas. La demanda está creciendo tan rápidamente que, para 2028, se espera que el 50 % de las empresas adopten productos, servicios o funciones diseñados específicamente para abordar los posibles problemas relacionados con la seguridad contra la desinformación, frente a menos del 5 % que lo hacen en 2024.
Los motivos y los métodos de la desinformación
Los agentes maliciosos tienen objetivos diversos para sus campañas de desinformación. Algunos buscan polarizar a un público objetivo. Otros buscan robar información de clientes o perturbar las operaciones comerciales. Las tácticas más comunes son:
Difundir ultrafalsificaciones o “deepfakes”.
Difundir desinformación en redes sociales y sitios de noticias falsas.
Utilizar la IA generativa para crear desinformación a gran escala y difundirla antes de que las organizaciones puedan reaccionar.
Diseñar correos electrónicos de phishing convincentes.
Aprovecharse de las vulnerabilidades en las herramientas de colaboración laboral y los centros de llamadas.
Utilizar malware para robar credenciales.
Realizar robos de cuentas.
Para hacer frente a estos retos, las organizaciones necesitan un enfoque integral que reduzca el riesgo, promueva la transparencia y refuerce sus capacidades de protección.
Técnicas y tecnologías para la seguridad contra la desinformación
La seguridad contra la desinformación requiere un esfuerzo interdisciplinario que integre tecnología, personal y procesos en los equipos directivos y en departamentos como seguridad, relaciones públicas, marketing, finanzas, recursos humanos, asesoría legal y ventas.
La alineación es clave porque no hay tecnologías infalibles que puedan proteger completamente cualquier sistema o proceso. En su lugar, las organizaciones deben evaluar los sistemas, flujos de trabajo y controles existentes para identificar vulnerabilidades relacionadas con ataques de desinformación e integrar medidas de mitigación adecuadas.
Algunos ejemplos de procesos vulnerables y posibles medidas de mitigación son los siguientes:
Comunicaciones en tiempo real. Protege las herramientas de colaboración en el trabajo, los centros de llamadas y los teléfonos móviles contra medios sintéticos, como los deepfakes.
Contenido de plataformas de terceros. Evalúa la autenticidad del contenido procedente de fuera de la organización antes de tomar decisiones.
Validación de reclamaciones. Supervisa el contenido presentado como prueba para respaldar una solicitud o reclamación para detectar indicios de que ha sido generado artificialmente o manipulado por software.
Verificación de la identidad. Protégete contra los intentos de eludir la autenticación biométrica con medios sintéticos, así como contra los ataques combinados de presentación e inyección.
Mitigación del phishing. Vigila los correos electrónicos generados con la IA generativa que imitan con precisión la identidad de una marca o el tono de empleados clave.
Prevención ante el robo de cuentas. Evita que los atacantes utilicen malware para robar credenciales y luego eludir los controles de autenticación.
Suplantación de marcas. Detecta posibles atacantes que se hagan pasar por marcas para engañar a los clientes y obligarles a realizar acciones que dañan su reputación y buen nombre.
Monitorización de redes sociales/medios de comunicación de masas. Identifica posibles operaciones de influencia que utilicen relatos perjudiciales para influir en la opinión pública.
Vigilancia del internet profundo y oscuro. Busca agentes maliciosos que hablen de objetivos y tácticas, y que vendan datos confidenciales robados, como credenciales e identidades.
Manipulación de la opinión. Protege las herramientas automatizadas para que no se utilicen para generar interacciones falsas.
Toma medidas contra las campañas de desinformación
La IA generativa ofrece a los atacantes la oportunidad de establecer una presencia persistente en la empresa y eludir que los detecten. Estos ataques suelen combinar identidades y datos falsos con técnicas polimórficas para mutar constantemente y ocultar el algoritmo malicioso original. Para actuar contra ello:
Evalúa de manera continua el nuevo panorama de amenazas de la IA generativa y prepárate para ataques basados en IA generativa contra la infraestructura de confianza de IAM (como la suplantación de identidad), que podrían eludir los controles de IAM existentes. Asegúrate de que las herramientas de verificación de la identidad actuales puedan mitigar las nuevas amenazas de identidades y datos falsos.
Encuentra los proveedores adecuados fijándote en lo siguiente:
Características fuera del proceso central de verificación de identidad, como la verificación de datos moderna, incluidas las credenciales verificables.
Conectividad con fuentes de afirmación de datos, como grafos de identidad y autoridades gubernamentales emisoras.
Busca garantías de los proveedores sobre su defensa contra los ataques de deepfake. Solicita información sobre su experiencia actual con el problema, sus capacidades de detección y su inversión en una hoja de ruta orientada al futuro para mantenerse a la cabeza de los retos que plantea la ultrafalsificación. Desconfía de cualquier proveedor que no te facilite esta información de forma proactiva.
Consulta la Guía de planificación para arquitectos de ciberseguridad y accede a planes de acción sobre seguridad contra la desinformación y otras tendencias tecnológicas clave que afectan a la ciberseguridad.
Descubre cómo trabaja Gartner con los equipos técnicos para optimizar procesos y conseguir buenos resultados empresariales.
Preguntas frecuentes sobre las campañas de desinformación
¿Cuál sería un ejemplo de campaña de desinformación?
Las campañas de desinformación tienen lugar cuando agentes maliciosos manipulan la opinión pública en momentos clave usando operaciones de influencia en redes sociales o sitios de noticias falsas. Por ejemplo, los agentes maliciosos podrían lanzar una campaña de desinformación con el objetivo de influir en los resultados de unas elecciones.
¿Cómo pueden ayudar las tecnologías emergentes a garantizar la seguridad contra la desinformación?
Las empresas están adoptando tecnologías emergentes de seguridad contra la desinformación para asegurar la autenticidad de los contenidos, analizar relatos, verificar identidades, prevenir fraudes, comprobar hechos y proteger la reputación de sus marcas.
¿Cuánto dinero pueden perder las empresas por las campañas de desinformación?
El robo de cuentas es un tipo común de campaña de desinformación. La estrategia consiste en que los agentes con malas intenciones se hagan pasar por usuarios de confianza. Aunque el robo de cuentas de correo corporativo solo representó el 2,4 % de los casos de delitos en internet en 2023, esta práctica supuso unas pérdidas netas para las empresas de 2.900 millones de dólares.