Grupos extremistas entrenan en IA para reclutamiento y ciberataques, advierten agencias
Organizaciones terroristas como ISIS y Hamás emplean inteligencia artificial generativa para crear contenido falso, perfeccionar ciberataques y reclutar adeptos. Expertos advierten que esta tecnología amplía el alcance de grupos con pocos recursos, generando una nueva amenaza para la seguridad.
Grupos extremistas usan Inteligencia Artificial para reclutar y generar propaganda
Organizaciones terroristas como ISIS y Hamás emplean IA generativa para crear contenido falso y perfeccionar ciberataques. Expertos en seguridad nacional advierten que esta tecnología amplía el alcance de grupos con pocos recursos. Su uso comenzó con la accesibilidad de programas como ChatGPT.
Experimentos extremistas con tecnología accesible
Los grupos radicales comenzaron a usar la IA tan pronto como se hizo ampliamente accesible. Utilizan programas de IA generativa para crear fotos y videos de apariencia realista. Este contenido falso ayuda a reclutar nuevos creyentes, confundir a enemigos y difundir propaganda a gran escala.
Casos concretos de manipulación
Hace dos años, se difundieron imágenes falsas de la guerra entre Israel y Hamás que mostraban bebés ensangrentados. El ISIS ha creado grabaciones de audio deepfake de sus líderes y usa IA para traducir mensajes a múltiples idiomas, según investigadores del Grupo SITE.
Capacidades ofensivas y riesgos futuros
La IA permite a grupos pequeños tener un impacto significativo. Los hackers ya usan audio y video sintéticos para campañas de phishing. Existe preocupación por que intenten usar la IA para ayudar a producir armas biológicas o químicas, un riesgo incluido en la evaluación del Departamento de Seguridad Nacional de EE.UU.
Respuesta legislativa ante la nueva amenaza
Legisladores estadounidenses proponen iniciativas para contrarrestar el uso malicioso. Una ley reciente requiere evaluaciones anuales de los riesgos de IA planteados por grupos extremistas. El senador Mark Warner señaló que la fascinación por la IA generativa también aplica a actores malignos.
Un arsenal en evolución constante
Para grupos como ISIS, el uso de IA es actualmente una aspiración, pero los riesgos crecerán con la expansión de tecnología barata y poderosa. Siempre están buscando lo próximo para agregar a su arsenal, según expertos. La amenaza evoluciona al ritmo de las herramientas digitales.