Desde que los algoritmos de inteligencia artificial generativa dejaron los laboratorios de universidades y se convirtieron en una herramienta al alcance de cualquier usuario, múltiples beneficios han surgido. Sin embargo, ESET, compañía líder en detección proactiva de amenazas, alerta que los ciberatacantes también lograron sacarles rédito, y las deepfakes se convirtieron en uno de los grandes dolores de cabeza en el mundo de la ciberseguridad.
Desde los laboratorios de ESET Latinoamérica identificaron una campaña en redes sociales que utiliza avatares creados con IA para imitar a profesionales de salud con el fin de promover la compra de suplementos y otros productos, haciendo que parezcan recomendaciones médicas reales.
Los vídeos analizados por ESET siguen una estructura muy definida: en un formato de “avatar” ubicado en una esquina de la pantalla, una persona que alega ser especialista con más de una década de experiencia da una serie de recomendaciones de estética y salud. Los consejos, que suelen estar más ligados a tips de alimentación natural, inducen a la compra de los productos que venden.
“Se valen de una estrategia de marketing desleal, en la que intentan generar una validación falsa de supuestos especialistas para hacer creer que el mensaje está dado por una persona con conocimientos del tema. La generación de imágenes, video o audio falsificado para cometer estafas, robar información o desestabilización de la opinión pública, son moneda corriente hoy en día en el mundo del cibercrimen”, comenta Camilo Gutiérrez Amaya, jefe del Laboratorio de Investigación de ESET Latinoamérica.
El equipo de ESET también observó casos en los que se promocionan medicamentos sin aprobación y se dan consejos falsos para problemas de salud delicados, utilizando deepfakes con la imagen de reconocidos profesionales.
Como ejemplo de los videos hallados, una de estas cuentas promueve un extracto natural que afirma ser más efectivo que el medicamento Ozempic, el cual se ha vuelto popular recientemente por su efecto secundario de pérdida de peso. El engaño radica en que el enlace proporcionado en el usuario de tiktok lleva a la plataforma Amazon para comprar el supuesto producto para bajar de peso, pero en realidad el producto final se describe como “gotas de relax” y “anti-hinchazón”, sin mencionar los supuestos grandes beneficios mencionados en el video.
En esta investigación, el equipo de investigación de ESET identificó más de 20 cuentas con este contenido. Repartidas en las plataformas de preferencia, en cuanto a vídeos cortos, como Instagram y Tiktok. Los avatares están creados usando una aplicación de generación de contenido que utiliza inteligencia artificial. De hecho, ESET identificó en el listado a todos los supuestos doctores que aparecen en cada uno de los videos sospechosos. Por ejemplo, esta falsa ginecóloga con más de 13 años de experiencia:
Estos avatares son parte de un programa en donde influencers y creadores de contenido pueden ofrecerse como protagonistas de videos generados artificialmente y ganar dinero por ello. Simplemente filmando unos clips de minutos de duración y enviándolos a la plataforma.
Desde ESET aclaran que si bien este tipo de videos conformaría una violación a los Términos y Condiciones de la aplicación. Esto también debe ser un aprendizaje para creadores de contenido que estén considerando inscribirse en este tipo de programas remunerados.
En tiempos de desinformación de fácil propagación, es vital aprender a reconocer este tipo de engaños o publicidades infundadas. Por eso, desde ESET recomienda prestar atención a las señales que indican que se trata de un contenido falsificado y engañoso:
· Desincronización de la boca y labios, que no coinciden del todo con el audio.
· Expresiones faciales poco naturales o rígidas.
· Artefactos visuales y distorsiones, como bordes borrosos o cambios repentinos de iluminación.
· Voz robótica, artificial o con entonación demasiado uniforme.
· Cuentas de reciente creación, con pocos seguidores o sin historial relevante.
· Lenguaje exagerado, con frases como “cura milagrosa”, “los doctores no quieren que lo sepas” o “100% garantizado”.
· Afirmaciones que no tienen respaldo científico, o que se basan en estudios o fuentes de poca reputación.
· Llamado a la urgencia y presión para comprar en frases como “solo por tiempo limitado” o “pocas unidades disponibles”.
“Si encontramos este tipo de contenidos, es vital no compartir o creer antes de verificar el origen o propósito de las afirmaciones de los videos. Además, y en el caso de identificar un contenido engañoso, debemos denunciar la publicación ante la red social que estemos usando”. Recomienda Gutiérrez Amaya de ESET Latinoamérica.