La IA ofrece muchas posibilidades a nuestro día a día. Muchas mejoras positivas que pueden ayudarnos a ser más productivos y ahorrar tiempo, por ejemplo. Sin embargo, también genera problemas. Uno de los puntos negativos, es la creación de vídeos falsos a través de IA. En muchos casos, pueden confundir a los usuarios o incluso servir para que los piratas informáticos cuelen malware. En este artículo, nos hacemos eco de un informe que, además, alerta de que este problema está muy presente en España.
Se trata de un estudio realizado desde Kapwing. Allí revelan que los vídeos basura generados por IA, se difunden muy rápidamente a través de YouTube. Hay que tener en cuenta que esta plataforma es una de las más utilizadas en cuanto a reproducción de contenido en Streaming.
Vídeos falsos generados por IA
Si utilizas YouTube en tu día a día, es probable que te hayas dado cuenta de que, últimamente, hay bastante contenido de baja calidad y generado a través de Inteligencia Artificial. Pueden ser incluso vídeos muy repetitivos, con contenido muy similar, en forma de listas y una voz robótica hablando. También imágenes que simulan ser reales, pero que, a poco que observas detenidamente, ves que todo es falso.
En muchos casos, incluso hay canales de YouTube bastante populares, con muchos seguidores, que solo difunden vídeos de este tipo. No es algo negativo, siempre y cuando el contenido sea legítimo y no busque hacer el mal a los usuarios, claro. Sin embargo, este informe pone sobre la mesa el debate del valor creativo y ético de la IA en la producción de vídeos.
Para realizar este estudio, analizaron los 100 canales más en auge en cada país, en YouTube. En combinación, analizaron más de 15.000 canales de YouTube, para obtener cifras y calcular la magnitud de la audiencia y los países donde es más visible este tipo de contenido en el que la IA tiene un gran peso.
Algo llamativo, es que España es el país del mundo que, según este informe, tiene más suscriptores en canales en los que la IA juega un papel fundamental.
Cuidado con posibles estafas
No significa que todo el contenido generado por IA sea negativo, ni mucho menos. Sin embargo, sí que hay que recordar la importancia de evitar cometer errores, ya que podrían robar información personal, contraseñas y, en definitiva, permitir que los piratas informáticos tomen el control de los dispositivos.
A través de vídeos generados por IA, los atacantes podrían usar estrategias muy variadas para llevar a los usuarios donde ellos quieren. Esto se traduce en la descarga de archivos maliciosos, la instalación de aplicaciones falsas o poner las contraseñas donde no deberían, lo cual puede entregar en bandeja las claves a los atacantes.
Algunas estafas comunes, son las siguientes:
- Falsas inversiones en criptomonedas: utilizan vídeos falsos, de figuras conocidas, para promocionar plataformas de inversión fraudulentas enlazadas en la descripción.
- Distribución de malware: ofrecen enlaces para descargar supuestas herramientas o software gratuito, pero en realidad ocultan troyanos diseñados para robar contraseñas del navegador.
- Phishing sofisticado: crean tutoriales falsos que dirigen a los usuarios a páginas que imitan servicios populares (bancos, redes sociales y similares) para sustraer sus credenciales.
Desde RedesZone, te recomendamos que seas consciente de que las estafas online están aumentando debido a la IA. Es importante evitar dar facilidades a los atacantes, ya sea a la hora de ver vídeos en Internet o simplemente al visitar sitios web. Cuidado con la información que expones y no te fíes de todo lo que ves.
Para evitar problemas, asegúrate también de tener tus dispositivos correctamente actualizados. Esto te ayudará a corregir vulnerabilidades que puedan usar los cibercriminales para robar contraseñas o tomar el control de tu equipo. Además, disponer de un buen antivirus te ayudará a detectar y eliminar amenazas.
Hay que recordar que, hace unos meses, YouTube introdujo un cambio en relación al contenido generado por IA. Concretamente, quitó la monetización para el contenido falso, generado por IA, con el objetivo de engañar a los usuarios. Quieren que la plataforma siga siendo limpia, interesante y útil, y no que esté llena de contenido basura que provoque que, poco a poco, los usuarios confíen menos en este servicio.
En definitiva, los vídeos generados por IA, en parte contenido basura, están inundando YouTube. En España, hay millones de suscripciones a canales de este tipo, por lo que es importante extremar las precauciones y no cometer errores. En muchos casos, crean este tipo de canales con el objetivo de estafar a los usuarios e infectar los dispositivos con malware. Asegúrate de tener todo correctamente actualizado, para corregir vulnerabilidades, además de contar con un buen antivirus.