YouTube es consciente de que están utilizando la IA para generar estafas. Los atacantes pueden crear vídeos en los que aparece la cara de una persona, sin realmente estar presente. Por ejemplo, podrían generar un vídeo en el que aparece hablando alguien reconocido y ofrecer un producto. De esta forma, pueden llegar a más usuarios y lanzar campañas maliciosas, aprovecharse de una imagen, etc. Para evitar esto están implementando una nueva medida.
Se trata de lo que denominan como detección de parecidos. En un primer momento esto lo utilizaron en una prueba piloto en la que lo podían usar determinados influencers o perfiles con muchos seguidores. Ahora, lo extienden a todos los creadores de contenido mayores de 18 años. El objetivo es claro: proteger a las personas y evitar el uso de su imagen en contenido generado por IA.
YouTube quiere evitar la suplantación de identidad
Hace unos años, generar un vídeo suplantando la identidad de una persona era algo complicado y requería de ciertos conocimientos técnicos. Hoy en día, cualquiera puede usar la IA y clonar la voz o imagen de una persona. Además, es algo que mejora continuamente, por lo que cada vez es más complicado identificar si algo es verdadero o falso.
En un anuncio publicado esta semana en la web oficial de Google, explican que buscan que los usuarios puedan subir contenido a YouTube sin que ello suponga un riesgo para su imagen, por lo que quieren evitar que otros puedan generar vídeos con IA suplantando la identidad.
La detección de parecidos es una herramienta pionera en YouTube Studio. Si detectan contenido que infrinja sus normas de privacidad, podrían eliminarlo. Es una manera de proteger a los creadores de contenido, para que la plataforma de YouTube se mantenga limpia, sin vídeos generados artificialmente y suplantando la identidad de otras personas.
Esto tiene varios objetivos claros:
- Identificar dónde aparece la imagen del usuario.
- Proteger la identidad y permitir eliminar contenido no autorizado.
- Proteger a la audiencia, para evitar que caigan en estafas.
Se implementará durante las próximas semanas
Esta función va a estar disponible para todos los usuarios, aunque se irá implementando de forma progresiva durante las próximas semanas. Llegará a todos los creadores de contenido de más de 18 años. Una vez que esté disponible en tu canal, podrías acceder a la Configuración, ir a la sección de Detección de contenido, buscar el apartado de Similitud e iniciar el proceso para detectar.
A partir de ese momento, una vez tengas configurada esta característica, YouTube alertará en caso de que se suba algún vídeo a la plataforma con tu cara. Si alguien utilizara tu rostro para generar contenido con IA, lo sabrás y podrás solicitar que lo eliminen cuanto antes. Podrás proteger tu propia privacidad, pero también a otras personas al evitar que caigan en posibles estafas.
En definitiva, YouTube ha dado un paso más para controlar la creación de vídeos con Inteligencia Artificial en los que puedan llegar a suplantar la identidad de otras personas. Es lo que se conoce también como deepfake, un problema importante.