La Inteligencia Artificial ofrece un amplio abanico de opciones a los usuarios hoy en día. Sin embargo, esto también beneficia a los piratas informáticos. Pueden crear correos electrónicos falsos, por ejemplo. También podrían generar imágenes irreales, con las que busquen estafar. Ahora, Google tiene una novedad con la que combatir este tipo de fotografías falsas y ayudar a los usuarios a detectar este problema.
Se trata de una nueva tecnología presente en el nuevo Google Pixel 10, uno de los teléfonos Android de gama alta. Google está integrando las Credenciales de Contenido C2PA en la cámara de este teléfono y en Google Fotos. El objetivo es ayudar a los usuarios a detectar cuándo una imagen es auténtica y cuándo se trata de algo hecho a través de IA, ya sea generadas totalmente o bien editadas usando esta tecnología.
Google quiere diferenciar las imágenes hechas por IA
En un comunicado oficial en su blog, con fecha del 10 de septiembre, Google ha hablado de todo lo relacionado con C2PA y su intención de ayudar a detectar imágenes que no son reales. De momento, esta novedad va a estar disponible en los nuevos Google Pixel 10, que cuentan con Nivel de Seguridad 2, la máxima calificación de seguridad definida actualmente por el Programa de verificación C2PA.
Este sistema se basa en el estándar C2PA (Coalition for Content Provenance and Authenticity), una iniciativa liderada por gigantes como Adobe, Microsoft e Intel. Su objetivo es combatir la desinformación creando una «etiqueta nutricional» digital para las imágenes, utilizando metadatos criptográficos para certificar de forma segura su origen y cualquier modificación posterior.
En estos teléfonos, cada fotografía capturada en formado JPEG, se adjuntará automáticamente con las Credenciales de Contenido. Ahí aparecerá cómo se crearon esas fotografías, lo que permitirá que los usuarios puedan identificar contenido que haya sido generado o modificado mediante Inteligencia Artificial.
Si un usuario utiliza alguna herramienta de IA para editar una imagen original, real, Google Fotos también identificará y registrará esos cambios. De esta forma, otra persona podría saber que esa imagen ha sido alterada y no corresponde con la fotografía que debería ser originalmente.
Esto también ayuda a la transparencia y a la confianza en la IA generativa. Es un recurso más que tenemos disponible, pero, como decimos, se puede usar de mala manera, lo cual puede afectar a los usuarios. Para detectar si es algo real o no, este tipo de características va a ser de gran ayuda.
Funciona sin conexión
Desde Google, indican también que este sistema funciona sin conexión. Además, está protegido frente a posibles interferencias externas que pueda haber durante todo el proceso y protege el anonimato de los usuarios, para que la privacidad siempre esté presente a la hora de realizar la verificación.
Han descrito varias capas de seguridad y garantías de integridad que han incorporado al sistema de Credenciales de Contenido, entre las que se encuentran las siguientes:
- Firma criptográfica que invalida la firma digital cuando se modifican los metadatos.
- Almacenamiento de claves resistente a la manipulación.
- Certificado de Claves de Android, para verificar la autenticidad del hardware y de la aplicación.
- Claves de un solo uso por imagen, para que cada foto se firme con una clave criptográfica única.
Por el momento, como hemos mencionado, solo estará disponible para los dispositivos Google Pixel. Sin embargo, Google planea extenderlo a otros modelos de Android, aunque sin una fecha concreta. Fuentes internas de la compañía confirmaron que la implementación en la beta de Android 16 está prevista para 2026, priorizando dispositivos con procesadores Tensor G3 o superiores.