Què és Verify?

Hui en dia, un dels problemes als quals ens podem enfrontar els docents és detectar quan s'ha fet ús de la IA o no, en aquest cas, en la producció d'imatges. La veritat és que ens pot resultar molt difícil, si no impossible, diferenciar una imatge que s'ha generat amb IA d'una altra que no. A més, si aquesta imatge és el producte d'una tasca o forma part d'una tasca que ens han de lliurar per a la seua correcció, i nosaltres com a docents no hem permés l'ús d'IA en la seua creació o només n'hem permés un ús parcial, ens pot vindre bé tenir recursos que ens permeten comprovar com s'ha generat la imatge.

Verify és l'aplicació de Content Credentials que ens permet analitzar una imatge i comprovar si s’ha generat amb un assistent d’IA o no. Ens dirà si la imatge s’ha generat amb IA, s’ha manipulat amb IA o si no disposa de credencials de contingut (content credentials). D'altra banda, ens oferirà també la possibilitat de buscar possibles coincidències amb la imatge que inspeccionem.

Accepta diferents formats de vídeo i d’imatge: AVI, AVIF, DNG, HEIC, JPEG, M4A, MOV, MP3, PDF, PNG, SVG, TIFF, WAV, Webp.

Per usar Verify, només ens cal accedir a l'aplicació des del nostre navegador amb la següent URL: https://contentcredentials.org/verify

Com en fem ús?

Com podeu comprovar en la següent imatge, el seu ús és molt intuïtiu, només cal seleccionar o arrossegar a sobre la pantalla del nostre navegador l’arxiu a analitzar.

Per mostrar el seu funcionament, he analitzat primer aquesta imatge generada amb IA.

Mistral AI. (2025). Paisatge urbà de nit amb edificis il·luminats i terra mullat després de la pluja [Imatge generada per IA]. Mistral AI. 

Després de pujar la imatge a Verify, aquest és el resultat:

Com es pot observar l’eina verifica que efectivament la imatge s’ha generat amb IA, i ens retorna informació sobre el procés de creació i les seues credencials de continguts, amb quina ferramenta d’IA s’ha generat, en l'exemple: Black Forest Labs Inc., i la data i hora en què s’ha generat, en l'exemple: 11 de juny de 2025 a les 12:59.

Sobre el procés de creació ens diu quina aplicació d’IA s’ha emprat: Black Forest Labs API, així com el model i versió: Flux.1.

Després he analitzat una imatge descarregada del banc d'imatges: Stocksnap.io.

Travel adventures. Mountains fjord Free Stock Image [Fotografia]. StockSnap.io. CC0. 

En aquest cas indica que la imatge no té credencials de contingut.

Per tal de continuar comprovant com s'ha generat la imatge, l’eina permet buscar si hi ha possibles coincidències. En aquest cas no troba coincidències.

Ara he manipulat la imatge anterior amb l’IA generativa d’Adobe Photoshop.

Adobe Firefly. (2025). Mountains fjord amb embarcació generada amb IA [Imatge manipulada per IA]. Adobe.

Com es pot veure, després de pujar-la a Verify em retorna la informació del procés de manipulació amb la IA d’Adobe Photoshop.

Ara bé, i que passarà si elimino les metadades? Ho he fet i aquest n'ha estat el resultat.

Ara ja no pot donar-me informació, la imatge no conté credencials de contingut, i en aquest cas tampoc troba coincidències. Aleshores, puc dir que la imatge que estic veient és un original sense que hi haja intervingut la IA? Jo sé que no és així, però podria perfectament creure que aquesta imatge és real. La clau podria estar a no fiar-nos massa d'imatges a les quals se'ls ha eliminat les metadades.

Finalment, he analitzat una imatge descarregada del banc d'imatges: Pexels

vee terzy, Arbol de hojas verdes, Pexels. 

En aquest cas tampoc disposa de credencials de continguts, però sí que ha trobat coincidències. La imatge s'ha emprat com a imatge inicial per generar altres imatges generades amb IA. Com es pot veure en la informació del procés, s'ha emprat Adobe Firefly per a afegir un arc de pedra a l'esquerra de l'arbre.

Conclusions

El que he pogut comprovar és que actualment Verify resulta una ferramenta d'utilitat per detectar quan s’ha emprat la IA per a generar o manipular una imatge, sempre que no se n’hagen esborrat les metadades. A més ens dona la possibilitat de comprovar si hi ha imatges similars a la imatge que estem analitzant, el que ens pot resultar útil en imatges sense informació.

En aquest article, només mostre alguns exemples amb imatges generades amb Mistral AI i Adobe Firefly, encara que també he provat amb imatges generades amb ChatGPT, on també ens dona la informació de les seues credencials de continguts.

Cal afegir que, a la mateixa pàgina d'inici de l'aplicació informa que les Content Credentials encara s'estan implementant i que és possible que el contingut que vulgues inspeccionar no tinga informació.

Sobre les credencials de contingut diu:

Les Content Credentials s'estan desenvolupant gràcies a l'estàndard C2PA i la Content Authenticity Initiative, la comunitat intersectorial de creació d'eines de codi obert per a les credencials de contingut amb la finalitat de crear una Internet més oberta i transparent.

Certament, crec que ens caldrà esperar a veure com es continua implementant sobre altres aplicacions d'IA generativa, així com en els proveïdors d'imatges a internet. Encara que a parer meu, ja demostra ser una proposta interessant per a comprovar l'origen i la veracitat de les imatges que utilitzem.