Google acaba de presentar SynthID un sistema que añadirá una marca de agua invisible a cualquier imagen generada o modificada significativamente con Inteligencia Artificial.
Esta marca de agua será indetectable por el ojo humano y no afectará a la estética de la imagen, pero, en un futuro, podría ser reconocida por un software especializado en sistemas de verificación como por ejemplo los que se utilizan en muchos concursos de fotografía.
SynthID fue desarrollado por el equipo de DeepMind de Google para afrontar el desafío de etiquetar el contenido que se genera actualmente mediante IA sin afectar a la imagen final, esta tecnología altera los datos de los píxeles creando un patrón que actúa como una firma digital.
Además, está marca de agua invisible se mantendrá intacta aunque las imágenes se recorten, editen o se modifiquen de alguna forma cambiando el tamaño o formato.
Actualmente solo un modelo de detección de IA puede reconocer esta marca de agua y Google ha centrado la tecnología desarrollada en su propio ecosistema, en servicios como Magic Editor. En el futuro podría expandirse e incluso señalar qué modelo o herramienta IA fue utilizada.
Esta iniciativa de Google ha tenido buena acogida entre los expertos aunque advierten que las marcas de agua no son la solución definitiva para detectar la IA y autentificar contenidos. Que varias empresas como Amazon, Microsoft y Meta estén desarrollando sus propios sistemas de etiquetado en lugar de trabajar en un estándar común dificulta el objetivo de etiquetar todo el volumen de contendido generado con Inteligencia Artificial.
Todas estas acciones desarrolladas por los gigantes de la industria son a día de hoy voluntarias y sigue sin existir una regulación por ley. Por tanto habrá que esperar para ver cómo evolucionan y si desembocan en sistemas más eficaces como metadatos de procedencia o la propia educación del usuario para combatir engaños y fraudes.
No me fio de Google…
Existiendo C2PA es absurdo que cada empresa se dedique a desarrollar su propio sistema.
Esto va más allá de la estética y lo correcto visualmente. Es pura cuestión ética.
Ya estamos comprobando cómo con imágenes y vídeos falsos nos están llevando a una polarización social. No solo eso, está generando traumas de muchos tipos a personas sin autoestima, sin recursos económicos. Esto está generando un problema social global muy importante.
Es más necesario que nunca que una imagen real se distinga de inmediato de una manipulada (poco o mucho). que lo aprecies al instante sin tener que pensar ni leer en un pie de página. No con una marca de agua invisible, por la que solo te enterarás si lo quieres mirar con alguna aplicación.
Pongo un ejemplo básico, cualquier imagen fotográfica real, que tenga un marquito exterior verde, o un puntito verde en alguna esquina.
Las irreales, que lo tengan de otro color (si queréis, se hacen categorías: IA rojo, Retoques PS en azul, uso de filtros morado, infografías, amarillo…)
De este modo, la percepción de cualquier persona al ver una foto, será inmediata y no manipulará porque se sabrá al instante lo que es.
Lo necesitamos urgentemente.
«Es más necesario que nunca que una imagen real se distinga de inmediato de una manipulada (poco o mucho). que lo aprecies al instante sin tener que pensar ni leer en un pie de página.»
Desde hace eones se admite sin lugar a dudas que toda fotografia, analógica o digital, es una manipulación de la realidad: una mentira. A qué viene ahora tanto sofoco con la IA? Anda, léete con aprovechamiento a Fontcuberta y deja de sentirte tan escandalizadito por lo del problema social global, y bla, bla, bla.
A ver, por dónde sale el sol. Una fotografía, es un punto de vista del autor; éste deja fuera lo que quiere y lo mismo lo que quiera incluir. Decide el valor focal que le dará un encuadre más o menos abierto que además le otorgará una perspectiva con la que podrá jugar. Podrá decidir sobre la atmósfera y la exposición a base de controlar los ajustes… Y podemos debatir hasta el infinito si una fotografía es una mentira o una parte de la verdad.
Pero siempre, siempre, como mínimo es parte de la verdad.
¿Se puede manipular contando medias verdades? por supuesto.
Pero esto ya es otro nivel. Por más que lo defendáis u os parezca admisible, no es comparable… sí que es una auténtica mentira y no una parte de la verdad.
Pero da igual lo que opine alguien insignificante como yo, la realidad nos está dando a todos en los morros. El que se los quiera anestesiar y no ver dónde nos está llevando esto… allá cada uno.
Pero el problema es real.
Es preciso con urgencia que hagas un update de tu repositorio conceptual: hace muchas décadas que la fotografía renunció a sus dos grandes baluartes: la verdad y la memoria, y si ella se ha traicionado y ha sido infiel deconstructivamente consigo misma no hay motivo para achacarle ahora todos sus estigmas a la IA, que no deja de ser una evolución perversa del código binario y su consumación. Tus lloros son inconsecuentes y muy patéticos.
Este llorón patético ve claramente el problema. Puedes utilizar toda la retórica que quieras para no ver la realidad.
No hay más ciego que el que no quiere ver.
Sigue feliz en tu universo, otros tenemos derecho a preocuparnos.
Tus gimoteos plañideros llegan con varias décadas de retraso. Cuando irrumpió el digital la mayoría os abrazasteis alborozados al un nuevo juguete tecnológico pensando que aquello supondría renacer de la fotografía cuando, y esto sólo unos pocos pudimos vaticinarlo, supondría más pronto que tarde el fin de una disciplina artística y el colapso de un oficio centenario. Llorar ahora ya no tiene mucho sentido.
«Esto va más allá de la estética y lo correcto visualmente. Es pura cuestión ética.»
Podria, en efecto, darse un debate ético cuando un medio como Photolari que dice dedicarse a la fotografía, en vez de utilizar imágenes de un fotógrafo profesional, amateur o propiamente de stock pasando por caja, etc… se sirve de la IA para ilustrar las portadas de sus artículos, y demás, lo hace con la siguiente aclaración: «Foto generada con IA Firefly.» En serio lo que genera Firefly es una «foto» ?
No hay más preguntas, Señoria.
Por cerrar:
Lo primero es que las cámaras generen algún tipo de archivo que de veracidad a las imágenes.
Lo segundo sería que los programas de edición y retoque, generasen como metadato reconocible, si una imagen está solo tocada de ajustes básicos que mantuviesen ese marco verde, o generasen el azul si ya hay procesos de capas, clonados, degradados…
Lo tercero sería, que las IAs estuviesen obligadas a tener ese metadato incrustado que aplicase el color rojo.
Lo cuarto y último es que todos los navegadores, aplicaciones de redes sociales y cualquier tipo de aplicación que pueda mostrar imágenes, incluidos los sistemas operativos, tuviesen la capacidad de leer esos metadatos para generar de forma automática y no manipulable, que todas las imágenes que muestran aparezcan con el marquito de color, o el punto, o una raya o lo que sea, de forma clara y visible de primer golpe de vista, aunque sea discreta.
Si no se hace colaborando TODAS las partes, estaremos condenados a sufrir este problema que cada vez es mayor y no para de crecer.