Google lanza una herramienta para periodistas que identifica ‘fake news’ y ‘deep fakes’

Assembler es una nueva herramienta que ha lanzado Jigsaw, la incubadora de proyectos tecnológicos de Google y que sirve para identificar imágenes manipuladas o falsas. La herramienta está pensando para que la empleen periodistas a la hora de luchar contra las «fake news» y las «deep fakes» y analiza las imágenes que se suben a ella utilizando una tecnología capacitada para identificar ciertos tipos de manipulación y evalúa si las imágenes pueden haber sido alteradas y dónde.

​Assembler combina varias técnicas existentes para la detección de técnicas de manipulación de imágenes comunes y es capaz de detectar cambios en al brillo de la imagen y el pegado de píxeles en alguna parte de la imagen para ocultar detalles, incluso cuando se conserva la misma textura visual.

Entre otras tecnologías emplea un detector de deep fakes creado con StyleGAN, un algoritmo que puede generar caras imaginarias totalmente realistas. Con todas las técnicas de detección se alimenta un modelo maestro de Inteligencia Artificial, que aprende e indica a los usuarios la probabilidad de que una imagen haya sido manipulada.

Los detectores individuales a menudo no son capaces de detectar con precisión los diferentes tipos de manipulación. Por ejemplo, un detector programado para identificar el pegado de píxeles no detecta manipulaciones en el brillo y viceversa. Para abordar este problema, se ha construido este modelo de conjunto, que mediante múltiples detectores, entrena a una unidad maestra.

Assembler es un buen paso en la lucha contra la manipulación en los medios, pero no cubre muchas otras técnicas de manipulación existentes, incluidas las utilizadas para los vídeos. En este sentido, el equipo de Jigsaw ha reconocido que seguirá añadiendo detectores al modelo maestro y actualizando los existentes.

Desde Jigsaw, recomiendan a los gigantes tecnológicos como Facebook y Google que instalen este tipo de detectores en sus plataformas. De esta forma, las comprobaciones pueden realizarse en tiempo real a medida que se se cargan y comparten las imágenes. En este sentido, ya están dando algunos pasos: Facebook ha prohibido las ‘deep fake’ en su red y Twitter ha comenzado a etiquetar este tipo de contenido para diferenciarlo.


Aulabierta proporciona un servicio de consultoría llave en mano aliado para tu corporación con el objetivo de gestar un sistema de capacitación de manera digital para el personal y audiencias específicas. 


Publicado en Trecebits