Amazon y Facebook quiere identificar a los autores de deepfakes
Amazon y Facebook quiere identificar a los autores de deepfakes. El gigante estadounidense del comercio electrónico Amazon pidió este miércoles la colaboración de las redes sociales para combatir las reseñas falsas que abundan en internet con el objetivo de promocionar o hundir un producto.
En una entrada en su blog corporativo, la firma que dirige Jeff Bezos aludió, aunque sin citarlas directamente, a plataformas como Facebook, Twitter, Instagram y YouTube, y tildó la lucha contra las reseñas falsas de "batalla de toda la industria".
"Tenemos que trabajar juntos para poder lograr progreso más rápidamente en este campo", apuntaron desde Amazon.
Las reseñas falsas no las dejan únicamente internautas individuales que por algún motivo se inventan una experiencia con un producto que no han adquirido, sino que existe todo un mercado con compradores y vendedores especializados dedicado a este tipo de servicios.
Contratar este tipo de operaciones puede servir tanto para disparar las reseñas positivas y por tanto promocionar un producto propio como para inundar con comentarios negativos y tratar de hundir los productos de la competencia o aquellos contra los que existe una objeción ideológica o moral.
Desde Amazon explicaron que en los tres primeros meses de este año, identificaron y denunciaron a las redes sociales más de 1.000 grupos en que se llevaban a cabo operaciones de esta naturaleza, más de tres veces los aproximadamente 300 grupos que hallaron en el mismo período de 2020.
La empresa de Seattle (estado de Washington, EE.UU.) se quejó de que, una vez llevan a cabo una denuncia de este tipo a las redes sociales, estas tardan de mediana cinco días en cerrar los grupos, una cifra que siguen considerando insuficiente, aunque hace un año se situaba en los 45 días.
"Necesitamos que las empresas de redes sociales cuyos servicios se están usando para crear reseñas falsas inviertan de forma proactiva en sistemas de control de fraude y falsedades, que colaboren con nosotros para parar los pies a estos individuos y que ayuden a que los consumidores se sientan seguros al comprar", indicó la empresa.
Facebook presenta un método para mejorar la detección de imágenes manipuladas
Científicos de Facebook presentaron este miércoles un método para facilitar la detección de los "deepfakes", unas imágenes falsas hiperrealistas, y determinar su origen, gracias a la inteligencia artificial.
Los "deepfakes" son un problema en Internet porque pueden utilizarse para manipular o difamar a las personas haciéndoles decir o hacer cosas que no han dicho o hecho. Esos montajes se basan en tecnologías de inteligencia artificial.
"Nuestro sistema facilitará la detección de 'deepfakes' y el seguimiento de la información relacionada", dijeron Tal Hassner y Xi Yin, dos investigadores de la red social que trabajaron en el tema con la Universidad Estatal de Michigan.
Su método debería proporcionar "herramientas para investigar mejor los incidentes de desinformación coordinada que utilizan 'deepfakes'", dijeron.
Para desarrollar su sistema, utilizaron la técnica conocida como "ingeniería inversa", que consiste en deconstruir la fabricación de un producto o, en este caso, un vídeo o una foto.
Su programa informático identifica imperfecciones añadidas durante la edición que alteran la huella digital de las imágenes. En fotografía, esta huella digital puede utilizarse para identificar el modelo de cámara utilizado.
En informática, "se puede utilizar para identificar el sistema de generación utilizado para producir el truco", explican los científicos.
Microsoft presentó el año pasado un software que puede ayudar a detectar falsificaciones de fotos o vídeos, uno de los varios programas diseñados para combatir la desinformación de cara a las elecciones presidenciales de Estados Unidos.
A finales de 2019, Google había hecho públicos miles de videos "deepfakes" realizados por sus equipos para ponerlos a disposición de los investigadores que quisieran desarrollar métodos para detectar imágenes manipuladas.
FACEBOOK Y MSU SE UNEN PARA COMBATIR LOS DEEPFAKES!
En la actualidad impresionar a alguien en el mundo digital es posible creando montajes fácilmente desde su celular siendo que, en el pasado, eso llevaría cientos de horas de trabajo, una infraestructura de hardware que sólo tendría una empresa y una serie de expertos con mucha paciencia.
El término Deepfake viene de dos palabras en inglés:
- “Deep” relacionado del Aprendizaje Profundo (en Inglés Deep Learning),
- Fake que en inglés se usa para denominar algo que es falso.
En palabras simples, se refiere a usar algoritmos de Inteligencia Artificial, básicamente, para crear o alterar materiales multimediales con resultados tan sorprendentes que tienden a pasar por materiales originales y verídicos. Algunos ejemplos de esta técnica se dan en videos donde se le cambia el rostro, la voz y algunos otros rasgos característicos de la personalidad (gestos, emociones y hasta simular expresiones) a una figura pública como puede ser un artista, un político o alguien influyente, con el fin difundir, crear controversia o difundir un mensaje ajeno a la realidad. Dicha técnica puede usarse hasta para cambiar elementos climáticos!
PERO … ¿PARA QUÉ SE UNIERON FACEBOOK Y LA UNIVERSIDAD DEL ESTADO DE MICHIGAN (MSU)?
La verdad sea dicha, actualmente el resultado de los Deepfakes es tan increíble que, so sólo es capaz de engañar al ojo humano sino a algunas computadoras. Por lo mismo, Facebook y MSU se han unido para hacerle ingeniería inversa a este tipo de montajes para descubrir los atributos que tiene en común.
Antes de continuar, vale la pena recordar dos cosas:
1- La publicación de Facebook y MSU hasta ahora está en una etapa incipiente y abierta a mayor comprobación
2- El método lo que hace es usar la Inteligencia Artificial (AI) de Facebook y los conocimientos de los expertos de MSU para analizar un set de datos y una serie de Deepfakes para crear el compendio de reglas o patrones comunes a este tipo de montajes y el modelo usado para crearlos.
