fAIr

En la era de la inteligencia artificial (IA), especialmente con el auge de los modelos generativos, nos enfrentamos a un escenario de amenazas complejas. La capacidad de crear contenido sintético, como voz, imágenes, vídeos y texto, ha abierto nuevas posibilidades, pero también ha dado lugar a desafíos significativos en términos de seguridad, privacidad y confianza. Cada vez, las herramientas utilizadas para crear o modificar contenido, especialmente en esta nueva era de la IA generativa, son más sencillas de utilizar y se encuentran al alcance de cualquiera. Esto queda claramente ejemplificado con los Deep Fakes y su impacto negativo en cuanto a fraude, desinformación y difamación en diferentes escenarios, incluyendo procesos de verificación de identidad online, videoconferencias, llamadas telefónicas, y creación de contenido sexual falso o desinformación en procesos electorales. Además de los desafíos relacionados con los Deep Fakes, el mundo online se enfrenta a múltiples amenazas. Estas incluyen la creación de documentos de identidad sintéticos o la divulgación de contenido de audio, video e imagen falsos con fines delictivos.

Para abordar estos desafíos, se propone desarrollar una herramienta integral basada en IA multimodal que integre las siguientes funcionalidades: detección de contenido sintético creado por redes generativas de vídeo, imagen, audio y texto; trazabilidad de contenido sintético mediante el uso de técnicas forenses, y protección de contenido frente a la IA utilizando diversas técnicas para confundir a los algoritmos de IA y hacer más difícil la generación de contenido malicioso.