Un equipo de investigadores del Instituto IMDEA Software, la Universidad Carlos III de Madrid (UC3M) y NEC Laboratories Europe ha introducido un novedoso marco que promete mejorar la eficiencia y practicidad de la computación verificable. La investigación, detallada en el artículo Modular Sumcheck Proofs with Applications to Machine Learning and Image Processing y presentada en el último congreso de seguridad informática y de comunicaciones de la ACM (Association for Computing Machinery), aborda los retos de escalabilidad y modularidad a los que se enfrentan tanto los sistemas de pruebas generales como las soluciones adaptadas a aplicaciones específicas en inteligencia artificial y procesamiento de imágenes.
Los investigadores han introducido un nuevo marco con el objetivo de salvar la brecha combinando las ventajas de rendimiento de las soluciones a medida con la versatilidad de los sistemas de pruebas de uso general. Su núcleo es un enfoque modular para la computación verificable de operaciones secuenciales, que se basa en una nueva primitiva criptográfica conocida como VE (del inglés, Verifiable Evaluation Scheme).
Los investigadores muestran la aplicación práctica de su marco en inteligencia artificial proponiendo un novedoso VE adaptado a operaciones de convolución, capaz de manejar múltiples canales de entrada y salida interconectados. "Nuestro protocolo puede integrarse fácilmente en una cadena de procesamiento de datos para permitir la verificación completa de, por ejemplo, las predicciones realizadas por redes neuronales convolucionales (CNN), que son la base de la mayoría de modelos de inteligencia artificial", afirma David Balbás, estudiante de doctorado en IMDEA Software e investigador de este estudio. Además, en el artículo también se presentan nuevos VE para el procesamiento de imágenes, que permiten verificar eficazmente la edición o el retoque, incluyendo operaciones como el recorte, el desenfoque, el cambio de escala y otras más complejas.
Los resultados abren nuevas posibilidades para garantizar la integridad, equidad y privacidad
El equipo ha realizado un prototipo de aplicación de sus sistemas de comprobación que supone una notable mejoría a las técnicas existentes. "Nuestra evaluación comparativa muestra que nuestras pruebas son cinco veces más rápidas de generar y diez veces más rápidas de comprobar que las mejores soluciones existentes hasta ahora, además de introducir innovaciones teóricas en los algoritmos", explica Damien Robissout, programador de investigación del Instituto IMDEA Software y también coautor del estudio.
Estos resultados no sólo mejoran la eficiencia y la escalabilidad de los sistemas de pruebas criptográficas sino que también abren nuevas posibilidades para garantizar la integridad, equidad y privacidad de las tareas de procesamiento de datos en diversas aplicaciones de la inteligencia artificial y el procesamiento de imágenes. "A día de hoy, este enfoque resulta esencial en el ámbito de aplicación que consideramos, porque un avance tecnológico no es tal si no se hace merecedor de la confianza de los usuarios finales", señala otra de las autoras del estudio, Maribel González Vasco, Catedrática de Excelencia del Departamento de Matemáticas de la UC3M.
La aplicación generada en el estudio es de código abierto y su naturaleza modular allana el camino para su ampliación e integración en diversas herramientas dentro de una cadena de procesamiento de datos. De este modo, los investigadores despejan el camino para un despliegue versátil y robusto de la computación verificable en aplicaciones tan diversas como la ética financiera, la protección de datos personales o la regulación de la inteligencia artificial, entre otras.