- INSTRUMENTO Fondo María Viñas
- BENEFICIARIO Sergio Yovine : Facultad de Ingeniería
- DEPARTAMENTO Montevideo
- SUBSIDIO UYU 1300000
- FECHA DE INICIO 01.06.2020
- DURACIÓN 30 meses
- AÑO CONVOCATORIA 2019
- CÓDIGO FMV_1_2019_1_155913
- FASE CERRADO
- ESTADO Terminado
El aprendizaje profundo con redes neuronales está demostrando ser una herramienta de gran potencial en ciberseguridad para identificar comportamientos anómalos, como malware, intrusos, ataques o fraudes. En este contexto, los datos son secuenciales y las anomalías son colectivas, es decir, resultan de la ocurrencia conjunta de determinados eventos, eventualmente en distintos momentos del tiempo. Este enfoque enfrenta un problema mayor al momento de entrenar las redes neuronales en la medida que los datos contienen información confidencial. En consecuencia, es necesario privatizar los datos garantizando la imposibilidad de su reidentificación. Una medida de protección es la privacidad diferencial. Sin embargo, se ha observado experimentalmente que la utilidad predictiva de los datos privatizados de esta manera decrece significativamente. Para paliar este inconveniente se han propuesto varias técnicas, una de ellas es la privatización generativa antagónica que busca preservar utilidad generando datos perturbados con la misma distribución que los originales al mismo tiempo que garantiza privacidad. En ciberseguridad, la utilidad predictiva refiere a la capacidad para detectar anomalías colectivas. Entonces, se debe garantizar que la secuencia privatizada preserva todas las dependencias secuenciales importantes para la identificación de secuencias anómalas. Sin embargo, esta noción de utilidad definida sobre datos secuenciales difiere de las usadas en las técnicas de privatización del estado del arte. El objetivo del proyecto es desarrollar la privatización de datos secuenciales discretos basada en redes generativas antagónicas para preservar la utilidad de los datos privatizados en cuanto a la detección de anomalías colectivas e implementar un software para su aplicación en ciberseguridad.
Los beneficios globales de los sistemas de inteligencia artificial, como por ejemplo aquellos construidos para la de detección de ciberataques y de enfermedades, deberían superar con creces los riesgos individuales previsibles. Claramente, estos sistemas pueden contribuir a reducir la ciberdelincuencia y a mejorar la salud pero de un modo que puede atentar contra la privacidad de los individuos. Esto se debe a que el entrenamiento de estas inteligencias artificiales requiere la inspección de datos que contienen información sensible para las personas, como claves de acceso, números de tarjetas, resultados de análisis clínicos, etc. Por otro lado, los algoritmos de aprendizaje necesitan cantidades considerables de datos de entrenamiento con la finalidad de alcanzar niveles satisfactorios de eficacia. Sin embargo, tal volumen de datos no suele estar al alcance de una única organización, por lo que en muchos casos, notablemente en el ámbito de la salud, resulta necesario que múltiples organizaciones (públicas y/o privadas) compartan sus datos y los modelos predictivos entrenados con ellos, en pos de conseguir de manera conjunta beneficios sustanciales para la sociedad. Por esta razón, el objetivo de este proyecto es proponer una solución que permita a organizaciones compartir datos y modelos garantizando la privacidad de la información sensible a la vez que se preserva el valor de los datos para construir inteligencias artificiales beneficiosas. El resultado del proyecto fue el diseño, implementación y validación de una plataforma colaborativa que reposa sobre la integración de dos mecanismos de privacidad diferencial. El primero permite la disponibilización de modelos mediante la construcción de un ensemble que protege los datos de entrenamiento. El segundo permite consultar el ensemble protegiendo los datos de quien efectúa la consulta. La evaluación experimental de la solución propuesta con datos de dos áreas de aplicación, concretamente ciberseguridad y salud, fue exitosa.