- INSTRUMENTO Inteligencia Artificial para el manejo de crisis y construcción de resiliencia
- BENEFICIARIO Sergio Yovine : Facultad de Ingeniería
- DEPARTAMENTO Montevideo
- SUBSIDIO UYU 1430000
- FECHA DE INICIO 01.03.2023
- DURACIÓN 18 meses
- AÑO CONVOCATORIA 2022
- CÓDIGO IA_1_2022_1_173516
- FASE CERRADO
- ESTADO Terminado
Los sistemas de información actuales integran cada vez más inteligencia artificial, específicamente, componentes capaces de aprender. En este contexto, las redes neuronales artificiales sobresalen como uno de los modelos más exitosos de la IA en varios campos de aplicación. Este fenómeno se extiende con gran rapidez a sistemas críticos de alto riesgo cuyas fallas pueden resultar en consecuencias graves, como causar pérdida de vidas o daños a personas o al medioambiente. Como ejemplos podemos mencionar el uso de IA en control de procesos de fusión nuclear, control de vehículos autónomos o diagnóstico médico. Surge entonces la necesidad de garantizar el correcto funcionamiento de sistemas críticos que integran componentes de IA capaces de aprender. Este proyecto se ubica dentro del área general de la "IA verificada" cuyo objetivo es diseñar sistemas de IA que tengan garantías sólidas de corrección con respecto a requisitos especificados matemáticamente. Concretamente, se centra en la aplicación de técnicas fundadas en teorías lógico-matemáticas que habilitan la especificación del comportamiento del sistema y la demostración rigurosa de propiedades, en particular la extracción de modelos, la verificación basada en modelos y la síntesis de controladores. Los resultados proveerán herramientas que contribuirán a la ?IA responsable? en dos aspectos, explicabilidad y seguridad. En efecto, la extracción de modelos de redes neuronales artificiales es una técnica de explicabilidad, mientras que la verificación y síntesis fundadas en métodos formales permiten la detección temprana de errores o usos inapropiados y la posterior corrección de los errores y prevención de los usos indebidos. Estas herramientas serán disponibilizadas en forma de código de uso libre y público. El proyecto contribuirá a la formación de recursos humanos altamente capacitados en el contexto de una estrecha colaboración entre dos equipos rioplatenses, apoyándose en el fortalecimiento y la consolidación de la integración regional e internacional.
Los sistemas de información actuales incluyen cada vez más componentes de inteligencia artificial con capacidad de aprendizaje, en particular las redes neuronales artificiales. Esto no se limita a sistemas de bajo riesgo, como por ejemplo, organizar un álbum de fotos, sino que el área está evolucionando con gran rapidez hacia su aplicación en sistemas críticos de alto riesgo, como el control de vehículos autónomos o el diagnóstico médico, cuyo mal funcionamiento puede causar daños irreparables a personas o al medioambiente. Para hacer frente a esta realidad, este proyecto se ubica dentro del área general de la "IA verificada" cuyo objetivo es diseñar sistemas de IA que tengan garantías sólidas de corrección con respecto a requisitos especificados matemáticamente. Su objetivo contribuir al desarrollo de métodos formales para la construcción de sistemas críticos con componentes de IA verificados. La dificultad de esta iniciativa es que si bien los componentes capaces de aprender implementan intrínsecamente algún modelo de cómputo, esto no significa que su verificación formal sea tratable con las técnicas existentes dado que son difíciles de formalizar. Un área de especial interés en el ámbito de sistemas críticos es garantizar que la evolución del estado de un sistema en el tiempo, consecuencia de las acciones que hace durante su funcionamiento, cumple ciertas propiedades. Este problema se expresa naturalmente en términos de lenguajes formales y lógicas temporales. En el caso de las redes neuronales artificiales, se trata de aquellas que manipulan secuencias, como las recurrentes y los Transformers. Concretamente, el objetivo del proyecto es desarrollar técnicas que contribuyan a garantizar el correcto comportamiento de sistemas de inteligencia artificial basados en redes neuronales sobre secuencias mediante la extracción de modelos formales que sirvan de base para la verificación de propiedades y la síntesis de controladores que guíen su comportamiento.