- INSTRUMENTO Fondo María Viñas
- BENEFICIARIO Sergio Yovine : Facultad de Ingeniería
- DEPARTAMENTO Montevideo
- SUBSIDIO UYU 2280000
- FECHA DE INICIO 01.04.2024
- DURACIÓN 36 meses
- AÑO CONVOCATORIA 2023
- CÓDIGO FMV_1_2023_1_175864
- FASE SEGUIMIENTO
- ESTADO Seguimiento
El objetivo del proyecto es desarrollar herramientas que contribuyan a la implementación y utilización responsable de aplicaciones industriales de inteligencia artificial generativa que integren grandes modelos de lenguaje (?large language model? o LLM). La propuesta se enfoca en dos aspectos centrales: garantizar la privacidad de datos sensibles utilizados en cualquier etapa del proceso de construcción y uso de la IA, y verificar que el comportamiento de la misma sea acorde a lo esperado. Como caso de uso paradigmático, consideramos el desarrollo de un chatbot cuya tarea es responder preguntas sobre un corpus de documentos privados que contienen información confidencial que no se puede revelar. El primer paso del proceso de desarrollo es el entrenamiento de un LLM específico al dominio usando la técnica de ?fine-tuning?, que consiste en ajustar a los datos privados algún LLM preentrenado con datos públicos. El segundo paso es la disponibilización del LLM para que sea utilizado por el chatbot. Por un lado, este uso del LLM es susceptible de fugar datos sensibles contenidos en los documentos privados de entrenamiento. Para evitar esta situación, el proyecto se propone desarrollar mecanismos de privacidad diferencial que proporcionan garantías formales de protección sobre los datos. Por otro lado, las respuestas generadas por el LLM pueden incurrir en sesgos o usar palabras inapropiadas o fuera de contexto. Estos comportamientos indeseados deben poder ser detectados y corregidos tempranamente en el ciclo de desarrollo. Para esto, el proyecto busca poner a punto técnicas de verificación basadas en lenguajes formales. Ambas líneas de trabajo se apoyan en resultados obtenidos y herramientas desarrolladas por el equipo de investigación proponente en proyectos anteriores que serán extendidos e integrados con la finalidad de resolver los desafíos inherentes a la escala y complejidad de los LLM.