Curso de verano "La inteligencia humana al rescate de la inteligencia artificial"
Sala María Zambrano 0C9, CCHS- CSIC, c/Albasanz, 26-28 (Madrid)
Coordina: Isaac Martin De Diego / Secretario: Javier Martínez
Dirección: Academia Joven de España y URJC
Inscripción hasta el 26 de junio escaneando el QR o en el enlace
Descripción: Los algoritmos de inteligencia artificial se han hecho muy populares en una gran variedad de aplicaciones durante la última década. A diario vemos aplicaciones de estos métodos en los medios de comunicación. Estos algoritmos aprenden de manera automática y con aparentemente poca intervención humana, de ejemplos para generalizar tareas de clasificación o regresión y aplicar con éxito los modelos aprendidos a nuevos datos desconocidos. Normalmente, estos algoritmos transfieren los datos de entrada a representaciones abstractas que son muy eficaces pero difíciles de entender para los humanos, y son considerados como «cajas negras». Un ejemplo de este tipo de modelos es el conocido como aprendizaje profundo, o “Deep Learning” en inglés, una de las técnicas más exitosas y de más rápido crecimiento en los últimos años. Es por esta dificultad para entender la representación de la información y los métodos matemáticos detrás de los algoritmos que, en la mayoría de los casos, ni los algoritmos ni los investigadores implicados, ni mucho menos los usuarios de estas técnicas, son capaces de explicar cómo y por qué se ha hecho una determinada predicción. Sin embargo, para ganar en confianza por parte de los usuarios finales, en muchas aplicaciones, es esencial que los usuarios reciban información detallada sobre la predicción para que puedan entender las decisiones que se derivan de ella. Imaginemos que una inteligencia artificial nos niega un crédito bancario, o mucho más arriesgado, nos determina un tratamiento médico en detrimento de otro. Como clientes/pacientes, necesitamos explicación para comprender el porqué de la decisión tomada. Como responsables bancarios/médicos, necesitamos entender las bases del algoritmo empleado para alcanzar la predicción. Como científicos de datos, desarrolladores del método, necesitamos comprender las consecuencias de una u otra decisión en la construcción del algoritmo.
El objetivo de las jornadas es acercar al público general los métodos y técnicas existentes en la actualidad para hacer que los algoritmos de aprendizaje automático sean explicables, reduciendo así la vulnerabilidad y añadiendo transparencia al dar a los usuarios información detallada de por qué los sistemas han llegado a una decisión concreta.
