Todavía hoy en día es bastante común conocer clientes o colegas que perciben los modelos de Machine Learning como una caja negra capaz de realizar magia o alquimia para dar al cliente lo que quiere. Sin embargo, la cruda realidad es que sin una comprensión razonable de cómo funcionan los modelos de ML, los proyectos del mundo real rara vez tienen éxito. Teniendo en cuenta que cualquier proyecto de este estilo tiene un componente de negocio muy relevante y que el objetivo final de estos modelos es tomar decisiones automáticamente por parte de los usuarios, tienen derecho a hacer preguntas como "¿Cómo puedo confiar en este modelo?" o "¿Cómo se toman las decisiones del modelo?" Responder a estas preguntas puede llegar a ser un desafío y es uno de los ámbitos en los que se están invirtiendo más esfuerzos hoy en día. Además, es fundamental también conocer lo que los algoritmos están haciendo internamente para evitar los posibles sesgos que se puedan estar incluyendo en su toma de decisiones.

En esta sesión, recorreremos diferentes estrategias de interpretabilidad con Python y paquetes como Interpret ML o FairML a través de Google Colab