En el ¨²ltimo a?o, hemos visto un cambio de inter¨¦s acerca del machine-learning y en redes neuronales profundas en particular. Hasta ahora, el desarrollo de herramientas y t¨¦cnicas ha sido impulsado por por el entusiasmo acerca de las extraordinarias capacidades de estos modelos. Actualmente, sin embargo, hay una preocupaci¨®n creciente de que estos modelos puedan causar da?o accidentalmente. Por ejemplo, un modelo podr¨ªa ser entrenado para, inadvertidamente, tomar decisiones de cr¨¦dito rentables, simplemente excluyendo aspirantes desfavorecidos. Afortunadamente, estamos viendo un creciente inter¨¦s en pruebas de sesgo ¨¦tico que pueden ayudar a descubrir decisiones potencialmente da?inas. Herramientas como , o What-If Tool pueden ayudar a descubrir imprecisiones que puedan resultar en grupos de baja representados en datos de entrenamiento, y herramientas de visualizaci¨®n como o puede ser usada para descubrir subgrupos dentro de un cuerpo de datos de entrenamiento. Hemos usado lime (local interpretable model-agnostic explanations) adicionalmente a estas t¨¦cnicas para poder entender las predicciones de cualquier clasificador de aprendizaje autom¨¢tico y que est¨¢n haciendo estos clasificadores (o modelos).
Durante el a?o pasado, hemos visto cambios en el inter¨¦s en torno al aprendizaje autom¨¢tico y redes neuronales profundas en particular. Hasta ahora, el desarrollo de herramientas y t¨¦cnicas ha sido impulsado por la emoci¨®n de las capacidades singulares de estos modelos. Sin embargo, actualmente existe una preocupaci¨®n creciente de que estos modelos pueden causar da?o involuntario. Por ejemplo, un modelo puede ser entrenado para hacer decisiones de cr¨¦dito rentable al excluir simplemente a solicitantes desfavorecidos. Afortunadamente, estamos viendo un inter¨¦s creciente en pruebas de sesgo ¨¦tico que ayudar¨¢ a descubrir decisiones potencialmente da?inas. Herramientas como , o What-if pueden ayudar a descubrir imprecisiones que resultan de grupos subrepresentados en datos de entrenamiento y herramientas de visualizaci¨®n tales como o pueden ser usados para descubrir subgrupos dentro de un corpus de datos de entrenamiento. No obstante, este es un campo en desarrollo y esperamos que normas y pr¨¢cticas espec¨ªficas sobre pruebas de sesgo ¨¦tico surjan con el tiempo.
