No ano passado, vimos uma mudan?a no interesse em torno de aprendizado de m¨¢quina e de redes neurais profundas em particular. At¨¦ agora, o desenvolvimento de ferramentas e t¨¦cnicas foi impulsionado pelo entusiasmo com as not¨¢veis capacidades desses modelos. Atualmente, por¨¦m, h¨¢ uma preocupa??o crescente de que esses modelos possam causar danos n?o-intencionais. Por exemplo, um modelo pode ser treinado para tomar decis?es de cr¨¦dito inadvertidamente, simplesmente excluindo pessoas candidatas desfavorecidas. Felizmente, estamos vendo um interesse crescente em testes de vi¨¦s ¨¦tico , que ajudar?o a apontar decis?es potencialmente prejudiciais. Ferramentas como , ou What-If Tool podem ajudar a descobrir imprecis?es resultantes de grupos sub-representados em dados de treinamento, enquanto ferramentas de visualiza??o como ou podem ser usadas para descobrir subgrupos em um corpus de dados de treinamento. Utilizamos lime (local interpretable model-agnostic explanations, ou explica??es independentes de modelo interpret¨¢veis localmente), al¨¦m desta t¨¦cnica, para entender as previs?es de qualquer classificador de aprendizado de m¨¢quina e o que os classificadores (ou modelos) est?o fazendo.
No ¨²ltimo ano, temos visto uma mudan?a no interesse pelo aprendizado de m¨¢quina e redes neurais profundas, em particular. At¨¦ agora, o desenvolvimento de ferramentas e t¨¦cnicas tem sido guiado pela empolga??o gerada pelas capacidades not¨¢veis desses modelos. Atualmente, contudo, h¨¢ uma preocupa??o crescente de que esses modelos possam causar preju¨ªzo n?o-intencional. Por exemplo, um modelo pode ser treinado para tomar decis?es de cr¨¦dito lucrativas simplesmente excluindo pessoas candidatas desfavorecidas. Felizmente, estamos vendo um interesse crescente em testes de vi¨¦s ¨¦tico , que ajudar?o a descobrir decis?es potencialmente prejudiciais. Ferramentas, tais como , ou What-If podem ajudar a descobrir imprecis?es que resultam de grupos sub-representados em dados de treinamento, enquanto ferramentas de visualiza??o como ou podem ser usadas para descobrir subgrupos dentro de um conjunto de dados de treinamento. Contudo, esse ¨¦ um campo em desenvolvimento e esperamos que os padr?es e pr¨¢ticas espec¨ªficas para testes de vi¨¦s ¨¦tico surjam com o tempo.
