O mundo do aprendizado de máquina mudou levemente sua ênfase de explorar do que os modelos são capazes de entender para como eles fazem isso. Preocupações sobre introdução de vieses ou generalizar demais a aplicabilidade do modelo resultou em novas ferramentas interessantes, tais como What-if Tool (WIT). Essa ferramenta ajuda cientistas de dados a mergulhar no comportamento de um modelo e visualizar o impacto que várias funcionalidades e conjuntos de dados têm no resultado. Introduzida pelo Google e disponível tanto por meio do Tensorboard ou de notebooks Jupyter, WIT simplifica as tarefas de comparar modelos, partir conjuntos de dados, visualizar facetas e editar pontos de dados individuais. Apesar de WIT simplificar a execução dessas análises, ainda é necessário um profundo entendimento de matemática e teoria por trás dos modelos. É uma ferramenta para cientistas de dados obterem insights mais profundos sobre o comportamento do modelo. Usuários ingênuos não devem esperar que qualquer ferramenta remova o risco ou minimize os danos resultantes de um algoritmo mal treinado.
