El mundo del machine learning ha cambiado ligeramente el énfasis de explorar qué modelos son capaces de comprender a cómo lo hacen. La preocupación por la introducción de sesgos o la generalización excesiva de la aplicabilidad de un modelo, ha dado lugar a nuevas herramientas interesantes, como What-if Tool (WIT). Esta herramienta ayuda a data scientists a indagar en el comportamiento de un modelo y a visualizar el impacto que varias características y conjuntos de datos tienen en el output. Introducido por Google y disponible a través de Tensorboard o Jupyter notebooks; WIT simplifica las tareas de comparación de modelos, corte de conjuntos de datos, visualización de facets y edición de conjunto de datos individuales. Aunque WIT facilita la realización de estos análisis, todavía requieren una profunda comprensión de las matemáticas y la teoría que hay detrás de los modelos. Es una herramienta para que data scientist obtengan una visión más profunda del comportamiento del modelo. Usuarios ingenuos no deben esperar que ninguna herramienta elimine el riesgo o minimice el daño causado por un algoritmo mal aplicado o mal entrenado.
