菜单
工具

What-If Tool

Nov 2019
评估?

机器学习世界的研究重点稍微从探索“模型能够理解什么”,转向了研究“模型是如何理解的”。由于人们担心引入偏差,或者过度泛化模型的适用性,因此开发出了What-If Tool(WIT)这样的工具。这个工具可帮助数据科学家深入研究模型的行为,并将各种功能和数据集对输出的影响进行可视化。WIT由Google引入,简化了比较模型、切片数据集、可视化构面和编辑单个数据点等任务,并可以在TensorboardJupyter notebooks中使用。尽管WIT可以帮助执行分析,但研究者仍然需要对模型背后的数学和理论有深刻的理解。WIT只是数据科学家用来深入了解模型行为的工具,对于使用不当或缺乏训练不佳的算法,初级用户不应奢望有任何工具可以消除或减轻其风险或造成的损害。