Let there be a clock on the beach: Reduc

在他的开创性著作中[24]，库恩表示，异常现象的发现通常会带来新的范式。机器学习 (ML) 早期依赖于手工编码/制作的功能（简单、优雅的功能更受青睐）来创建模型。然而，有一个异常现象比手工制作的功能表现得更好，它导致了一种范式转变，称为数据的不合理有效性[16]，他们只是建议“遵循数据”。追随数据只是范式变革的第一步，第二步是数据量。等大数据集的引入[26]和 [10]结合当前计算技术的出现，深度学习取得了重大成就[25]。尽管如此，仍然有许多关于深度模型所利用的各种失败案例和捷径的著作发表了[14]。这些快捷方式尤其可以在视觉和语言任务中找到，例如以物体幻觉形式的图像字幕和视觉问答（VQA）[33]，语言优先[15]，关注背景[5]，虚假相关性[46], 行动偏见[46]和性别偏见[17 号]。