詹南德雷亚还谈道:“重要的是,我们要让我们正在使用的训练数据透明,并寻找其中隐藏的偏见,否则我们就会构建出有偏见的系统。如果有人试图向你兜售为医疗决策提供支持的黑盒系统,可你不知道它的工作原理,或者不知道用来训练它的是什么数据,那么我就不会信任它。”
在人类社会发展的进程中,工具、技术一直都是非常重要的推动力。尤其是在18世纪中叶进入工业文明时代以来,在工业革命、技术革新的推动下,社会发生了巨大的变革,机器生产代替了手工劳动,手工业逐渐消失,大批种类繁多的自动化机器不断出现。这种现象在计算机出现之后变得更加严重。