算法霸权：数学杀伤性武器的威胁与不公

内容简介

我们生活在算法的时代。我们去哪个学校上学，是否能够获得车贷、需要为健康保险支付多少钱，这些对我们的生活有着重大影响的决定越来越由不得人类自己，而是被各种数学模型所操控。从理论上来说，模型可以更好地促进公平，因为每个人适用于同等的规则，不存在偏袒。

但凯西•奥尼尔这本迫切而且必要的书却告诉我们，事实刚好相反。如今，被广泛使用的算法模型，即使其本身充斥着错误，也依旧不受管束、不被质疑。其中，“强化歧视”的问题特别值得反思：如果一个穷学生因为被借贷模型认定为风险过高（仅仅是根据该学生所生活的街区就得出此判断）而贷不了款，那么接下来，他就会被剥夺能够帮他摆脱贫困的接受优质教育机会，继而陷入一系列的恶性循环。

通过追踪一个人的生命轨迹，凯西•奥尼尔试图在书中揭露数学杀伤性武器对塑造个人和社会未来的影响。这些数学杀伤性武器给教师和学生评分，筛选简历，批准贷款或拒绝贷款，评估员工，甚至监督我们的健康状况，因此凯西•奥尼尔呼吁建模者，要对自己的算法承担更多责任，并且呼吁政策制定者对模型的使用进行监督管理。她指出，对模型的掌控*终取决于我们自己。这本重要的书迫使我们直面问题，揭示真理，要求改变。